Meta comenzará a utilizar inteligencia artificial para el análisis de textos en la Unión Europea, con el objetivo de identificar de forma proactiva cuentas sospechosas de pertenecer a adolescentes, incluso si indican una fecha de nacimiento adulta.
La IA ayudará a hacer un análisis de contexto para identificar y eliminar las cuentas de personas que Meta cree que tienen menos de 13 años (14 en España).
En el caso de Instagram, los perfiles mayores de 13 años se ubicarán directamente en cuentas de adolescentes, que por defecto incluyen protecciones apropiadas para la edad, que limitan quién puede contactar con ellos y el contenido que ven.
Este uso de la IA, que ya existía en Estados Unidos, Australia, Canadá y Reino Unido, ahora se expande, para Instagram, a los 27 países de la Unión Europea y Brasil.
En el caso de Facebook, la compañía lo extiende ahora por primera vez a Estados Unidos, y en junio llegará a Reino Unido y a la UE.
La IA se utilizará para analizar perfiles completos en busca de pistas que proporcionen más contexto, como celebraciones de cumpleaños o menciones de calificaciones escolares, para determinar si es probable que una cuenta pertenezca a un menor, informó la empresa Meta en su sitio web.
Estas señales se buscan en varios formatos, como publicaciones, comentarios, biografías y subtítulos, y se están expandiendo a espacios como Instagram Reels, Instagram Live y grupos de Facebook.
Si se detecta que una cuenta puede pertenecer a un menor de edad, será desactivada y el titular deberá acreditar su edad mediante el proceso de verificación para evitar que su cuenta sea eliminada.
Sólo en los Estados Unidos
Meta está incorporando otros usos de la IA para mejorar los esfuerzos de detección, pero por ahora sólo se aplicarán en Estados Unidos.
Se trata de un análisis visual, que permite a la IA examinar fotos y vídeos en busca de pistas visuales sobre la edad de una persona que el texto podría pasar por alto.
«Queremos dejar claro que esto no es reconocimiento facial. Nuestra IA analiza temas generales y señales visuales, como la altura o la estructura ósea, para estimar la edad aproximada de una persona; «No identifica a la persona concreta que aparece en la imagen», afirma Meta.
Al combinar estos datos visuales con texto y análisis de interacción, «podemos aumentar significativamente la cantidad de cuentas de menores que identificamos y eliminamos».
IA para analizar quejas
La compañía también está «facilitando» a su comunidad la denuncia de cuentas de menores simplificando los procedimientos de denuncia.
Además, para gestionar las quejas “de forma más eficaz”, los equipos de revisión humana se están complementando con modelos de IA que aplican criterios de evaluación uniformes a cada caso.
Las pruebas revelan, según Meta, que la revisión basada en IA «ofrece mayor precisión y resoluciones más rápidas que la revisión humana por sí sola, lo que garantiza que estas cuentas se manejen de manera más rápida y confiable».
