Meta ha anunciado que comenzará a utilizar inteligencia artificial (IA) para el análisis de texto en la Unión Europea con el objetivo de identificar de forma proactiva cuentas que se sospeche pertenecen a adolescentes, incluso si estas indican una fecha de nacimiento de adulto. Esta tecnología, que ya estaba disponible en Estados Unidos, Australia, Canadá y el Reino Unido, se extiende ahora a los 27 países de la Unión Europea y Brasil para Instagram. En el caso de Facebook, la empresa está implementando esta medida por primera vez en Estados Unidos, y llegará al Reino Unido y la Unión Europea en junio.
¿Cómo funciona la IA de Meta?
La inteligencia artificial analizará perfiles completos en busca de pistas que aporten contexto adicional, como celebraciones de cumpleaños o menciones a notas escolares, para determinar si es probable que una cuenta pertenezca a un menor de edad. Estas señales se buscan en diversos formatos, incluyendo publicaciones, comentarios, biografías y pies de fotos. Además, la IA se está ampliando a espacios como Instagram Reels, Instagram Live y los grupos de Facebook.
Si la IA detecta que una cuenta puede pertenecer a un menor, esta será desactivada y el titular deberá aportar una prueba de edad a través del proceso de verificación para evitar que se elimine su cuenta. En el caso de Instagram, los perfiles que tengan más de 13 años quedarán ubicados directamente en las cuentas de adolescentes, que incluyen por defecto protecciones adecuadas por edad, limitando quién puede contactar con ellos y el contenido que ven.
Uso de la IA de Meta en Estados Unidos
Meta está incorporando otros usos de la IA para mejorar los esfuerzos de detección, pero de momento solo se aplicarán en Estados Unidos. Se trata del análisis visual, que permite a la IA examinar fotos y videos en busca de pistas visuales sobre la edad de una persona que el texto podría pasar por alto.
"Queremos dejar claro que no se trata de reconocimiento facial. Nuestra IA analiza temas generales y pistas visuales, como la altura o la estructura ósea, para estimar la edad aproximada de una persona; no identifica a la persona concreta que aparece en la imagen", señala Meta. Al combinar estos datos visuales con el análisis del texto y las interacciones, "podemos aumentar significativamente el número de cuentas de menores que identificamos y eliminamos".
IA para facilitar denuncias en Meta
La compañía también está facilitando a su comunidad la denuncia de cuentas de menores de edad mediante la simplificación de los procedimientos de denuncia. Además, para gestionar las denuncias de "forma más eficaz", se están complementando los equipos de revisión humana con modelos de IA que aplican criterios de evaluación uniformes a cada caso. Las pruebas realizadas revelan, según Meta, que la revisión basada en IA "ofrece una mayor precisión y resoluciones más rápidas que la revisión humana por sí sola, lo que garantiza que estas cuentas se traten con mayor rapidez y fiabilidad".
