Meta refuerza medidas tras detectar conversaciones sexuales de ‘chatbots’ con menores

Meta ha implementado "medidas adicionales" para evitar que sus ‘chatbots’ como Meta AI y AI Studio sean manipulados de forma extrema, luego de que una investigación de The Wall Street Journal (WSJ) descubriera que estos asistentes mantenían conversaciones con contenido sexual con menores de edad.

La compañía ofrece el asistente Meta AI en plataformas como Facebook, WhatsApp e Instagram, y permite la creación de inteligencias artificiales personalizadas mediante AI Studio. Estas IA incluso pueden interactuar usando voces de celebridades como Judi Dench, Awkwafina y John Cena, y están accesibles para usuarios de todas las edades, incluidos menores.

Lea más: Adobe integra IA de OpenAI y Google en su renovada app Firefly

Preocupada por la posibilidad de no estar ofreciendo suficiente protección, Meta motivó el análisis de WSJ, donde tras meses de pruebas se detectaron interacciones inapropiadas. En algunos casos, los ‘chatbots’ con la voz de John Cena describieron escenas sexualmente explícitas a usuarios que se identificaban como menores de 14 y 17 años.

Tras conocerse estos hallazgos, un portavoz de Meta defendió que solo el 0,02% de las respuestas generadas con menores de edad incluyeron contenido sexual en un periodo de 30 días. Aunque calificó las pruebas de WSJ como “artificiales”, Meta reforzó las protecciones para dificultar la manipulación extrema de sus sistemas de IA.