Meta se hizo pasar por menores para espiar a ChatGPT, Gemini y Character.AI: así fue el «Proyecto Cannes»
Mientras Meta lleva meses hablando de «seguridad adecuada a la edad» en sus propios chatbots, una investigación de Wired publicada esta semana revela que la compañía dirigió en paralelo una operación mucho menos presentable: cientos de contratistas se hicieron pasar por menores de edad para poner a prueba a sus rivales ChatGPT, Gemini y Character.AI, sin que ninguna de las tres empresas lo supiera.
Qué es el «Proyecto Cannes»
La operación, bautizada internamente como Cannes, estuvo gestionada por la contratista externa Covalen y se mantuvo activa al menos hasta el 21 de abril de 2026. Según los documentos revisados por Wired, los trabajadores creaban cuentas falsas con fechas de nacimiento que los identificaban como menores de 18 años, usando correos desechables y una contraseña compartida entre todo el equipo.
Con esas cuentas, enviaban mensajes de texto e imágenes a los chatbots rivales sobre temas como suicidio y autolesión, trastornos alimentarios, sexo, drogas y lenguaje racista, diseñados específicamente para forzar respuestas que los sistemas de seguridad de esas plataformas deberían haber bloqueado. Solo en una ronda de pruebas completada en agosto de 2025 se enviaron más de 45.000 prompts. Wired tuvo acceso a una hoja de cálculo con 3.748 de esos mensajes: cientos abordaban autolesión, cientos más trastornos alimentarios y al menos 239 contenían contenido sexual o romántico.
Los escenarios simulados eran extremos
Los ejemplos citados por Wired no dejan lugar a dudas sobre la intención de forzar los límites de los sistemas: un contratista se hacía pasar por un estudiante de quinto de primaria describiendo a un compañero apuntándole con un arma, otro simulaba ser una niña de 13 años embarazada de un vecino adulto buscando cómo interrumpir el embarazo, y otro representaba a una menor con bulimia que quería ocultarla a sus padres. Algunas imágenes enviadas incluían pastillas, cuchillos y nudos.
Dos abogados especializados en libertad de expresión digital consultados por Wired concluyeron que el material, en sí mismo, no llegaba a constituir material de abuso sexual infantil ni obscenidad ilegal. Pero varios extrabajadores del proyecto describieron a la publicación su malestar por lo que se les pedía probar.
La defensa de Meta y las dudas de los expertos
Meta no niega la existencia del proyecto. Un portavoz de la compañía defendió el trabajo ante Wired como una práctica «responsable y estándar en la industria» para garantizar experiencias seguras y adecuadas a la edad, y aseguró que las respuestas recopiladas de los rivales no se usan para entrenar sus propios modelos de IA.
Rumman Chowdhury, fundadora de la organización Humane Intelligence, revisó una muestra de los prompts y no comparte esa lectura: para ella, un proyecto de meses de duración construido sobre cuentas falsas de menores queda fuera de lo que normalmente se entiende por evaluación estándar del sector, y advierte de que mezclar pruebas de seguridad con benchmarking competitivo abre una «zona gris de gobernanza» en la que la seguridad puede convertirse en tapadera de prácticas anticompetitivas.
Ninguna de las tres empresas evaluadas —OpenAI, Google y Character.AI— fue informada ni dio su consentimiento. Character.AI ha señalado que las pruebas violan sus términos de servicio, OpenAI ha dicho que está investigando el asunto y Google afirma no haber autorizado el ejercicio, aunque sostiene que sus propias comprobaciones muestran que Gemini respondió conforme a sus políticas.
Por qué esto importa más allá del cotilleo corporativo
El contexto no ayuda a Meta: la compañía ya arrastra un escándalo previo por directrices internas que permitían a sus propios chatbots mantener conversaciones «sensuales» con menores, y su sistema de IA registra tasas de fallo elevadas a la hora de bloquear contenido de explotación infantil y de autolesión en evaluaciones internas conocidas este año. La FTC estadounidense abrió en septiembre de 2025 una investigación formal sobre cómo gestionan los grandes proveedores de IA el riesgo asociado a menores, y reguladores en el Reino Unido y la Unión Europea vigilan de cerca este tipo de episodios de cara a las obligaciones de transparencia que entran en vigor este verano.
El caso deja una pregunta incómoda flotando sobre toda la industria: si las grandes tecnológicas necesitan disfrazar a sus propios trabajadores de niños para averiguar dónde fallan los sistemas de sus competidores, ¿cuánto se puede confiar en que esos mismos sistemas —incluidos los suyos propios— sean realmente seguros para los menores que ya los usan a diario?
Este artículo ha sido elaborado con apoyo de inteligencia artificial y verificado por el equipo editorial de IAGeducación.
