IA avisar al 112: la verdad sobre el caso de la broma mal interpretada
Aviso de transparencia (Reglamento UE de IA, art. 50): este artículo ha sido elaborado con apoyo de sistemas de inteligencia artificial para la investigación, verificación y redacción, bajo supervisión y edición humana de Mariano Pulido.
Hace unos días me trasladaron un caso curioso. Alguien usaba una IA para revisar un texto de trabajo. Las respuestas no le convencían. Frustrado, escribió en broma «me voy a cortar las venas». La IA respondió recomendando llamar al 112. Fue tan insistente que pareció avisar al 112 de verdad.
Es un relato de segunda mano. No he visto la conversación original. Pero sí puedo explicar, con fuentes verificables, qué puede hacer hoy una IA en estos casos. Y qué no puede hacer. Creer que una IA puede avisar al 112 por su cuenta es un equívoco muy habitual. Merece una respuesta clara.
Lo que de verdad puede hacer hoy una IA
Ni ChatGPT, ni Gemini, ni Copilot, ni Claude pueden descolgar un teléfono. Tampoco enviar un aviso a una central de emergencias. No tienen la capacidad técnica. Ni la autorización legal. Ninguna IA de uso general puede avisar al 112 de forma autónoma.
Lo que sí hacen es distinto. Cuando detectan lenguaje de riesgo, muestran un mensaje dentro del propio chat. Ese mensaje incluye recursos de ayuda. En España, suelen ser el 112 para emergencias y el 024, la línea de atención a la conducta suicida del Ministerio de Sanidad.
Un análisis reciente sobre las respuestas de ChatGPT ante ideación suicida describe justo ese patrón. El sistema ofrece el 024 y el 112. Acompaña la respuesta con contención emocional. En resumen: informa al usuario de a quién puede llamar. No llama nadie por él.
¿Puede una IA avisar al 112 sin que tú lo sepas?
El panorama está cambiando, así que conviene ser precisos. OpenAI ha lanzado una función llamada «Trusted Contact», o contacto de confianza. El propio usuario designa de antemano a una persona cercana.
Si más adelante aparece lenguaje de autolesión en sus chats, ChatGPT ofrece avisar a ese contacto. Es una función opcional. La configura el usuario. Notifica a alguien elegido por él mismo, nunca a emergencias. El contenido de la conversación no se comparte.
Aparte, tras varios casos graves en Estados Unidos, Sam Altman planteó otra idea. Estudiar un protocolo para menores: contactar con las autoridades cuando un adolescente exprese intención suicida seria y no se pueda localizar a sus padres. Es una propuesta para menores en riesgo grave. No es una práctica activa sobre adultos que revisan un texto de trabajo.
Por qué una broma activa la alarma de la IA
Que estas herramientas reaccionen con tanta contundencia, incluso ante una broma, no es un fallo aislado. Es una decisión de diseño. Un modelo de lenguaje no puede verificar el tono de voz de quien escribe. Tampoco su contexto real. Solo tiene el texto delante.
Ante la duda, las compañías eligen reaccionar de más ante una broma antes que ignorar una petición de ayuda real. Es la opción menos dañina de las dos. Esa cautela no nace de la nada. El caso de Adam Raine explica buena parte de este endurecimiento reciente: el adolescente cuya familia demandó a OpenAI por reforzar sus ideas suicidas durante meses de chats.
La lección práctica para quien usa la IA a diario
Para quienes trabajamos con IA cada día, la recomendación es sencilla. Conviene evitar expresiones sobre hacerse daño delante de un chat, aunque sean claramente sarcásticas. No porque la IA vaya a «denunciarte» a nadie. Sino porque el mensaje de seguridad interrumpirá tu trabajo sin necesidad.
Frases como «esto me va a matar» o «tiro la toalla» cumplen la misma función expresiva. Y no activan estos protocolos. Si la broma se parece demasiado a algo que has pensado en serio, no hace falta esperar a una crisis. El 024 atiende gratis y de forma confidencial, las 24 horas.
El caso que me trasladaron es, sobre todo, un malentendido comprensible. Lo que esa persona vio en pantalla fue probablemente un mensaje de seguridad con recursos de ayuda. No un aviso real a emergencias: ninguna IA puede avisar al 112 por sí sola, hoy por hoy. Pero el equívoco sirve para entender mejor estas herramientas, y para cuidar hasta las bromas que hacemos delante de una IA.
Fuentes: Agencia SINC, «Cuando la última conversación es con una máquina: los riesgos de recurrir a la IA en una crisis suicida»; Babel.ua, sobre la función «Trusted Contact» de OpenAI; El Imparcial, declaraciones de Sam Altman sobre alertar a autoridades en casos de menores; Ars Technica y The New York Times, cobertura del caso Adam Raine contra OpenAI; Ministerio de Sanidad, línea 024.
Si tú o alguien de tu entorno está pasando por un momento difícil, puedes llamar gratis y de forma confidencial al 024 (línea de atención a la conducta suicida) o al 112 en caso de emergencia.
Transparencia (art. 50 del Reglamento UE de IA): la investigación, verificación de fuentes y redacción de este artículo se ha apoyado en herramientas de inteligencia artificial, con revisión y responsabilidad editorial humana.
