El Consejo de Seguridad de la ONU sienta a OpenAI, Anthropic y DeepSeek para hablar de los riesgos de la IA

El Consejo de Seguridad de la ONU celebró ayer en Nueva York una sesión sobre «El futuro de la inteligencia artificial y la seguridad internacional». Sam Altman (OpenAI) y Dario Amodei (Anthropic) intervinieron ante los 15 miembros del Consejo, y por primera vez se ha invitado también a representantes de las empresas chinas DeepSeek y Moonshot AI.

Es un momento poco habitual: el órgano de la ONU que se ocupa de guerras, sanciones y armas nucleares escucha ahora a quienes construyen los sistemas de IA más avanzados del mundo.

Qué ha pasado

La sesión, celebrada el miércoles 23 de septiembre en Nueva York y convocada por Francia, reúne a algunos de los nombres más influyentes del sector:

• Sam Altman, CEO de OpenAI, presente en la sala.
• Dario Amodei, CEO de Anthropic, que participa por videoconferencia.
• Yoshua Bengio, investigador de la Universidad de Montreal y una de las voces más respetadas en seguridad de la IA.
• Clément Delangue, CEO de Hugging Face, la plataforma de referencia para modelos abiertos.
• DeepSeek y Moonshot AI, dos de las startups chinas más destacadas, invitadas a intervenir. Según Reuters, el fundador de DeepSeek, Liang Wenfeng, no tenía previsto asistir.

Por qué es tan importante

El Consejo de Seguridad tiene 15 miembros y es el único órgano de la ONU con poder para autorizar sanciones e incluso acciones militares. Aunque ya debatió sobre IA por primera vez en 2023, esta vez lo hace con los desarrolladores sentados a la mesa, incluidas empresas de Estados Unidos y de China, las dos potencias que compiten por el liderazgo tecnológico.

Imagina que, antes de que se generalizara la energía nuclear, los ingenieros que la desarrollaban hubieran sido convocados junto a los gobiernos para explicar sus riesgos. Algo parecido busca esta sesión: que quienes crean la tecnología y quienes tienen poder para regularla hablen en el mismo foro.

El contexto: un debate muy dividido

La reunión llega en plena tensión política:

• El 12 de septiembre, Amodei publicó un ensayo titulado «We Must Pace the Frontier», en el que defiende ralentizar de forma deliberada el desarrollo de los modelos más potentes y dar a evaluadores externos acceso permanente para comprobar las promesas de seguridad de las empresas. Según la prensa, Altman y Elon Musk se mostraron de acuerdo en pocas horas.
• En la Asamblea General de la ONU, el presidente de Estados Unidos, Donald Trump, rechazó cualquier esquema internacional para controlar la IA.
• La sesión tuvo lugar un día antes de la cumbre entre Trump y Xi Jinping para hoy 24 de septiembre, donde la seguridad de la IA figura, según los medios, junto al comercio.

Además, Anthropic ha acusado este año a varias compañías chinas, entre ellas DeepSeek y Moonshot, de «destilar» sus modelos, una práctica que consiste en entrenar un modelo propio a partir de las respuestas de otro. Que ambas partes compartan escenario en la ONU resulta, como mínimo, llamativo.

¿Saldrá algún acuerdo?

Lo más probable es que no. Los medios que siguen la sesión coinciden en que no se espera un acuerdo vinculante. Aun así, el simbolismo importa: la IA ha pasado de ser un asunto de laboratorios y empresas a formar parte de la agenda de la seguridad internacional, junto a los grandes riesgos globales.

Qué debes recordar

• El Consejo de Seguridad de la ONU ha escuchado a los desarrolladores de IA de EE. UU. y China en la misma sesión.
• Altman, Amodei, Bengio y Delangue son algunos de los ponentes principales.
• La sesión no busca aprobar una norma inmediata, pero marca el nivel de atención política que ya tiene la IA.
• Las posturas siguen enfrentadas: unos piden frenar y supervisar; otros, como la Casa Blanca, rechazan el control internacional.

Seguiremos informando en iageducacion.org/ de lo que salga de esta sesión y de la cumbre entre Estados Unidos y China.

Fuentes: Reuters, CNBC, Decrypt y Cointelegraph, consultadas el 23 de septiembre de 2026.