Demis Hassabis advierte: “nadie sabe con certeza qué va a ocurrir” con la IA
Aviso de transparencia (Art. 50 Reglamento UE de IA): este artículo ha sido redactado con apoyo de herramientas de inteligencia artificial y verificado por el equipo editorial de IAGeducación.
Demis Hassabis, cofundador y consejero delegado de Google DeepMind y premio Nobel de
Química en 2024, ha lanzado esta semana una advertencia pública sobre los riesgos de
seguir desarrollando inteligencia artificial sin mecanismos de supervisión adecuados. En
un extenso texto publicado en X, Hassabis afirma que «nadie en el mundo sabe con certeza
qué va a ocurrir» con la evolución de la IA si no se actúa con rapidez.
Una propuesta concreta: un organismo evaluador en EE. UU.
Lejos de limitarse a advertir, Hassabis plantea la creación en Estados Unidos de un
organismo encargado de evaluar los modelos de IA de frontera antes de su lanzamiento
comercial. Según su propuesta, los laboratorios compartirían voluntariamente sus modelos
hasta 30 días antes de sacarlos al mercado, un periodo de pruebas que podría convertirse
más adelante en un requisito obligatorio.
El diseño incluye una junta con especialistas independientes y representantes del
código abierto encargada de fijar los umbrales de riesgo, junto con auditores externos
que ampliarían el sistema de control. Los exámenes se revisarían periódicamente para
sustituir las pruebas que queden desfasadas y para medir nuevas capacidades a medida que
los modelos avancen.
La posibilidad de frenar el desarrollo
El planteamiento de Hassabis llega incluso más lejos: si la gravedad de los riesgos lo
justificara, el marco propuesto podría emplearse para coordinar una ralentización del
desarrollo entre los principales laboratorios de IA. Es la primera vez que el líder de un
laboratorio de primer nivel propone públicamente un freno regulado desde dentro de la
industria, sin esperar a que lo imponga un incidente grave.
Hassabis parte de la convicción de que la inteligencia artificial general (AGI) podría
llegar en un plazo de tres a cuatro años, lo que explica la urgencia de su llamado. Su
credibilidad en este debate se apoya en una trayectoria poco habitual: bajo su dirección
surgieron proyectos como AlphaGo, que derrotó a un campeón mundial de Go, y AlphaFold,
capaz de predecir estructuras de proteínas, trabajo por el que recibió el Nobel de
Química junto a John Jumper.
Un debate que ya no es marginal
La inquietud no es exclusiva de Hassabis. Geoffrey Hinton ha reconocido públicamente
que no sabemos si podremos conservar el control de sistemas más inteligentes que
nosotros, mientras que Yoshua Bengio reclama más investigación y mecanismos específicos
de supervisión. Con estas declaraciones, tres de las figuras más influyentes del campo
coinciden en que el ritmo actual de desarrollo requiere contrapesos institucionales.
Con todo, la viabilidad política de un mecanismo así en Estados Unidos es incierta: el
país compite directamente con China por la supremacía tecnológica en IA, un contexto que
no favorece precisamente las pausas o ralentizaciones coordinadas.
Fuentes
- Xataka: «Nadie sabe con certeza qué va a ocurrir»: Demis Hassabis advierte del riesgo de perder el control de la IA
- Merca2: Demis Hassabis, el premio Nobel de Google, advierte: la AGI llegará en 3-4 años y pide una regulación urgente
- Que.es: Demis Hassabis, premio Nobel y CEO de DeepMind: «Nadie sabe qué pasará con la IA»
Aviso de transparencia (Reglamento UE de IA, artículo 50): el contenido de este artículo ha sido generado con asistencia de inteligencia artificial y revisado por un editor humano antes de su publicación.
