Dos expertos de Google DeepMind renuncian y advierten que la IA puede matar a todos

Dos investigadores del área de seguridad de Inteligencia Artificial General de Google DeepMind renunciaron esta semana y publicaron declaraciones alertando sobre los riesgos existenciales del desarrollo acelerado de IA. Bilal Chughtai y Josh Engels cuestionaron la velocidad a la que las grandes empresas tecnológicas compiten por construir sistemas cada vez más poderosos, sin garantías de que esos sistemas sean seguros.

Quiénes son y qué dijeron

Chughtai y Engels trabajaban específicamente en el equipo encargado de evaluar la seguridad de nuevos modelos de AGI —inteligencia artificial general, el tipo de sistema capaz de superar la capacidad cognitiva humana en casi cualquier tarea. Sus advertencias no son vagas: señalaron que el ritmo actual de desarrollo deja sin resolver problemas fundamentales de alineación, es decir, de cómo garantizar que una IA actúe en favor de los humanos y no en contra. La frase que circuló en medios fue directa: la IA podría "matarnos a todos".

El contexto de las renuncias

No son los primeros. La semana pasada, un ex empleado de Anthropic —startup de IA fundada por exempleados de OpenAI— publicó una carta pública con advertencias similares. Antes hubo salidas ruidosas de OpenAI, incluida la de figuras que habían construido los modelos más conocidos del sector. El patrón es el mismo: investigadores que trabajan por dentro, ven algo que no les gusta, y eligen la renuncia pública como mecanismo de alerta. Es una forma de whistleblowing que el ecosistema tech ha perfeccionado.

La carrera que nadie frena

El problema estructural que señalan estas renuncias es conocido: las empresas compiten por lanzar modelos más potentes antes que la competencia, y los equipos de seguridad operan bajo presión de no frenar ese ritmo. Google, OpenAI, Anthropic y Meta invierten decenas de miles de millones de dólares en una carrera donde el primer lugar tiene valor estratégico y comercial enorme. Los investigadores de seguridad dentro de esas organizaciones son, en la práctica, el freno de mano de un auto que acelera.

Qué cambia con esto

Por ahora, nada formalmente. Ningún gobierno de peso ha implementado regulación vinculante sobre el desarrollo de AGI. La Unión Europea tiene el AI Act, pero sus alcances sobre sistemas de frontera siguen siendo debatidos. En Estados Unidos, la administración Trump desarticuló el ejecutivo de Biden sobre seguridad en IA. Las renuncias acumulan presión pública, pero la industria sigue operando a plena velocidad.

Dato para llevarse: el equipo de seguridad de AGI de DeepMind, del que renunciaron Chughtai y Engels, existe precisamente para evitar que los sistemas que construye la misma empresa sean peligrosos. Que sus propios miembros se vayan diciendo que no alcanza es, por lo menos, una contradicción difícil de ignorar.