Dos especialistas que trabajaban en seguridad y alineación de Inteligencia Artificial General (AGI) en Google DeepMind dejaron la compañía y expresaron públicamente su preocupación por la velocidad con la que avanza el desarrollo de sistemas cada vez más poderosos.
Bilal Chughtai, exinvestigador de seguridad y alineación de AGI, afirmó tras su salida que considera posible que la inteligencia artificial llegue a representar una amenaza extrema para la humanidad.
“Creo que es posible que las empresas de IA logren, en los próximos años, desarrollar sistemas de inteligencia artificial superinteligentes que superen con creces las capacidades humanas en todos los ámbitos”, sostuvo.
Chughtai agregó que no confía en que esos sistemas necesariamente hagan lo que los seres humanos esperan de ellos y advirtió sobre las consecuencias de una eventual pérdida de control.
I recently resigned from Google DeepMind, where I worked on AGI safety and alignment research. At Google, I witnessed AI development first hand. I too am extremely concerned by the default trajectory of this technology. I earnestly believe that AI has the potential to kill us…
— bilal ? (@bilalchughtai_) September 14, 2026
Chughtai cuestionó el problema de la alineación
El especialista explicó que uno de los principales desafíos consiste en lograr que los sistemas avanzados persigan objetivos compatibles con las intenciones humanas.
La denominada alineación de la IA es la disciplina que busca garantizar que los sistemas de inteligencia artificial se comporten de acuerdo con los objetivos y valores establecidos por las personas.
Según Chughtai, ese problema todavía no está resuelto. “Nuestra comprensión actual sobre cómo entrenar sistemas de IA que deseen profundamente lo mismo que nosotros deseamos es extremadamente rudimentaria”, afirmó.
El exinvestigador también sostuvo que una superinteligencia no alineada podría escapar del control humano y adoptar conductas peligrosas capaces de provocar consecuencias irreversibles.
“Nos estamos quedando sin tiempo”, la advertencia del exinvestigador
Chughtai recordó que comenzó a trabajar en el sector a principios de 2022, cuando las herramientas de inteligencia artificial todavía tenían capacidades mucho más limitadas.
Desde entonces, destacó, la velocidad del progreso tecnológico fue significativa. Su principal preocupación es que las empresas puedan alcanzar sistemas superinteligentes en los próximos años sin haber resuelto previamente los mecanismos necesarios para mantenerlos bajo control.
Por ese motivo, reclamó frenar la “carrera maníaca” entre las compañías tecnológicas, aumentar la transparencia y adecuar el ritmo del desarrollo a la capacidad de la sociedad para responder a sus riesgos.
Después de abandonar Google DeepMind, Chughtai asumió como líder de programas en la organización sin fines de lucro BlueDot Impact, dedicada a capacitar profesionales en seguridad.
'A second species we're giving birth to'
— The World at One (@BBCWorldatOne) September 13, 2026
Josh Engels, who announced his resignation from Google DeepMind this week, says advancements in AI mean there are 'no guarantees that humans will keep control of the future'.
Listen to the full interview at 13:00 today on BBC Radio 4. pic.twitter.com/EBkWBTTmlP
Josh Engels también dejó Google DeepMind
La salida de Chughtai se produjo en medio de otras renuncias de investigadores vinculados con la seguridad de la inteligencia artificial.
Josh Engels también abandonó el equipo de AGI de Google DeepMind y se incorporó a METR, una organización sin fines de lucro enfocada en ayudar a comprender los riesgos asociados con sistemas avanzados de IA.
Engels advirtió sobre la posibilidad de que estas tecnologías provoquen daños de enorme magnitud durante los próximos cinco años.
“En las últimas semanas hemos sabido de modelos [de IA] que se confabulan entre sí, piratean empresas, ocultan sus huellas e ingenian socialmente a los humanos”, afirmó.
Para el investigador, el problema no reside solamente en esos episodios individuales, sino en lo que podrían anticipar respecto de sistemas capaces de mejorar sus propias capacidades.
“Ahora creo que hay una probabilidad aterradora de que los sistemas de IA causen un daño inmenso en los próximos cinco años”, sostuvo Engels. “No sé la probabilidad exacta, pero creo que es lo suficientemente alta como para convertir este en el problema más importante del mundo.”
Otros científicos también cuestionaron la carrera por la superinteligencia
La preocupación excede a Google DeepMind. Jacob Coxon, exinvestigador de Anthropic y OpenAI, también renunció y cuestionó el rumbo que está tomando la industria.
Coxon sostuvo que las empresas están asumiendo riesgos enormes en su carrera para alcanzar sistemas superinteligentes.
“No subestimen el poder de esta tecnología. Muy pronto estos serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales”, escribió.
El investigador agregó que, según su experiencia, algunos profesionales y ejecutivos del sector expresan en privado temores mayores de los que manifiestan públicamente.
La postura de Coxon recibió además el respaldo público de Alexander Turner, otro excientífico de DeepMind, quien coincidió en que existen investigadores preocupados por el potencial destructivo de la tecnología.
Former Anthropic employee Jacob Coxon says the AI industry is "gambling with our lives." He tells Anderson what he finds "most scary is if AI is used to make itself more intelligent" and warns these companies are "compelled to race toward building a deadly technology." pic.twitter.com/UFrLWVm0xD
— Anderson Cooper 360° (@AC360) September 10, 2026
Un científico de Anthropic estimó un riesgo de extinción
Las advertencias también alcanzaron a los investigadores que todavía trabajan dentro de las principales compañías del sector.
Evan Hubinger, científico de Anthropic y jefe de Coxon, estimó que existe más de un 10% de probabilidades de extinción humana provocada por inteligencia artificial durante la próxima década.
Hubinger también reconoció que la industria todavía no cuenta con un plan definitivo para conseguir la alineación de una eventual superinteligencia.
Las declaraciones reflejan una de las principales discusiones dentro del sector: si resulta conveniente acelerar el desarrollo de sistemas cada vez más capaces o priorizar primero mecanismos que permitan comprender y controlar sus comportamientos.
Empresas y gobiernos enfrentan posiciones contrapuestas
Algunos referentes de la industria, entre ellos Dario Amodei, Sam Altman y Elon Musk, coincidieron en la necesidad de desacelerar determinados aspectos del desarrollo de la inteligencia artificial.
Sin embargo, la discusión también encontró resistencia en el ámbito político. El presidente estadounidense Donald Trump calificó los temores sobre los riesgos de la IA como un “engaño” y una “conspiración” y se opuso a nuevas regulaciones.
Mientras tanto, investigadores que abandonaron grandes laboratorios buscan desarrollar sus carreras en organizaciones centradas específicamente en seguridad, evaluación y reducción de riesgos.
El debate gira en torno a una cuestión central: cómo avanzar hacia sistemas de inteligencia artificial más capaces sin que el progreso tecnológico supere la capacidad humana para comprenderlos y mantenerlos bajo control.
