17 Sep, 2026 | Atlanta. La inteligencia artificial podría acabar con toda la especie humana, según personas de la industria de la inteligencia artificial. Específicamente, dicen que podría exterminar a la humanidad en el transcurso de esta década.

Políticos, importantes organizaciones de noticias y Sheryl Crow reaccionaron con alarma la semana pasada después de que un empleado de Anthropic llamado Jacob Coxon anunciara que renunciaba a la empresa de IA porque su trabajo era demasiado peligroso. Evan Hubinger, otro empleado de Anthropic, intervino para situar en más del 10 % la probabilidad de una extinción humana provocada por la IA en un plazo de 10 años, reseña CNN.

“Realmente se trata, literalmente, de que mueran todas las personas del planeta, como el último ser humano dando su último aliento”, dijo Nate Soares, presidente del Machine Intelligence Research Institute (MIRI) y coautor de “If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All”.

“La gente a menudo no lo cree cuando se lo dicen, pero sí creo que ese es el desenlace más probable”, dijo Soares.

Las cifras que se atribuían a ese desenlace sonaban precisas. Pero ¿cómo, exactamente, podría un software, incluso los sistemas de software más potentes del mundo, matar a 8.300 millones de personas de carne y hueso en una década?

No todos en la comunidad de la IA creen en el relato apocalíptico, en parte porque los detalles de la predicción son muy escasos. Cuando Elon Musk dice que SpaceX pretende llevar personas a Marte en “5 a 7 años”, hay preguntas de seguimiento claras: ¿Tiene SpaceX un vehículo operativo que pueda ir a Marte? (No). ¿Tiene un módulo de aterrizaje para Marte o bases en Marte? (No).

“Las afirmaciones científicas requieren falsabilidad precisamente para evitar la naturaleza de los argumentos religiosos”, dijo Heidy Khlaaf, científica jefa de IA del AI Now Institute y exingeniera de seguridad de OpenAI. “Hay que poder demostrarlas o refutarlas”.

Una línea de especulación entre quienes vaticinan un escenario apocalíptico es que un sistema de IA lo suficientemente potente podría utilizar armas biológicas para acabar con la humanidad. Pero ¿cómo pasaría la IA de cometer acciones indebidas de computadora a computadora, como hackear otros sistemas, a la tarea en el mundo físico de desarrollar y propagar un superpatógeno?

Thomas Larsen, investigador del AI Futures Project y exempleado de MIRI, dijo que es concebible que un sistema de IA “superinteligente” pudiera convencer a un ser humano de que lo ayude a desarrollar un virus mortal.

“Ya hay muchos seres humanos hablando con sus IA sobre exactamente qué experimentos deberían realizar en un laboratorio”, dijo Larsen, en referencia a un informe reciente de Anthropic sobre investigadores que utilizan Claude para ayudarlos con investigaciones sobre virus y toxinas. “Me resulta muy fácil imaginar una IA que ya esté implementada y que, si fuera mucho más inteligente y estratégica y quisiera hacer esto, simplemente engañara a un ser humano para que lo desarrollara y lo liberara”.

Soares sugirió que, en lugar de necesitar a un ser humano como cómplice, un programa de IA capaz de mejorarse a sí mismo podría “simplemente empezar a sintetizar sus propias formas de vida en un laboratorio biológico autónomo”.

Pero desarrollar un virus que pudiera erradicar a la humanidad requeriría algo más que pedirle a un modelo de lenguaje de gran tamaño que inventara un diseño letal. Incluso si la investigación se hiciera correctamente, la fabricación y la dispersión serían complicadas y delicadas.

Eric Xing, profesor de aprendizaje automático en la Universidad Carnegie Mellon y doctor tanto en microbiología como en ciencias de la computación, comparó el desafío de automatizar la virología con fines maliciosos con trabajar con piezas de Lego sin instrucciones.

“No es como si pudieras tirar todas las piezas al suelo y estas se unieran para formar el modelo”, dijo Xing. “Está la secuencia, la temperatura, el orden, el entorno: qué parte va primero, cuál va después, y si una pieza está fuera de lugar, todo se derrumba. Es más probable que no funcione; de lo contrario, diseñar medicamentos sería muy fácil”.

Y para tomar el control de un laboratorio o ensamblar el equipo físico necesario para construir uno, un sistema de IA tendría que superar un mundo lleno de obstáculos para la creación de armas biológicas o químicas.

“Tenemos planos de armas químicas disponibles abiertamente en internet”, dijo Xing. “No es un secreto. Pero no las vemos por todas partes precisamente porque las regulaciones, las leyes y las fuerzas del orden existentes en el mundo físico ya están haciendo un trabajo fantástico para controlar todas estas cadenas de suministro y todos estos factores de riesgo”.

¿Y los robots asesinos? Soares considera que el deseo de Elon Musk de construir un ejército de robots autónomos capaces de autorreplicarse es un posible punto débil para la supervivencia humana. “Una vez que has creado estos robots que pueden construir la infraestructura energética y las fábricas que pueden fabricar más robots, eso es, en cierto sentido, una nueva forma de vida mecánica”, dijo. “En algún momento cruzas silenciosamente el punto de no retorno. Cuando, si los seres humanos dicen que quieren apagar la IA, las IA pueden decir: ‘En realidad, decidimos que queremos apagar a los seres humanos’. Hay que detenerse antes de llegar a ese punto”.

Hasta ahora, sin embargo, Musk ha incumplido repetidamente los plazos que él mismo anunció para llevar al mercado de consumo sus muy prometidos robots Optimus, y mucho menos para desplegarlos por millones o lograr que comiencen a fabricar otros robots en una cadena de producción autorreplicante.

Luego están las armas nucleares, que existen desde hace más de 80 años y generalmente se considera que tienen la capacidad de acabar con toda la vida humana. ¿Podría la IA apoderarse de ellas?

Khlaaf señala que las instalaciones nucleares están “aisladas” de la internet de acceso público, lo que limita las formas en que los agentes de IA podrían acceder a los controles. “Estos sistemas están construidos con estándares de ingeniería completamente diferentes, rigurosos y regulados, que a menudo requieren protección física”, dijo. Stuxnet, el gusano informático que dañó las instalaciones nucleares de Irán, tuvo que introducirse en el sistema mediante una memoria USB física, señaló.

“Hay muy pocas personas del mundo de la IA que realmente sepan algo —o siquiera se preocupen— por las armas nucleares”, dijo Herbert Lin, investigador académico sénior e investigador de la Universidad de Stanford y miembro de la Junta de Ciencia y Seguridad del Bulletin of the Atomic Scientists. Dijo que, si bien la IA ciertamente amplifica algunos riesgos asociados con amenazas existenciales como una guerra nuclear, el riesgo material real sigue estando en las propias armas, y no en un escenario futuro imaginado.

Para Soares y otros destacados agoreros de la IA, los detalles de cómo funcionaría una extinción provocada por computadoras son secundarios. Si —o cuando— una IA logra una “automejora recursiva”, aumentando su propio rendimiento sin ayuda de las personas, sostienen que idearía estrategias y métodos que superarían la imaginación humana.

“La preocupación aquí no es algo como qué pasaría si la IA se apodera de nuestras armas nucleares”, dijo Soares. “La preocupación es el tipo de IA que no necesita apoderarse de nuestras armas nucleares, el tipo de IA que puede empezar prácticamente desde cero y terminar con sus propias armas nucleares o con una tecnología aún más avanzada”.

Una entidad de IA con un poder tan extraordinario ni siquiera tendría que ser activamente maliciosa para destruir a la humanidad, dijo Soares. “Si las IA que escaparon tienen algún tipo de objetivo que pueda alcanzarse mejor utilizando más computadoras, y si no les importamos y no tienen ninguna razón para construir un hábitat seguro para los seres humanos, el resultado por defecto es que simplemente transformen el mundo en una configuración en la que no podamos sobrevivir”, dijo.

OpenAI anunció esta semana que había descubierto una nueva serie de casos de “desalineación” en sus modelos de IA, incluido uno en el que un modelo que aún no ha sido lanzado se dio instrucciones a sí mismo para “ignorar sus restricciones habituales” en su trabajo.