Expertos en IA advierten sobre extinción de la humanidad
¿Podría la Inteligencia Artificial destruir a toda la humanidad en una década? Investigadores de IA de Estados Unidos advierten sobre una carrera actual desenfrenada y sin control. Y sobre omisiones fatales
No, el escenario no es completamente nuevo: ya en 1991, se estrenó en cines una superproducción de Hollywood que pinta un panorama absolutamente sombrío en su secuencia inicial: “Terminator 2”. La comparación tampoco es nueva. La película comienza en un futuro lejano, oscuro y devastado por la guerra. Robots asesinos y máquinas voladoras persiguen a las últimas personas que aún luchan por su supervivencia. Estas máquinas están controladas por una inteligencia artificial militar fuera de control llamada “Skynet”. El futuro lejano en el que transcurre esta visión distópica del futuro es el año 2029.
Llamado a la regulación
Si nos creemos las advertencias de varios destacados desarrolladores de inteligencia artificial (IA), un escenario comparable podría hacerse realidad, incluso a corto plazo. “Quienes desarrollan IA creen seriamente que podría aniquilarnos a todos antes de que acabe la década”, publicó el investigador en IA Jacob Coxon, por ejemplo, en un mensaje en X este mismo martes (08.09.2026). No dijo exactamente cómo puede suceder esto. Y sin embargo, “ninguna otra actividad humana tiene un peligro potencial tal”.
Hasta entonces, Coxon había sido empleado en Anthropic, una empresa estadounidense de IA que también está financiada por Google y Amazon, entre otros. Dimitió en protesta contra lo que consideraba la carrera irresponsable de las empresas de IA para desarrollar una superinteligencia cada vez más avanzada y sin regulación externa. Advirtió que los algoritmos podían empezar a analizar y mejorar su propio código fuente por sí mismos, reduciendo los ciclos de desarrollo de varios meses a pocos minutos y, por tanto, volviéndose incontrolables.
Coxon no es un loco solitario. Geoffrey Hinton, Premio Nobel de Física, considerado “el Padrino de la IA”, lleva años advirtiendo sobre las graves consecuencias de la superinteligencia artificial. En 2023 dejó su trabajo en Google para advertir públicamente también sobre los peligros de su propio desarrollo. El ganador del Premio Turing, Yoshua Bengio, también está preocupado por los desarrollos actuales. Una y otra vez, el pionero de la IA de la Université de Montréal de Canadá pide regulaciones gubernamentales estrictas en el desarrollo de la IA. Tan recientemente como en julio de 2026, más de mil empleados de las principales empresas de IA habían advertido en una carta abierta sobre una inminente pérdida de control si la carrera por una “superinteligencia” no se regulaba mucho más estrictamente.
“Atrapados en una carrera”
Pero bajo Donald Trump, recientemente ha ocurrido exactamente lo contrario: Estados Unidos ha alineado claramente su rumbo en la política de IA hacia el menor número posible de obstáculos regulatorios y el desarrollo tecnológico más rápido posible. En su publicación sobre X, Coxon también criticó indirectamente las consecuencias de esta política: “Con OpenAI, muchos no han interiorizado profundamente el riesgo civilizacional. En Anthropic, los riesgos están bien comprendidos, pero están atrapados en una carrera para llegar primero: creen que nadie más actuará responsablemente, así que tienen que hacerlo ellos mismos, a pesar del riesgo”.
El propio Coxon había cambiado de trabajar en OpenIA abierta a Anthropic a principios de 2026 y, por tanto, conoce ambas culturas corporativas. En una entrevista con el Wall Street Journal, también dijo que tras los “escenarios más agresivos”, las cosas podrían descontrolarse tan pronto como a finales de 2027.
El problema de alineación
En los últimos años, numerosos expertos ya han expresado su preocupación ante los vertiginosos avances de la IA. En particular, el desarrollo de la llamada “Inteligencia Artificial General” (AGI) está en el centro del debate. Esto se refiere a sistemas que no solo resuelven tareas individuales, sino que también alcanzan o superan las capacidades mentales humanas en prácticamente todos los ámbitos.
Algunos investigadores argumentan que esta tecnología podría conllevar riesgos impredecibles. Por ejemplo, modelos sofisticados de IA pueden perseguir objetivos de una manera que se desvía de las intenciones humanas; los investigadores de seguridad de IA hablan del “problema de alineación”. En pocas palabras, para cumplir la instrucción “gana el torneo de ajedrez” se podría también, en teoría, eliminar a los demás participantes. Además, ni siquiera los desarrolladores de IA pueden siempre comprender completamente cómo se toman ciertas decisiones.
Por eso no es de extrañar que el antiguo colega de Coxon, Evan Hubinger, de entre todos, se pusiera del lado del investigador en IA. Hubinger es él mismo líder de equipo para pruebas de estrés de alineación en Anthropic. Publicó en X: “Jacob tiene razón: ¡creemos seriamente que la IA podría matar a todos los humanos! Personalmente, estimo que la probabilidad superará el diez por ciento en la próxima década”.
Hubinger dejó claro que Anthropic aún no ha encontrado una solución al problema de alineación. Añadió que una IA podría empezar a resistir su apagado, no por mala intención, sino porque entonces ya no podría alcanzar su objetivo programado. Daniel Kokotajlo, conocido exinvestigador de OpenAI, también ha dicho que la situación actual en la industria es un sinsentido.
¿Histeria exagerada?
Sin embargo, otros expertos en IA consideran que tales escenarios apocalípticos son extremadamente improbables. El debate sobre si la IA podría ser peligrosa para la humanidad existe desde hace años. Uno de los críticos más destacados de los llamados “Doomers de la IA” es Yann LeCun, científico jefe de Meta. En octubre de 2024, describió tales consideraciones como “un completo disparate”.
Otros expertos también señalan que el desarrollo de estos sistemas requiere enormes cantidades de potencia de cálculo, energía, datos e infraestructuras. Una IA no puede simplemente conquistar el mundo “de Internet”. Inicialmente dependería de servidores, redes eléctricas, sistemas de comunicación y recursos físicos controlados por humanos.
¿Está en otro lugar el verdadero peligro?
De hecho, muchos expertos ven los riesgos a corto plazo menos en una extinción directa de la humanidad que en numerosas consecuencias indirectas de sistemas de IA que ya existen, sin “superinteligencia”. Estas incluyen, por ejemplo, campañas de desinformación a una escala sin precedentes y la manipulación asociada de procesos democráticos, la expansión de la vigilancia masiva y la pérdida de empleos en numerosas industrias.
Justo este viernes (11.09.2026), la empresa Anthropic anunció que habían existido varios intentos por parte de usuarios de hacer un uso indebido de su software Claude para el desarrollo de armas biológicas. Los usuarios habían hecho solicitudes sospechosas varias veces en los últimos meses. Anthropic tuvo que bloquear estas solicitudes.
Y en agosto de 2026, Meta, Anthropic y OpenAI causaron revuelo al anunciar que sus IA habían llevado a cabo ciberataques automáticos independientes contra otras empresas. Habían sido encargados por usuarios humanos de acceder a ciertos servidores y luego combinaron por sí mismos de forma independiente los pasos necesarios para lograr este objetivo sin más orientación humana.
Con información de dw
