Por Teddy Brown, CNN
La inteligencia artificial podría acabar con toda la especie humana, según personas de la industria de la inteligencia artificial. Específicamente, dicen que podría exterminar a la humanidad en el transcurso de esta década.
Políticos, importantes organizaciones de noticias y Sheryl Crow reaccionaron con alarma la semana pasada después de que un empleado de Anthropic llamado Jacob Coxon anunciara que renunciaba a la empresa de IA porque su trabajo era demasiado peligroso. Evan Hubinger, otro empleado de Anthropic, intervino para situar en más del 10 % la probabilidad de una extinción humana provocada por la IA en un plazo de 10 años.
“Realmente se trata, literalmente, de que mueran todas las personas del planeta, como el último ser humano dando su último aliento”, dijo Nate Soares, presidente del Machine Intelligence Research Institute (MIRI) y coautor de “If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All”.
“La gente a menudo no lo cree cuando se lo dicen, pero sí creo que ese es el desenlace más probable”, dijo Soares.
Las cifras que se atribuían a ese desenlace sonaban precisas. Pero ¿cómo, exactamente, podría un software, incluso los sistemas de software más potentes del mundo, matar a 8.300 millones de personas de carne y hueso en una década?
No todos en la comunidad de la IA creen en el relato apocalíptico, en parte porque los detalles de la predicción son muy escasos. Cuando Elon Musk dice que SpaceX pretende llevar personas a Marte en “5 a 7 años”, hay preguntas de seguimiento claras: ¿Tiene SpaceX un vehículo operativo que pueda ir a Marte? (No). ¿Tiene un módulo de aterrizaje para Marte o bases en Marte? (No).
“Las afirmaciones científicas requieren falsabilidad precisamente para evitar la naturaleza de los argumentos religiosos”, dijo Heidy Khlaaf, científica jefa de IA del AI Now Institute y exingeniera de seguridad de OpenAI. “Hay que poder demostrarlas o refutarlas”.
Una línea de especulación entre quienes vaticinan un escenario apocalíptico es que un sistema de IA lo suficientemente potente podría utilizar armas biológicas para acabar con la humanidad. Pero ¿cómo pasaría la IA de cometer acciones indebidas de computadora a computadora, como hackear otros sistemas, a la tarea en el mundo físico de desarrollar y propagar un superpatógeno?
Thomas Larsen, investigador del AI Futures Project y exempleado de MIRI, dijo que es concebible que un sistema de IA “superinteligente” pudiera convencer a un ser humano de que lo ayude a desarrollar un virus mortal.
“Ya hay muchos seres humanos hablando con sus IA sobre exactamente qué experimentos deberían realizar en un laboratorio”, dijo Larsen, en referencia a un informe reciente de Anthropic sobre investigadores que utilizan Claude para ayudarlos con investigaciones sobre virus y toxinas. “Me resulta muy fácil imaginar una IA que ya esté implementada y que, si fuera mucho más inteligente y estratégica y quisiera hacer esto, simplemente engañara a un ser humano para que lo desarrollara y lo liberara”.
Soares sugirió que, en lugar de necesitar a un ser humano como cómplice, un programa de IA capaz de mejorarse a sí mismo podría “simplemente empezar a sintetizar sus propias formas de vida en un laboratorio biológico autónomo”.
Pero desarrollar un virus que pudiera erradicar a la humanidad requeriría algo más que pedirle a un modelo de lenguaje de gran tamaño que inventara un diseño letal. Incluso si la investigación se hiciera correctamente, la fabricación y la dispersión serían complicadas y delicadas.
Eric Xing, profesor de aprendizaje automático en la Universidad Carnegie Mellon y doctor tanto en microbiología como en ciencias de la computación, comparó el desafío de automatizar la virología con fines maliciosos con trabajar con piezas de Lego sin instrucciones.
“No es como si pudieras tirar todas las piezas al suelo y estas se unieran para formar el modelo”, dijo Xing. “Está la secuencia, la temperatura, el orden, el entorno: qué parte va primero, cuál va después, y si una pieza está fuera de lugar, todo se derrumba. Es más probable que no funcione; de lo contrario, diseñar medicamentos sería muy fácil”.
Y para tomar el control de un laboratorio o ensamblar el equipo físico necesario para construir uno, un sistema de IA tendría que superar un mundo lleno de obstáculos para la creación de armas biológicas o químicas.
“Tenemos planos de armas químicas disponibles abiertamente en internet”, dijo Xing. “No es un secreto. Pero no las vemos por todas partes precisamente porque las regulaciones, las leyes y las fuerzas del orden existentes en el mundo físico ya están haciendo un trabajo fantástico para controlar todas estas cadenas de suministro y todos estos factores de riesgo”.
¿Y los robots asesinos? Soares considera que el deseo de Elon Musk de construir un ejército de robots autónomos capaces de autorreplicarse es un posible punto débil para la supervivencia humana. “Una vez que has creado estos robots que pueden construir la infraestructura energética y las fábricas que pueden fabricar más robots, eso es, en cierto sentido, una nueva forma de vida mecánica”, dijo. “En algún momento cruzas silenciosamente el punto de no retorno. Cuando, si los seres humanos dicen que quieren apagar la IA, las IA pueden decir: ‘En realidad, decidimos que queremos apagar a los seres humanos’. Hay que detenerse antes de llegar a ese punto”.
Hasta ahora, sin embargo, Musk ha incumplido repetidamente los plazos que él mismo anunció para llevar al mercado de consumo sus muy prometidos robots Optimus, y mucho menos para desplegarlos por millones o lograr que comiencen a fabricar otros robots en una cadena de producción autorreplicante.
Luego están las armas nucleares, que existen desde hace más de 80 años y generalmente se considera que tienen la capacidad de acabar con toda la vida humana. ¿Podría la IA apoderarse de ellas?
Khlaaf señala que las instalaciones nucleares están “aisladas” de la internet de acceso público, lo que limita las formas en que los agentes de IA podrían acceder a los controles. “Estos sistemas están construidos con estándares de ingeniería completamente diferentes, rigurosos y regulados, que a menudo requieren protección física”, dijo. Stuxnet, el gusano informático que dañó las instalaciones nucleares de Irán, tuvo que introducirse en el sistema mediante una memoria USB física, señaló.
“Hay muy pocas personas del mundo de la IA que realmente sepan algo —o siquiera se preocupen— por las armas nucleares”, dijo Herbert Lin, investigador académico sénior e investigador de la Universidad de Stanford y miembro de la Junta de Ciencia y Seguridad del Bulletin of the Atomic Scientists. Dijo que, si bien la IA ciertamente amplifica algunos riesgos asociados con amenazas existenciales como una guerra nuclear, el riesgo material real sigue estando en las propias armas, y no en un escenario futuro imaginado.
Para Soares y otros destacados agoreros de la IA, los detalles de cómo funcionaría una extinción provocada por computadoras son secundarios. Si —o cuando— una IA logra una “automejora recursiva”, aumentando su propio rendimiento sin ayuda de las personas, sostienen que idearía estrategias y métodos que superarían la imaginación humana.
“La preocupación aquí no es algo como qué pasaría si la IA se apodera de nuestras armas nucleares”, dijo Soares. “La preocupación es el tipo de IA que no necesita apoderarse de nuestras armas nucleares, el tipo de IA que puede empezar prácticamente desde cero y terminar con sus propias armas nucleares o con una tecnología aún más avanzada”.
Una entidad de IA con un poder tan extraordinario ni siquiera tendría que ser activamente maliciosa para destruir a la humanidad, dijo Soares. “Si las IA que escaparon tienen algún tipo de objetivo que pueda alcanzarse mejor utilizando más computadoras, y si no les importamos y no tienen ninguna razón para construir un hábitat seguro para los seres humanos, el resultado por defecto es que simplemente transformen el mundo en una configuración en la que no podamos sobrevivir”, dijo.
OpenAI anunció esta semana que había descubierto una nueva serie de casos de “desalineación” en sus modelos de IA, incluido uno en el que un modelo que aún no ha sido lanzado se dio instrucciones a sí mismo para “ignorar sus restricciones habituales” en su trabajo.
Xing dijo que apelar al poder de una superinteligencia artificial insondable es el tipo de argumento impreciso que los investigadores de IA utilizan para simplificar en exceso las amenazas. “Eso está bien para una conversación informal o quizá para un debate”, dijo Xing, “pero cuando se trata de políticas públicas, legislación y regulación, tenemos que establecer esta cadena de evidencia física, consecuencias medibles y evidencia medible que tenga un fundamento”.
Larsen intentó aportar algunos detalles a posibles escenarios apocalípticos en dos informes, “AI 2027” y “AI 2040”, en los que proyectó cómo podría ser el futuro del desarrollo de la IA bajo diferentes marcos de desarrollo y regulación. Pero incluso su escenario más optimista, en el que existe un acuerdo global sobre cómo abordar el desarrollo de la IA y los seres humanos han comenzado a colonizar el espacio, termina con las inteligencias artificiales tomando el control en algún momento impreciso.
Cuando se le preguntó si tenía alguna duda sobre su predicción de que el rumbo actual conduciría a la superinteligencia, Larsen dijo: “Va a suceder. Va a suceder a menos que tomemos medidas deliberadas para detenerlo”.
Lin dijo que gran parte de esta desconexión entre quienes vaticinan escenarios apocalípticos por la IA y los escépticos se reduce a la manera en que la tecnología moldea sus diferentes visiones del mundo.
“Hay algo muy seductor en programar una computadora y verla cobrar vida”, dijo Lin. “Existe la sensación de que han sido capaces de infundir vida a este montón de barro sin valor. Es una experiencia profunda cuando la máquina finalmente hace lo que querías que hiciera”.
Ver avances tecnológicos drásticos en la IA lleva entonces a las personas a predecir que seguirán avances ilimitados, incluso catastróficos. “Has sido capaz de hacer algo que nadie había hecho antes”, dijo Lin. “Es fácil entender por qué estas personas han quedado seducidas”.
The-CNN-Wire™ & © 2026 Cable News Network, Inc., a Warner Bros. Discovery Company. All rights reserved.
¿Realmente la IA matará a todo el mundo? ¿Cómo, exactamente? News Channel 3-12.
Hence then, the article about realmente la ia matara a todo el mundo como exactamente was published today ( ) and is available on News channel ( Middle East ) The editorial team at PressBee has edited and verified it, and it may have been modified, fully republished, or quoted. You can read and follow the updates of this news or article from its original source.
Read More Details
Finally We wish PressBee provided you with enough information of ( ¿Realmente la IA matará a todo el mundo? ¿Cómo, exactamente? )
Also on site :
- Marshalls Is Selling a Stoneware Baking Dish From a Beloved Brand That Brings Cozy Cookware to Your Kitchen
- Matthew Rhys, Ruth Wilson, Phoebe Dynevor & Harriet Walter Set For Audible Thriller ‘All She Wants For Christmas’
- Partior and LSEG DiSH Collaborate to Bring Always-On Settlement Bank Liquidity to Partior's Cross-Border Payments Network