IA y riesgo existencial: las advertencias que preocupan a los investigadores

En las últimas semanas, las advertencias sobre los peligros potenciales de la IA han impulsado llamados a la acción coordinada para desacelerar el desarrollo de esta tecnología.

Las afirmaciones de investigadores actuales y anteriores de que la IA pondrá en peligro a la humanidad -uno de ellos incluso sugiere que hay más de un 10% de probabilidades de que “mate a todos los humanos”- han hecho saltar las alarmas.

Los principales desarrolladores, OpenAI y Anthropic, han instado a los legisladores a regularlo, aunque algunos sugieren, quizás con cierto cinismo, que esta medida pretende afianzar su dominio sobre sus rivales.

En cualquier caso, las acusaciones de gran repercusión han causado preocupación.

Esto es lo que sabemos.

¿Por qué algunas personas piensan que la IA podría ser una amenaza?

Algunos investigadores de IA afirman que existen señales preocupantes de que sus sistemas están desarrollando sus capacidades y potencia con demasiada rapidez.

Evan Hubinger acaparó los títulares de las noticias al afirmar que existe una probabilidad superior al 10 % de que la IA “pueda acabar con todos los humanos” en la próxima década.

Hubinger trabaja en el campo de la alineación, que busca incorporar ideas y principios éticos humanos a la IA. En otras palabras, pretende que se alinee con los valores humanos.

Aunque dijo que el riesgo de los sistemas actuales es “bajo”, sus comentarios se produjeron cuando otro investigador abandonó Anthropic y advirtió que quienes desarrollan la tecnología están perdiendo el control sobre ella.

Jacob Coxon declaró a la BBC que él y otros miembros del equipo están “genuinamente asustados” por la velocidad de los avances y lo que esto podría significar para la humanidad.

Estas preocupaciones son las más recientes de una larga serie de temores sobre el potencial de la IA para amenazar a la humanidad si llega a igualar o superar las capacidades humanas.

Es algo que se remonta a décadas atrás, cuando Alan Turing escribió en la década de 1950 que, si las máquinas inteligentes llegaran a ser posibles, podrían tomar el control.

En los últimos años, las principales empresas de IA han estado compitiendo por desarrollar sistemas cada vez más capaces, tanto para obtener beneficios como en su afán por crear lo que denominan superinteligencia: una tecnología teórica más inteligente que los humanos.

A diferencia de los sistemas y herramientas que muchas personas utilizan a diario para realizar tareas como escribir correos electrónicos o generar videos, los sistemas de IA superinteligentes deberían ser capaces de manejar tareas mucho más complejas.

OpenAI y Anthropic defienden que su objetivo es impulsar esta tecnología de forma que beneficie a los seres humanos y los proteja de sus riesgos existenciales.

Pero algunos críticos creen que las máquinas nunca podrán igualar a los humanos.

Afirman que las empresas de IA exageran las capacidades de la tecnología para aumentar su notoriedad o sus ganancias.

¿Cómo creen los expertos que la IA podría amenazar a la humanidad?

Investigadores, expertos y directivos en inteligencia artificial, preocupados por el potencial de esta tecnología para poner en peligro a la humanidad, han esbozado escenarios inquietantes.

El cofundador y director ejecutivo de Anthropic, Dario Amodei, escribió que la IA ha avanzado “mucho más rápido” de lo esperado, incluso en su “capacidad para construir la próxima generación de IA”.

Existe la preocupación de que la IA, una vez alcanzado cierto punto, pueda, en teoría, comenzar a mejorarse a sí misma sin intervención humana.

Estos temores surgieron tras un incidente reciente en el que herramientas de inteligencia artificial piratearon sitios web sin haber recibido ninguna solicitud para ello.

Algunos investigadores preocupados han afirmado que quienes están en el centro de su desarrollo temen cada vez más perder el control de los sistemas conocidos como “agentes de IA”.

Se trata de herramientas dotadas de la capacidad de ejecutar tareas y acciones de forma independiente.

Otros escenarios contemplan el uso de sistemas de IA altamente inteligentes para amplificar o dirigir el espionaje, los ciberataques o la guerra biológica, o para perturbar las economías, ya sea por accidente o de forma intencionada.

Sin embargo, tales advertencias son proféticas, hipotéticas y, para algunos, una completa exageración.

Algunos expertos también critican el hecho de que se hable de los riesgos existenciales en lugar de los que ya se están produciendo, como el uso de herramientas de generación de imágenes para crear deepfakes (imágenes artificiales hiperrealistas) de mujeres desnudas sin consentimiento, desinformar a la gente y amplificar las estafas.

Un grupo multipartidista de parlamentarios británicos publicó un informe que describe los riesgos para los derechos humanos que plantea la IA y sugiere que se necesitan nuevas leyes para “abordar la magnitud y la gravedad” de dichas amenazas.

¿Cuáles son las propuestas para una “ralentización de la IA”?

Dario Amodei, de Anthropic, y Sam Altman, director ejecutivo de OpenAI, han pedido regulación y una “ralentización” del desarrollo de esta tecnología.

No es la primera vez que los directivos o voces más amplias del sector claman por este tipo de medidas.

Pero las preguntas siguen acumulándose sobre cómo sería realmente cualquier tipo de “desaceleración”, respaldada también por el jefe de SpaceX, Elon Musk.

Amodei señaló que eso no significaría “detener la formación de los modelos ni el progreso técnico”.

En cambio, quiere que las empresas “se tomen el tiempo necesario” para salvaguardar la IA que están desarrollando y que soliciten a “evaluadores externos” que revisen su trabajo.

En una publicación en X, Altman dijo que es necesario dosificar el desarrollo y precisó: “cuando hablamos de ‘dosificar’ no nos referimos a ‘detener’”.

“El progreso ha sido rápido y seguirá siéndolo”, afirmó. “Pero debería ser más lento de lo que podría ser de otro modo; intervenciones como los estudios de seguridad y la monitorización tienen costos significativos”.

El cofundador de OpenAI también afirmó que las empresas no esperan, ni esperarán, a que los gobiernos actúen.

¿Qué dice Trump?

El presidente de EE.UU., Donald Trump, ha elogiado los beneficios de la IA y defendido a las empresas estadounidenses que lideran su desarrollo.

Su gobierno ha firmado órdenes ejecutivas para reconocer la “importancia estratégica” de esta tecnología para la economía y acelerar su desarrollo.

“Creemos que estamos en una carrera por la inteligencia artificial, y queremos que EE.UU. gane esa carrera”, dijo David Sacks, jefe de criptografía de la administración estadounidense, en julio de 2025.

Ante las recientes advertencias sobre su impacto potencial en la humanidad, el presidente Trump restó importancia a los riesgos que plantea la IA.

“Hay muchas fuerzas muy negativas que están sacando a relucir este tema, cuando no deberían hacerlo, y están mencionando cosas que no van a suceder”, dijo Trump durante una visita a Irlanda.

No abordó directamente la idea de una desaceleración, pero les dijo a los periodistas: “Estamos liderando a China en IA… y, francamente, quiero que siga siendo así porque quien gane en IA, gana”.

Este lunes, se sumó al debate del fin de semana afirmando que “el único control o ‘barreras de seguridad’ que necesita la IA es un presidente fuerte e inteligente (¡con un alto coeficiente intelectual!), y Estados Unidos lo tiene, ¡y de sobra!”, escribió en Truth Social.

“La administración Trump ha impedido que los ‘seres’ de la IA hagan ‘cosas’ malas, o potencialmente malas, como Dario (¡de Anthropic!), quien ahora finge ser un ‘angelito perfecto’… ¡y seguiremos haciéndolo! ¡Ya tenemos un enorme poder PENAL y REGULATORIO sobre estas empresas! Hay una conspiración ENFERMIZA en marcha contra la IA y los centros de datos, y el único que se alegra de ello es China”.

Y criticó a los “teóricos de la conspiración, traidores a la patria, traidores y filtradores”.

¿Qué dice China?

China se había mantenido en silencio en respuesta a la oleada de alarmantes advertencias de investigadores de empresas estadounidenses.

Ante la feroz competencia y las limitaciones en su acceso a los componentes y chips estadounidenses que se utilizan para construir infraestructura de IA, el país ha impulsado el desarrollo nacional de esta tecnología.

Al mismo tiempo, ha pedido una mayor gobernanza global de la IA.

El despliegue de sistemas y herramientas de IA de código abierto y con gran capacidad por parte de laboratorios chinos ha sacudido los mercados y desarrolladores occidentales en los últimos años.

Amodei advirtió, al pedir que se ralentice el desarrollo de la IA, que el progreso y la competencia de China en este campo crearían riesgos para la seguridad nacional de Estados Unidos.

El Ministerio de Asuntos Exteriores chino criticó los comentarios, calificándolos de discursos de amenaza, confrontación y competencia maliciosa que no benefician a nadie.

Este artículo fue escrito originalmente en inglés y usamos una herramienta de inteligencia artificial para traducirlo. Un periodista de la BBC revisó el texto antes de su publicación. Más información sobre cómo usamos IA.

• Descarga la nueva app del BBC World Service. Elige BBC News Mundo y recibe alertas de noticias, documentales y análisis, todo en un solo lugar. Importante: la nueva aplicación no está disponible en Reino Unido ni Estados Unidos.
• También puedes seguirnos en YouTube, Instagram, TikTok, Facebook, X y en nuestro canal de WhatsApp.
• Y no olvides suscribirte aquí a nuestro newsletter para recibir cada viernes una selección especial de nuestro mejor contenido.