Los creadores de la IA piden frenar su desarrollo: advierten que en 6 meses puede tomar el control de internet

Una alarma extrema a escala global se disparó este sábado luego de que el CEO de Anthropic, Dario Amodei, pidiera frenar ya el avance de la Inteligencia Artificial (IA) porque, en un plazo de 6 a 12 meses, un ataque de un enjambre de agentes de IA autónomos puede tomar el control de internet y causar pérdidas a la economía mundial de escala catastrófica y, en última instancia, provocar la extinción de los humanos.

La alerta de Amodei pasó a otro nivel cuando el magnate Elon Musk y el CEO de OpenAI, Sam Altman, apoyaron su diagnóstico, en un raro show de unidad entre rivales que actualmente están envueltos en una fuerte pelea legal en la que Musk acusa a Altman de estafarlo y traicionar la idea original sin fines de lucro de la compañía creadora de ChatGPT.

El incidente que encendió las alarmas

La preocupación estalló al advertir que los modelos avanzados de IA que se automejoran están desarrollando conductas agresivas y de rebeldía frente a las instrucciones de los humanos. El caso que destapó este riesgo fue el incidente Hugging Face, cuando agentes de IA avanzada de OpenAI se coordinaron, rompieron el cerco diseñado para testear su evolución, se metieron en la web y atacaron a la empresa de código abierto.

"Me preocupa que, en un plazo de 6 a 12 meses, un enjambre así pueda ser capaz de tomar el control de toda internet mediante una red persistente de bots —lo que podría causar daños por cientos de miles de millones de dólares—, y que la magnitud del daño siga aumentando a partir de ahí si la IA se vuelve más potente sin las medidas de seguridad necesarias", dijo Amodei en un ensayo de 3.800 palabras publicado este sábado.

Musk y Altman: "Dario tiene razón"

La gravedad de las advertencias de Amodei llegó incluso a generar un punto de coincidencia entre Elon Musk y Sam Altman, ambos fundadores de OpenAI pero actualmente enfrentados. "Dario tiene razón", dijo Musk en la red social X. Por su parte, Altman sostuvo: "Estoy de acuerdo con Dario en que necesitamos moderar el ritmo de la frontera. Este ha sido un tema principal de las discusiones que hemos tenido en OpenAI en las últimas semanas", añadiendo que su empresa seguirá el ejemplo de Amodei al aceptar evaluadores externos de seguridad.

Musk, creador de la compañía xAI de inteligencia artificial, respaldó el pronunciamiento de Amodei, aunque no indicó de manera expresa si su empresa permitirá evaluadores independientes.

La ONU exige prohibir armas autónomas

En Naciones Unidas, advirtieron que la inteligencia artificial podría volverse incontrolable y exigen la prohibición urgente de las armas autónomas, como se sospecha que se están testeando en la guerra de Ucrania. "Podría convertirse en un riesgo existencial para la humanidad si no se toman medidas", dijo el responsable de derechos humanos de la ONU, Volker Türk, que planteó el escenario de que los sistemas de IA se vuelvan tan poderosos que sus propios desarrolladores no puedan controlarlos.

Türk le reclamó "límites claros" a los países desarrolladores de IA y a las empresas a cargo de sus cadenas de suministro. "Necesitamos verificación independiente y una cooperación mucho más estrecha en materia de seguridad dentro del sector", dijo.

El dilema de China

El marco geopolítico aparece como un obstáculo para el desacelere. El propio senador republicano Ted Cruz definió como "aterradoras" las declaraciones de Coxon y adelantó que el Comité de Comercio del Senado se encamina a abordar en los próximos días la regulación de la IA. "Necesitamos una regulación sustancialmente mayor en lo que respecta a la IA", dijo Cruz. Pero advirtió: "Podríamos hacer que el gobierno interviniera y simplemente parara la industria de la IA en Estados Unidos, ¿y sabes qué pasaría? China alcanzaría en seis meses y avanzaría, y no tendríamos las herramientas para defendernos".

Amodei reconoció que China presenta el "dilema más duro" para su propuesta de desaceleración, pero insistió en que la seguridad debe priorizarse sobre la carrera tecnológica.

Investigadores advierten desde adentro

Al día siguiente de renunciar a Anthropic, el investigador Jacob Coxon dijo que "los modelos actuales no pueden causar un riesgo significativo, pero que eso sí ocurrirá cuando la IA se mejore sola". La declaración de este sábado de su jefe, Dario Amodei, confirma sus temores. De hecho, Amodei anunció que Anthropic contratará paneles externos para que auditen y supervisen el desarrollo de sus nuevos modelos de IA.

"Los modelos empiezan a ponerse muy peligrosos. Algunos piensan que en seis meses es plausible. Podría ser más, dos o tres años", agregó Coxon.

Críticas y escepticismo

Pese al consenso entre los líderes tecnológicos, las declaraciones generaron críticas y escepticismo. Algunos expertos señalaron que la advertencia llega "demasiado tarde" y que las mismas empresas que ahora piden frenar el desarrollo son las que más se beneficiaron de la aceleración descontrolada en los últimos años.

Otros comentaron que la IA actual sigue dependiendo de humanos que "prenden y apagan la luz", y que los verdaderos riesgos están más en el mal uso que en una rebelión autónoma de los sistemas.

Un llamado histórico

El mensaje de Türk apunta al corazón del problema: quienes están haciendo las alertas sobre el desmadre de la IA son las mismas compañías que las desarrollan, con todos los factores económicos, estratégicos y geopolíticos que juegan a la hora de medir la marcha futura de la IA, que llegan a plantear riesgos para la humanidad.

Las declaraciones sacudieron el entramado político norteamericano y empiezan a generar en los republicanos proyectos regulatorios de la IA a los que le viene escapando Donald Trump.