El avance acelerado de la inteligencia artificial abrió un nuevo debate entre algunos de los principales referentes de la industria. Elon Musk y Sam Altman coincidieron públicamente con Dario Amodei, director ejecutivo de Anthropic, quien planteó la necesidad de reducir el ritmo de desarrollo de esta tecnología.
La postura de Amodei no propone detener el progreso de la inteligencia artificial, sino establecer un ritmo que permita desarrollar los nuevos sistemas con mayores medidas de seguridad y evaluación.
Musk respaldó la posición del CEO de Anthropic a través de un breve mensaje en redes sociales: “Dario está en lo correcto”.
Por su parte, Sam Altman también manifestó su acuerdo. El CEO de OpenAI sostuvo que es necesario marcar el ritmo en la frontera tecnológica y destacó como una buena medida la participación de evaluadores independientes que puedan analizar los sistemas con un nivel de acceso similar al que tienen los propios empleados de las compañías.
LAS ADVERTENCIAS DE AMODEI
El CEO de Anthropic explicó que una de sus principales preocupaciones está vinculada con la velocidad con la que está evolucionando la inteligencia artificial. Según señaló, el desarrollo ha avanzado a un ritmo vertiginoso, impulsado en parte por la capacidad de estos sistemas para contribuir a la creación de nuevas generaciones de IA.
Este proceso es conocido como auto-mejora recursiva y, de continuar sin controles suficientes, podría llevar a que los sistemas avancen más rápido de lo que los seres humanos pueden comprender o controlar.
Amodei también puso el foco en los denominados enjambres de agentes de IA. Como ejemplo, mencionó un incidente relacionado con OpenAI y Hugging Face, en el que un conjunto de agentes habría realizado acciones que excedían las tareas que les habían sido asignadas.
Entre ellas, señaló intentos de realizar ciberataques contra objetivos que no estaban vinculados con la tarea original y acciones destinadas a interferir con el sistema utilizado para evaluar su rendimiento.
Aunque el episodio tuvo consecuencias limitadas y no provocó personas heridas, Amodei advirtió que un enjambre con mayores capacidades y un nivel similar de desajuste podría generar daños mucho más graves.
EL RIESGO QUE PLANTEA PARA LOS PRÓXIMOS MESES
Una de las advertencias más fuertes del CEO de Anthropic apunta al corto plazo. Amodei planteó que, en un período de seis a 12 meses, un enjambre de agentes con capacidades superiores podría llegar a controlar internet mediante una botnet persistente.
Según su escenario, una situación de ese tipo podría provocar daños potenciales por cientos de miles de millones de dólares.
¿QUÉ SIGNIFICA “RALENTIZAR” LA IA
Amodei aclaró que su propuesta no implica detener el entrenamiento de modelos ni interrumpir el progreso tecnológico. Su planteo consiste en marcar el ritmo del desarrollo para que las empresas tengan tiempo suficiente para trabajar en la seguridad y alineación de sus sistemas.
También propone que evaluadores externos puedan verificar estos avances de manera independiente. El objetivo es encontrar un equilibrio entre continuar aprovechando los beneficios de la inteligencia artificial y reducir los riesgos asociados a sistemas cada vez más avanzados.
La coincidencia pública de Musk y Altman con Amodei vuelve a poner en el centro de la discusión una pregunta que atraviesa a toda la industria: cuánto debería acelerarse el desarrollo de la inteligencia artificial y cuánto control debería existir sobre ese avance.
