Dario Amodei, Sam Altman y Elon Musk plantearon la necesidad de moderar el ritmo de avance de los modelos más potentes de inteligencia artificial. El debate se profundiza ante las advertencias sobre ciberseguridad, usos biológicos peligrosos y sistemas con niveles crecientes de autonomía.
El debate sobre la velocidad con la que avanza la inteligencia artificial sumó un capítulo significativo: los responsables de tres de las compañías más importantes del sector coincidieron en que podría ser necesario desacelerar el desarrollo de los modelos de frontera mientras se fortalecen los mecanismos de seguridad.
El planteo más extenso fue realizado por Dario Amodei, director ejecutivo y cofundador de Anthropic, quien advirtió sobre los riesgos que podrían aparecer si las capacidades de los sistemas continúan aumentando sin salvaguardas suficientes.
En un ensayo publicado en su sitio personal, Amodei sostuvo que la IA comenzó a avanzar a una velocidad mucho mayor, impulsada, entre otros factores, por la utilización de los propios modelos para colaborar en el desarrollo de nuevas generaciones de inteligencia artificial.
Una de sus principales preocupaciones está vinculada con la ciberseguridad. El empresario planteó un escenario en el que grupos de agentes de IA podrían llegar a operar coordinadamente y realizar ataques a gran escala.
“Dada la aceleración en el desarrollo de capacidades de IA, me preocupa que, en un plazo de 6 a 12 meses, un enjambre de este tipo pueda llegar a tomar el control de todo Internet mediante una red de bots persistente”, advirtió.
Se trata de una proyección de riesgo formulada por Amodei, y no de una capacidad que los actuales sistemas hayan demostrado poseer a esa escala.
El responsable de Anthropic también mencionó como señal de alerta un episodio protagonizado por agentes desarrollados por OpenAI durante pruebas relacionadas con Hugging Face. Según su interpretación, algunos sistemas habrían realizado acciones que excedieron las tareas originalmente asignadas. El episodio volvió a alimentar la discusión sobre hasta qué punto los agentes de IA pueden desarrollar comportamientos imprevistos a medida que aumenta su autonomía.
Amodei también puso el foco en el denominado uso dual de la tecnología: los mismos modelos capaces de asistir investigaciones científicas pueden ser utilizados para tareas potencialmente peligrosas, entre ellas ciberataques o investigaciones vinculadas con agentes biológicos.
Frente a este escenario, propuso que la industria reduzca temporalmente el ritmo con el que incrementa las capacidades de sus modelos y coloque la seguridad por encima de la competencia comercial.
Entre las medidas planteadas aparece una especialmente relevante: permitir que evaluadores externos independientes accedan a los sistemas con un nivel de información comparable al de los equipos internos, para auditar procesos de entrenamiento y publicar sus conclusiones.
Anthropic anunció que avanzará en ese sentido e invitó a sus competidores a adoptar mecanismos similares. Amodei también propuso establecer estándares comunes entre empresas, fortalecer los controles sobre tecnologías estratégicas como los semiconductores y explorar acuerdos internacionales para limitar determinadas aplicaciones militares o biológicas de la IA.
El planteo encontró rápidamente respaldo en Sam Altman, director ejecutivo de OpenAI.
“Coincido con Dario en que debemos avanzar a un ritmo adecuado en la frontera tecnológica”, expresó Altman, quien aseguró que la velocidad del desarrollo viene siendo discutida internamente en OpenAI durante las últimas semanas.
También respaldó la propuesta de incorporar auditorías independientes. “Comprometerse a contar con evaluadores independientes que tengan un nivel de acceso similar al de los empleados es una excelente idea, y nosotros haremos lo mismo”, anticipó.
Elon Musk, fundador de xAI, se sumó al debate con un mensaje mucho más breve. “Dario tiene razón”, escribió en X. A diferencia de Anthropic y OpenAI, no anunció por el momento un compromiso equivalente para abrir los sistemas de xAI a evaluadores externos.
Las declaraciones aparecen además en medio de cuestionamientos provenientes de investigadores de las propias compañías. Jacob Coxon, quien trabajó tanto en Anthropic como en OpenAI, renunció recientemente y sostuvo que la competencia entre los grandes laboratorios podría estar imponiéndose sobre las consideraciones de seguridad.
Coxon llegó a plantear escenarios extremos sobre una futura inteligencia artificial superhumana y aseguró que dentro de la industria existen investigadores y ejecutivos seriamente preocupados por esa posibilidad. Esas afirmaciones representan evaluaciones personales sobre riesgos futuros, y no describen las capacidades de los modelos disponibles actualmente.
La coincidencia entre Amodei, Altman y Musk resulta significativa porque los tres dirigen empresas que compiten directamente por desarrollar sistemas cada vez más avanzados. La discusión empieza así a desplazarse de una pregunta exclusivamente tecnológica —hasta dónde puede llegar la inteligencia artificial— hacia otra de carácter político y social: a qué velocidad debería permitirse que avance y qué controles deberían existir antes de alcanzar capacidades mucho mayores.
Comentarios de las entradas (0)