Jacob Coxon cuestionó la velocidad con la que avanza el desarrollo de modelos cada vez más potentes y sostuvo que las principales compañías del sector no están actuando con suficiente responsabilidad. Reclamó mayor coordinación y hasta una pausa temporal en el aumento de capacidades de los sistemas.
El ingeniero británico Jacob Coxon, quien trabajó durante los últimos años en OpenAI y posteriormente en Anthropic, decidió abandonar la compañía y lanzó una fuerte advertencia sobre el rumbo que está tomando el desarrollo de la inteligencia artificial.
Coxon sostuvo que las empresas que lideran la carrera tecnológica “no están actuando con responsabilidad” frente a riesgos que, en su opinión, podrían aumentar considerablemente con la aparición de sistemas mucho más capaces que los actuales.
El ingeniero, de 27 años y señalado como uno de los desarrolladores que participó en trabajos relacionados con GPT-4o y GPT-4.5, expuso sus argumentos a través de una serie de publicaciones en X.
Su advertencia se refiere principalmente a escenarios futuros de inteligencia artificial avanzada, y no a que los modelos actualmente disponibles tengan capacidad inmediata para provocar las consecuencias extremas que plantea.
“Están jugando con nuestras vidas”
Coxon utilizó una expresión contundente para describir su preocupación: considera que quienes impulsan la carrera por desarrollar sistemas cada vez más poderosos están “jugando con nuestras vidas”.
Según su planteo, los futuros modelos podrían llegar a superar las capacidades humanas en numerosas áreas, encontrar vulnerabilidades informáticas, acelerar investigaciones y adquirir una capacidad creciente para intervenir sobre sistemas económicos y tecnológicos.
El ingeniero sostiene que dentro de las propias compañías existe conciencia sobre algunos de estos escenarios, aunque observa diferencias entre ellas.
Sobre OpenAI afirmó que sus responsables “tal vez no han internalizado en profundidad los retos civilizacionales”. En el caso de Anthropic, consideró que existe una comprensión mayor del problema, pero que la empresa se encuentra “atrapada en la carrera por llegar primero”.
Se trata de la evaluación personal de Coxon sobre ambas compañías y no de una conclusión independiente acerca del comportamiento o las políticas de seguridad de las empresas.
Reclama coordinación y hasta una pausa
Para el exingeniero de Anthropic, una de las alternativas sería establecer mecanismos de coordinación entre laboratorios y empresas de inteligencia artificial, evitando que la competencia comercial determine por sí sola la velocidad del desarrollo tecnológico.
Coxon llegó a plantear medidas más drásticas, entre ellas una prohibición o pausa temporal para seguir aumentando las capacidades de los modelos, mientras se profundiza la investigación sobre seguridad y control.
También interpeló directamente a quienes trabajan en el sector sobre los riesgos de avanzar hacia sistemas de aprendizaje por refuerzo cada vez más sofisticados sin comprender suficientemente su funcionamiento y comportamiento.
Otro investigador de Anthropic habló de un riesgo superior al 10%
Las declaraciones generaron repercusiones dentro de la propia industria. Evan Hubinger, investigador de Anthropic, coincidió públicamente con parte del diagnóstico de Coxon y afirmó que considera posible un escenario en el que una inteligencia artificial futura represente una amenaza existencial.
Hubinger estimó personalmente ese riesgo en más del 10% durante la próxima década, aunque aclaró que considera bajo el peligro asociado a los modelos disponibles actualmente.
Su preocupación se concentra en un escenario hipotético de superinteligencia capaz de mejorar progresivamente sus propias capacidades, posibilidad sobre la que existe un intenso debate entre especialistas y para la cual no hay consenso sobre probabilidades ni plazos.
Un debate que atraviesa a la industria
Coxon no es el primer especialista que abandona una gran tecnológica para advertir sobre los posibles riesgos asociados con la inteligencia artificial.
Uno de los antecedentes más conocidos es el de Geoffrey Hinton, uno de los pioneros del aprendizaje profundo y posteriormente galardonado con el Nobel de Física, quien dejó Google en 2023 y comenzó a expresarse públicamente sobre los peligros potenciales de esta tecnología.
También exempleados de OpenAI hicieron públicas en 2024 sus preocupaciones acerca de los mecanismos internos de supervisión, la velocidad del desarrollo de la IA y la protección de quienes alertan sobre posibles riesgos.
La salida de Coxon vuelve a poner sobre la mesa una discusión que crece al mismo ritmo que las capacidades de los modelos: hasta dónde acelerar la inteligencia artificial y qué mecanismos de seguridad, regulación y coordinación deberían establecerse antes de desarrollar sistemas sustancialmente más poderosos que los actuales.
Comentarios de las entradas (0)