Sam Altman planteó internamente la posibilidad de moderar el ritmo de desarrollo de los modelos más avanzados y buscar acuerdos con otras compañías del sector. OpenAI ya frenó temporalmente algunos entrenamientos al considerar que las medidas de seguridad necesitaban reforzarse.
OpenAI analiza la posibilidad de reducir el ritmo de desarrollo de sus sistemas de inteligencia artificial más avanzados cuando considere que las capacidades evolucionan más rápido que las medidas destinadas a mantenerlos bajo control.
Según informó Bloomberg, el CEO de la compañía, Sam Altman, abordó esta semana el tema durante una reunión con empleados y planteó que una eventual desaceleración podría requerir coordinación con otros grandes laboratorios de inteligencia artificial.
La discusión no es solamente teórica. OpenAI confirmó recientemente que redujo temporalmente el ritmo de escalamiento y realizó una pausa de dos semanas en determinados entrenamientos mediante aprendizaje por refuerzo, mientras reforzaba sus sistemas de monitoreo y seguridad. Una de sus mayores pruebas de entrenamiento previstas continúa suspendida mientras realiza evaluaciones a menor escala.
“Ralentizar o detener” cuando el riesgo sea demasiado alto
La posición también aparece en documentos publicados esta semana por la propia compañía. OpenAI afirmó que, cuando detecte que avanzar supone un riesgo de seguridad que no puede controlar adecuadamente, contempla ralentizar o detener el desarrollo o despliegue de esos sistemas.
El científico jefe de OpenAI, Jakub Pachocki, fue todavía más explícito al señalar que el rápido crecimiento de las capacidades de los modelos exige “extrema cautela” y que las medidas adoptadas individualmente por cada laboratorio podrían resultar insuficientes.
La compañía sostiene ahora que deberían existir criterios compartidos entre los principales desarrolladores para determinar en qué circunstancias el avance de la IA debe desacelerarse o detenerse, incluso cuando eso implique postergar mejoras en las capacidades de los modelos.
Una discusión que atraviesa a toda la industria
El debate se intensificó después de una serie de advertencias formuladas por investigadores vinculados con OpenAI, Anthropic y Google DeepMind sobre los riesgos asociados con sistemas cada vez más autónomos y capaces.
Altman ya había conversado en julio con funcionarios de la Casa Blanca sobre la necesidad de establecer mecanismos para moderar el ritmo de desarrollo de la IA, según informó Bloomberg.
La cuestión expone uno de los principales dilemas que enfrenta actualmente la industria: cada compañía tiene incentivos comerciales y tecnológicos para avanzar rápidamente, pero una desaceleración unilateral podría perder eficacia si sus competidores continúan aumentando las capacidades de sus propios modelos.
Por eso OpenAI viene defendiendo una coordinación más amplia. Altman y Pachocki habían planteado en junio la posibilidad de establecer mecanismos internacionales que permitan tomar acciones conjuntas, incluida una eventual ralentización del desarrollo de la IA de frontera cuando los avances en seguridad y alineación no consigan acompañar el crecimiento de sus capacidades.
El cambio de tono resulta significativo: la discusión dentro de los principales laboratorios ya no gira únicamente alrededor de cuánto puede avanzar la inteligencia artificial, sino también de cuándo puede resultar necesario decidir conscientemente no avanzar más rápido.
Comentarios de las entradas (0)