Elon Musk propuso que las principales empresas desarrolladoras de inteligencia artificial sometan sus modelos a evaluaciones cruzadas de seguridad antes de lanzarlos al público, en medio del creciente debate dentro de la industria sobre los riesgos asociados con sistemas cada vez más avanzados.
El empresario planteó la iniciativa durante su participación remota en el All-In Summit, realizado en Los Ángeles, donde sostuvo que las compañías no deberían depender únicamente de sus propios mecanismos internos para determinar si un nuevo modelo resulta seguro.
“Creo que lo más sensato sería, cuanto antes —si no de inmediato—, que los principales competidores en IA probaran los modelos de los demás”, explicó Musk.
La propuesta consiste en que cada empresa pueda aplicar sus propios sistemas de evaluación y pruebas de seguridad sobre los modelos desarrollados por sus competidores antes de que estos sean liberados al público.
Una suerte de auditoría entre competidores
Musk mencionó específicamente a xAI, OpenAI, Anthropic, Google y Meta, y consideró que el mecanismo debería extenderse también a “tres o cuatro” de las principales compañías chinas dedicadas al desarrollo de inteligencia artificial.
“En lugar de corregir tu propia tarea, al menos tendrías a competidores evaluándola y dando la voz de alarma si detectan algún motivo de preocupación”, explicó.
Según Musk, permitir que diferentes equipos especializados sometan un mismo modelo a sus propias pruebas aumentaría las posibilidades de detectar vulnerabilidades, comportamientos engañosos o capacidades potencialmente peligrosas antes de su lanzamiento.
El empresario reconoció que este sistema no eliminaría todos los riesgos y que eventualmente podrían establecerse regulaciones adicionales. Sin embargo, consideró que las evaluaciones cruzadas constituyen una medida que las compañías podrían comenzar a implementar de manera inmediata.
También planteó la posibilidad de alcanzar algún tipo de acuerdo con empresas de China para establecer mecanismos similares de revisión entre los principales desarrolladores internacionales.
Crece el debate por la seguridad de la IA
La propuesta aparece en un momento particular para la industria tecnológica. Durante los últimos días, responsables de algunos de los principales laboratorios de inteligencia artificial expresaron públicamente su preocupación por la velocidad con la que aumentan las capacidades de los nuevos sistemas.
El CEO de Anthropic, Dario Amodei, reclamó recientemente desacelerar el crecimiento de las capacidades de los modelos para permitir que los mecanismos de seguridad y supervisión puedan acompañar su evolución. Su planteo recibió respaldo público de otros referentes del sector.
Las advertencias se concentran, entre otros puntos, en la creciente autonomía de los agentes de IA, su utilización en ciberataques, las dificultades para interpretar algunos de sus procesos internos y los problemas que podrían surgir si sistemas futuros desarrollaran capacidades que superen los mecanismos existentes para supervisarlos.
No existe, sin embargo, consenso dentro de la industria sobre la magnitud de esos riesgos ni sobre la conveniencia de desacelerar el desarrollo tecnológico. Otros referentes sostienen que las evaluaciones independientes pueden reforzarse sin necesidad de frenar el avance de los modelos.
En ese escenario, la iniciativa de Musk introduce una alternativa concreta al debate: que quienes mejor conocen cómo poner a prueba una inteligencia artificial —sus propios competidores— participen también en la evaluación de su seguridad antes de que llegue a los usuarios.
Comentarios de las entradas (0)