El alto comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, lanzó este lunes una fuerte advertencia sobre el acelerado desarrollo de la inteligencia artificial y reclamó establecer mecanismos internacionales para regular los sistemas más avanzados.
“Todos los derechos humanos están en riesgo”, afirmó Türk, quien incluyó entre los potencialmente afectados los derechos a la vida, la alimentación, la privacidad, la salud y la seguridad. La advertencia fue formulada en una carta abierta dirigida al cuarto Foro Mundial sobre Inteligencia Artificial, reunido en Riad.
El funcionario sostuvo que la carrera por desarrollar sistemas cada vez más potentes representa un salto hacia riesgos de una magnitud diferente y consideró que la humanidad se encuentra ante la posibilidad de cambios que podrían alcanzar también a las futuras generaciones.
Uno de los principales puntos de preocupación es la llamada IA agéntica, capaz de ejecutar tareas complejas y tomar determinadas decisiones con mayores niveles de autonomía. Según Türk, eventuales fallas de estos sistemas podrían afectar servicios esenciales, las comunicaciones, infraestructuras críticas e incluso el funcionamiento de instituciones democráticas.
El alto comisionado planteó como ejemplo que poblaciones enteras podrían sufrir interrupciones en el acceso al agua, la calefacción o los servicios financieros. También alertó sobre la incorporación de la inteligencia artificial a los conflictos armados y los riesgos que puede generar en materia de seguridad internacional.
Türk aclaró además que las preocupaciones no se limitan a escenarios futuros. Su oficina identifica problemas que ya existen, entre ellos la explotación masiva de datos personales, sistemas de vigilancia, desinformación y automatización de servicios esenciales con potencial impacto sobre sectores vulnerables.
Ante este escenario, reclamó que los Estados y las compañías tecnológicas trabajen en ámbitos multilaterales para establecer una gobernanza internacional de la inteligencia artificial basada en el derecho internacional y los derechos humanos.
El planteo central de Naciones Unidas es que las decisiones sobre los niveles de riesgo aceptables para tecnologías con alcance global no deberían quedar exclusivamente en manos de un país o de las propias empresas desarrolladoras. Türk también pidió mecanismos independientes de evaluación de las capacidades de los sistemas más avanzados.
La advertencia se produce en momentos en que el debate sobre la velocidad con que avanza la IA volvió a instalarse dentro de la propia industria tecnológica, con llamados a reforzar los controles y las evaluaciones de seguridad antes de continuar aumentando las capacidades de los modelos más potentes.
Comentarios de las entradas (0)