La compañía informó que detectó durante 2026 consultas que podrían haber contribuido al desarrollo de patógenos peligrosos. Reconoció, sin embargo, que no pudo determinar si detrás de esos casos existían intenciones maliciosas y decidió bloquearlos de manera preventiva.
Anthropic informó que durante este año detectó y bloqueó varios usos de sus modelos de inteligencia artificial relacionados con investigaciones biológicas potencialmente peligrosas, ante la posibilidad de que pudieran contribuir al desarrollo de armas biológicas.
La compañía estadounidense, desarrolladora del chatbot Claude, señaló que sus sistemas identificaron consultas que despertaron alertas por el tipo de información solicitada. Sin embargo, hizo una aclaración importante: no pudo establecer que quienes realizaron esas investigaciones estuvieran efectivamente intentando fabricar armas biológicas.
Ante la incertidumbre y el riesgo potencial, la empresa optó por impedir que sus modelos continuaran proporcionando asistencia.
“Si bien las evaluaciones son útiles porque proporcionan evidencia de capacidad, no pueden demostrar concretamente que dicha capacidad se utilizaría alguna vez para desarrollar armas biológicas en el mundo real”, explicó Anthropic.
El problema del “doble uso” de la IA
El caso vuelve a colocar en discusión uno de los principales desafíos que acompañan el desarrollo de sistemas cada vez más avanzados: una misma capacidad puede utilizarse tanto con objetivos científicos legítimos como para actividades peligrosas.
Los modelos de IA pueden colaborar, por ejemplo, con investigadores en el análisis de información científica o biológica. Pero algunas de esas capacidades también podrían facilitar conocimientos que requieran controles especiales.
Anthropic aseguró que hasta el momento no conoce evidencia publicada por empresas privadas que demuestre que una plataforma comercial de inteligencia artificial haya sido utilizada efectivamente para desarrollar un arma biológica.
Por eso, la compañía diferencia entre detectar comportamientos potencialmente riesgosos y comprobar la existencia de un proyecto real destinado a fabricar este tipo de armas.
Claude y otros usos indebidos
La empresa publicó además información sobre distintos episodios detectados durante los últimos ocho meses en los que sus modelos, incluido Claude, habrían sido utilizados de maneras contrarias a sus políticas.
Entre los casos analizados aparecen actividades vinculadas con usuarios de China, Rusia y Yemen, aunque los episodios corresponden a diferentes modalidades de utilización indebida y no necesariamente a investigaciones relacionadas con armas biológicas.
Anthropic señaló que viene desarrollando mecanismos específicos destinados a detectar consultas peligrosas, limitar determinadas capacidades y bloquear usuarios o interacciones cuando identifica riesgos relevantes.
El informe aparece en medio de una discusión creciente dentro de la propia industria tecnológica sobre cómo impedir que las nuevas capacidades de la inteligencia artificial sean aprovechadas para actividades dañinas.
La cuestión plantea un dilema que probablemente gane importancia a medida que los modelos sean más potentes: cómo conservar las aplicaciones científicas y productivas de la IA sin facilitar conocimientos o capacidades que puedan utilizarse con fines peligrosos.
Comentarios de las entradas (0)