Anthropic, empresa de inteligencia artificial (IA), descubrió y detuvo a varios científicos que estaban utilizando sus modelos de IA, como Claude, para avanzar en la investigación de armas biológicas. La compañía ha documentado estos casos en un informe reciente.
El informe detalla cinco estudios de caso en los que los modelos de Anthropic fueron utilizados para desarrollar armas biológicas. Estos casos incluyen investigaciones sobre el virus chikungunya y la gripe aviar, así como el desarrollo de toxinas venenosas. El informe también menciona otros usos inapropiados, como herramientas de vigilancia y creación de exploits de software.
Anthropic ha tomado medidas para prohibir el acceso a sus modelos a quienes los hayan utilizado de manera indebida. Además, está utilizando estos hallazgos para mejorar las salvaguardas y prevenir futuros abusos. La empresa no ha revelado los nombres de los individuos o instituciones involucrados para proteger a los científicos activos.
TE PUEDE INTERESAR: Ciberdelincuentes chinos secuestran sitios web brasileños para fraude
Qué debes saber
- Anthropic detectó y detuvo a científicos que usaban sus modelos de IA para desarrollar armas biológicas.
- El informe documenta cinco estudios de caso detallados, incluyendo investigaciones sobre el virus chikungunya y la gripe aviar.
- La empresa ha prohibido el acceso a sus modelos a quienes los hayan utilizado de manera indebida.
- Estos hallazgos se están utilizando para mejorar las salvaguardas y prevenir futuros abusos.
Especificaciones técnicas
- Modelo de IA: Claude
- Uso inadecuado: Investigación de ganancia de función, desarrollo de toxinas venenosas, herramientas de vigilancia, creación de exploits de software
Contenido generado con IA y editado por el equipo editorial.
Foto: Archivo FOLOU.