Un estudio reciente reveló que introducir apenas 250 documentos maliciosos en el entrenamiento de un modelo de lenguaje puede comprometer su seguridad. Investigadores de Anthropic, junto con instituciones como el UK AI Security Institute y el Alan Turing Institute, analizaron cómo ciberatacantes podrían manipular modelos de inteligencia artificial durante la fase inicial de aprendizaje.
El ataque se basa en una técnica conocida como ‘envenenamiento de datos’, donde los modelos absorben información diseñada específicamente para enseñarles comportamientos peligrosos o indeseados. Los investigadores descubrieron que un número constante de documentos maliciosos tiene un impacto similar independientemente del tamaño del modelo. Esto significa que tanto sistemas pequeños como gigantescos corren el mismo riesgo si los datos de entrenamiento no están bien protegidos.
Este estudio destaca la necesidad de reforzar las medidas de seguridad en el desarrollo de inteligencia artificial. A medida que más empresas invierten en estas tecnologías, comprender sus debilidades es crucial para prevenir futuros ataques. Además, sirve como advertencia para desarrolladores y reguladores sobre la importancia de garantizar la calidad y la integridad de los datos utilizados durante el entrenamiento.
TE PUEDE INTERESAR: Uso indebido de IA es un delito en Colombia: esto es lo que no debes hacer
Qué debes saber
- Unos 250 documentos maliciosos pueden comprometer modelos de IA.
- El ataque funciona independientemente del tamaño del modelo.
- La investigación fue realizada por Anthropic en colaboración con instituciones clave.
- Se busca concienciar sobre vulnerabilidades y mejorar defensas.
«Estamos compartiendo estos hallazgos para mostrar que los ataques de envenenamiento de datos podrían ser más prácticos de lo que se creía».
— Anthropic
Contenido generado con IA y editado por el equipo editorial.
Foto: Glen Carrie en Unsplash.