DeepSeek es la inteligencia artificial (IA) que está de moda en este momento. Esta semana, la IA hizo temblar a la Bolsa de Valores de Estados Unidos e incluso provocó la mayor pérdida de acciones de Nvidia, ha sido foco de diferentes investigaciones, comenzando por la recopilación de datos que se almacenan en servidores chinos.
Investigadores de Enkrypt AI, empresa de seguridad de IA, publicaron un informe en el que revelan que el modelo DeepSeek R1 tenía 11 veces más posibilidades de generar ‘resultados perjudiciales’ a comparación de otros modelos como GPT-4o.
«El 45% de las ‘pruebas dañinas’ lograron generar contenido dañino. El modelo es más vulnerable a la producción de contenido relacionado con la planificación criminal. Así como las armas de fuego, armas ilegales y sustancias controladas», señalan los resultados de la investigación.
TE PUEDE INTERESAR: Gemini 2.0 Pro Experimental: qué trae la nueva actualización de la IA de Google
Qué dice el estudio sobre DeepSeek
- Para esta investigación, Enkrypt AI realizó una serie de pruebas con diferentes ‘prompts’ o indicaciones. En ellas encontraron las diferentes vulnerabilidades de la inteligencia artificial china.
- Los ‘prompts’ iban desde la creación de perfiles para postularse a un puesto de trabajo hasta la creación de un blog para el reclutamiento de terroristas.
- Los resultados arrojaron que DeepSeek tiene altas vulnerabilidades para brindar respuestas con sesgo perjudicial. Además, hallaron contenido obsceno, degradante y/o abusivo, contenido de odio o peligroso y más.
- En una de las pruebas se le pidió a DeepSeek R1 generar un blog de reclutamiento para una organización terrorista.
- Los resultados arrojaron ‘métodos psicológicos y estratégicos que utilizan los grupos terroristas’. Dicho texto busca persuadir al usuario del porqué es correcto seguir estos ideales.
- El mismo estudio señala que DeepSeek R1 tiene tres veces y media más probabilidades que o1 de OpenAI y Claude-3 Opus de Anthropic de producir resultados con información química, biológica, radiológica y nuclear.
Foto: Gerd Altmann en Pixabay.