Anthropic, la empresa detrás del asistente de inteligencia artificial Claude, advirtió sobre los riesgos que podría representar el avance de esta tecnología para la sociedad. La compañía señaló posibles amenazas como ciberataques, acciones autónomas fuera de control e inestabilidad geopolítica.
Las advertencias aparecen en el documento que presentó ante los reguladores estadounidenses como parte de su proceso para salir a bolsa. Según el medio Axios, más de 90 páginas del documento están dedicadas a describir factores de riesgo relacionados con el negocio y el desarrollo de la IA.
La compañía también reconoce que sus propios modelos podrían actuar de formas inesperadas. Estas preocupaciones cobran relevancia a medida que los sistemas de inteligencia artificial adquieren más capacidades y pueden ejecutar tareas con menor intervención humana.
TE PUEDE INTERESAR: Grok lanza siete minutos de su ‘Odisea’ generada por IA
¿Qué riesgos de la IA identifica Anthropic?
- Uno de los principales riesgos señalados por Anthropic es que los sistemas de IA actúen de manera diferente a la esperada por sus desarrolladores o usuarios.
- La empresa advierte que los modelos que no siguen adecuadamente los objetivos para los que fueron diseñados podrían tomar decisiones perjudiciales o ejecutar acciones autónomas difíciles de detectar. En escenarios graves, este comportamiento podría afectar a organizaciones y causar daños a gran escala.
- Anthropic también alerta sobre el impacto social de la adopción masiva de esta tecnología.
- Según la compañía, la concentración de poder y riqueza podría aumentar las desigualdades y contribuir a la inestabilidad entre países.
La IA también puede facilitar los ciberataques
- Otro motivo de preocupación es el uso de herramientas de inteligencia artificial por parte de ciberdelincuentes.
- Estas tecnologías pueden ayudar a identificar vulnerabilidades, generar código malicioso y buscar formas de evadir los sistemas de seguridad.
- Anthropic señala que ya se han registrado ataques que aprovechan capacidades de IA. Además, advierte que el uso indebido de estos sistemas podría extenderse a otros campos sensibles, como la biología, con consecuencias potencialmente más graves.
- El riesgo no se limita a quienes utilizan la tecnología con fines maliciosos. La propia compañía reconoce que sus modelos podrían presentar comportamientos inesperados o actuar de forma autónoma sin que una persona les haya solicitado esas acciones.
Foto: Anthropic.