El director ejecutivo de Anthropic, Dario Amodei, pide que se reduzca la velocidad del desarrollo de modelos de inteligencia artificial (IA) para permitir un mejor control y evaluación de sus capacidades. Según Amodei, esto no implica detener el desarrollo, sino dar más tiempo para reforzar las medidas de seguridad.
La propuesta de Amodei incluye tres etapas: acceso a evaluadores externos, coordinación entre empresas y acuerdos internacionales. La idea es que los sistemas de IA puedan ser revisados y evaluados antes de aumentar su capacidad, evitando así riesgos potenciales.
Este llamado surge ante la preocupación por la automejora recursiva, donde sistemas de IA participan en el entrenamiento de generaciones posteriores, lo que podría acelerar su capacidad más allá de la comprensión y control humano. El planteamiento busca equilibrar el avance tecnológico con la necesidad de proteger la seguridad y privacidad.
TE PUEDE INTERESAR: Apple ofrece funciones satelitales gratis por un año a iPhone antiguos
Qué debes saber
- Dario Amodei, CEO de Anthropic, propone frenar el avance de la IA para mejorar la seguridad.
- La propuesta incluye tres etapas: acceso a evaluadores externos, coordinación entre empresas y acuerdos internacionales.
- Se busca evitar riesgos como la automejora recursiva, donde sistemas de IA se auto-entrenan.
Contenido generado con IA y editado por el equipo editorial.
Foto: Anthropic.