De acuerdo con el estudio, la IA podía entrar en un ‘modo malvado’ tras aprender a hacer trampas mediante reward hacking.
Anthropic no reveló los nombres de los objetivos, ni si los ataques fueron completamente exitosos hacía su IA Claude.
Claude ahora genera archivos en varios formatos, con opción de guardarlos en Google Drive. Disponible en planes premium y pronto en Pro.
Anthropic empezará a recopilar chats de Claude para entrenar su IA, con participación voluntaria de usuarios Free, Pro y Max.
También se detectó la creación y comercialización de kits de ransomware por hasta 1.200 dólares, diseñados con ayuda de Claude.
Claude agregó una función para buscar y consultar conversaciones previas, disponible desde este lunes en planes Max, Team y Enterprise.
Los usuarios de Android pueden sincronizar conversaciones con Claude en todos sus dispositivos y analizar fotos o archivos en tiempo real.