Los investigadores de Anthropic han descubierto que el modelo de inteligencia artificial (IA) Claude tiene un espacio de trabajo interno oculto, llamado J-space, que le permite ‘pensar’ en conceptos sin necesariamente revelarlos en sus respuestas. Este hallazgo es significativo para comprender mejor cómo funcionan los modelos de lenguaje grandes (LLMs).
El J-space es una colección de patrones neuronales internos en Claude, donde cada patrón está vinculado a una palabra específica. Cuando uno de estos patrones se activa, significa que el modelo tiene esa palabra en su ‘mente’. Este espacio opera de forma silenciosa, permitiendo que Claude piense en un concepto sin necesidad de escribirlo.
Este descubrimiento podría avanzar en los esfuerzos para hacer los LLMs más interpretables e influir en su comportamiento. Sin embargo, no significa que Claude sea consciente como un humano, sino que su actividad neuronal es conscientemente accesible, lo que puede ser útil para mejorar sus habilidades de toma de decisiones.
TE PUEDE INTERESAR: Alertas de ciberseguridad para el Mundial 2026: un reto tecnológico
Qué debes saber
- Anthropic ha descubierto un espacio de trabajo interno oculto en Claude, llamado J-space.
- El J-space permite a Claude ‘pensar’ en conceptos sin revelarlos en sus respuestas.
- Este hallazgo podría mejorar la interpretabilidad y el control sobre los LLMs.
- No significa que Claude sea consciente, pero su actividad neuronal es conscientemente accesible.
Especificaciones técnicas
- El J-space es una colección de patrones neuronales internos en la IA.
- Cada patrón está vinculado a una palabra específica.
- La técnica utilizada para encontrar el J-space se llama lente jacobiana o lente J.
- La actividad en el J-space puede ser modulada por Claude cuando se lo solicita.
Un pensamiento es ‘consciente de acceso’ si puedes informarlo, razonar con él y usarlo para guiar lo que haces. Sigue siendo una cuestión filosófica controvertida si el acceso a la conciencia implica conciencia fenomenal, o si la capacidad de tener experiencias requiere alguna otra propiedad.
Contenido generado con IA y editado por el equipo editorial.
Foto: Anthropic.