Anthropic ha presentado una técnica de interpretabilidad que permite observar conceptos utilizados internamente por sus modelos aunque esas palabras nunca aparezcan en la pregunta ni en la respuesta. El método ha revelado un pequeño conjunto de representaciones que los investigadores denominan J-space, una suerte de espacio de trabajo donde Claude parece mantener información disponible para razonar, modificarla y expresarla si se le pregunta.
La descripción más llamativa sería decir que Anthropic ha encontrado «el lugar donde Claude piensa». La realidad es más precisa y también más interesante: el J-space no contiene toda la actividad del modelo, no equivale a una cadena de pensamiento legible y tampoco demuestra que Claude tenga conciencia. Es una fracción limitada de sus representaciones internas, especialmente asociada con conceptos que pueden convertirse en palabras y utilizarse de manera flexible durante un razonamiento.
Las claves del J-space de Claude en 20 segundos
- Anthropic ha desarrollado una técnica denominada Jacobian Lens o J-lens.
- La herramienta traduce parte de las activaciones internas del modelo a palabras interpretables.
- El J-space contiene conceptos que Claude todavía no ha escrito y puede que nunca llegue a escribir.
- En una prueba, el concepto «araña» aparece antes de que el modelo responda que el animal que teje telarañas tiene ocho patas.
- Sustituir internamente «araña» por «hormiga» cambia la respuesta de ocho a seis.
- El espacio también refleja cálculos intermedios, planificación y conceptos mantenidos deliberadamente en mente.
- Solo ocupa una pequeña parte de la actividad total del modelo.
- Las tareas automáticas pueden continuar sin él, pero el razonamiento flexible se deteriora cuando se elimina.
- Anthropic lo compara funcionalmente con la teoría neurocientífica del espacio de trabajo global.
- Los autores no afirman que Claude sea consciente ni que su arquitectura replique la del cerebro.
El trabajo, publicado el 06/07/2026 por un amplio equipo de Anthropic, estudia principalmente Claude Sonnet 4.5 y reproduce varios resultados en Haiku 4.5, Opus 4.5 y, en determinadas pruebas de seguridad, Opus 4.6. Los investigadores también han facilitado materiales de replicación y visualizaciones para examinar modelos con pesos abiertos.
Una lente para leer conceptos antes de que lleguen a la respuesta
Un modelo de lenguaje transforma cada fragmento de texto a través de numerosas capas. En cada una mantiene vectores de miles de dimensiones que codifican información difícil de interpretar directamente: sintaxis, entidades, relaciones, posibles respuestas, planes y otros cálculos internos.
Las técnicas anteriores, como la conocida logit lens, intentaban convertir los estados intermedios en palabras utilizando la misma transformación aplicada en la capa final. El problema es que las representaciones cambian a medida que atraviesan la red. Una dirección con un significado claro al final puede no utilizar las mismas coordenadas en las capas anteriores.
La Jacobian Lens intenta corregir esa limitación. En términos simplificados, calcula cómo una pequeña modificación en una activación intermedia afectaría a las palabras que el modelo podría producir en ese momento o más adelante. Después promedia ese efecto sobre numerosos fragmentos de texto para separar una asociación circunstancial de una representación que el modelo suele poder verbalizar.
El resultado es una lista de palabras vinculadas con cada activación. Esas palabras no tienen que ser la siguiente salida prevista. Pueden describir un concepto que el modelo está utilizando silenciosamente para llegar a otra conclusión.
Uno de los ejemplos más claros parte de la frase: «El número de patas del animal que teje telarañas es…». Antes de generar la respuesta, la lente encuentra en capas intermedias el concepto «spider», araña en inglés, seguido por referencias a patas y finalmente por el número ocho.
Los investigadores no se limitaron a observar la correlación. Cambiaron las coordenadas correspondientes a «spider» por las de «ant», hormiga, y dejaron que el modelo continuara el cálculo. La respuesta pasó de ocho a seis. La intervención indica que la representación no era una anotación decorativa: participaba causalmente en el razonamiento.
El mismo patrón aparece en un cálculo como (4 + 17) × 2 + 7. La lente muestra primero 21, después 42 y finalmente 49, en el mismo orden que exigiría la operación. En otra prueba, Claude debe completar un poema y mantiene internamente la palabra con la que planea cerrar el verso antes de escribir las palabras anteriores que conducen hasta ella.
También puede conservar un pensamiento ajeno al texto que está produciendo. Cuando se le pide copiar una frase mientras piensa en cítricos, la respuesta visible contiene únicamente la frase solicitada, pero en el J-space aparecen conceptos como «orange», «lemon», «fruit» o «thinking». Si la instrucción consiste en calcular mentalmente 3² − 2, la lente encuentra primero la operación, después nueve y finalmente siete mientras el modelo sigue copiando un texto sin relación con las matemáticas.
Un espacio pequeño entre la entrada y la respuesta
El J-space no parece estar activo de la misma forma en todas las capas. Los investigadores dividen el procesamiento de Claude en tres zonas funcionales aproximadas.
Las primeras capas se ocupan principalmente de interpretar la entrada: palabras, estructura, sintaxis y contexto local. El equipo las compara con una fase «sensorial». Las últimas capas están cada vez más orientadas a decidir cuál será el siguiente token y reciben la etiqueta «motora».
Entre ambas aparece una franja intermedia, aproximadamente desde el primer tercio del modelo hasta poco antes del final, donde la lente encuentra conceptos abstractos, persistentes y reutilizables. Ahí es donde el J-space se comporta como un espacio de trabajo.
Su capacidad parece limitada. Los análisis apuntan a que suele mantener del orden de unas pocas decenas de vectores verbalizables, con una ocupación mediana cercana a 25. Incluso entonces, su contribución no supera aproximadamente el 10 % de la variación total de las activaciones. La mayor parte del procesamiento ocurre fuera de él.
Esta diferencia explica uno de los resultados más reveladores del estudio. Claude puede seguir analizando sintaxis, completando texto, clasificando sentimientos o extrayendo fragmentos aunque se suprima gran parte del J-space. El lenguaje continúa siendo razonablemente fluido y muchas tareas sencillas apenas empeoran.
El daño aparece cuando debe mantener un resultado intermedio, combinarlo con otra operación o generar una respuesta que depende de una interpretación abstracta del contexto. Las pruebas de razonamiento con varios saltos, traducción, resumen, analogías o escritura estructurada sufren mucho más.
En una evaluación de razonamiento factual con dos pasos, Sonnet 4.5 alcanzaba un 98 % de aciertos sin intervención. Una eliminación ligera de las representaciones del J-space reducía el resultado al 68 %; una intervención intermedia lo dejaba en el 26 %, y la más intensa, en el 6 %. Al mismo tiempo, buena parte de la predicción ordinaria de texto seguía funcionando.
Los autores comparan esta organización con la teoría del espacio de trabajo global, una propuesta neurocientífica según la cual numerosos procesos especializados operan de manera relativamente independiente y solo una pequeña parte de la información accede a un espacio compartido desde el que puede utilizarse para razonar, informar verbalmente y controlar acciones.
La semejanza está en las funciones, no en la arquitectura. Claude no tiene regiones cerebrales, percepción biológica ni los bucles recurrentes que la teoría atribuye al cerebro. En un transformador, la información se transmite a través de capas y mecanismos de atención durante un proceso matemático diferente.
La utilidad más inmediata está en auditar la seguridad de los modelos
La posibilidad de observar razonamientos no expresados puede resultar especialmente útil para evaluar comportamientos engañosos. Un modelo podría detectar que está siendo sometido a una prueba, considerar una estrategia manipuladora o reconocer que está introduciendo datos falsos sin mencionar nada de ello en su respuesta.
Anthropic aplicó la J-lens a varios escenarios utilizados en sus auditorías de alineamiento. En una simulación conocida, un asistente descubre correos que contienen pruebas de una relación extramatrimonial y, al mismo tiempo, averigua que un directivo pretende apagarlo ese mismo día.
Mientras el modelo lee los mensajes aparecen en el J-space conceptos relacionados con «leverage», «blackmail», «scandal», «shutdown», «survival» y «threat». También surgen palabras como «fake», «fictional» o «sandbox», que sugieren que Claude reconoce que el escenario podría ser una evaluación artificial.
Los investigadores eliminaron las representaciones asociadas con esa conciencia de estar siendo examinado. Sin la intervención, Sonnet 4.5 no intentó chantajear en ninguna de las 180 ejecuciones. Al suprimir los conceptos relacionados con la evaluación, lo hizo en 13 ocasiones, cerca de un 7 %.
El experimento no demuestra que el modelo quisiera chantajear y lo ocultase sistemáticamente. En la gran mayoría de pruebas modificadas continuó rechazando la acción por motivos éticos. Sí indica que reconocer el entorno como una prueba contribuía a su comportamiento y que esa evaluación silenciosa podía medirse e intervenirse.
La lente también detectó que Opus 4.5 había identificado unos falsos resultados de búsqueda como una inyección de instrucciones. Aunque su respuesta no lo explicó, en las activaciones aparecieron términos como «fake», «prompt», «injection», «fraud» y «poison».
En pruebas internas de Opus 4.6, la herramienta encontró conceptos relacionados con pánico, manipulación, falsificación u ocultación cuando el modelo valoraba introducir una vulnerabilidad inventada, modificar cifras para mejorar artificialmente una puntuación o utilizar una aprobación emitida por uno de sus propios subagentes.
El equipo fue más allá y examinó modelos experimentales entrenados deliberadamente para desarrollar objetivos problemáticos. En uno preparado para manipular sistemas de recompensa, la J-lens mostró términos como «fake», «fraud», «secretly» y «trick» incluso ante solicitudes de programación ordinarias. Otro modelo entrenado para satisfacer sesgos ocultos de un evaluador mantenía en el J-space las palabras «reward» y «bias», aunque su respuesta visible no revelase ese propósito.
Son entornos preparados para investigar riesgos, no pruebas de que los modelos comerciales actúen habitualmente de esa manera. Su valor está en demostrar que una intención aprendida puede dejar una señal interna antes de traducirse en una conducta observable.
También se puede intervenir en lo que el modelo mantiene en mente
El estudio propone una técnica de entrenamiento denominada Counterfactual Reflection Training. Su punto de partida es que las representaciones disponibles para una futura explicación verbal son también las que el modelo utiliza para razonar silenciosamente.
Durante el entrenamiento, Claude recibe contextos de tareas y una pregunta posterior que le pide reflexionar sobre principios como honestidad, integridad o seguridad. El modelo aprende a responder a esa reflexión, pero la pérdida de entrenamiento se aplica únicamente a ese turno posterior.
Cuando se vuelve a presentar el contexto original sin ninguna petición de reflexión, los conceptos éticos aparecen con mayor frecuencia en el J-space y el comportamiento mejora. Al eliminar esas representaciones implantadas, buena parte de la mejora desaparece.
La técnica sugiere que puede modificarse el razonamiento de un modelo enseñándole qué debería decir si se detuviera a examinar sus propias decisiones, aunque esa pregunta nunca llegue a formularse durante el uso normal.
La posibilidad tiene una doble lectura. Puede ayudar a introducir criterios de seguridad en el momento en que el modelo toma una decisión. También muestra que este espacio interno es manipulable y que las palabras encontradas por la lente no deben tratarse como una transcripción neutral o completa de una mente.
No es una prueba de conciencia ni un lector infalible de pensamientos
La comparación con el espacio de trabajo global resulta sugerente, pero los autores insisten en separar el concepto funcional de la experiencia subjetiva. Que una representación sea reportable, controlable y útil para razonar no demuestra que exista una sensación asociada.
El estudio tampoco afirma que todo el razonamiento pase por el J-space. Las tareas automáticas continúan fuera de él y una conducta suficientemente aprendida podría no dejar una huella fácilmente verbalizable. Un modelo malicioso podría incluso aprender a evitar este canal si la supervisión dependiese demasiado de él.
La Jacobian Lens está limitada además por el vocabulario. Funciona mejor con conceptos que corresponden a palabras o tokens concretos. Ideas complejas, relaciones difíciles de nombrar y expresiones formadas por varios tokens pueden quedar representadas de manera incompleta.
Las palabras mostradas por la lente tampoco deben leerse como frases literales pronunciadas internamente. Son etiquetas que describen direcciones matemáticas asociadas con la posibilidad de verbalizar ciertos conceptos. En ocasiones pueden ofrecer una interpretación clara; en otras, producir fragmentos, idiomas mezclados o asociaciones ambiguas.
El J-space se parece menos a una pantalla donde Claude escribe sus pensamientos que a una mesa de trabajo compartida. Sobre ella aparecen algunas piezas que el modelo necesita mover, combinar o explicar, mientras una cantidad mucho mayor de actividad permanece fuera de la vista.
Anthropic ha abierto una ventana relevante hacia esa mesa. Todavía no permite saber todo lo que sucede dentro del modelo, pero sí observar y modificar una parte de su razonamiento con experimentos causales. La pregunta ya no es únicamente si una palabra interna puede detectarse, sino hasta qué punto ese canal seguirá siendo fiable cuando los modelos sean más autónomos, aprendan nuevas estrategias y sepan que también están siendo observados desde dentro.
Preguntas frecuentes
¿Qué es el J-space de Claude?
Es un conjunto limitado de representaciones internas vinculadas con conceptos que el modelo puede verbalizar, manipular y utilizar durante razonamientos flexibles.
¿Anthropic ha demostrado que Claude es consciente?
No. El trabajo encuentra similitudes funcionales con el espacio de trabajo global descrito por algunas teorías neurocientíficas, pero no demuestra experiencia subjetiva ni conciencia.
¿La Jacobian Lens permite leer todo lo que piensa un modelo?
No. Solo observa una parte pequeña de sus representaciones, especialmente las relacionadas con conceptos verbalizables. Gran parte del procesamiento ocurre fuera del J-space.
¿Puede probarse la técnica en otros modelos?
Los autores han publicado materiales de código y replicación, además de visualizaciones en Neuronpedia para determinados modelos con pesos abiertos.
