Anthropic పరిశోధకులు Jacobian lens (J-lens) అనే కొత్త టెక్నిక్ను అభివృద్ధి చేశారు. ఇది LLMs లోపల దాచిపెట్టిన J-space ను బయటపెట్టింది. Februaryలో విడుదలైన Claude Opus 4.6 మోడల్లో ఈ J-space ను గుర్తించారు.
J-space లో మోడల్ ప్రతిస్పందనలకు సంబంధించిన పదాలు ఉంటాయి. ఉదాహరణకు, మోడల్ తర్వాత ఏ పదాలను ఉపయోగించవచ్చో ఇందులో సూచనలు ఉంటాయి. ఈ డేటా Anthropicకి మోడల్ పనితీరును అర్థం చేసుకోవడానికి సహాయపడుతుంది.
J-lens ని logit lensతో పోల్చవచ్చు. కానీ ఇది మోడల్ తర్వాతి సమయంలో ఏ పదాలు ఉపయోగించవచ్చో గుర్తిస్తుంది. J-space లోని పదాలు సాధారణం నుండి ఆశ్చర్యకరమైనవి వరకు ఉంటాయి. ఇది AI మోడల్ అంతర్గత తర్కాన్ని బహిర్గతం చేస్తుంది.
