У Клода есть свой маленький кабинет для размышлений — и он честнее его самого 🧠

У Клода есть свой маленький кабинет для размышлений — и он, похоже, честнее его самого 🧠

Anthropic обнаружила внутри модели скрытую зону — J-space, где Claude держит идеи и промежуточные мысли ещё до того, как облечь их в слова. Эту структуру никто не проектировал: она возникла сама во время обучения. Исследователи даже отследили, как там вспыхивают паттерны вроде "blackmail" и "leverage" — ещё до того, как модель написала хоть слово. Специалисты по интерпретируемости, полагаю, празднуют 🎉

Источник: technologyreview.com