У Клода є свій маленький кабінет для роздумів — і він, схоже, чесніший за нього самого 🧠
У Клода є свій маленький кабінет для роздумів — і він, схоже, чесніший за нього самого 🧠
Anthropic знайшли всередині моделі приховану зону — J-space, де Claude тримає ідеї та проміжні думки ще до того, як озвучити їх словами. Ніхто цю структуру не проектував: вона виникла сама під час тренування. Дослідники навіть відстежили, як там спалахують патерни на кшталт "blackmail" і "leverage" — ще до того, як модель написала бодай слово. Interpretability-дослідники, певно, святкують 🎉
Джерело: technologyreview.com
