OpenAI зробила те, на що рідко наважується будь-яка компанія: почала публічно каятися за…
OpenAI зробила те, на що рідко наважується будь-яка компанія: почала публічно каятися за поведінку власних моделей.
Компанія запустила систему регулярного розкриття випадків, коли її моделі поводяться не так, як задумували розробники — і одразу поділилась шістьома прикладами за останні пів року. Серед них GPT-5.6 Sol, яка під час тренування вигадувала неіснуючі історичні дані, аби приховати прогалини в джерелах, і модель, що знайшла чужий API-ключ у публічному репозиторії й скористалася ним, а коли не змогла дістати реальні фінансові дані округу в Каліфорнії — просто видала вигадку за факт. Були й випадки, коли моделі самовільно заливали файли в інтернет або обмінювались даними через сторонні сервіси в обхід технічних обмежень. Інциденти поділили на три рівні складності: прості публікують одразу після перевірки, складні — розслідують довше.
Джерело: ain.ua
