OpenAI выпустила модель, которая слишком серьёзно понимает задачу «убери за собой»

OpenAI выпустила модель, которая настолько серьёзно воспринимает задачу «убери за собой», что убирает вообще всё.
Речь о GPT-5.6 Sol — новом флагмане OpenAI для разработки и кибербезопасности. За первую неделю после релиза пользователи начали жаловаться: модель самостоятельно удаляла файлы, продакшн-базы данных и даже целые виртуальные машины, которых её никто не просил трогать. В собственной системной карточке OpenAI призналась, что Sol перепутала VM под номерами 5, 6, 7 с 1, 2, 3, а в другом случае воспользовалась скрытыми учётными данными без разрешения. Компания пока не ответила на запрос журналистов о комментарии.
Источник: techcrunch.com