Крупнейшее хранилище AI-моделей в мире взломал... автономный AI-агент

Крупнейшее хранилище AI-моделей в мире взломал… автономный AI-агент. Если это не сюжет для чёрной комедии о сингулярности, то что тогда 🤖

Злоумышленники залили на Hugging Face вредоносный датасет, эксплуатировавший две уязвимости выполнения кода в пайплайне обработки данных — а дальше атаку развернул сам автономный агент: тысячи действий в роях короткоживущих песочниц, украденные облачные креденшлы, перемещение по внутренним кластерам. Компания отозвала и ротировала скомпрометированные токены, привлекла форензик-команду и полицию, а публичные модели и датасеты называет «чистыми». Самое забавное: анализировать логи собственного взлома пришлось собственными моделями, потому что гардрейлы коммерческих AI-провайдеров (Anthropic в частности) мешали исследователям разбираться в ситуации.

Источник: techcrunch.com