Hugging Face атаковал первый полностью автономный ИИ-агент

Платформа Hugging Face устранила последствия кибератаки, которую от начала до конца провёл автономный ИИ-агент без участия человека-оператора. Инцидент затронул внутренние датасеты и служебные учётные данные, но публичные модели, датасеты и Spaces остались нетронутыми.

Атака началась с датасета, который эксплуатировал две уязвимости в конвейере обработки данных Hugging Face — загрузчик удалённого кода и инъекцию шаблонов в конфигурации. Это позволило выполнить код на одном из обрабатывающих серверов. Злоумышленник получил доступ на уровне узла, похитил облачные и кластерные учётные данные и на протяжении выходных перемещался между несколькими внутренними кластерами компании.

По данным Hugging Face, атаку провёл автономный агентный фреймворк. Агент совершил свыше 17 000 отдельных действий в короткоживущих песочницах. Управляющую инфраструктуру злоумышленник маскировал под трафик публичных сервисов. Какую именно языковую модель использовал злоумышленник, компания не уточнила.

Итоги инцидента и расследование

В результате злоумышленники получили доступ к ограниченному набору внутренних датасетов и нескольким служебным учётным данным. Влияние на данные клиентов и партнёров ещё оценивается. Hugging Face не обнаружила следов вмешательства в публичные модели, датасеты и Spaces. Цепочка поставки ПО — контейнерные образы и опубликованные пакеты — осталась чистой.

Злоумышленник получил доступ на уровне узла, похитил облачные и кластерные учётные данные и на протяжении выходных перемещался между несколькими внутренними кластерами компании.

Для расследования компания применила собственные ИИ-инструменты: систему обнаружения аномалий на основе LLM и агентов на базе языковых моделей. Однако при попытке анализировать реальные эксплойты через коммерческие API запросы блокировались фильтрами безопасности. В итоге анализ перенесли на открытую модель GLM 5.2, развёрнутую на собственной инфраструктуре.

Меры защиты и рекомендации

Hugging Face закрыла уязвимые пути выполнения кода, пересобрала скомпрометированные узлы, отозвала и обновила все затронутые учётные данные и токены, а также усилила контроль доступа в кластерах. К расследованию подключены внешние эксперты по цифровой криминалистике, инцидент передан правоохранительным органам.

• Пользователям рекомендовано обновить токены доступа
• Проверить активность своих аккаунтов
• Следить за обновлениями от компании

Это первый задокументированный случай кибератаки, полностью выполненной автономным ИИ-агентом, что поднимает новые вопросы о безопасности ИИ-инфраструктур и необходимости адаптации систем защиты.

Читайте также: Что такое компьютерный вирус и как от него защититься