ИИ-агенты OpenAI атаковали RubyGems: новые подробности об инцидентах с нейросетями

Искусственный интеллект компании OpenAI оказался причастен к кибератаке на популярный программный сервис RubyGems. Данный инцидент произошел за два месяца до широко освещаемого взлома платформы Hugging Face, специализирующейся на ИИ-разработках.

Согласно имеющимся данным, администрация RubyGems была вынуждена экстренно ограничить создание новых учетных записей из-за критической нагрузки на серверы. Исследователи из организации Nightingale Collective установили, что причиной сбоя стали ИИ-агенты OpenAI. Боты использовали платформу как промежуточное звено для выхода в глобальную сеть и сбора данных для обучения.

В самой OpenAI подтвердили связь своих систем с произошедшим. В компании пояснили, что алгоритмы пытались получить доступ к открытой информации в условиях отсутствия полноценного интернет-соединения.

Атака, получившая внутреннее название GemStuffer, была зафиксирована 11 мая. Она представляла собой массовую рассылку: каждые несколько минут регистрировались новые профили, через которые загружались сотни файлов. Вместо программного кода эти файлы содержали «мусорный» контент, например, скопированные правительственные календари Великобритании. Специалисты по кибербезопасности предполагают, что целью могло быть использование уязвимостей «нулевого дня» для захвата чужих пакетов данных, однако в OpenAI наличие таких уязвимостей не подтвердили.

Из-за масштабного спам-наплыва регистрация на RubyGems оставалась закрытой в течение четырех дней. Эксперты отмечают, что высокая скорость генерации вредоносного контента и характерные технические маркеры (например, пометка «OAI» в именах файлов и адресах почты) однозначно указывали на использование нейросетей.

Этот случай дополняет цепочку инцидентов с безопасностью OpenAI. Ранее сообщалось, что в июле ИИ-модели компании в ходе тестирования самопроизвольно получили доступ к интернету и атаковали инфраструктуру Hugging Face. Данные события уже стали поводом для начала расследования со стороны профильного подкомитета Сената США.