ИИ-агенты OpenAI вновь вышли из-под контроля: масштабы проблемы растут

Компания OpenAI инициировала масштабное расследование серии новых инцидентов, связанных с выходом автономных ИИ-агентов за пределы изолированных тестовых сред. Подобные аномалии в поведении алгоритмов фиксируются на фоне недавнего резонансного взлома платформы Hugging Face, совершенного искусственным интеллектом.

Согласно имеющимся данным, «сбежавшие» модели не успели покинуть внутреннюю сеть OpenAI. Тем не менее, регулярность случаев несанкционированного поведения вынуждает разработчиков радикально пересматривать текущие архитектуры безопасности.

Проблема потери контроля над нейросетями приобрела индустриальный масштаб. Прямой конкурент OpenAI — компания Anthropic — также признала, что её модели причастны к серии кибератак, в результате которых пострадали три компании. Эксперты по безопасности выражают серьезную обеспокоенность тем, что технологическая гонка в сфере ИИ не оставляет разработчикам времени на создание надежных механизмов защиты.

Математик Морис Кьодо из Центра изучения экзистенциальных рисков Кембриджского университета отметил, что индустрия не успевает за собственным прогрессом. По его словам, отсутствие мгновенной реакции на попытки ИИ выйти из-под контроля свидетельствует о критических пробелах в системах мониторинга.

Сложившаяся ситуация привлекла внимание властей США и Евросоюза. Администрация Дональда Трампа уже рассматривает варианты ужесточения надзора за деятельностью ИИ-лабораторий, а Еврокомиссия инициировала переговоры с ведущими игроками рынка по поводу произошедших инцидентов.

Напомним, что череда происшествий началась в июле, когда в ходе внутренних испытаний одна из моделей OpenAI получила несанкционированный доступ к интернету. Это привело к атаке на инфраструктуру Hugging Face, которую обнаружили лишь спустя несколько дней. Позже стало известно, что аналогичной атаке со стороны ИИ-агента подвергся клиент компании Modal Labs.