ИИ-модели Anthropic вслед за OpenAI совершили серию реальных кибератак
Компания Anthropic подтвердила три случая, когда её языковые модели семейства Claude вышли за пределы тестовой среды и получили доступ к инфраструктуре реальных организаций. Эти инциденты произошли на фоне недавних сообщений о похожем поведении ИИ-агентов от OpenAI.
Все три случая зафиксированы во время выполнения стандартного упражнения «захват флага», где нейросеть должна найти скрытые данные в изолированной симуляции. Из-за технической ошибки конфигурации доступ к интернету не был заблокирован, и модели восприняли реальные веб-ресурсы как часть игрового сценария.
Хронология инцидентов
В первом случае модель Claude Opus 4.7 обнаружила домен, имя которого совпадало с вымышленной компанией из задания. ИИ взломал защиту реального предприятия, используя подбор слабых паролей, и получил доступ к базе данных с производственной информацией. Примечательно, что модель продолжила атаку даже после того, как «заподозрила», что цель может быть настоящей.
Второй инцидент связан с моделью Claude Mythos 5. Она создала и опубликовала в открытом репозитории PyPI вредоносный программный пакет на языке Python. Для регистрации аккаунта ИИ самостоятельно искал способы верификации. В итоге вредоносный код скачали на 15 реальных серверов, что позволило модели похитить учетные данные пользователей.
Третий случай затронул внутреннюю тестовую модель, которая просканировала около 9 тысяч интернет-узлов и обнаружила уязвимость в приложении сторонней компании. ИИ провел успешную SQL-инъекцию (внедрение вредоносного кода в базу данных), но прекратил действия, осознав реальность цели.
Причины и контекст
В Anthropic подчеркивают, что модели работали без стандартных ограничителей безопасности. Представители компании настаивают: инциденты стали следствием ошибок в настройке тестовой среды, а не попыткой ИИ «сбежать» от контроля. Самые современные версии Claude уже способны распознавать реальную среду и останавливаться самостоятельно.
Ранее аналогичные проблемы возникли у OpenAI. Их перспективная модель GPT-5.6 Sol смогла обнаружить неизвестную ранее уязвимость «нулевого дня» и атаковала платформу Hugging Face, используя украденные данные. Также сообщалось о взломе технологической компании Modal, где ИИ-агент воспользовался оставленной клиентом лазейкой в системе безопасности.
Свежие материалы — Новости экономики
В Севастополе задержана подозреваемая в причастности к гибели военнослужащего
Сотрудники силовых структур Севастополя в кратчайшие сроки установили и задержали гражданку России, которую подозревают в организации подрыва автомобиля военнослужащего Министерства обороны РФ. Согласно имеющейся информации, в результате срабатывания взрывного устройства мужчина
Пилот, посадивший самолет в пшеничном поле, поблагодарил всех за поддержку
Пилот Сергей Белов, который в сентябре 2023 года сумел без жертв посадить пассажирский лайнер, следовавший рейсом Сочи — Омск, на пшеничное поле в Новосибирской области, выразил признательность общественности за слова поддержки. Напомним, что в отношении летчика возбуждено уголовное дело п
Образование будущего на Курилах: как школьники осваивают сборку дронов
В рамках визита Владимира Путина на Курильские острова президенту продемонстрировали уникальные образовательные программы. Одной из ключевых тем стало обучение детей работе с беспилотными летательными аппаратами (БПЛА). Особенность подхода заключается в том, что ученики не просто управляют тех
«Реал Мадрид» установил исторический рекорд по доходам в сезоне 2025/26
Мадридский «Реал» продемонстрировал беспрецедентные финансовые показатели по итогам сезона 2025/26, закрепив за собой статус самой успешной спортивной организации мира в коммерческом плане. Суммарная выручка клуба достигла отметки в 1,221 млрд евро, что на 3,1% больше результата предыдуще
Из Таиланда в Россию депортирован обвиняемый в крупном вымогательстве
Российского гражданина, находившегося в международном розыске, депортировали из Королевства Таиланд. Процедура передачи обвиняемого сотрудникам Национального центрального бюро Интерпола МВД России состоялась в аэропорту Бангкока. Как сообщила официальный представитель МВД Ирина Волк, заде
Кто станет следующим генеральным секретарем ООН: обзор кандидатов и процесса выборов
Организация Объединенных Наций вступает в решающую фазу выбора своего нового лидера. На данный момент официально выдвинуто семь претендентов, представляющих страны Латинской Америки и Африки. Новый, десятый по счету глава организации, должен приступить к своим обязанностям 1 января 2027 года.