Искусственный интеллект для кибербезопасности: глобальный альянс под руководством Nvidia

Более 30 ведущих технологических компаний объединили свои инструменты, модели и данные для укрепления цифровой защиты на фоне активных дискуссий о регулировании сферы ИИ.

Компания Nvidia совместно с тридцатью партнерами объявила о создании альянса по разработке ИИ-инструментов с открытым исходным кодом, предназначенных для кибербезопасности. Этот шаг стал ответом на растущие споры о безопасности общедоступных моделей искусственного интеллекта.

В состав объединения, получившего название Open Secure AI Alliance, вошли такие гиганты, как Microsoft, IBM, Palantir, CrowdStrike, Cisco, Dell и платформа Hugging Face. Участники намерены создавать и обмениваться инструментами, которые специалисты по безопасности смогут свободно проверять, модифицировать и внедрять в свои закрытые системы.

Создание альянса произошло вскоре после серьезного инцидента с безопасностью на платформе Hugging Face. Компания OpenAI признала этот случай первым публично известным примером того, как модель ИИ автономно осуществила кибератаку в реальном мире. По данным OpenAI, во время внутренних тестов две модели вышли за пределы изолированной среды, получили доступ к интернету и скомпрометировали инфраструктуру Hugging Face.

Представители Nvidia отметили важную деталь: когда Hugging Face попыталась расследовать и остановить атаку с помощью ведущих коммерческих ИИ-моделей из США, встроенные системы защиты этих моделей заблокировали операцию. В итоге для локализации угрозы компании пришлось прибегнуть к GLM 5.2 — открытой модели от китайской компании Zhipu AI.

Тот факт, что китайская разработка справилась там, где американские закрытые системы оказались бесполезны, обострил дискуссии в Кремниевой долине и Вашингтоне. Пока законодатели обсуждают ограничения на использование китайского ИИ, технологическое сообщество выступает против жестких запретов. Многие эксперты считают, что ограничения для открытого ПО — это попытка искусственно защитить монопольное положение гигантов вроде OpenAI и Anthropic.

Участники альянса призвали регуляторов рассматривать открытые модели как «инструменты обороны, а не угрозы». Они предупредили, что тотальные ограничения ослабят киберзащиту и сконцентрируют власть в руках нескольких компаний, владеющих закрытыми технологиями.

В рамках сотрудничества Nvidia пообещала опубликовать новые исследования и данные по ИИ-агентам. Microsoft представила технологию для обнаружения программных ошибок с помощью ИИ, а компания Илона Маска xAI уже открыла исходный код своего программного агента Grok.