Anthropic пресекла попытки использования ИИ для создания биологического оружия

Компания Anthropic объявила о блокировке группы пользователей, которые подозреваются в использовании нейросетей для проведения биологических исследований сомнительного характера. Разработчики опасаются, что возможности искусственного интеллекта могут быть направлены на создание биологического оружия.

В официальном отчете организации отмечается, что в текущем году было зафиксировано несколько случаев, когда ИИ-модели применялись для работ, способствующих появлению опасных патогенов. Сложность ситуации заключается в том, что результаты подобных изысканий имеют двойное назначение: их можно использовать как для разработки защитных вакцин, так и для создания средств массового поражения. По данным Anthropic, подозрительные исследователи намеренно пытались обойти региональные ограничения и скрыть истинные цели своих запросов, чтобы не активировать защитные фильтры системы.

Руководитель отдела разведки угроз Anthropic Джейкоб Кляйн подчеркнул, что в реальности злоумышленники не заявляют о своих намерениях открыто. Ситуация всегда остается крайне неоднозначной и сложной с этической и технической точек зрения.

Одним из наиболее тревожных примеров стало использование нейросети Claude в мае этого года. Ученый, связанный с военным научно-исследовательским институтом, пытался составить заявку на грант для экспериментов с вирусом чикунгунья. Исследование предполагало создание таких мутаций вируса, которые повысили бы его опасность при передаче животным. Хотя прямой цели создания оружия зафиксировано не было, сам факт проведения подобных работ военным учреждением заставил компанию немедленно заблокировать доступ к сервису.

Справочно: Вирус чикунгунья переносится комарами и вызывает тяжелую лихорадку, сопровождающуюся сильными болями в суставах, мышцах и общей интоксикацией организма.

Представители Anthropic отмечают, что если предыдущие поколения ИИ были практически бесполезны в сложных научных задачах, то современные системы демонстрируют значительный прогресс. Это вынуждает компанию вводить более строгие меры безопасности и ограничивать доступ к функционалу, связанному с биологическими исследованиями.

На фоне этих событий индустрию продолжают покидать ведущие специалисты, обеспокоенные темпами развития технологий. Так, исследователь Джейкоб Коксон недавно уволился из Anthropic, заявив, что корпорации не способны самостоятельно обеспечить безопасность систем, которые вскоре могут превзойти человеческий интеллект. Аналогичные опасения ранее высказывал и Джеффри Хинтон, предупреждая о возможных катастрофических последствиях бесконтрольного создания «суперинтеллекта».