США и Россия убрали контроль человека над ИИ в оружии

На переговорах ООН в Женеве делегации США и России добились смягчения правил для автономных систем вооружений. За 15 часов закрытых консультаций юристы обеих стран исключили из проекта договора ключевые ограничения на использование искусственного интеллекта в военной сфере.

Из текста исчезли пункты о том, что ИИ-системы обязаны действовать с предсказуемым результатом. Упоминания этических аспектов также удалили. Кроме того, стороны сняли требование, согласно которому человек должен проверять выбранные алгоритмом цели перед нанесением удара. Обсуждение проходило в закрытом режиме: трансляцию отключили, а представителей общественных организаций попросили покинуть зал. По словам участников встречи, правки вносились так быстро, что малые делегации не успевали следить за изменениями.

Текущий документ не имеет обязательной юридической силы. В ноябре участники Конвенции о конкретных видах обычного оружия решат, станет ли этот проект основой для полноценного международного договора. Поскольку решения в этой группе принимаются только консенсусом, США и Россия сохраняют возможность блокировать любые жесткие ограничения, которые поддерживает большинство других стран.

Пентагон тем временем расширяет использование ИИ и пересматривает внутренние директивы. Система Maven от Palantir уже официально применяется для автоматического поиска целей по данным со спутников и радаров. При этом внедрение технологий сопряжено с рисками: в сентябре стало известно об инциденте, когда ошибка ИИ в интерпретации данных едва не привела к атаке на китайское судно.

Российская сторона настаивает на том, что международные правила должны приниматься только при согласии всех участников и обеспечивать равный доступ государств к технологиям. В Москве подчеркивают приоритет консенсусного подхода при выработке любых норм в сфере военного ИИ.