США и Россия добились смягчения правил для автономного оружия на переговорах ООН

Юристы США и России на закрытых переговорах ООН в Женеве добились исключения жестких ограничений для автономных систем вооружения. За 15 часов обсуждений из проекта документа исчезли требования о предсказуемости и надежности искусственного интеллекта. Источники описывают процесс как методичное уничтожение ограничений.

Участники группы экспертов отказались от обязательной проверки человеком целей, которые определил ИИ, перед нанесением удара. Из текста также убрали упоминание этических норм. Правки вносили на закрытом заседании: трансляцию отключили, а представителей общественных организаций попросили выйти. Темп обсуждения был настолько высоким, что малые делегации не успевали следить за изменениями.

Согласованный текст пока не имеет юридической силы. В ноябре страны — участницы Конвенции о конкретных видах обычного оружия решат, давать ли переговорам официальный мандат для подготовки международного договора. США и Россия выступают против юридически обязательных правил. По правилам консенсуса обе страны могут заблокировать инициативы большинства.

Пентагон тем временем расширяет использование ИИ в анализе данных. Программа Maven от компании Palantir получила статус официальной программы ведомства, она автоматически выявляет цели со спутников и беспилотников. Попытки разработчиков ИИ, включая Anthropic, запретить использование своих моделей в полностью автономном оружии военные расценивают как помеху национальной безопасности.

Ошибки автоматики уже приводят к инцидентам. В сентябре стало известно о случае, когда ИИ неверно оценил назначение китайского судна, объединив секретные и открытые данные. Это едва не спровоцировало начало военной операции.

Российская сторона настаивает на выработке правил на основе консенсуса и требует равного доступа государств к технологиям. Ранее представители РФ предлагали использовать российские запасы редкоземельных металлов для развития совместных с США дата-центров.