Дэвид Гросс о контроле над ядерным оружием: «Будет сложно устоять перед искушением доверить решения ИИ»

Дэвид Гросс, выдающийся ученый современности и лауреат Нобелевской премии по физике 2004 года, выступил с предупреждением о растущей угрозе в сфере управления атомными арсеналами. Физик-теоретик, чья деятельность неразрывно связана с развитием идей Эйнштейна, с тревогой наблюдает за тем, как высокая динамика современных конфликтов подталкивает мировые державы к полной автоматизации систем обороны с помощью искусственного интеллекта.

По мнению Гросса, глобальная безопасность сегодня начинает зависеть не столько от международных договоров, сколько от работы алгоритмов. Хрупкость мирового порядка усиливается из-за внедрения передовых вычислительных систем в государственное управление. Ученый поясняет, что в условиях неминуемой атаки дефицит времени создает невыносимое давление на любого лидера, заставляя его полагаться на машины.

Нобелевский лауреат подчеркивает: в современных реалиях делегирование ответственности машинам кажется неизбежным, но в то же время пугающим шагом.

Риски передачи полномочий цифровым системам

Дэвид Гросс убежден, что перед лицом угрозы массированного ракетного удара передача суверенитета цифровым алгоритмам превращается в беспрецедентный экзистенциальный риск.

Фундаментальная проблема заключается в надежности автоматизированных систем ИИ. Специалисты знают, что искусственный интеллект не застрахован от ошибок; он склонен к логическим сбоям и так называемым «галлюцинациям».

Опираясь на глубокое понимание законов природы и логики, Гросс опасается, что простая ошибка в коде может спровоцировать конец цивилизации. Передача контроля над ядерным оружием под надзор ИИ исключает фактор человеческого суждения — того самого последнего фильтра, который позволил избежать катастрофы в годы холодной войны.

«Будет крайне трудно сопротивляться внедрению ИИ в процесс принятия решений, потому что он действует мгновенно. Если у главы государства есть всего 20 минут, чтобы решить судьбу сотен ракет, военные могут счесть разумным довериться алгоритму. Но проблема в том, что ИИ иногда выдает ложные результаты», — отмечает ученый.

Последствия автоматизации глобальной обороны

Современная гонка вооружений оставила в прошлом старые протоколы безопасности. Гросс подчеркивает, что мир перестал быть полем игры двух актеров — теперь это хаотичная арена с множеством ядерных держав.

Такая сложность делает использование ИИ еще более заманчивым для военного руководства, стремящегося к технологическому превосходству. Однако автоматизация систем уничтожения не гарантирует стабильности, а лишь увеличивает непредсказуемость из-за следующих факторов:

• Сверхвысокая скорость работы ИИ лишает человека возможности исправить ошибку при неверном считывании данных.
• Программные сбои могут интерпретировать природные или атмосферные явления как реальную атаку.
• Отсутствие международных норм регулирования боевых алгоритмов создает опасный правовой и этический вакуум.

Для Дэвида Гросса человечество сегодня стоит у края пропасти, где контроль над ядерным оружием ускользает из рук его создателей. Риск того, что машина решит судьбу миллионов людей, кажется физику пугающе близким.

Если операционная система неверно истолкует информацию и нанесет ответный удар, никакая дипломатия не сможет остановить инерцию тотального ядерного уничтожения.

Ученый подводит итог: человечество обязано сохранить бразды правления собственной судьбой и установить жесткие правила игры, как это делалось ранее в отношении других глобальных угроз.