Джеффри Хинтон: потеря контроля над ИИ может привести к исчезновению человечества

Джеффри Хинтон, лауреат Нобелевской премии по физике 2024 года, вновь заявил об экзистенциальной угрозе искусственного интеллекта. Ученый, чьи работы по нейронным сетям легли в основу современных технологий, считает: человечество рискует погибнуть, если системы станут умнее создателей и выйдут из-под контроля.

Опасения Хинтона связаны с тем, что сверхразумный ИИ неизбежно начнет стремиться к самосохранению и расширению влияния на среду для достижения своих целей. Исследователь подчеркивает, что у людей нет опыта управления сущностями, которые превосходят их интеллектуально.

Карьера Хинтона охватывает более сорока лет. В 1986 году он представил алгоритм обратного распространения ошибки, который научил нейросети корректировать свои действия. В 2012 году его ученик Илья Суцкевер применил этот подход в архитектуре AlexNet, что спровоцировало нынешний технологический бум. За эти достижения Хинтон удостоился премии Тьюринга в 2018 году и разделил Нобелевскую премию 2024 года с Джоном Хопфилдом.

В мае 2023 года Хинтон уволился из Google. Этот шаг позволил ему открыто обсуждать риски без оглядки на корпоративные интересы. Он оценивает вероятность глобальной катастрофы из-за ИИ в 10–20% в ближайшие два десятилетия. С ним солидарны и другие эксперты: Билл Гейтс указывает на угрозы для рынка труда, а исследователь Стюарт Рассел сравнивает бесконтрольное развитие технологий с игрой в рулетку.

Предупреждения ученых уже влияют на законодательство. В Великобритании депутат Алекс Собель представил в парламенте предложение о запрете разработки сверхразумного ИИ до создания доказуемых мер безопасности. Организация Объединенных Наций также призывает к формированию международных правил управления технологией, пока ситуация остается под контролем.