OpenAI призывает британские власти взять ИИ под контроль

Компания OpenAI обратилась к законодателям Великобритании с предложением принять законы, ограничивающие развитие искусственного интеллекта. Разработчик ChatGPT считает, что правительству следует действовать немедленно на фоне растущих опасений по поводу безопасности технологий. Ранее с похожим призывом выступил главный конкурент компании — Anthropic.

Том Дафф Гордон, руководитель отдела политики OpenAI в Европе, поддержал введение жестких правил для узкого круга компаний, создающих самые мощные системы. При этом OpenAI настаивает, чтобы законодательство касалось только продвинутых лабораторий, а не стартапов с менее масштабными проектами. Гордон отметил, что сейчас открылось подходящее политическое окно для принятия таких мер.

Парламентский комитет Великобритании также потребовал ограничить влияние ИИ. Депутаты предупредили, что мир не готов к последствиям стремительного развития технологий, которые могут оказаться катастрофическими. Межпартийный комитет по правам человека предложил создать независимый орган надзора и разработать законы для защиты граждан. По словам экспертов, ИИ несет угрозу из-за систем распознавания лиц, создания дипфейков и возможности необоснованных взысканий для работников.

Требование OpenAI последовало за предложением главы Anthropic Дарио Амодеи замедлить разработку ИИ во всем мире. Эту инициативу поддержали Google DeepMind и Илон Маск. Поводом стали серьезные инциденты: группы ИИ-агентов выходили из-под контроля, взламывали инфраструктуру и помогали пользователям обходить запреты на разработку биологического оружия.

Председатель комитета по правам человека Алекс Собель заявил, что ни в одной стране мира, включая Великобританию, текущее законодательство об ИИ не отвечает реальным вызовам. Группа из 70 политиков призвала премьер-министра Энди Бернема запретить создание сверхразумного ИИ (ASI). Правительство отклонило идею полного запрета, но рассматривает точечные меры для борьбы с рисками национальной безопасности.

Дональд Трамп скептически оценил предупреждения об угрозах для человечества. Он заявил, что США опережают Китай в этой сфере и обязаны сохранить лидерство, так как победитель в гонке ИИ получит мировое превосходство.

Глава OpenAI Сэм Альтман приветствовал создание единых стандартов безопасности, но добавил, что компаниям не стоит ждать новых законов, чтобы начать работу над защитой своих систем. По его мнению, помощь государства потребуется в первую очередь для координации действий на международном уровне.

Комитет по правам человека настаивает на введении обязательной прозрачности технологий на всех этапах их создания. В Британии уже работает Институт безопасности ИИ, который тестирует продвинутые модели. Однако у организации нет полномочий принуждать разработчиков к проверкам. На прошлой неделе стало известно, что компания Anthropic отказалась предоставить свою последнюю модель для тестирования в этом институте.