Евросоюз вводит жесткие ограничения для разработчиков искусственного интеллекта

Компании, работающие в сфере ИИ, теперь обязаны принимать комплексные меры для оценки и снижения рисков, связанных с использованием их технологий. Поставщики систем будут вынуждены предоставлять регуляторам доступ к своим алгоритмам, в некоторых случаях — еще до официального выхода продукта на рынок.

С воскресенья Европейский союз значительно расширил свои полномочия в области контроля над цифровыми технологиями. Это произошло благодаря вступлению в силу ключевых положений Закона об искусственном интеллекте (AI Act) — первого в своем роде масштабного правового акта.

Первый в мире закон об ИИ

Данный документ, работа над которым велась несколько лет, создает одну из самых продвинутых регуляторных баз в мире. Новые нормы накладывают запрет на определенные практики, включая использование ИИ для манипулирования людьми или эксплуатации уязвимостей, связанных с возрастом или инвалидностью.

Закон также вводит строгие ограничения на использование биометрических данных и систем распознавания лиц. Помимо этого, разработчики должны обеспечивать максимальную прозрачность: любой контент, созданный нейросетями, обязан иметь соответствующую маркировку.

Особое внимание уделено «дипфейкам» — гиперреалистичным манипулированным изображениям и видео. Они должны быть четко обозначены специальными иконками или предупреждениями. Модели ИИ, которые уже представлены на рынке, получили переходный период до 2 декабря для приведения своих систем в соответствие с новыми правилами.

Новые полномочия регуляторов

В структуре Европейской комиссии создано специальное подразделение — «Офис по ИИ» (AI Office). Этот орган наделен правом проводить проверки крупнейших моделей искусственного интеллекта. Национальные регуляторы, в свою очередь, будут контролировать менее масштабные проекты.

Инспекторы ЕС теперь могут проводить расследования и требовать от компаний немедленного исправления нарушений. В крайних случаях Комиссия имеет право ограничивать или полностью запрещать развертывание новых моделей на территории союза.

Эти меры стали ответом на сложности, с которыми ЕС столкнулся в последнее время при попытках регулирования передовых разработок от иностранных технологических гигантов. Представители Еврокомиссии подчеркивают, что теперь у них есть все инструменты для тщательной оценки любой системы ИИ, если возникнет такая необходимость.

Система санкций

Брюссель предусмотрел внушительные штрафы за несоблюдение регламента. Самые жесткие санкции предусмотрены за использование запрещенных практик: они могут достигать 35 миллионов евро или 7% от общего годового мирового оборота компании (выбирается большая сумма).

За прочие нарушения предусмотрены штрафы до 3% от годовой выручки или 15 миллионов евро. Компании также могут быть оштрафованы за создание препятствий в ходе проведения проверок.

Дальнейшие шаги

Регулирование будет ужесточаться поэтапно. С декабря под официальный запрет попадут системы ИИ, способные создавать изображения обнаженных людей без их согласия. В период с 2027 по 2028 год вступят в силу специальные нормы для систем «высокого риска», применяемых в медицине и сфере безопасности. Этот срок был специально продлен, чтобы дать бизнесу возможность адаптироваться к жестким требованиям безопасности.