Чиновники или боты: как британская госслужба теряет человеческое лицо

Очередные прогнозы сулят гибель цивилизации от рук бесконтрольного интеллекта к 2030 году. Пока эксперты пугают атаками алгоритмов на государственные сайты, премьер-министр Энди Бернем пытается выставить Британию мировым регулятором технологий. На деле все выглядит иначе. Одним из первых решений Бернем упразднил Департамент науки, инноваций и технологий (DSIT), который отвечал за безопасность ИИ. Институт государственного управления считает, что это нанесет реальный вред и просто потратит время, нужное для работы по существу.

Британские власти не смогли навести порядок в регулировании ИИ дома, но рвутся координировать его во всем мире. Это не похоже на реакцию государства, осознающего экзистенциальную угрозу. Возможно, министры и общество просто привыкли к тревожным заголовкам. Когда о конце света трубят каждые две недели, страх притупляется. Перспектива массового вымирания начинает волновать не больше, чем залежавшийся тест на диспансеризацию.

Госслужащие понимают это лучше других. Средний возраст сотрудника в Британии — 43 года. Многие застали замену факсов электронной почтой и помнят Clippy, примитивного предка нейросетей из Microsoft Office. Поэтому перспектива того, что в налоговой или министерстве соцобеспечения (DWP) роботов станет больше, чем людей, не кажется им фантастикой.

Министры убеждены: внедрение ИИ позволит массово сократить рабочие места и сэкономить бюджет. При этом профсоюзы бьют тревогу. Исследования показывают, что только 29% сотрудников консультировали по поводу внедрения новых инструментов. В министерстве соцобеспечения алгоритмы уже ищут подозрительные заявки на пособия. Чиновники уверяют, что окончательное решение принимает человек. Однако госслужащие знают: фраза «человек участвует в процессе» не означает, что человек сохраняет контроль.

Государство держится на доверии, а не только на цифрах. По данным комитета по государственным счетам, доверие падает из-за закрытости и слабых стандартов работы с ИИ. Фраза «компьютер говорит нет» давно стала национальным мемом, напоминающим о скандале с системой Horizon в почтовой службе. Люди боятся момента, когда чиновник за столом переложит ответственность на систему, логику которой никто в комнате не понимает.

Главная угроза Уайтхоллу заключается не в восстании машин. Опасность в том, что правительство поменяет тысячи человеческих суждений на работу цифровых бюрократов. Это дешевле и быстрее, а в отчетах это назовут трансформацией. Но для граждан это будет выглядеть как окончательный отказ государства от ответственности.