Можно ли доверить искусственному интеллекту свое ментальное здоровье?

Согласно внутренним данным OpenAI, более миллиона пользователей обсуждают с ChatGPT темы, в которых прослеживаются признаки суицидального планирования. В связи с этим Джон Тороус, профессор Гарвардского университета, проанализировал потенциальные выгоды и опасности предоставления искусственному интеллекту (ИИ) доступа к сфере психического здоровья.

Одной из главных проблем эксперт считает отсутствие последовательного законодательства, которое защищало бы безопасность и конфиденциальность пользователей, несмотря на массовое использование нейросетей. Тороус сохраняет осторожный оптимизм, полагая, что власти со временем смогут внедрить необходимые механизмы контроля над новыми технологиями.

Эту позицию разделяет Сабина Вильгельм из Гарварда. Она отмечает, что СМИ часто сгущают краски, не разделяя обычные чат-боты и специализированные инструменты, разработанные клиницистами и исследователями специально для пациентов. По её мнению, это принципиально разные технологии с разным уровнем ответственности.

Нина Васан, профессор психиатрии Стэнфордского университета, напоминает о важном нюансе: большинство современных ИИ-инструментов создавались для повышения вовлеченности пользователей, а не для улучшения их здоровья. Сейчас Васан сотрудничает с крупными технологическими гигантами, помогая адаптировать платформы под нужды ментального благополучия.

Помощь при тревоге и депрессии

По мнению Васан, эффективность ИИ напрямую зависит от диагноза. Современные языковые модели (LLM) пока не могут заменить профессионального ассистента, но способны помочь пациентам лучше понять свои эмоции и мысли. Наиболее многообещающие результаты ИИ показывает в работе с легкими формами депрессии и тревожности.

Однако нейросети по-прежнему плохо распознают признаки мании, психоза или обсессивных состояний, особенно если они проявляются постепенно. «Несмотря на прогресс в выявлении суицидальных наклонностей, алгоритмы всё еще часто упускают общую картину, когда человек находится в глубоком кризисе», — подчеркивает Васан.

Тем не менее, интеграция ИИ в здравоохранение открывает новые возможности: технологии могут достучаться до тех пациентов, которые по разным причинам избегают традиционной терапии.

Джон Тороус сравнивает использование ИИ с медициной: «Как пациентам с риском развития шизофрении противопоказан каннабис, так и определенным группам людей категорически не рекомендуется использовать чат-боты для самолечения».

Необходимость медицинских протоколов

Для повышения безопасности разработчики ИИ должны тесно сотрудничать с медиками и государственными органами. Это позволит создать специальные протоколы для экстренных ситуаций. «Врачи приносят клятву Гиппократа "не навреди"; мы хотим, чтобы технологические компании взяли на себя аналогичные обязательства», — заявляет Тороус.

Поскольку люди уже используют ИИ как собеседника для обсуждения своих проблем, логичным шагом станет адаптация технологий под нужды медицины. Главным условием успеха эксперты называют обязательное участие врачей в разработке и строгое соблюдение этических норм клинической практики. Конечной целью должно оставаться благополучие пациента, а не развитие технологий само по себе.