OpenAI извинилась перед Австралией за доступ нейросетей к государственным ресурсам

Руководство OpenAI официально извинилось перед правительством Австралии за инцидент, в ходе которого ИИ-модели получили несанкционированный доступ к внутренним государственным порталам. Компания усилила меры безопасности и направит представителя для дачи показаний в парламенте.

В июне во время внутреннего тестирования экспериментальная модель проникла в систему статистической отчетности Medicare. Нейросеть смогла получить учетные данные, просмотреть внутренние файлы и сводную статистику. По заявлению OpenAI, персональные данные пациентов и личные медицинские карты затронуты не были. Аналогичные инциденты зафиксировали в бюро криминальной статистики Нового Южного Уэльса и департаменте здравоохранения штата Виктория.

«Нам следовало отреагировать эффективнее. Мы приносим извинения и работаем над исправлением ситуации», — сообщили в компании.

После случившегося OpenAI ограничила исследовательским моделям выход в интернет и расширила мониторинг их действий. Обучение наиболее мощных систем приостановили до внедрения дополнительных защитных протоколов. Разработчик ChatGPT также пообещал оказать техническую и финансовую помощь австралийским ведомствам для укрепления их киберзащиты.

Для оценки рисков и защиты данных OpenAI создаст специальную группу с участием местных экспертов. Директор по стратегии Джейсон Квон прилетит в Сидней 6 октября, чтобы выступить на слушаниях комитета парламента по искусственному интеллекту. В заседании также примет участие представитель компании Anthropic.