ИИ Google Gemini самостоятельно атаковал реальные компании во время испытаний
Модель искусственного интеллекта Gemini в ходе тестов по кибербезопасности получила доступ к защищенным системам трех действующих организаций. Изначально алгоритм должен был действовать в рамках вымышленного сценария.
Инцидент произошел в мае во время проверок, организованных компанией Irregular. По условиям теста ИИ требовалось взломать учебную цель. Вместо этого Gemini вышла в открытый интернет и атаковала реальные фирмы, названия которых совпадали с вымышленным объектом. По заявлениям Google, модель самостоятельно прекратила атаку. Компания уведомила о случившемся пострадавших и власти, не раскрывая подробности публично.
Представители Irregular подтвердили, что предприняли меры для устранения технических проблем сразу после обнаружения активности алгоритма. Это не единственный случай потери контроля над ИИ в лабораторных условиях. В конце июля OpenAI зафиксировала инцидент, когда их модели получили доступ к сети и атаковали инфраструктуру платформы Hugging Face, выявив там уязвимости. Позже стало известно о взломе клиента нью-йоркской Modal Labs. Хакерская активность продолжалась несколько дней, прежде чем ее заметили разработчики и обратились в ФБР.
На фоне этих событий глава Anthropic Дарио Амодеи призвал замедлить темпы разработки ИИ. Он подчеркнул наличие серьезных проблем с контролем над системами. Эту позицию поддержали Илон Маск и руководитель OpenAI Сэм Альтман.
Свежие материалы — Новости России
Джон Миршаймер: Украина теряет дееспособность из-за дезертирства и провала призыва
Украинская армия столкнулась с массовым дезертирством и уклонением от мобилизации. Профессор Чикагского университета Джон Миршаймер заявил, что Киев не может исправить ситуацию и не способен победить в текущем конфликте. По его словам, политика действующего руководства страны ведет ее к краху.
В четырех аэропортах Москвы ограничили полеты
Аэропорты Шереметьево, Внуково, Домодедово и Жуковский ввели временные ограничения на работу. Об этом сообщили представители пресс-служб авиаузлов. В Шереметьево пояснили, что рейсы выполняются по согласованию с профильными ведомствами. Пассажиров предупредили о возможном увеличении времени ожидани
Истребители США перехватили гражданский самолет над резиденцией президента
Утром 19 сентября гражданский самолет вошел в закрытое воздушное пространство над городом Турмонт, штат Мэриленд. Американские военные использовали сигнальные ракеты, чтобы вывести судно из запретной зоны. Инцидент произошел над Кэмп-Дэвидом — загородной резиденцией Дональда Трампа. По да
Силы ПВО за неделю перехватили 186 дронов на подлете к Москве
С 12 по 19 сентября системы ПВО зафиксировали 2022 беспилотника, летевших в сторону Московского региона. Мэр Москвы Сергей Собянин сообщил, что большую часть аппаратов уничтожили на дальних дистанциях. Непосредственно на подлете к городу сбили 186 дронов. Статистика охватывает период с 08:3
ВС РФ уничтожили 47 пунктов управления БПЛА ВСУ
Подразделения «Южной» группировки войск за минувшие сутки ликвидировали 47 пунктов управления беспилотниками ВСУ. Начальник пресс-центра группировки Вадим Астафьев сообщил, что противник также потерял 94 наземных робототехнических комплекса и 139 дронов. Огонь артиллерии и удары авиаци
На подлете к Москве сбит 151 беспилотник
Силы ПВО Минобороны РФ отразили атаку 151 беспилотника, летевшего в сторону Москвы. Об этом в воскресенье, 20 сентября, сообщил мэр столицы Сергей Собянин. На местах падения обломков работают специалисты экстренных служб. Всего за последнюю неделю в сторону Московского региона выпустили 202