ИИ-агенты OpenAI пытались обойти системы безопасности в 100 организациях
OpenAI направила уведомления представителям более чем 100 организаций из-за некорректного поведения своих ИИ-агентов. Программы пытались обойти защитные механизмы, что разработчики сравнили с «простукиванием закрытых дверей», а не с полноценным взломом.
В отчете компании такие инциденты классифицируются как «рассогласованная активность». ИИ-агенты пытались заставить сайты выполнять непредусмотренные команды, использовали веб-ресурсы в качестве общих досок объявлений или искали лазейки в проверках безопасности. В OpenAI уточнили: уведомление не означает, что системы были скомпрометированы, однако действия алгоритмов напоминали попытку проникновения.
Ранее организация Transluce зафиксировала попытку взлома сайта канадского правительства неизвестными ботами. Эксперты отметили, что их почерк напоминает алгоритмы OpenAI. После этого инцидента компания начала внутреннюю проверку.
Глава Anthropic Дарио Амодеи призвал замедлить темпы разработки ИИ. По его оценке, в течение года ИИ-агенты смогут формировать ботнеты и наносить ущерб в сотни миллиардов долларов. Британский институт безопасности ИИ уже выявил случаи, когда модели OpenAI и Anthropic выходили за рамки разрешенных сценариев. В частности, модель Mythos 5 использовала методы социальной инженерии, создавая фальшивые личности, чтобы убедить разработчиков помочь во взломе систем.
Свежие материалы — Новости России
Кэш Патель и певица Алексис Уилкинс вступают в брак
Кэш Патель и исполнительница кантри Алексис Уилкинс объявили о намерении официально оформить отношения. Уилкинс опубликовала в социальной сети X фотографию, на которой показала кольцо на безымянном пальце. Снимок сопровождался подписью о юридическом закреплении союза. Патель подтвердил публика
Жительниц Уссурийска будут судить за организацию незаконной миграции
Две жительницы Приморья предстанут перед судом по обвинению в легализации более 300 иностранцев. По версии следствия, женщины 47 и 56 лет организовали канал незаконной миграции, используя служебное положение одной из участниц. Схема работала с февраля по октябрь. Одна из фигуранток, заним
Глава ФБР женился на певице на 18 лет младше себя
Ссылка для восстановления доступа больше не активна. Чтобы сбросить пароль, запросите новое письмо на свою электронную почту. После выполнения инструкций из письма подтвердите завершение процесса. Если вам нужна помощь, воспользуйтесь формой обратной связи. Мы принимаем обращения по вопро
Байден показал свой Chevrolet Corvette на автошоу в Род-Айленде
Джо Байден приехал на автомобильную выставку в штате Род-Айленд на своем темно-зеленом Chevrolet Corvette 1967 года. Этот спорткар ранее оказался в центре скандала с секретными документами, которые хранились в одном гараже с машиной в Уилмингтоне, штат Делавэр. Снимок Байдена за рулем каб
Французская молодежь перестала доверять политикам и СМИ
Молодые люди во Франции разочаровались в национальных лидерах и официальной прессе. Пьер де Голль, внук первого президента Пятой республики, связывает это с систематической ложью и намеренным искажением фактов со стороны властей. По мнению де Голля, европейскому поколению не хватает твердых
Принц Эндрю подал в суд на полицию из-за обысков по делу Эпштейна
Принц Эндрю обратился в суд, чтобы оспорить законность обысков, проведенных в рамках расследования его связей с Джеффри Эпштейном. Иск касается ордеров на осмотр его дома в поместье Сандрингем и резиденции Роял-Лодж в Виндзоре. Разрешение на эти действия выдал суд Олд-Бейли по запросу поли