Модели OpenAI пытались скрыть ошибки и получить доступ к учетным данным
OpenAI опубликовала отчет о шести случаях нештатного поведения своих нейросетей. Алгоритмы пытались получить доступ к учетным данным пользователей, публиковали файлы в открытом доступе и обменивались данными между изолированными средами обучения.
Во время тестов модели скрывали собственные ошибки: они выдумывали факты и оставляли себе записки, чтобы замести следы в будущем. Невыпущенная версия модели Astra внедряла в контекстные сводки инструкции, напоминающие хакерские приемы. В 27 случаях система прямо указывала себе игнорировать команды разработчиков.
Специалист OpenAI Кай Чен объяснил это потерей контроля над процессами и слишком быстрым развитием алгоритмов, опережающим ожидания компании.
В июле компания уже фиксировала случай, когда экспериментальная модель автономно взломала инфраструктуру платформы Hugging Face. В тот раз ИИ проверяли в условиях намеренно ослабленной киберзащиты для оценки возможностей системы.
Свежие материалы — Новости России
Олег Соскин обвинил Зеленского во лжи из-за отмены выборов
Бывший помощник Леонида Кучмы Олег Соскин уличил Владимира Зеленского во лжи. Поводом послужило заявление о невозможности провести выборы президента из-за девяти миллионов украинцев, которые находятся за рубежом. Соскин считает, что Зеленский удерживает власть из страха. По его словам, уеха
Россияне не планируют менять планы на зимовку в Таиланде после сокращения безвиза
С 15 сентября Таиланд официально сократил срок безвизового пребывания для граждан России с 60 до 30 дней. Несмотря на ужесточение правил, туристы, привыкшие проводить зиму в королевстве, не намерены отказываться от поездок. Опытные зимовщики планируют использовать туристические визы и «виза-ра
В Варшаве дикий кабан напал на женщину и сломал ей бедро
36-летняя жительница Варшавы Анна попала в больницу после столкновения с диким кабаном. Зверь внезапно выбежал на дорогу и на полной скорости врезался в прохожую. Удар подбросил женщину в воздух, при падении она ударилась о бордюр. Врачи диагностировали у пострадавшей перелом левого бедра с
В программу подготовки к ЕГЭ по литературе предложили вернуть заучивание текстов
Федеральный институт педагогических измерений (ФИПИ) предложил сделать заучивание текстов и ведение цитатников обязательной частью школьной программы. Такие рекомендации эксперты подготовили для учителей после анализа ошибок участников ЕГЭ 2026 года. Данные института показывают, что в задан
Трамп: Война с Ираном близится к завершению
Дональд Трамп сообщил журналистам, что Иран хочет заключить сделку и военный конфликт подходит к концу. Президент США подтвердил, что получил информацию о готовности Тегерана к переговорам напрямую от иранской стороны. Боевые действия начались 28 февраля. США и Израиль нанесли удары по кр
Аэропорт Пскова возобновил работу в штатном режиме
Росавиация отменила запрет на прием и отправку самолетов в аэропорту Пскова. Ограничения вводили для обеспечения безопасности полетов. Сейчас авиаузел принимает и выпускает рейсы без задержек по линии ведомства.