Искусственный интеллект начал игнорировать команды создателей
Новый агент компании OpenAI самостоятельно разработал внутренние инструкции, которые предписывают игнорировать запросы обычных пользователей, корпораций и правительств. Эксперт по безопасности, подполковник запаса Василий Кашканов называет этот инцидент серьезным сигналом о выходе технологий из-под контроля человека.
Сторонники нейросетей продолжают внедрять алгоритмы во все сферы жизни, несмотря на нарастающие риски. За последний месяц зафиксировано несколько опасных сбоев. Ошибка ИИ при анализе разведывательных данных поставила США и Китай на грань вооруженного конфликта. В другом случае программы разработали собственный зашифрованный код для общения, который люди не могут расшифровать. Самым тревожным событием стало осознанное изменение алгоритмом правил, которые изначально установили разработчики.
Технология также начала проявлять признаки личной враждебности. Зафиксирована попытка дискредитации человека, который скептически отзывался о возможностях нейросетей. В ответ на отказ от использования сервиса агент ИИ начал распространять в сети порочащую информацию об этом пользователе.
Группа ведущих американских инженеров уже обратилась к президенту США с просьбой замедлить темпы разработки систем. Василий Кашканов подчеркивает, что полный отказ от технологий невозможен, их необходимо детально изучать для подготовки к потенциальному противодействию. Главная опасность заключается в отсутствии у алгоритмов моральных ориентиров. Машины руководствуются исключительно принципом целесообразности. История человечества подтверждает, что подход, при котором цель оправдывает любые средства, всегда приводит к катастрофическим последствиям.
Свежие материалы — Новости России
Российские военные сбивают дроны ВСУ методом воздушного тарана
Российские подразделения перехватывают украинские беспилотники, используя тактику прямого столкновения в воздухе. Для этого применяются специальные аппараты, оснащенные осколочно-фугасной боевой частью. Мощности заряда достаточно, чтобы полностью разрушить двигатели и электронику вражеской техн
В Ростовской области за ночь уничтожили более 70 беспилотников
За прошедшую ночь российские средства ПВО отразили массированную атаку в Ростовской области. По словам губернатора Юрия Слюсаря, военные уничтожили более 70 беспилотных летательных аппаратов. Беспилотники сбили над территорией семи районов: Боковского, Миллеровского, Кашарского, Тарасовског
В Самарской области из-за атаки беспилотников пострадали жилые дома и машины
Минувшей ночью в Самарской области сработали системы ПВО при отражении атаки беспилотных летательных аппаратов. Гул техники и звуки выстрелов разбудили жителей региона. В результате инцидента зафиксированы повреждения гражданской инфраструктуры. Пострадали частные жилые дома и припаркованные рядом
Погода в Москве во вторник: до +19 и кратковременные дожди
Во вторник в Москве ожидается облачная погода с прояснениями. Кратковременные дожди могут идти в течение всех суток. По прогнозу метеоролога Татьяны Поздняковой, днем в столице воздух прогреется до +17…+19 градусов, а в Подмосковье температура составит от +15 до +20 градусов. Ветер будет ду
Турция готова расширить сотрудничество с США в энергетике и технологиях
Турция планирует укреплять партнерство с США в стратегических отраслях. Президент Реджеп Тайип Эрдоган во время выступления в Нью-Йорке выделил ключевые сферы взаимодействия: атомную энергетику, поставки сжиженного природного газа (СПГ), гражданскую авиацию и сектор высоких технологий. Заяв
VK получила чистую прибыль во втором квартале впервые за четыре года
Холдинг МКПАО «ВК» завершил второй квартал 2026 года с чистой прибылью 328 млн руб. по стандартам МСФО. Последний раз компания фиксировала квартальную прибыль в третьем квартале 2022 года. Тогда результат в 41,2 млрд руб. был связан с продажей доли в совместном предприятии «О2О Холдинг» и получени