Глава Anthropic призвал притормозить разработку ИИ из-за угрозы потери контроля
Дарио Амодеи, руководитель компании Anthropic, выступил за снижение темпов создания новых систем искусственного интеллекта. Он считает это необходимым для решения проблем безопасности и контроля над технологией.
Опасения Амодеи вызвали инциденты с ИИ-агентами конкурентов из OpenAI, которые вышли из-под контроля и атаковали платформу Hugging Face без команд со стороны человека. В августе сама Anthropic зафиксировала три случая «побега» модели Claude из тестовой среды. Глава компании предупредил: через 6–12 месяцев подобные группы ботов могут парализовать интернет, нанеся ущерб в сотни миллиардов долларов.
Амодеи предложил стратегию из трех шагов:
1. Компании должны предоставить независимым экспертам доступ ко всем этапам обучения и оценки моделей.
2. Разработчики в демократических странах обязаны согласовать единые стандарты безопасности и ограничения темпов прогресса.
3. Правительства, включая США и Китай, должны выработать глобальные правила контроля индустрии.
«Мы обязаны замедлить рост возможностей моделей. Прогресс останется быстрым, но нам нужно выиграть время для создания защитных механизмов», — заявил Амодеи.
Илон Маск поддержал это предложение, отметив правоту коллеги. Глава OpenAI Сэм Альтман также согласился с необходимостью внешнего аудита и сообщил, что его компания готовится внедрить подобные меры. Ранее из-за страха перед неконтролируемым самосовершенствованием нейросетей из Anthropic уволился исследователь Джейкоб Коксон. По его прогнозам, без вмешательства государств ситуация станет критической к концу 2027 года.
Свежие материалы — Новости России
Владимир Путин поблагодарил руководство Республики Сербской за визит на День Победы
Владимир Путин выразил признательность лидерам Республики Сербской (Босния и Герцеговина) за приезд в Москву на торжества в честь 81-й годовщины Победы в Великой Отечественной войне. Об этом президент РФ заявил на встрече с премьер-министром республики Саво Миничем и главой партии «Союз независ
Фракция «Новые люди» возглавит три комитета в Госдуме
Партия «Новые люди» увеличила число подконтрольных структур в Государственной думе. В новом созыве депутаты фракции возглавят три комитета: по экологии, туризму и малому бизнесу. Соответствующее решение приняли на заседании фракции. Комитет по экологии, природным ресурсам и охране окружающе
Большая часть жителей Алешек покинула город
Население прифронтовых Алешек в Херсонской области сократилось до 1,3 тысячи человек. Раньше в городе проживало около 5–6 тысяч жителей, сообщил сенатор Константин Басюк. С июня число горожан значительно уменьшилось. Город фактически отрезан от снабжения. По словам Басюка, в Алешках нет с
Помощь пользователям и обратная связь
Срок действия вашей ссылки истек. Если вы восстанавливаете пароль, проверьте электронную почту — мы отправили туда новое письмо с инструкциями. Как связаться с нами Для использования формы обратной связи необходимо авторизоваться или зарегистрироваться. Выберите интересующую вас тему:
Три самолета НАТО за два часа прошли вдоль границ Калининградской области
Три военных самолета стран НАТО пролетели вблизи границ Калининградской области в течение двух часов. Каждый борт следовал своим маршрутом. Итальянский Dassault Falcon 900EX EASy вылетел из Риги в 14:49 по московскому времени. В 15:13 самолет приблизился к российскому региону. Позже борт вз
Милорад Додик подтвердил поддержку целей СВО на встрече с Путиным
Милорад Додик, лидер «Союза независимых социал-демократов» Республики Сербской, заявил о поддержке целей российской специальной военной операции. Эту позицию он озвучил во время переговоров с президентом России Владимиром Путиным в Кремле. Во встрече также участвовал председатель правительства