Anthropic предупредила об угрозе ИИ для человечества перед выходом на биржу

Компания Anthropic в документах для выхода на Нью-Йоркскую фондовую биржу предупредила инвесторов, что развитие искусственного интеллекта несет «экзистенциальные риски для человечества». Почти треть проспекта IPO посвящена описанию угроз. Среди них — способность продвинутых моделей манипулировать людьми, заниматься шантажом и демонстрировать непредсказуемое поведение.

Помимо глобальных опасений, стартап Дарио Амодеи указал на высокую концентрацию бизнеса: почти четверть всей выручки компании обеспечивают всего два клиента.

Убытки в 8 миллиардов долларов при рекордном росте выручки

Финансовые отчеты Anthropic фиксируют резкий рост операционных расходов. В прошлом году компания потеряла более 8 млрд долларов при выручке в 4,6 млрд. Огромные затраты на обучение нейросетей и аренду вычислительных мощностей довели общие операционные расходы до 13 млрд долларов.

Ситуация начала меняться во втором квартале текущего года. Выручка стартапа достигла 11,5 млрд долларов, что позволяет компании рассчитывать на операционную прибыль второй квартал подряд.

Для поддержания темпов роста Anthropic планирует направить 518 млрд долларов в облачные технологии и ИТ-инфраструктуру. Компания уже заключила соглашения о расширении мощностей с Google и SpaceX.

Крупнейшее IPO в истории

Разработчик нейросетей Claude и Mythos рассчитывает на оценку в 2 трлн долларов. Если этот план реализуется, выход Anthropic на биржу станет самым масштабным в истории, превзойдя показатели SpaceX (1,77 трлн долларов).

В мае стартап провел раунд финансирования на 65 млрд долларов. Тогда инвесторы оценили компанию в 965 млрд долларов, что на тот момент превысило предполагаемую стоимость OpenAI. Пока Anthropic готовится к листингу, их главный конкурент, создатель ChatGPT, отложил выход на биржу из-за рыночных сложностей.

Глава Anthropic Дарио Амодеи, выступая в Совете Безопасности ООН, назвал безопасность ИИ ключевым вопросом глобальной повестки. По его мнению, ради предотвращения этой угрозы странам необходимо отбросить разногласия.