В проспекте IPO, создатель нейросети Claude предупредил об экзистенциальной угрозе человечеству

27 окт - 09:54
27 окт - 09:56
 309
Создатель нейросети Claude предупредил об экзистенциальной угрозе человечеству в официальных документах, поданных в Комиссию по ценным бумагам и биржам США (SEC). Накануне своего первичного публичного размещения акций американская ИИ-лаборатория Anthropic открыто заявила о катастрофических рисках, связанных с бесконтрольным развитием мощных ИИ-систем.
Согласно проспекту IPO, Anthropic рассматривает передовые модели как потенциальный источник глобальной угрозы. Опасность кратно возрастает при следующих сценариях:
  • Высокая автономность: Выход систем из-под контроля человека.
  • Милитаризация: Превращение ИИ в цифровое или реальное оружие.
  • Неконтролируемое копирование: Риск утечки и тиражирования весов моделей.
Помощь в создании оружия массового поражения
Компания признала, что её наиболее совершенные алгоритмы уже обладают опасным потенциалом, который может быть использован злоумышленниками.
  • Сфера угрозы: ИИ способен существенно упростить и ускорить разработку биологического, химического и иных видов оружия массового поражения.
  • Уязвимость защиты: Anthropic внедряет технические барьеры для блокировки вредоносных запросов, однако прямо заявляет инвесторам, что «защита несовершенна и её можно обойти».

    Финансовые показатели стартапа (первое полугодие)

    • Взрывной рост выручки: За первые 6 месяцев выручка Anthropic составила $16,3 млрд, показав феноменальный рост по сравнению с $1,2 млрд за аналогичный период прошлого года.
    • Гигантский чистый убыток: Компания зафиксировала чистый убыток в размере почти $81 млрд. При этом операционный убыток составил всего $693 млн (улучшение по сравнению с прошлым годом). Основная часть колоссального убытка — это «бумажные» расходы, вызванные технической переоценкой конвертируемых облигаций перед выходом на биржу.

    Главные финансовые и инфраструктурные риски

    • Колоссальные расходы на ИИ-инфраструктуру: Минимальные обязательства компании по аренде мощностей и серверов у Google, Amazon и Microsoft достигают безумных $431 млрд на ближайшие годы. Дополнительно заключены соглашения с Broadcom на аренду оборудования еще на $161,2 млрд.

Иванов Петр Корреспондент журнала "Акционерное общество"