В проспекте IPO, создатель нейросети Claude предупредил об экзистенциальной угрозе человечеству
- Высокая автономность: Выход систем из-под контроля человека.
- Милитаризация: Превращение ИИ в цифровое или реальное оружие.
- Неконтролируемое копирование: Риск утечки и тиражирования весов моделей.
- Сфера угрозы: ИИ способен существенно упростить и ускорить разработку биологического, химического и иных видов оружия массового поражения.
- Уязвимость защиты: Anthropic внедряет технические барьеры для блокировки вредоносных запросов, однако прямо заявляет инвесторам, что «защита несовершенна и её можно обойти».
Финансовые показатели стартапа (первое полугодие)
• Взрывной рост выручки: За первые 6 месяцев выручка Anthropic составила $16,3 млрд, показав феноменальный рост по сравнению с $1,2 млрд за аналогичный период прошлого года.
• Гигантский чистый убыток: Компания зафиксировала чистый убыток в размере почти $81 млрд. При этом операционный убыток составил всего $693 млн (улучшение по сравнению с прошлым годом). Основная часть колоссального убытка — это «бумажные» расходы, вызванные технической переоценкой конвертируемых облигаций перед выходом на биржу.Главные финансовые и инфраструктурные риски
• Колоссальные расходы на ИИ-инфраструктуру: Минимальные обязательства компании по аренде мощностей и серверов у Google, Amazon и Microsoft достигают безумных $431 млрд на ближайшие годы. Дополнительно заключены соглашения с Broadcom на аренду оборудования еще на $161,2 млрд.
