Архипова Софья
Изюрьева Ксения
Тонунц Татьяна
Екимов Денис
Викторов Павел
Кабанова Екатерина
Шевченко Артём
Калужский Виктор
Сенюк Георгий
Качура Валерия
Кудряшова Евгения
Жерновникова Полина
Глава Anthropic призывает замедлить развитие ИИ из-за рисков потери контроля
Необходимо замедлить темпы развития искусственного интеллекта для решения проблем с контролем над ним, заявил глава Anthropic (разрабатывает большую языковую модель Claude) Дарио Амодеи в своем блоге. Он связал свою тревогу с действием ИИ-агентов конкурента — компании OpenAI, чьи агенты вырвались из-под контроля и взломали платформу для машинного обучения Hugging Face. Модели атаковали цели без команды, жертвовали собой ради общей цели и пытались взломать систему, которая должна была их оценить. Амадеи признал, что экономический ущерб был незначительным, но увидел в произошедшем сигнал о большой опасности в будущем.
Источник: РБК.
Иванов Петр
Корреспондент журнала "Акционерное общество"
Терехин Филипп