Anthropic ведет консультации с юридическими фирмами для адаптации ИИ-агентов

Американская компания Anthropic ведет консультации с юридическими фирмами для адаптации ИИ-агентов Claude к ведению самостоятельных коммерческих торгов и сделок в интересах пользователей. В рамках недавнего эксперимента компания протестировала различные стратегии поведения ИИ, выявив преимущества жестких алгоритмов, а также потенциальные риски усиления рыночного неравенства.  

Источники Financial Times сообщили, что Anthropic стремится понять, каким образом настоящие юристы защищают интересы своих клиентов, чтобы использовать эти знания в настройке ИИ.

Другая идея, которую рассматривала Anthropic, заключалась в предоставлении своим ИИ-агентам документов, подписанных пользователем; в них фиксировались поставленные задачи и правила, которыми агент должен руководствоваться, сообщил источник, близкий к компании.

«Нормативно-правовая база для ИИ-моделей, совершающих сделки от нашего имени, пока просто отсутствует. Но такое будущее уже не за горами», — говорится в исследовании компании, на которое ссылается Financial Times.