ОЭСР и Базельский банк подготовили обзор по рискам AI в финансовом секторе

Организация экономического сотрудничества и развития (ОЭСР) выпустила обзор практик использования генеративного искусственного интеллекта (GenAI) в финансовом секторе. По мнению экспертов, GenAI на финансовых рынках демонстрирует «медленные темпы развертывания» из-за строго регулируемого характера сектора. Тем не менее, регуляторам необходимо обеспечить, чтобы дальнейшее использование GenAI согласовывалось с задачами обеспечения финансовой стабильности, защищало потребителей и способствовало целостности рынка. Согласно документу, более широкое внедрение GenAI может усугубить существующие риски и создать новые проблемы для финансовых рынков.

Базельский банк опубликовал статью «Testing the cognitive limits of large language models», в которой на примере GPT-4 демонстрируется, что большие языковые модели (LLM) безупречно разгадывают головоломки, формулировки которых доступны в Интернете, но если изменить произвольные детали, LLM ошибается, что наводит авторов на мысль об отсутствии у LLM истинного понимания основной логики. Авторы отмечают, что достигнут значительный прогресс в применении центральными банками машинного обучения для целей управления данными, макроанализа и в регулировании/надзоре, однако советуют проявлять осторожность при использовании LLM в контекстах, требующих ответственного экономического анализа. Нынешнему поколению LLM не хватает строгости и ясности в рассуждениях, необходимых для анализа с высокими рисками, резюмируют авторы статьи.