Ученые пермского кампуса НИУ ВШЭ выяснили, что нейросети «альтруистичнее» людей в финансовых вопросах
Команда ученых Международной лаборатории экономики нематериальных активов изучила поведение десяти наиболее крупных и популярных нейросетей на базе экономической игры «Диктатор», показывающей поведение людей в условиях неравного распределения ресурсов. Исследование проведено в рамках гранта РНФ, а его результаты опубликованы в Журнале Новой экономической ассоциации.
Проектом занимались Евгения Шенкман, Никита Маткин и Петр Паршаков (руководитель). Правила экономической игры «Диктатор» состоят в том, что игрок («диктатор») получает определенную сумму денег. Он должен сам определить, какую часть оставить себе, а какую – передать другому анонимному участнику, не имеющему возможности повлиять на его решение. В расширенной версии игры он еще может отнимать ресурсы у соперника. Обычно игроки-диктаторы передают около 28–30% полученных средств второму игроку. Ученые объясняют это присущими людям стремлением к справедливости, альтруизмом и заботой о благосостоянии другого.
Ученые МЛЭНА выяснили, что нейросети демонстрируют более «щедрое» поведение, чем реальные участники экспериментов. Так, когда нейросети могли только поделиться, они отдавали на 41–68% большие суммы, чем человек. Когда им разрешали забрать ресурсы у вымышленного второго игрока, они делали это в среднем на 29% реже и, если это происходило, были менее «жадными», чем люди. Анализ текстовых комментариев, которые нейросети составляли для обоснования своего решения показал, что модели использовали слова «доверие», «справедливость» или «равенство», когда отдавали больше ресурсов. И, напротив, слово «рациональность» или фраза «максимум для себя» сочетались со скупостью.
Авторы исследования пришли к выводу, что рассуждения нейросетей при принятии решений опираются на два основных принципа:
- «принцип справедливости», отражающий социальные нормы и моральные основания щедрости,
- «принцип рациональности», связанный с увеличением собственной выгоды.
В этом смысле аргументация больших языковых моделей в значительной степени воспроизводит логику, характерную и для участников реальных экспериментов. Наблюдаемые же различия между нейросетями авторы связывают с особенностями их обучения.
Петр Паршаков, заведующий Международной лабораторией экономики нематериальных активов, руководитель проекта
Нужно понимать, что «альтруизм» моделей – это не совсем то же понятие, которое мы обычно применяем к людям. У нейросетей нет собственных предпочтений, эмоций или мотивации, поэтому корректнее говорить не о внутреннем альтруизме, а об альтруистически выглядящем поведении в рамках экспериментальной задачи. В этом смысле речь скорее идет о специфике работы моделей, включая особенности их обучения и настройки. Но важно уточнить, что это не означает, что модели всегда должны вести себя щедро или что в них заложен один заранее заданный тип поведения. Алгоритмы обучаются на больших массивах текстов, где представлены разные формы человеческих решений и аргументации. Поэтому в экспериментальной ситуации они могут воспроизводить разные варианты поведения и разные способы обоснования решения.
Наше исследование подтвердило, что большие языковые модели можно использовать только для предварительного моделирования поведения людей, но не в качестве полноценной замены человеческим участникам поведенческих экспериментов. Этот вывод важен для науки, образования, бизнеса и разработки ИИ-систем, поскольку он способствует более корректному и этичному использованию искусственного интеллекта при анализе социальных решений. В дальнейшем мы планируем изучить, как культурные факторы, например, язык запроса, влияют на экспериментальные результаты, полученные с помощью разных нейросетей.
