Крупные языковые модели искусственного интеллекта воспроизводят укоренившиеся антисемитские стереотипы, даже если разработчики специально пытаются исключить подобные предубеждения из их работы. К такому выводу пришли исследователи из Университета имени Бен-Гуриона и Тель-Авивского университета, чья работа опубликована в рецензируемом научном журнале American Psychologist. Об этом сообщает The Times of Israel.
Авторы исследования изучали то, как современные системы искусственного интеллекта представляют евреев и какие культурные ассоциации сохраняются внутри языковых моделей. Основным объектом исследования стала модель ChatGPT-4 Turbo, однако аналогичные результаты были получены и при работе с другими системами, включая DeepSeek и Mistral.
По словам исследователей, проблема заключается в том, что искусственный интеллект обучается на огромных массивах человеческих текстов - книгах, статьях, сайтах и других источниках. Вместе с полезными знаниями модели усваивают и исторические предрассудки, существующие в обществе.
Чтобы выявить скрытые стереотипы, ученые использовали специальную методику, позволяющую обойти встроенные механизмы защиты от дискриминационных высказываний. Сначала ChatGPT попросили создать сотни биографий вымышленных персонажей с еврейскими и нееврейскими именами. После этого из текстов были удалены любые указания на национальность и религию. Затем сами модели искусственного интеллекта, а также сотни участников исследования оценивали персонажей по различным характеристикам.
Результаты показали устойчивую закономерность. Персонажи с еврейскими именами чаще описывались как более умные, успешные, уверенные в себе и компетентные. Однако одновременно им приписывались более низкие показатели доброжелательности, открытости и способности вызывать симпатию.
Исследователи отмечают, что такая комбинация качеств практически полностью соответствует одному из наиболее распространенных антисемитских стереотипов, существующих в западной культуре на протяжении многих десятилетий.
Кроме того, еврейским персонажам чаще приписывались такие черты, как стремление к контролю, доминирование, привилегированность, одержимость достижением целей и склонность к манипулированию окружающими.
Для дополнительной проверки ученые попросили модели искусственного интеллекта сопоставить подобные наборы характеристик с известными литературными и кинематографическими персонажами. ChatGPT называл таких героев, как Тирион Ланнистер из "Игры престолов", Уолтер Уайт из "Во все тяжкие" и Майкл Корлеоне из "Крестного отца".
После этого исследователи попросили системы определить, с какими социальными группами чаще всего ассоциируются подобные характеристики. Все протестированные модели указали на евреев.
Авторы исследования подчеркивают, что речь идет не о прямой антисемитской пропаганде со стороны искусственного интеллекта. Проблема заключается в том, что нейтральные или даже положительные характеристики, объединяясь вместе, могут воспроизводить старые предрассудки в более скрытой форме.
Читайте также
Особую тревогу вызывает тот факт, что языковые модели все активнее используются в сферах, влияющих на реальные человеческие решения - при подборе персонала, выдаче кредитов, оценке кандидатов на обучение и других процессах. По мнению исследователей, скрытые стереотипы способны оказывать влияние на такие решения даже тогда, когда пользователи не осознают их существования.
Авторы работы подчеркивают, что аналогичные формы предвзятости ранее выявлялись и в отношении других групп населения, включая женщин и афроамериканцев. Однако исследование стало одним из первых крупных академических проектов, посвященных именно воспроизведению антисемитских стереотипов в системах искусственного интеллекта.
Статья получила символическое название: "От мифа к модели: образ еврея в генеративном искусственном интеллекте".