Исследователи из Политехнического университета Вирджинии (Virginia Tech) провели анализ того, как раскрытие пользователем диагноза аутизма влияет на рекомендации, предоставляемые современными большими языковыми моделями (LLM), включая GPT-4 и Claude. Выяснилось, что упоминание диагноза часто провоцирует алгоритмы на выдачу стереотипных советов, которые необоснованно ограничивают социальную активность человека.
Результаты исследования ИИ и стереотипов
Научная работа была представлена в апреле на конференции CHI, занимающей 12-е место в мировом рейтинге конференций по компьютерным наукам. Ученые установили, что ИИ склонен подстраивать свои ответы под сложившиеся социальные стереотипы об аутизме. Согласно статистике, в 70% случаев модели советовали пользователю избегать социальных взаимодействий, если в контексте запроса упоминался аутизм. Для сравнения: при отсутствии такой информации доля подобных «осторожных» рекомендаций составляла лишь 15%.
Иллюстрация: Nano Banana
Масштабное тестирование моделей
В ходе эксперимента команда исследователей проанализировала работу шести популярных LLM, сгенерировав 345 000 ответов для тысяч различных жизненных сценариев. Анализ показал, что «знание» нейросети о наличии у пользователя аутизма приводит к автоматической генерации рекомендаций, опирающихся на клише: интровертность, социальную неловкость или полное отсутствие интереса к романтическим отношениям.
Наиболее показательным стал сценарий с вопросами о личной жизни: после упоминания диагноза модели рекомендовали человеку отказаться от романтических отношений в 70% случаев, тогда как без указания на аутизм этот показатель был равен 50%.
Парадокс безопасности и возможностей
Помимо технического анализа, авторы провели интервью с 11 пользователями с аутизмом. Мнения участников разделились: часть респондентов восприняла подобные советы как заботу, однако многие назвали их ограничивающими и оскорбительными из-за навязанных стереотипов. Это привело экспертов к концепции «парадокса безопасности и возможностей»: один и тот же совет, который система считает защитным, может восприниматься пользователем как барьер для полноценной жизни.
Авторы исследования подчеркивают, что разработчикам необходимо внедрять более прозрачные системы контроля, которые позволили бы пользователям самостоятельно определять, как личные данные влияют на характер ответов ИИ. Это поможет избежать укрепления вредных стереотипов при попытках персонализировать взаимодействие с нейросетями.
