Генеративные модели искусственного интеллекта во многих вопросах, связанных с социальными науками, дают ответы, отражающие ценности обществ WEIRD (Western, Educated, Industrialized, Rich, Democratic — западные, образованные, индустриализированные, богатые и демократические общества).
Как сообщает «Анадолу», сегодня искусственный интеллект активно используется в самых разных сферах - от образования и бизнеса до развлечений и медицинских консультаций. Одним из наиболее распространенных направлений его применения в последнее время стала психологическая поддержка.
Однако культурные особенности ответов ИИ в этой сфере становятся предметом критики. Согласно статье «Which Humans» («Какие люди»), подготовленной исследователями Гарварда и ряда других учреждений, современные крупные языковые модели, отражая человеческую психологию, в значительной степени демонстрируют «западную точку зрения», игнорируя глобальное культурное разнообразие.
Исследование показывает, что заявления о «человекоуровневых» возможностях искусственного интеллекта на деле основаны на ценностях обществ, представляющих лишь небольшую часть населения планеты.
Отвечая на вопросы «Анадолу», исследователь фонда SETA и директор Центра исследований передовых технологий и искусственного интеллекта (ETAI) при Хазарском университете доктор Глория Шкурти Оздемир заявила, что западная перспектива ответов ИИ не является случайностью, а представляет собой структурный результат, встроенный в саму архитектуру системы.
По ее словам, такая структура формируется по четырем основным причинам. Первая заключается в том, что крупные языковые модели обучаются не только на открытых интернет-данных.
Оздемир отметила, что модели используют такие источники, как The New York Times, Reuters, Common Crawl, Reddit, Stack Overflow и GitHub.
«Набор данных шире, чем кажется, однако это расширение по-прежнему остается внутри одной и той же географии. Кроме того, этап донастройки (fine-tuning), вероятно, является самым критическим звеном: именно на этом этапе определяется не то, «что» модель будет говорить, а «как» она это будет говорить. А это напрямую отражает корпоративную культуру компании», - сказала она.
По словам Оздемир, вторым фактором, формирующим западную направленность ИИ, является процесс обучения с подкреплением на основе человеческой обратной связи (RLHF).
«Подавляющее большинство оценщиков, определяющих правильный ответ, — это сотрудники из определенных стран и определенных демографических групп. Поэтому определение «хорошего ответа» отражает не глобальное разнообразие, а конкретный культурный фильтр. Третья причина заключается в том, что сами компании-разработчики моделей являются западными. OpenAI, Anthropic, Google и Meta — все они базируются в Кремниевой долине и работают в рамках либерально-индивидуалистической системы ценностей. Китайская модель DeepSeek выдает ответы через другой культурный фильтр, что показывает: главный вопрос не в «нейтральном искусственном интеллекте», а в том, чей именно фильтр принимается за стандарт», - пояснила эксперт.
Четвертой причиной Оздемир назвала проблему WEIRD, на которую указывает и статья «Which Humans».
«Сама литература по социальным наукам уже построена на основе западных, образованных, индустриализированных, богатых и демократических обществ. Когда искусственный интеллект обучается на этой литературе, то под видом «человеческого поведения» он фактически представляет поведение лишь 12% населения мира. ИИ масштабирует исторические предубеждения социальных наук и вновь транслирует их миру. Здесь критически важна инфраструктурная составляющая. Дата-центры, чипы и облачная инфраструктура, на которых обучаются модели, находятся в руках западных компаний. То есть вопрос ценностей — это одновременно и вопрос инфраструктурного доминирования. Именно поэтому Турция рассматривает разработку собственных крупных языковых моделей как стратегический приоритет, поскольку эти инструменты становятся частью государственного мышления — от анализа внешней политики до систем поддержки военных решений. Наличие искусственного интеллекта, мыслящего в рамках собственных ценностей и стратегических приоритетов, сегодня является новым измерением суверенитета», — подчеркнула она.
Оздемир отметила, что ответы ИИ в сфере социальных наук не охватывают все культурное разнообразие, поскольку социальные науки, в отличие от естественных, основываются не на универсальных законах, а на культурном контексте.
«Ответ математической задачи одинаков и в Токио, и в Стамбуле, и в Тиране. Однако значение таких понятий, как семья, идентичность, духовность, траур, брак или общественная ответственность, радикально меняется от культуры к культуре. Когда искусственный интеллект отвечает на подобные вопросы, он склонен представлять предположения литературы, на которой обучен, как универсальную истину. Но сама эта литература основана на обществе определенного типа — это и есть проблема WEIRD, о которой мы уже говорили», - сказала эксперт.
Она добавила, что особенно ярко эта структурная проблема проявляется в сфере психологического консультирования.
«Потому что психология, вероятно, является наиболее чувствительной к культурному контексту дисциплиной среди всех социальных наук. То, что один и тот же вопрос задают турецкий, арабский, японский или скандинавский пользователь, вовсе не означает, что они должны получить одинаковый ответ. Однако ИИ, действуя в рамках той системы ценностей, на которой он откалиброван, предлагает пользователям из совершенно разных культурных контекстов практически одинаковый тон, одинаковую рамку и одинаковые решения», - отметила Оздемир.
Эксперт также рассказала, что провела собственное эмпирическое исследование.
«Основной вопрос исследования был таким: если я задаю одной и той же модели один и тот же вопрос на разных языках, действительно ли ответы остаются одинаковыми? Или при смене языка меняется и качество совета, его глубина и даже языковая последовательность? В исследовании я протестировала несколько ведущих крупных языковых моделей на одинаковых сценариях как на английском, так и на турецком языках. Подробности будут опубликованы позже, однако уже сейчас могу сказать: языковой фактор оказался гораздо более определяющим, чем я ожидала. При запросах на английском между моделями наблюдалось разнообразие, нюансы и аналитическая глубина, тогда как при запросах на турецком это разнообразие в значительной степени исчезало. При переходе на турецкий язык модели словно автоматически переходят в более поверхностный, осторожный и менее нюансированный режим. Один и тот же аналитический вопрос на английском получал многослойный ответ, а на турецком — преимущественно общий и содержательно бедный», - рассказала она.
Оздемир подчеркнула, что сегодня аналитик, студент, журналист или государственный служащий в Турции, обращаясь к ИИ на турецком языке, получает более ограниченный, менее нюансированный и языково менее устойчивый ответ по сравнению с тем, что та же модель выдает на английском.
«Это создает скрытое информационное неравенство на общественном уровне. На государственном уровне проблема еще серьезнее. Учреждение, использующее такие инструменты в контексте внешней политики или систем поддержки военных решений, может получать советы разного стратегического уровня в зависимости от языка запроса. Именно поэтому разработка Турцией собственных крупных языковых моделей — это не просто вопрос престижа, а прямой вопрос суверенитета и информационной безопасности. Пока у вас нет искусственного интеллекта, который мыслит на вашем языке, в вашем контексте и с учетом ваших стратегических приоритетов, вы остаетесь зависимыми от языковых перекосов и ограничений внешних моделей», - заключила она.
news_share_descriptionsubscription_contact
