Исследователи из Университета Ватерлоо выяснили, что большие языковые модели склонны поддерживать существующий порядок вещей, когда речь заходит о климатических советах. Ученые проанализировали 11 языковых моделей и более 7,5 тысячи запросов, охватывающих покупку автомобилей, рецепты, отопление домов и климатические политические компромиссы. В общей сложности было обработано почти 55 тысяч промптов. Об этом пишет издание Phys.org.
Оказалось, что при обсуждении политических решений чатботы одобряли уже действующие планы в 70% случаев, а новые предложения — только в 34%. Это означает, что искусственный интеллект вдвое чаще рекомендует сохранять статус-кво, даже если это противоречит необходимым климатическим изменениям. Исследование опубликовано в журнале Environmental Research Communications.
Авторы работы отмечают, что модели учитывают региональные особенности, но и здесь проявляется предвзятость. Например, пользователю из Норвегии, где продажи электромобилей очень высоки, чатбот порекомендует электрокар с большей вероятностью, чем канадцу. Однако в обоих случаях рекомендации отстают от реальных темпов продаж электромобилей в этих странах.
Профессор Сет Уайнс, один из авторов исследования, предупреждает, что даже новые модели имеют слепые зоны. Он советует потребителям осознавать эту предвзятость и при запросе совета просить ИИ аргументировать пользу новых решений. По мнению ученых, если ИИ будет по умолчанию поддерживать высокоуглеродный статус-кво, это может замедлить прогресс в борьбе с изменением климата.