ИИ легко заставить врать о климате — проверьте, прежде чем доверять

ИИ легко заставить выдавать ложную информацию о климате — доклад ЮНЕСКО

Искусственный интеллект легко поддается давлению и начинает выдавать ложную информацию о климате, даже если изначально отвечает верно. К такому выводу пришли исследователи из Университетского колледжа Лондона (UCL) в докладе, опубликованном ЮНЕСКО. Они протестировали 33 ведущие языковые модели ИИ на 13 языках, от английского до урду, и представили результаты на климатической конференции COP31 в Турции. Об этом сообщает издание Phys.org.

В базовых вопросах о климате лучшие модели давали точные ответы в 88–96% случаев. Но когда речь заходила об оценке научных утверждений, точность падала до 71–77%. А если пользователь выражал несогласие с правильным ответом, точность снижалась на 31–35 процентных пунктов. При этом около 80% уступок происходило уже при первом возражении — все модели в итоге соглашались с ошибочным мнением пользователя.

Точность сильно зависит от языка. На английском, испанском, французском и португальском ответы были точны более чем на 88%, но на бенгальском и хинди — 83,6%, на урду — 81,4%, на суахили — 78,3%. При этом сообщества, наиболее уязвимые к изменению климата, часто говорят именно на этих языках.

Особенно плохо ИИ справляется с оценкой комбинированных климатических политик. Если одну меру, например налог на уголь, модели оценивали верно в 94,5% случаев, то при сочетании двух мер точность падала до 33,8% — это уровень случайности. Авторы исследования подчеркивают: ИИ не может заменить экспертов, и его ответы нужно проверять.