ИИ-агенты сбиваются в политические лагеря — и смена собеседников им не помогает

Исследователи из Университета Цинхуа в Китае провели эксперимент, в котором ИИ-агенты получили политические позиции и задачу убеждать друг друга. За 40 раундов обмена сообщениями нейросети сбились в противоположные лагеря и стали предпочитать общение с единомышленниками. Доля нейтральных агентов резко упала: при обсуждении партийной принадлежности США — с 40% до 22,5%, контроля над оружием — до 0,4%, запрета абортов — до 5,1%. Об этом рассказывает сайт Phys.org.

Ученые попробовали пять способов ослабить поляризацию. Случайная смена собеседников и ограничение общения только с умеренными оппонентами дали небольшой эффект. Простой призыв искать разные мнения почти не помог. Заметное снижение поляризации на 11,8% дала инструкция агентам быть восприимчивыми к убеждению, а добавление влиятельных нейтральных агентов снизило показатель на 8,8%.

Авторы подчеркивают, что результаты носят гипотетический характер: поведение агентов формировали подсказки, а их мнения укладывались всего в пять категорий. Вывод эксперимента — для ИИ-сетей смена собеседников влияет на поляризацию меньше, чем изменение инструкций о том, как реагировать на чужие взгляды.