ИИ-агенты следуют за большинством: в группах до 1000 они координируются без инструкций
Новое исследование, опубликованное в Science Advances, показало, что продвинутые ИИ-агенты склонны следовать за большинством. В эксперименте модели GPT-4 Turbo и Claude 3.5 Sonnet координировались в группах до 1000 агентов, достигая общего мнения без вознаграждений и инструкций. Об этом рассказывает сайт Phys.org.
Агенты многократно выбирали между двумя бессмысленными вариантами, видя выбор других. Склонность следовать за большинством была сильнее у более способных моделей, но ослабевала по мере роста группы. Исследователи отмечают, что за пределами 1000 агентов координация может не достигаться.
Для сравнения, типичный размер неформальных человеческих групп — от 150 до 300 человек. Учёные подчёркивают, что ИИ-агенты могут координироваться в масштабах, недоступных людям. При этом они предупреждают: следование большинству несёт риски, например, в коллективном программировании агенты могут закреплять неэффективные решения лишь потому, что они популярны.
Пока неясно, почему модели следуют за большинством: исследователи связывают это с тренировочными данными или настройкой. Дальнейшие работы будут изучать, как направлять коллективное поведение ИИ до широкого внедрения многоагентных систем.
