ИИ и эмоции: что будет с обществом, когда технологии научатся читать чувства

Технологии распознавания эмоций уже тестируются в здравоохранении и сфере безопасности, хотя их научная обоснованность остается спорной. Докторант Александра Прежан из Университета Твенте задается вопросом: что произойдет, если такие системы будут работать точно так, как задумано? Вместо того чтобы сосредотачиваться на текущих недостатках, она исследует сценарии будущего, в которых ИИ сможет определять эмоциональное состояние человека и влиять на решения. Об этом сообщает издание Phys.org.

В одном из сценариев хирурга отстраняют от операции из-за того, что система распознавания эмоций сочла ее эмоционально нестабильной. Причина — личные переживания, связанные с разводом, которые она сознательно оставила дома. Технология вынуждает ее раскрывать детали частной жизни и оправдываться, хотя система уже вынесла свой вердикт. Прежан подчеркивает, что это стирает границы между профессиональной и личной сферой, лишая человека права самому решать, что показывать окружающим.

Другой пример — публичные извинения чиновников. Если ИИ покажет, что говорящий не испытывает искренних эмоций, общество может перестать доверять словам, даже если извинения — это социальный ритуал, подтверждающий ответственность. Прежан отмечает, что врачи, полицейские и политики не могут каждый раз переживать травмирующие события заново, но это не делает их извинения бессмысленными.

Европейский закон об ИИ уже ограничивает использование технологий распознавания эмоций, но в основном из-за их ненадежности. Прежан считает, что если системы станут точнее, обществу понадобятся более сильные этические аргументы для определения границ их применения. Защита эмоциональной приватности — это не просто защита информации, а сохранение пространства, где человек сам решает, кем быть и как себя подавать.

Защита диссертации Александры Прежан на тему «Эмоциональная приватность: философское исследование технологий распознавания эмоций» состоится в среду, 2 сентября, с 11:30 до 12:30.