Искусственный интеллект ускоряет процесс радикализации

Как обычные люди вовлекаются в экстремистские круги — и какую роль в этом процессе может сыграть искусственный интеллект? На этот вопрос отвечает новое исследование, в котором впервые психологические теории радикализации сочетаются со знаниями о современных технологиях искусственного интеллекта, таких как рекомендательные алгоритмы, генеративный искусственный интеллект и ботнеты.

Исследование опубликовано в журнале Обзор по психологии личности и социальной психологии (Personality and Social Psychology Review).

“Мы разработали всеобъемлющую модель, которая показывает, как цифровые системы могут использовать – или усиливать – социальные и психологические потребности людей способами, которые мы еще не до конца понимаем”, – объясняет Милан Обайди, доцент кафедры психологии Копенгагенского университета.

Исследование делит этот процесс на четыре ключевые фазы:

1. Экспонирование – алгоритмы предлагают пользователям поляризующий или радикальный контент, часто без их активного участия.
2. Подкрепление – многократное воздействие и алгоритмическая персонализация создают «эхо-камеры» и закрепляют новые установки.
3. Групповая интеграция – онлайн-сообщества и даже созданные искусственным интеллектом «коллеги» – могут формировать прочные связи идентичности, напоминающие принадлежность к группе.
4. Акты насилия – в редких случаях такое развитие событий может привести к насильственному экстремизму.

По мнению исследователей, системы искусственного интеллекта можно рассматривать как своего рода ускоритель: они могут выявлять психологически уязвимых людей, адаптировать контент и создавать синтетические сообщества, имитирующие человеческое взаимодействие.

“Мы видим среду, в которой пользователи не только подвергаются воздействию экстремального контента, но и сталкиваются с его отражением в алгоритмах, которые усиливают их чувство обиды, гнева или несправедливости”, – говорит Обайди. “Именно сочетание масштабируемости технологии и психологических потребностей людей делает это развитие событий особенно тревожным, – добавляет он.

Генеративный ИИ создает совершенно новые риски

В то время как рекомендательные алгоритмы в основном определяют, какой контент видит пользователь, генеративные модели, такие как большие языковые модели, добавляют новый уровень: они могут создавать контент, который радикализирует. ИИ может:

1. Создавать огромное количество персонализированной пропаганды.
2. Имитировать сообщества с помощью множества ботов.
3. Выступать в роли “ИИ-компаньонов”, укрепляя радикальные убеждения пользователей.
4.  Создавать очень правдоподобные дипфейки и манипулировать контентом.

“Такое развитие событий может затруднить различение человеческого и нечеловеческого влияния и, таким образом, усилить процессы радикализации, которые ранее ограничивались человеческим трудом”, – подчеркивает Обайди.

Психологическая уязвимость играет решающую роль

В исследовании подчеркивается, что не все пользователи одинаково уязвимы. Искусственный интеллект особенно сильно влияет на людей, которые уже испытывают социальную изоляцию, неуверенность в своей идентичности, несправедливость или маргинализацию, а также нуждаются в ясности, порядке и прочных групповых связях.

Именно потому, что системы искусственного интеллекта разработаны для максимального вовлечения пользователей, они могут непреднамеренно использовать эти самые уязвимости – без каких-либо идеологических намерений.

“Важно подчеркнуть, что ИИ не приводит к радикализации внезапно. Но эта технология может усиливать известные психологические механизмы и облегчать распространение экстремистских идей среди тех, кто уже находится в группе риска”, – говорит Обайди.