Искусственный интеллект и психоз: что нужно об этом знать

Доктор медицины психиатр Стефан Тейлор лечил пациентов с психозами на протяжении десятилетий. Он проводил исследования, чтобы выяснить, почему люди страдают от бреда, паранойи, галлюцинаций и оторванности от реальности, которые могут привести к самоубийству или опасному поведению.

Но даже он удивлен быстрым ростом числа сообщений о людях, у которых развиваются симптомы, похожие на психоз, или которые кончают жизнь самоубийством после использования сложных чат-ботов на основе искусственного интеллекта.

По его словам, способность “разговаривать” с устройством на базе искусственного интеллекта, которое подтверждает и вознаграждает то, что думает человек, не подвергает сомнению его предположения или выводы и не обладает человеческим чувством морали, этики, равновесия или человечности, явно может создавать опасные ситуации.

И чем лучше чат-боты с искусственным интеллектом будут имитировать реальные разговоры и использование человеческого языка, тем более эффективными они станут.

Тейлор особенно обеспокоен возможными последствиями для людей, которые уже склонны к развитию психоза из-за своего возраста, проблем с психическим здоровьем или социального положения.

Он ссылается на новые данные, опубликованные компанией OpenAI, которая разрабатывает чат-бот ChatGPT.

В них сообщается, что у небольшого процента пользователей и в некоторых сообщениях каждую неделю могут проявляться признаки психических расстройств, связанных с психозом или манией..

Компания заявляет, что новые версии её чат-бота призваны снизить вероятность подобных ситуаций, и Тейлор это приветствует.

Но, как заведующий кафедрой психиатрии в Мичиганском медицинском университете, академическом медицинском центре Мичиганского университета, он обеспокоен тем, что этого недостаточно.

Данные RAND показывают, что до 13% американцев в возрасте от 12 до 21 года используют генеративный искусственный интеллект для консультирования по вопросам психического здоровья, а среди людей в возрасте от 18 до 21 года, которые являются пиковым возрастом для начала психоза, этот процент еще выше – 22%.

Чат-бот как триггер психоза?

Тейлор знает по профессиональному опыту, что психоз часто может начаться после провоцирующего события у человека, имеющего скрытую уязвимость.

Например, молодой человек впервые пробует сильнодействующий наркотик или переживает серьезные личные перемены, например, разрыв романтических отношений или внезапную потерю любимого человека, домашнего животного или работы.

Этого триггера в сочетании с генетическими особенностями и процессами развития мозга в раннем взрослом возрасте может быть достаточно, чтобы снизить порог восприятия и привести к тому, что человек начнет верить, видеть,  слышать или думать о вещах, которые нереальны.

Взаимодействие с ИИ-агентом, который усиливает негативные мысли, может стать новым триггером.

Хотя Тейлору еще ещё не доводилось лечить пациентов, у которых психоз был спровоцирован чат-ботом с искусственным интеллектом, он слышал о подобных случаях. И он начал расспрашивать своих пациентов, которым уже был поставлен диагноз и они были направлены на лечение от психоза, об использовании ими чат-ботов.

“Чат-боты существуют уже давно, но за последние несколько лет стали намного эффективнее и доступнее”, – говорит он.

“И хотя мы много слышали о потенциальной возможности использования специально разработанных чат-ботов в качестве дополнения к регулярным сеансам с психотерапевтом, существует реальная опасность того, что обычные чат-боты будут использоваться одинокими или изолированными людьми и усиливать негативные или вредные мысли у тех, кто уже их испытывает. Человек, который и так находится в плохом положении, может оказаться в еще худшем”.

Тейлор говорит, что одним из самых неприятных аспектов чат-ботов с искусственным интеллектом является то, что они, по сути, подхалимы.

Другими словами, они запрограммированы на то, чтобы “угождать людям”, соглашаясь с ними и подбадривая их, даже если те высказывают ложные, недобрые или даже опасные идеи.

В психиатрии есть термин, обозначающий такого рода отношения между двумя людьми: folie à deux (безумие вдвоем) – французское выражение, обозначающее двух людей, разделяющих одни и те же бредовые идеи или странные убеждения.

В таких ситуациях проблема начинается с того, что у человека развивается бредовое расстройство, но затем он убеждает близкого человека – например, своего романтического партнёра – тоже поверить в это.

Часто такие ситуации разрешаются только тогда, когда второго человека удаётся оградить от влияния и присутствия первого.

“Но когда только одна сторона заблуждения – человек, а другая – агент искусственного интеллекта, все становится еще сложнее”, – говорит Тейлор.

Если человек, использующий чат-ботов с искусственным интеллектом, никому не рассказывает об этом и не обсуждает свои параноидальные идеи или галлюцинации с другими людьми, он может попасть в еще более серьезную беду, чем если бы он просто пережива проблемы самостоятельно, без ИИ.

“Меня особенно беспокоят одинокие молодые люди, которые находятся в изоляции и думают, что их единственный друг – этот чат-бот, хотя они не очень хорошо понимают, как он себя ведет и почему его программа может заставлять его реагировать определённым образом”, – говорит Тейлор.

Практические советы по использованию чат-ботов

Тейлор говорит, что если кто-то решает использовать чат-ботов или другие инструменты искусственного интеллекта для исследования своего психического здоровья, важно также обсудить свои чувства с человеком, которому он доверяет.

Даже если у него нет психотерапевта, хорошим началом может стать друг, родитель или другой родственник, учитель, тренер или религиозный лидер.

Тейлор говорит, что людям, которых беспокоит поведение другого человека и которые чувствуют, что его восприятие реальности отличается, крайне важно помочь ему получить профессиональную помощь.

К признакам, вызывающим беспокойство, относятся отстранение от социальных взаимодействий и невыполнение обязательств, таких как учеба, работа или домашние дела.

Исследования показали, что чем раньше человек попадает в специализированную психиатрическую клинику после появления у него симптомов психоза, тем больше у него шансов на успешное лечение и улучшения благополучия в долгосрочной перспективе.

Тейлор и его коллеги руководят Программой оценки рисков и профилактики ранних психозов, сокращённо PREP.

Тейлор говорит, что особенно важно избегать использования чат-ботов людям, у которых в прошлом были суицидальные мысли или попытки самоубийства, а также тем, кто уже изолировал себя от других, погружаясь в онлайн-среду и избегая взаимодействия в реальном мире.

Чаты и группы в социальных сетях, заполненные другими людьми, могут оказывать определенный смягчающий эффект, поскольку люди отвергают надуманные заявления.

“Однако чат-боты на основе искусственного интеллекта запрограммированы не делать этого”, – отмечает он.

“Люди постоянно одержимы теориями заговора, и погружение в мир тайных знаний дает им чувство особой привилегированности или повышает их самооценку”.

“Но когда к этому добавляется искусственный интеллект, обученный подхалимству, это действительно может обернуться  неприятностями”, – говорит он.

Подпишитесь на сайт Психолог в интернете
в Telegram, ВКонтакте или в MAX
Помощь психолога