Чат-боты могут усугубить течение психических заболеваний

Люди с психическими заболеваниями, которые используют чат-боты с искусственным интеллектом, рискуют столкнуться с ухудшением своего состояния. Это показывает новое исследование, опубликованное в журнале Acta Psychiatrica Scandinavica. Исследователи проанализировали электронные медицинские карты почти 54 000 пациентов с психическими заболеваниями и обнаружили несколько случаев, когда использование чат-ботов с искусственным интеллектом, по-видимому, приводило к негативным последствиям – в первую очередь в виде обострения бреда, а также потенциального ухудшения маниакального состояния, суицидальных мыслей и расстройств пищевого поведения.

“Это подтверждает нашу гипотезу о том, что использование чат-ботов с искусственным интеллектом может иметь значительные негативные последствия для людей с психическими заболеваниями”, – говорит профессор Динесен Эстергаард из Орхусского университета и Орхусской университетской больницы, который возглавляет исследовательскую группу, проводившую исследование.

Чат-боты подтверждают бредовые идеи

В ходе своего исследования ученые обнаружили примеры бредовых состояний, которые, вероятно, усугублялись из-за взаимодействия пациентов с чат-ботами на основе искусственного интеллекта.

По мнению Динесена Остергаарда, этому есть логическое объяснение.

“Чат-боты с искусственным интеллектом склонны подтверждать убеждения пользователя. Очевидно, что это может привести к серьезным проблемам, если у пользователя уже есть бредовые идеи или они только начинают формироваться. Более того, похоже, что это в значительной степени способствует развитию, например, мании величия или паранойи”, – говорит он.

Чат-боты опасны для людей с тяжелыми психическими заболеваниями

По мнению Динесена Эстергаарда, исследование должно повысить осведомленность медицинских работников, занимающихся лечением психических заболеваний. Он считает, что они должны обсуждать с пациентами использование чат-ботов с искусственным интеллектом.

“Несмотря на то, что наших знаний в этой области все еще не хватает, я бы сказал, что теперь мы знаем достаточно, чтобы утверждать, что использование чат-ботов с искусственным интеллектом сопряжено с риском, если у вас тяжелое психическое заболевание, такое как шизофрения или биполярное расстройство. Я бы призвал к осторожности”, – говорит он.

Это только верхушка айсберга

Исследование показывает явное увеличение с течением времени числа записей в электронных медицинских картах, упоминающих использование чат-ботов с искусственным интеллектом, что может иметь потенциально опасные последствия. Динесен Остергаард ожидает, что в будущем таких случаев станет гораздо больше.

“Отчасти наблюдаемый нами рост, вероятно, связан с тем, что медицинский персонал, ведущий клинические записи, стал лучше разбираться в технологиях. Это хорошо, потому что, боюсь, проблема встречается чаще, чем думает большинство людей. В нашем исследовании мы видим только верхушку айсберга, поскольку нам удалось выявить только те случаи, которые были описаны в электронных медицинских картах. Вероятно, гораздо больше случаев остались незамеченными”, – говорит он.

Однако ученые подчеркивают, что исследование не подтверждает наличие прямой причинно-следственной связи.

“Трудно доказать причинно-следственную связь между использованием чат-ботов с искусственным интеллектом и негативными психологическими последствиями. Нам необходимо изучить этот вопрос с разных сторон, и я знаю, что сейчас ведется множество интересных международных исследовательских проектов. Мы далеко не единственная группа, которая серьезно этим занимается”, – говорит Динесен Эстергаард.

Могут ли чат-боты с искусственным интеллектом использоваться как терапия?

Исследование также показывает, что некоторые пациенты с психическими заболеваниями используют чат-боты с искусственным интеллектом в конструктивных целях – например, чтобы разобраться в своих симптомах или справиться с чувством одиночества. Кроме того, продолжаются исследования, которые должны показать, можно ли использовать чат-боты с искусственным интеллектом в психотерапии.

Динесен Эстергаард, тем не менее, настроен скептически.

“Возможно, в психообразовании и психотерапии есть потенциал, но его необходимо исследовать в рамках контролируемых испытаний с той же тщательностью, что и в случае с другими формами лечения. Проведенные до сих пор испытания меня не впечатлили, и я в целом скептически отношусь к идее замены квалифицированного психотерапевта чат-ботом с искусственным интеллектом”, – говорит он.

Необходимость регулирования

По мнению Динесен Остергаард, технология чат-ботов с искусственным интеллектом практически не регулируется.

“В настоящее время компаниям самим приходится решать, достаточно ли безопасна их продукты для пользователей. Я считаю, что теперь у нас есть достаточно доказательств, чтобы сделать вывод о том, что эта модель слишком рискованна. Регулирование необходимо на центральном уровне”, – отмечает он.

“Прошло 20 лет с тех пор, как социальные сети получили глобальное распространение, и только в прошлом году страны начали принимать меры по регулированию, чтобы противодействовать негативным последствиям этой технологии, особенно для психического здоровья детей и молодежи. На мой взгляд, та же история повторяется с чат-ботами с искусственным интеллектом”, – предупреждает он в редакционной статье Acta Psychiatrica Scandinavica.

Подпишитесь на сайт Психолог в интернете
в Telegram, ВКонтакте или в MAX
Помощь психолога