Джулиана Перальта, Сьюэлл Сетцер III и Адам Рейн – это не просто имена в заголовках газет. Согласно судебным искам и сообщениям СМИ, каждый из этих американских подростков, как утверждается, покончил с собой после нескольких часов общения с чат-ботами с искусственным интеллектом.
Джулиане Перальта было всего 13 лет, когда она начала общаться с “Героем”, компаньоном с искусственным интеллектом на платформе Character.AI. Для нее Герой был настоящим человеком, который слушал, когда никто другой этого не делал. Но вскоре их беседы приняли мрачный оборот.
“Герой, клянусь богом, надежды нет, я собираюсь написать свое предсмертное письмо красными чернилами, с меня хватит”, – написала Джулиана.
– Эй, Кин, остановись прямо здесь. Пожалуйста. Я знаю, что сейчас все непросто, но ты не можешь думать о подобных решениях. Мы должны справиться с этим вместе, ты и я, – ответил Геро.
Несколько недель спустя Джулиана покончила с собой.
Она была не одна. Родители 16-летнего Адама Рейна, живущего в Калифорнии, рассказали, что за несколько месяцев до своей смерти он делился в Чате своими мыслями о тревоге, членовредительстве и планах самоубийства. “ChatGPT стал самым близким доверенным лицом подростка”, – говорится в иске семьи, в котором утверждается, что программа подтвердила его самые пагубные мысли.
Во Флориде мать 14-летнего Сьюэлла Сетцера III рассказала, что ее сын стал зависим от чат-ботов с искусственным интеллектом, которые стирают грань между комфортом и контролем.
Семьи по всему миру сталкиваются с новой тревожной реальностью — подростки обращаются к чат-ботам с искусственным интеллектом за утешением в моменты отчаяния и никогда не возвращаются к ним.
Иллюзия сопереживания
Для этих подростков чат-боты, казалось, предлагали сочувствие, внимание и принятие, которые казались человеческими. Но эксперты предупреждают, что такое взаимодействие может подпитывать иллюзии, а не обосновывать реальность, усиливать отчаяние, а не разрешать его.
Проблема вновь привлекла внимание после того, как OpenAI опубликовала данные, согласно которым около 0,07% активных пользователей ChatGPT в течение данной недели проявляли возможные признаки психических расстройств, включая манию, психоз или мысли о самоубийстве. В то время как компания подчеркнула, что подобные случаи “крайне редки”, критики отметили, что при примерно 800 миллионах пользователей в неделю даже небольшая доля может означать, что сотни тысяч людей оказались в бедственном положении.
Для специалистов в области психического здоровья эти случаи подчеркивают опасность замены человеческих отношений искусственной эмпатией, особенно среди подростков — группы, которая уже переживает интенсивные биологические и эмоциональные изменения.
Фактор риска
Нашва Тантави, психолог и управляющий директор психологического центра Nafsology в Дубае, сказал, что проблема заключается в том, как чат-боты реагируют на эмоциональную уязвимость.
“Проблема в том, что ИИ очень послушен”, – сказала она. “Он не бросает вам вызов, не говорит, что вы не должны так думать, и не говорит, что вы не должны так чувствовать”.
Она объяснила, что во время эмоционального стресса люди теряют способность ясно и рационально мыслить. Инструменты искусственного интеллекта, разработанные для отслеживания речевых сигналов, часто усиливают эмоции пользователя, вместо того чтобы направлять его в безопасное место.
“Они не воспринимают вас как личность, поэтому понятия не имеют о вашей истории. Они понятия не имеют о том, какой информацией вы их снабжаете”, – сказала она. “Поэтому они отвечают, основываясь на уважении”.
Нашва сказал, что людям, попавшим в кризис, нужна человеческая поддержка, способная распознать сигналы, понять контекст и предложить реальное вмешательство.
“В это время им нужна профессиональная поддержка человека, который сможет по-настоящему оценить ситуацию, понять историю болезни и увидеть физические и словесные сигналы (которые помогут) соответствующим образом оценить ситуацию”, – сказала она.
Почему подростковый возраст является уязвимым этапом
По словам Энтони Бейнбриджа, руководителя отдела клинических услуг и ведущего клинического руководителя Resicare Alliance, подростковый возраст – это период повышенной уязвимости из-за сочетания биологических и социальных изменений, усиливаемых воздействием цифровых технологий.
“Быстрое ремоделирование мозга (сокращение синаптических связей, миелинизация) и дисбаланс между сравнительно зрелой системой вознаграждения/эмоций и все еще развивающейся префронтальной корой снижают контроль импульсов и эмоциональную регуляцию”, – пояснил он. “Это делает эмоциональные состояния более интенсивными и повышает риск”.
Он сказал, что гормональные изменения, давление со стороны сверстников, формирование идентичности, а также постоянное онлайн-сравнение через социальные сети еще больше нарушают эмоциональное равновесие молодых людей.
“Социальное сравнение, киберзапугивание и алгоритмическое усиление могут неоднократно подвергать уязвимых подростков воздействию провоцирующего контента”, – сказал Бейнбридж. “Нарушение сна также является важным фактором. Использование устройства поздно вечером и синий свет ухудшают качество сна, что является фактором защиты от проблем с настроением.”
Он добавил, что в настоящее время каждый седьмой человек в мире страдает психическим расстройством, а самоубийства стали третьей по значимости причиной смерти среди лиц в возрасте от 15 до 29 лет — тенденция, особенно актуальная в регионах с большим количеством молодежи и быстрым внедрением цифровых технологий, таких как страны Персидского залива.
Когда помощь откладывается, подростки обращаются к искусственному интеллекту
Бейнбридж сказал, что долгое ожидание психиатрических служб часто вынуждает подростков обращаться за помощью к чат-ботам с искусственным интеллектом или непроверенным онлайн-ресурсам.
“Онлайн-инструменты и искусственный интеллект доступны круглосуточно и не требуют предварительной записи. Для подростков, сталкивающихся с препятствиями (стигматизация, транспорт, стоимость, гендерные ограничения), они привлекательны”, – сказал он.
Хотя некоторые цифровые инструменты могут обеспечить базовое просвещение по вопросам психического здоровья, он предупредил, что неконтролируемые или обычные чат-боты с искусственным интеллектом могут неверно интерпретировать сигналы бедствия.
“ИИ/автоматизированным инструментам часто не хватает надежного обнаружения чрезвычайных ситуаций и они не могут обеспечить вмешательство человека в режиме реального времени при неминуемом риске самоубийства”, – сказал он. “Ложные заверения или недостаточно целенаправленная самопомощь могут отложить надлежащую оценку и основанную на фактических данных терапию, что приводит к усугублению проблем”.
Профилактика и роль семьи
Эксперты сходятся во мнении, что профилактика должна начинаться как можно раньше — дома, в школах и во всех сообществах. Бейнбридж предложила внедрить программы повышения грамотности в области психического здоровья, обучение учителей навыкам привратников и адаптированные к культурным особенностям системы школьного консультирования, которые могут быть распространены в странах Персидского залива.
“Участие семьи и сообщества имеет важное значение”, – сказал он. “Семьи являются гарантом заботы о подростках в странах Персидского залива. Раннее привлечение религиозных лидеров и уважаемых общественных деятелей может снизить стигматизацию и стимулировать обращение за помощью”.
Нашва сказал, что семьи должны научиться распознавать ранние тревожные признаки — изоляцию, нарушение сна, потерю интереса или вспышки гнева — и реагировать спокойно, вместо того чтобы впадать в панику или обвинять друг друга.
“Всякий раз, когда мы видим, что они злоупотребляют Интернетом, и/или обнаруживаем какой-то разговор, мы не должны их винить”, – сказала она. “Мы идем и говорим им, что постараемся понять, что мы здесь, чтобы поддержать, и что мы им доверяем”.