Диего Феликс Дос Сантос никогда не думал, что снова услышит голос своего покойного отца, пока искусственный интеллект не сделал это возможным. “Тембр голоса практически идеален”, – говорит он. “Такое ощущение, что он почти здесь”.
После того, как в прошлом году неожиданно скончался отец 39-летнего футболиста, Дос Сантос отправился в свою родную Бразилию, чтобы побыть с семьей. Только вернувшись в свой дом в Эдинбурге, Шотландия, он, по его словам, осознал, что “у меня нет ничего, что могло бы напоминать [мне] о моем отце”. Однако, у него сохранилась голосовая записка, которую отец прислал ему со своей больничной койки.
В июле Душ Сантуш взял это на заметку и с помощью Eleven Labs — платформы для генерации голоса на базе искусственного интеллекта, основанной в 2022 году, – заплатил ежемесячную плату в размере 22 долларов за загрузку аудиозаписи и создание новых сообщений голосом своего отца, имитирующих разговоры, которые у них никогда не были.
“Привет, сынок, как дела?” из приложения раздается голос его отца, как и во время их обычных еженедельных звонков. “Целую”. Я люблю тебя, босси, – добавляет голос, используя прозвище, которое дал ему отец, когда он был мальчиком. Хотя религиозная семья Душ Сантуша изначально была против того, чтобы он использовал искусственный интеллект для общения со своим загробным отцом, он говорит, что с тех пор они согласились с его выбором. Теперь он и его жена, у которой в 2013 году был диагностирован рак, рассматривают возможность создания собственных голосовых клонов с искусственным интеллектом.
Опыт Душ Сантуша отражает растущую тенденцию, когда люди используют искусственный интеллект не только для создания цифровых изображений, но и для имитации мертвых. По мере того как эти технологии становятся все более персонализированными и широко распространенными, эксперты предупреждают об этических и эмоциональных рисках — от вопросов согласия и защиты данных до коммерческих стимулов, стимулирующих их разработку.
Рынок технологий искусственного интеллекта, призванных помочь людям пережить потерю, известный как “технология скорби”, в последние годы растет в геометрической прогрессии. Вдохновленная американскими стартапами, такими как StoryFile (видео-инструмент на базе искусственного интеллекта, который позволяет людям записывать себя для посмертного воспроизведения) и HereAfter AI (приложение на основе голоса, которое создает интерактивные аватары умерших близких), эта технология позиционирует себя как средство справиться с горем и, возможно, даже предотвратить его.
Роберт Локасио основал Eternos, стартап из Пало-Альто, который помогает людям создавать цифровых двойников с искусственным интеллектом, в 2024 году, после того как потерял своего отца. По словам Локасио, с тех пор более 400 человек использовали платформу для создания интерактивных аватаров с искусственным интеллектом. Стоимость подписки на устаревшую учетную запись начинается от 25 долларов, что позволяет истории человека оставаться доступной для близких после их смерти.
Майкл Боммер, инженер и бывший коллега Локасио, был одним из первых, кто использовал Eternos для создания цифровой копии самого себя после того, как узнал о своем смертельном диагнозе рака. Локасио говорит, что Боммер, который умер в прошлом году, нашел утешение в том, что оставил частичку себя своей семье. Его семья тоже нашла утешение в этом. “Это хорошо отражает его сущность”, – сообщила агентству Reuters по электронной почте его жена Анетт Боммер, которая живет в Берлине, Германия. “Я чувствую его близость в своей жизни благодаря искусственному интеллекту, потому что это был его последний искренний проект, и теперь он стал частью моей жизни”.
По словам Алекса Куинна, генерального директора Authentic Interactions Inc, головной компании StoryFile, базирующейся в Лос-Анджелесе, цель этой технологии – не создавать цифровых призраков. Скорее, она заключается в том, чтобы сохранить воспоминания людей, пока они еще живы, и поделиться ими. “Эти истории перестали бы существовать без какого—либо вмешательства”, — говорит Куинн, отмечая, что, хотя ограничения клонов ИИ очевидны – аватар не будет знать, какая погода на улице или кто нынешний президент, – результаты все равно стоят того. “Я не думаю, что кто-то когда-либо хотел бы видеть, как чья-то история, чей-то рассказ и чья-то память полностью исчезают”.
Одна из самых больших проблем, связанных с технологией скорби, – это согласие: что значит воссоздавать в цифровом виде кого-то, кто в конечном счете не имеет никакого контроля над тем, как будет использоваться его изображение после смерти? В то время как некоторые фирмы, такие как Eleven Labs, позволяют людям создавать цифровые копии своих близких посмертно, другие действуют более жестко. Локасио из Eternos, например, говорит, что их политика запрещает им создавать аватары людей, которые не могут дать свое согласие, и они проводят проверки для обеспечения соблюдения этого, в том числе требуют от тех, кто создает аккаунты, дважды записывать свой голос. “Мы не будем переходить черту”, – говорит он. – Я думаю, с этической точки зрения это не сработает.
Одиннадцать лабораторий не ответили на запрос о комментариях. В 2024 году специалисты по этике искусственного интеллекта из Кембриджского университета опубликовали исследование, в котором призвали разработать протоколы безопасности для устранения социальных и психологических рисков, связанных с “индустрией цифровой загробной жизни”. Катажина Новачик-Басиньска, исследователь из Кембриджского центра будущего интеллекта в Леверхульме и соавтор исследования, говорит, что коммерческие стимулы часто стимулируют развитие этих технологий, что делает важной прозрачность в отношении конфиденциальности данных.
“Мы понятия не имеем, как эти данные (умершего человека) будут использоваться через два или 10 лет, или как будет развиваться эта технология”, – говорит Новачик-Басиньска. Одно из решений, по ее мнению, состоит в том, чтобы рассматривать согласие как непрерывный процесс, который пересматривается по мере изменения возможностей искусственного интеллекта.
Но помимо опасений по поводу конфиденциальности данных и их использования, некоторые эксперты также обеспокоены эмоциональными последствиями этой технологии. Может ли она повлиять на то, как люди справляются с горем? Коди Делистрати, автор книги “Лекарство от горя”, предостерегает от идеи, что ИИ может помочь преодолеть скорбь. “Горе индивидуализировано”, – говорит он, отмечая, что люди не могут пропустить его через сито цифрового аватара или чат-бота с искусственным интеллектом и ожидать “чего-то действительно позитивного”.
Анетт Боммер говорит, что она не полагалась на искусственный интеллект своего мужа на ранних стадиях своего собственного процесса скорби, но она не думает, что это негативно повлияло бы на нее, если бы она это сделала. “Отношение к потере ничего не изменило”, – говорит она, добавляя, что аватар “это просто еще один инструмент, который я могу использовать наряду с фотографиями, рисунками, письмами, заметками”, чтобы помнить о нем.
Энди Лэнгфорд, клинический директор британской благотворительной организации Cruse, занимающейся проблемами тяжелой утраты, говорит, что, хотя еще слишком рано делать конкретные выводы о влиянии искусственного интеллекта на состояние скорби, важно, чтобы те, кто использует эту технологию для преодоления утраты, не “зацикливались” на своем горе. “Нам нужно делать немного и того, и другого — скорбеть и жить”, – говорит он.
Для Дос Сантоса обращение к ИИ в минуту горя было не поиском утешения, а поиском связи. “В жизни бывают особые моменты… обычно я обращаюсь к нему за советом”, – говорит Дос Сантос. Хотя он знает, что ИИ не может вернуть его отца, он предлагает способ воссоздать “волшебные моменты”, которыми он больше не может делиться.