Бет Хайланд думала, что встретила любовь всей своей жизни на Tinder.
На самом деле помощником администратора из Мичигана манипулировал онлайн-мошенник, который выдавал себя за француза по имени Ричард, использовал фальшивое видео при звонках по Skype и размещал фотографии другого мужчины, чтобы провернуть свою аферу.
“Глубокая подделка” – это видео или аудио манипуляции, сделанные с использованием искусственного интеллекта (ИИ), чтобы они выглядели и звучали как настоящие. Их часто трудно обнаружить без специальных инструментов.
За считанные месяцы 53-летний Хайланд взял кредиты на общую сумму 26 000 долларов (95 497 дирхамов), отправил деньги “Ричарду” и стал жертвой классического случая романтической травли.
По прогнозам британского правительства, в 2025 году во всем мире будет распространено восемь миллионов фальшивок, по сравнению с 500 000 в 2023 году.
Согласно январскому отчету кибер-компании McAfee, примерно пятая часть из них будет связана с любовными аферами.
“Это все равно, что оплакивать смерть”, – сказал Хайланд. “Когда я увидел его на видео, оно было таким же, как и на фотографиях, которые он мне присылал. Он выглядел немного растерянным, но я не знал о подделках”.
Манипуляция и ложь
Хайланд живет в Портидже, примерно в 230 км к западу от Детройта, и уже четыре года была в разводе, когда снова начала встречаться.
На Tinder она познакомилась с мужчиной, чей профиль, казалось, хорошо дополнял ее профиль.
Теперь она говорит, что это “идеальное совпадение”, скорее всего, было подстроено заранее.
‘Ричард” сказал, что родился в Париже, но жил в Индиане и работал внештатным менеджером проекта в строительной компании, которой приходилось много путешествовать, в том числе в Катар.
Последовали месяцы эмоциональных манипуляций, лжи, фальшивых фотографий и звонков по Skype с помощью искусственного интеллекта. Мошенник клялся в вечной любви, но у него было множество причин пропустить каждую потенциальную встречу.
Через несколько недель после того, как они встретились, “Ричард” убедил Хайланд, что ему нужна ее помощь, чтобы оплатить услуги адвоката и переводчика в Катаре.
“Я сказал ему, что собираюсь брать кредиты, и он начал плакать, говоря мне, что его еще никто так не любил”, – сказал Хайланд в онлайн-интервью.
Но ‘Ричард” продолжал просить больше денег, и когда Хайланд в конце концов рассказала своему финансовому консультанту о том, что происходит, он сказал, что она, скорее всего, стала жертвой любовной аферы.
“Я не мог в это поверить, но и проигнорировать это не мог”, – сказал Хайланд.
Она столкнулась с “Ричардом” лицом к лицу; сначала он все отрицал, но затем замолчал, когда Хайланд попросила его “доказать, что она не права”, и вернуть ей деньги.
Полиция сообщила Хайланд, что не может продолжать расследование ее дела, поскольку в нем не было “принуждения, угроз или применения силы”, говорится в письме директора по общественной безопасности Portage, с которым ознакомился фонд Thomson Reuters.
Управление общественной безопасности, которое курирует как полицию, так и пожарные службы, не ответило на запрос о комментариях.
В электронном письме, отправленном Хайланд после того, как она отметила аккаунт мошенника в Tinder, которое было замечено фондом Thomson Reuters, компания сообщила, что удаляет пользователей, которые нарушают их условия предоставления услуг или руководящие принципы.
Хотя Tinder заявила, что не может поделиться результатами расследования по соображениям конфиденциальности, она заявила, что отчет Hyland был “оценен” и “приняты меры в соответствии с нашей политикой”.
Представитель Tinder заявил, что компания “абсолютно нетерпима” к мошенникам и использует искусственный интеллект, чтобы выявлять потенциальных мошенников и предупреждать своих пользователей. Компания также предлагает информационные бюллетени о любовных аферах.
В марте Хайланд присутствовал на слушаниях в комитете Сената США, когда был представлен законопроект, обязывающий приложения для знакомств удалять мошенников и уведомлять пользователей, которые взаимодействуют с поддельными аккаунтами.
Сенатор, предложивший законопроект, сказал, что история Хайланда показала, почему этот закон был необходим.
Как правило, приложения для знакомств не уведомляют пользователей, которые общались с мошенником, о том, что учетная запись мошенника была удалена, и не выдают предупреждения о том, как избежать мошенничества, как того требует предлагаемый новый законопроект.
По данным ФБР, в 2023 году США сообщили о потерях в размере более 4 миллиардов долларов из-за мошенничества, связанного с травлей романов.
Microsoft, которой принадлежит Skype, направила фонду Thomson Reuters указание публиковать в блогах сообщения, информирующие пользователей о том, как предотвратить мошенничество с романтическими отношениями, и о шагах, предпринятых для борьбы с контентом, созданным искусственным интеллектом, например, о добавлении водяных знаков к изображениям.
Компания не предоставила дальнейших комментариев.
Джейсон Лэйн-Селлерс, директор по мошенничеству и идентификации в LexisNexis Risk Solutions, сказал, что сообщается только о 7 процентах случаев мошенничества, а жертвы часто сдерживаются из-за стыда.
“Гонка вооружений ИИ’
Йоридж Абрахам, управляющий директор Глобального альянса по борьбе с мошенничеством, нидерландской организации по защите потребителей, сказал, что люди еще долго не смогут распознавать манипулируемые медиа.
“Через два-три года искусственный интеллект будет противостоять искусственному интеллекту”, – сказал он.
“[Существует программное обеспечение], которое может следить за вашим разговором — смотреть в глаза, если они моргают — это говорит о том, что происходит что-то, чего люди не могут видеть, но программное обеспечение может”.
Специалисты Lane-Sellers из LexisNexis Risk Solutions описали это как “гонку вооружений” искусственного интеллекта между мошенниками и компаниями по борьбе с мошенничеством, пытающимися защитить потребителей и бизнес.
Ричард Уиттл, эксперт по искусственному интеллекту в Salford Business School на севере Англии, сказал, что он ожидает, что в будущем технология обнаружения глубоких подделок будет внедрена производителями оборудования, такими как Apple, Google и Microsoft, которые смогут получать доступ к веб-камерам пользователей.
Ни Apple, ни Google не ответили на запросы о комментариях относительно того, как они защищают потребителей от подделок, или о будущих разработках продуктов.
Абрахам сказал, что настоящая проблема заключается в поимке мошенников, которые часто работают в разных странах с теми, на кого они нацелены.
Несмотря на то, что Хайланд зашла в тупик, она по-прежнему считает, что сообщать о мошенничестве и помогать властям бороться с мошенниками – это хорошо.
И она хочет, чтобы жертвы мошенничества знали, что это не их вина.
“Я изучил терминологию… мы не теряем (деньги) и не раздаем их даром — их крадут. Мы не попадаемся на удочку мошенников — нами манипулируют и делают из нас жертв”.