По мере того как инструменты искусственного интеллекта становятся все более доступными, эксперты по кибербезопасности бьют тревогу по поводу того, что искусственный интеллект в настоящее время используется для кражи личных данных, подмены биометрических данных и мошенничества в сфере здравоохранения — угроз, которые могут иметь опасные для жизни последствия.
Выступая в среду на саммите FutureSec 2025, организованном Khaleej Times в Дубае, специалисты из сферы здравоохранения, розничной торговли и государственного сектора подчеркнули, что глубокие подделки, поддельные идентификационные данные и пробелы в цифровой инфраструктуре подвергают серьезному риску как компании, так и частных лиц.
“В мире цифровой идентификации это не просто административная проблема. Это может иметь последствия для жизни или смерти”, – сказал Джеймс Уайлс, директор по информационной безопасности Cigna Healthcare MEA. “Если вы неправильно идентифицируете пациента, будь то в результате кражи личных данных или ошибки, это может привести к введению неправильного препарата или постановке неправильного диагноза”.
Уайлс подробно рассказал о том, как киберпреступники все чаще нападают на системы здравоохранения на Ближнем Востоке, в Африке и Северной и Южной Америке, используя поддельные удостоверения личности для подачи мошеннических страховых требований.
“Мы видели случаи, когда украденные личные данные использовались для подачи многочисленных ложных заявлений на сумму до 100 000 долларов, прежде чем мошенничество было обнаружено”, – сказал он. “Эти деньги практически невозможно вернуть. А поскольку искусственный интеллект теперь позволяет подделывать видео и голос, проблема только усугубляется, особенно в сфере телемедицины”.
Саммит FutureSec 2025, организованный издательством Khaleej Times в Дубае, собрал ведущих представителей правительства, здравоохранения, розничной торговли и технологий под девизом “Инновации, устойчивость и этическая бдительность”. Однодневное мероприятие посвящено изучению того, как искусственный интеллект и кибербезопасность пересекаются в одном направлении. стремительно оцифровывающийся мир с пристальным вниманием к идентичности как наиболее уязвимой точке доступа в современных цифровых экосистемах.
Самые слабые звенья
В ходе обсуждения было подчеркнуто, что идентичность в настоящее время является самым слабым звеном в цифровых экосистемах, особенно в тех случаях, когда речь идет о дистанционных услугах, таких как телемедицина или электронная коммерция. В то время как крупные учреждения могут располагать ресурсами для внедрения передовых средств защиты, более мелкие организации, такие как клиники или аптеки, остаются уязвимыми.
“Мы сильны настолько, насколько сильно самое слабое звено в нашей экосистеме”, – добавил Уайлс. “Наши системы могут быть продвинутыми, но если клиника не может должным образом аутентифицировать пациентов, скажем, с помощью слабой видеоидентификации, злоумышленники воспользуются этим”.
По его словам, для решения этой проблемы искусственный интеллект и машинное обучение теперь используются не только для атаки, но и для защиты. “Мы используем искусственный интеллект для отслеживания аномалий: изменения IP-адреса, доступа к VPN, поведенческих моделей и даже стиля набора текста. Но применение этих инструментов по всей цепочке, от страховщика до клиники, является реальной проблемой”.
По мнению Ди Деу, директора по информационной безопасности Chalhoub Group, ставка делается не только на финансовые риски, но и на доверие потребителей, особенно в связи с тем, что нарушения, связанные с использованием личных данных, все чаще оказывают влияние на сектор розничной торговли.
“Наши клиенты – это наш бренд. Когда происходит утечка данных или компрометация личных данных, это наносит серьезный ущерб доверию”, – сказала она. “Мы наблюдаем изменения в том, как обрабатывается доступ к личным данным, и как это влияет на каждую точку контакта с потребителем”.
Chalhoub Group, розничный торговец предметами роскоши, работающий в семи странах, уже провел внутренние кампании по информированию персонала о силе и угрозе подделок.
“Мы провели симуляции с использованием deepfakes для обучения персонала и аудита нашей собственной защиты”, – сказал Дью. “Но, помимо технологий, остаются основы. Если вы неправильно применяете базовые средства контроля кибербезопасности, искусственный интеллект только усугубит проблему”.
Она также подчеркнула, что в настоящее время компании несут двойную ответственность как за использование искусственного интеллекта для повышения операционной эффективности, так и за обеспечение того, чтобы сам внедряемый искусственный интеллект был безопасным и беспристрастным.
“Мы должны защищать ИИ, который мы внедряем, точно так же, как и от внешних угроз. Речь идет не только о защите систем. Речь идет о внутреннем и внешнем обучении людей, чтобы они могли распознавать возникающие риски и реагировать на них”.
В Интернете границ не существует
Представляя государственный сектор, Джейкоб Мэтью, руководитель отдела технологий и кибербезопасности в правительственном учреждении ОАЭ, сказал, что Эмираты “опережают события”, когда речь заходит о регулировании, указав на уже действующие федеральные законы и механизмы защиты данных.
“У нас есть такие законы, как Федеральный декрет-закон № 45 о защите персональных данных и № 34 о киберпреступлениях, которые дают нам прочную основу”, – сказал Мэтью. “Но глубокие подделки и кражи личных данных с помощью искусственного интеллекта не ограничены географией. Это глобальные угрозы, и нам необходимо международное сотрудничество, возможно, даже через ООН, для установления единых стандартов и ответных мер”.
Он высоко оценил такие инициативы, как Закон Европейского союза об ИИ, который предусматривает классификацию рисков и маркировку контента ИИ. Однако он подчеркнул, что осведомленность и образование не менее важны.