Через несколько дней после того, как Сенат Филиппин отказался инициировать процесс импичмента вице-президента страны, два интервью с филиппинцами, выступающими за и против этого шага, стали популярными.
Ни то, ни другое не было настоящим.
Школьники и пожилая женщина, делавшие свои заявления, были созданы искусственным интеллектом и представляли собой примеры все более изощренных подделок, которые становятся возможными даже с помощью базовых онлайн-инструментов.
“Зачем выделять вице-президента?” – спрашивает мальчик в белой школьной форме, созданный с помощью цифровых технологий, утверждая, что дело было политически мотивированным.
В начале февраля Палата представителей объявила импичмент Саре Дутерте по обвинению во взяточничестве, коррупции и предполагаемом заговоре с целью убийства бывшего союзника и кандидата в президенты Фердинанда Маркоса.
Обвинительный вердикт в Сенате приведет к ее отстранению от должности и пожизненному отстранению от участия в филиппинской политике.
Но после созыва 10 июня суда по импичменту высший орган немедленно отправил дело обратно в Палату представителей, поставив под сомнение его конституционность.
Союзник Дутерте сенатор Рональд дела Роса поделился видеозаписью со школьниками, которую с тех пор просмотрели миллионы раз, и похвалил молодых людей за то, что они “лучше понимают происходящее”, чем их взрослые коллеги.
Младший брат вице-президента Себастьян, мэр семейного города Давао, заявил, что ролик доказал, что “либералы” не пользуются поддержкой молодого поколения.
Когда школьники были выставлены как цифровые творения, вице-президент и ее сторонники остались невозмутимы.
“Нет никаких проблем с тем, чтобы поделиться видео с использованием искусственного интеллекта в мою поддержку. До тех пор, пока это не превратится в бизнес”, – сказал Дутерте журналистам.
“Даже если это искусственный интеллект… Я согласна с этим”, – сказала Дела Роса, бывшая сторонница борьбы с наркотиками экс-президента Родриго Дутерте.
– Пять минут работы –
На видео, в котором приводятся доводы в пользу импичмента, также набравшем миллионы просмотров, изображена пожилая женщина, торгующая рыбой и обвиняющая Сенат в неспособности провести судебный процесс.
“Вы, 18 сенаторов, когда воруете бедные, хотите, чтобы их немедленно посадили за решетку, не задавая вопросов. Но если миллионы украл вице-президент, вы яростно защищаете ее”, – говорит она на тагальском.
На обоих роликах был едва различимый водяной знак, обозначающий платформу Google для генерации видео Veo.
Специалисты AFP по проверке фактов также выявили визуальные несоответствия, такие как чрезмерно гладкие волосы и зубы, а также витрины магазинов с искаженными вывесками.
34-летний Бернард Сеносип, создатель видеоролика “Торговец рыбой”, рассказал AFP, что на создание восьмисекундного ролика ушло около пяти минут.
На своей странице в Facebook Сеночип выступил в защиту своей работы в видеообращении, заявив, что персонажи с искусственным интеллектом позволяют людям выражать свое мнение, избегая при этом “жесткой критики”, часто встречающейся в социальных сетях.
“Пока вы знаете свои ограничения и не вводите в заблуждение своих зрителей, я думаю, все в порядке”, – сказал он, отметив, что, в отличие от версии на Facebook, он разместил тег “создано искусственным интеллектом” на видео, загруженном в TikTok.
В то время как AFP ранее сообщало о веб-сайтах, использующих актуальные филиппинские темы для получения наличных, Сеночип сказал, что его работа была просто способом выражения его политических взглядов.
Создатель видео для школьников, анонимный администратор популярной страницы в Facebook Ай Грабе, отказался давать интервью, но сказал, что мнения его ИИ-создателей были взяты у реальных учеников.
AFP, наряду с другими СМИ, получает деньги от некоторых платформ, включая Meta, Google и TikTok, за работу по борьбе с дезинформацией.
“Серая зона”
По словам Хосе Мари Ланузы (Jose Mari Lanuza) из исследовательского центра Sigla, некоммерческой организации, изучающей дезинформацию, использование искусственного интеллекта для распространения мнений через, казалось бы, обычных людей может сделать убеждения “более популярными, чем они есть на самом деле”.
“В случае с импичментом этот контент вызывает недоверие не только к конкретным законодателям, но и к процессу импичмента”.
В то время как некоторые компании, занимающиеся искусственным интеллектом, разработали меры по защите общественных деятелей, Хосе Мигелито Энрикес, младший научный сотрудник Наньянского технологического университета, сказал, что недавние видеоролики на Филиппинах – это совсем другое дело.
“Некоторые компании, занимающиеся искусственным интеллектом, такие как OpenAI, ранее обязались не позволять пользователям создавать глубокие подделки “реальных людей”, включая политических кандидатов”, – сказал он.
“Но… эти интервью с людьми на улице представляют собой серую зону, потому что технически они не используют изображение реального живого человека”.
По словам Доминика Лигота, основателя компании Data and AI Ethics PH, создавать реалистичных “людей” также становилось все проще.
“Veo – это всего лишь последний в ряду быстро развивающихся инструментов для создания мультимедиа с использованием искусственного интеллекта”, – сказал он, добавив, что новейшая версия обеспечивает “более плавное, реалистичное движение и глубину по сравнению с предыдущими моделями видео с использованием искусственного интеллекта”.
Google не ответил, когда AFP спросило, разработали ли они меры предосторожности, чтобы предотвратить использование Veo для распространения дезинформации.
По мнению Лигота, ограждения вокруг быстро развивающейся технологии необходимы, и он предупреждает, что искусственный интеллект все чаще используется для того, чтобы “влиять на чувства реальных людей, оказывать давление на лиц, принимающих решения, и искажать демократический дискурс”.