В последние годы в Молдове, особенно в Гагаузии, отмечен рост распространения дезинформации, особенно в периоды избирательных кампаний. Одним из наиболее эффективных инструментов для этой цели стало использование искусственного интеллекта, в частности, создание дипфейков. В нашей стране дипфейки стали использоваться не так давно в политической борьбе. Все они направлены против президента Майи Санду. В данном разборе рассказываем, как и для чего создаются дипфейки, механизмы их распространения, последствия и возможные меры противодействия таким явлениям, как дипфейк.
Что такое дипфейк?
Дипфейк (англ. deepfake – глубокий фейк) – это технология, которая использует искусственный интеллект (ИИ) для создания реалистичных видео, в которых лица людей заменены на лица других людей. Это может включать замену лица одного человека на лицо другого человека в видео, в котором оба присутствуют, или создание видео совершенно новых сцен, в которых участвуют несуществующие люди или персонажи.
Дипфейк был изначально создан для использования в киноиндустрии и других развлекательных целях. Однако в последние годы технология стала все более доступной, и ее начали использовать для создания мошеннических видео, фальшивых новостей и других форм манипуляции общественным мнением.
Одним из наиболее известных примеров использования дипфейков является создание фальшивых политических роликов. Например, можно создать видео, на котором высокопоставленный политик произносит речь, которую он на самом деле не произносил, или убедительно взаимодействует с другими политиками в полностью вымышленных ситуациях, поясняет msavod.uz.
Как создается дипфейк и как потом его используют, подробно рассказала и показала команда «СП» в своем видео:
Как создается и распространяется дезинформации с помощью ИИ
Процесс распространения дезинформации с помощью искусственного интеллекта начинается с создания бизнес-аккаунта на платформе Facebook с расширенными возможностями. Затем, при помощи инструментов, таких как Chat GPT и другие приложения, создаются фальшивые видео и сообщения, нацеленные на определенные избирательные группы с определенными политическими предпочтениями. Этот контент загружается заранее и регулярно публикуется на различных онлайн-платформах, таких как Facebook и Telegram.
Главная мишень дипфейков в Молдове – Майя Санду
В последнее время в Молдове технологию дипфейков неоднократно использовали для создания манипулятивных видеороликов, распространяемых в социальных сетях. Портал Stopfals.md развенчал дипфейки, главной героиней которых была глава государства.
Первый случай произошел за два дня до всеобщих местных выборов, состоявшихся 5 ноября, когда в Facebook появился дипфейк-видео, в котором якобы Майя Санду говорит о плачевных делах в стране, «похоронах демократии», и призывает голосовать за кандидата от партии «Возрождение».
Во втором случае, глава государства была героиней дипфейк-видео на русском языке, опубликованного на нескольких страницах в Facebook, в котором она якобы призывала граждан зарабатывать по 30.000 леев в месяц за счет инвестиций в новую платформу, созданную в сотрудничестве с одним коммерческим банком.
Последние дипфейки с Майей Санду появились в январе этого года. В анонимном телеграм-канале 17 января опубликовали новый дипфейк якобы с обращением президента Молдовы Майи Санду. В дипфейке якобы президент рассказывает о полученной в Тимишоаре премии, ценах и блокировке 12 телеканалов, сообщал NM.
Затем 22 января также в анонимном телеграм-канале опубликовали очередной дипфейк якобы с обращением президента Молдовы Майи Санду. В дипфейке якобы президент рассказывает, что в Молдову приедут «архитекторы из Милана», писал NM.
Французское издание «Le Monde» опубликовало в декабре 2023 года статью о том, как президент Майя Санду стала мишенью кампании по дискредитации, в том числе с помощью искусственного интеллекта. Французская ежедневная газета обращает внимание на то, что это явление может приобрести внушительный размах перед избирательной кампанией по выборам президента, в ходе которых Майя Санду будет баллотироваться на второй срок.
Для чего дезинформируют общество?
Основная цель распространения дезинформации – это воздействие на общественное мнение и формирование определенной политической атмосферы в стране.
Фальшивые видео и сообщения, созданные с использованием искусственного интеллекта, распространяются через различные каналы, включая платформы социальных сетей и мессенджеры. Они направлены на различные избирательные группы и регулярно публикуются перед началом официальной избирательной кампании.
Отсутствие законодательства и регулирования – это проблема
Для борьбы с использованием дипфейков различные компании разрабатывают алгоритмы и методы обнаружения фальшивых видео. Кроме того, многие страны введены законы, запрещающие использование дипфейков для мошенничества и других противозаконных целей.
Республика Молдова пока еще не имеет законодательства, регулирующего деятельность в онлайн-пространстве и наказывающего за распространение дезинформации, в том числе с использованием искусственного интеллекта.
Отсутствие эффективных мер противодействия позволяет злоумышленникам свободно распространять фальшивые материалы, что представляет угрозу для демократических процессов и общественной стабильности.
В то же время, в связи с участившимися случаями распространения дипфейков, власти Молдовы, совместно с властями других европейских государств, обратились к крупным компаниям в сфере ИТ, в том числе к Meta, владеющей соцсетями Facebook и Instagram, с призывом принять меры против дезинформации и манипуляций в социальных сетях, которые «подрывают мир и стабильность во всей Европе». В конце марта 2023 года премьер-министр Дорин Речан вместе с другими шестью коллегами из европейских стран подписали открытое письмо к этим компаниям.
«Социальные сети превратились в виртуальные поля сражений, и враждебные иностранные державы используют их для распространения ложных сведений, противоречащих сообщениям правдивых СМИ. Основная цель этих платформ – общение, обмен новостями и полезной информацией – стала оружием манипуляторов», – заявил Дорин Речан. По мнению премьера, социальные сети стали каналами распространения лживых и манипулятивных нарративов.
«Платная реклама и искусственное усиление на мета-платформах, включая Facebook, часто используются для разжигания проплаченных протестов, чтобы вызвать беспорядки и дестабилизировать правительства. Крупные компании должны проявлять бдительность, чтобы их не использовали в качестве площадок для продвижения таких целей. Они должны принять меры для обеспечения того, чтобы их платформы не использовались для распространения пропаганды или дезинформации, которые способствуют агрессии, оправдывают военные преступления, преступления против человечности или другие формы насилия», – говорится в письме, подписанном семью премьер-министрами.
Последствия и потенциальные угрозы
Распространение дезинформации с использованием искусственного интеллекта может иметь серьезные последствия для общества и политической системы Республики Молдова. Это может привести к усилению политических конфликтов, подрыву доверия к государственным институтам и усилению влияния внешних акторов, таких как Россия, на внутренние дела страны.
Меры противодействия
Для эффективного противодействия распространению дезинформации необходимо принятие комплекса мер, включая разработку и внедрение соответствующего законодательства, улучшение механизмов мониторинга и обнаружения фальшивых материалов, а также повышение осведомленности общественности о методах манипуляции искусственного интеллекта.
Распространение дезинформации с использованием искусственного интеллекта представляет серьезную угрозу для демократических процессов и общественной стабильности в Республике Молдова. Для борьбы с этим явлением необходимо принятие срочных и эффективных мер со стороны государственных органов, общественных организаций и международного сообщества.
