Меню

Экономическаяпреступность сегодня

01 Дек 2021, Среда, 01:17
10.09.2021

Эффект зловещей долины: как распознать дипфейк и не дать себя обмануть

На этой неделе мошенники впервые создали дипфейк миллиардера Олега Тинькова, на видео он якобы обещал большой доход с инвестиций. Обращение оказалось подделкой. Как не стать жертвой такого вида обмана и что делать, если вас уже обманули.

В понедельник, 6 сентября в сети появилось рекламное видео, на котором миллиардер и основатель Тинькофф Банка Олег Тиньков обещал подарить деньги. «Давайте бегом за бонусом. Мы дарим +50% к вашей сумме вложений. Например, вы инвестируете 20 000 рублей, а на счет для работы получаете 30 000 рублей, а там с нашим экспертом и все 70 000 за месяц можно заработать…» — говорит в видео человек с лицом Тинькова. Обращение оказалось подделкой — его записали мошенники с использованием технологии дипфейк. Представитель Тинькофф сообщил тогда Forbes, что видео — подделка и компания работает над его блокировкой.

В тот же день Forbes обнаружил еще одно видео, на котором рэпер Моргенштерн обещал подарить от 10 000 до 100 000 рублей всем, кто перейдет по ссылке. Пройдя по указанному адресу, пользователь попадает на баннер, на котором написано «Осталось три часа. Забирай свои 100 000 рублей скорее». Причем, отсчет в три часа не меняется — даже если зайти через шесть часов. Если подобный трюк с Тиньковым мошенники проделывают впервые, то с Моргенштерном похожая ситуация произошла в марте этого года. Тогда музыкант якобы предлагал получить денежные выплаты, но у тех, кто решил это сделать, начали пропадать деньги с банковских счетов.

Дипфейк (deepfake) — это технология создания и замены элементов на существующих видео при помощи искусственного интеллекта и нейронных сетей. Дипфейк можно использовать в качестве безобидной шутки, например, поместив свое лицо вместо лица любимого актера из фильма, или же использовать в более корыстных целях. Количество дипфейков растет стремительно. Если в декабре 2019 года исследовательская компания Sensity AI обнаружила около 24 000 подделок, то к концу 2020 года — уже 85 047 фейковых видео, созданных с использованием этой технологии.

В России мошенники пока неактивно используют дипфейки для обмана. Во втором квартале 2021 года они украли с банковских счетов россиян более 3 млрд рублей, совершив свыше 236 000 денежных переводов без согласия клиентов, говорится в отчете Центробанка. Для хищения денег злоумышленники в основном использовали телефонные звонки «служб безопасности» банков или создавали поддельные интернет-ресурсы.

Но популярность этой технологии у киберпреступников будет только расти, поскольку она уже широко доступна и продолжает постоянно совершенствоваться и упрощаться, считает руководитель отдела специальных проектов департамента Digital Risk Protection Group-IB Владимир Калугин. Помимо такого мошенничества, как в случае с дипфейком Тинькова, технология может применяться для получения конфиденциальных сведений с помощью распознавания лица, добавляет он.

Легко ли сделать дипфейк

Для создания дипфейк-видео могут использоваться развлекательные приложения, например, RefaceAI (более 100 млн скачиваний в Google Store), или более продвинутые программы с готовыми библиотеками, такие как DeepFaceLab и SimSwap, говорит Калугин. SimSwap, по словам эксперта, требует минимальных технических навыков, обладает невысокими требованиями к мощности системы и распространяется с предобученной моделью, позволяя создавать дипфейк-видео на основании одного лишь фото.

Сегодня, чтобы создать дипфейк, не нужно владеть инструментами редактуры видео на очень высоком уровне, соглашается старший исследователь данных в «Лаборатории Касперского» Владислав Тушканов. С другой стороны, по его мнению, самые известные дипфейки — например, «альтернативное поздравление» от королевы Великобритании или дипфейк с Томом Крузом, играющим в гольф, — были сделаны профессионалами в области видеоэффектов, а в последнем случае — еще и с помощью профессионального актера-двойника.

Как распознать дипфейк

Сейчас существуют автоматизированные системы, которые распознают дипфейк. Одну из таких систем разработали в Университете Буффало, она определяет подделку по ошибочным отражениям в глазах.

В целом, мошеннические видео несложно распознать. Как в случае с «поддельным» Тиньковым: человека в ролике, при внимательном изучении, легко отличить от реального, звучит другой голос, качества видео плохое, и распространяется оно в соцсетях — то есть предназначено для просмотра с небольших экранов мобильных устройств, говорит Тушканов. На это и рассчитывают мошенники: в ленте соцсети пользователя убедит даже просто примерно похожий персонаж и логотип известного банка рядом.

Несмотря на то, что технологии становятся все реалистичнее, они пока не смогли преодолеть так называемый эффект «зловещей долины» (uncanny valley) — явление, при котором малейшая неестественность во внешнем виде и поведении робота или объекта, выглядящего и действующего как человек, вызывает у наблюдателя тревогу и неприязнь, говорит Калугин. Он советует обратить внимание на пять основных моментов:

  1. на излишнюю пикселизацию, дефекты, нечеткое и смазанное изображение, дублирование элементов;
  2. на неестественную мимику, особенно при моргании, движении бровей и губ;
  3. на низкое качество видео, за которым нередко пытаются скрыть некорректную работу нейросетей;
  4. на отличия в телосложении, прическе и голосе. Злоумышленники нередко подбирает похожих по типажу актеров, а голос может быть также скорректирован с помощью технологии дипфейк, например, в программах RealTimeVoiceCLoning, Resemble и Descript;
  5. в наиболее популярных решениях заменяется только лицо, поэтому можно заметить границу замененного лица, различие в тенях, освещенности и оттенке кожи.

Но самое эффективное действие — обращать внимание на то, кто, где и как распространяет видео, не нужно доверять видео с непроверенных и сомнительных сайтов или видео, опубликованных третьими лицами без подтверждения в официальных источниках, советует Калугин.

Плохая новость в том, что между исследователями, которые создают алгоритмы генерации дипфейков, и теми, кто исследует способы их обнаружения, идет своего рода гонка: когда обнаруживается несовершенство дипфейка, на его основе создают способ обнаружения, но следующее поколение алгоритмов для генерации уже учится обходить этот способ, говорит Тушканов.

Как избежать обмана

Основной способ борьбы со злоумышленниками, использующими дипфейки для зловредных целей — это повышение осведомленности пользователей о подобном явлении и базовых правилах кибербезопасности, говорит Тушканов.

Нужно критически относиться к крайне щедрым предложениям, только мошенники обещают много денег просто так, продолжает он. Не нужно верить предложениями, где известная личность предлагает поучаствовать в беспроигрышной лотерее или совершить какое-либо сомнительное действие в интернете. Нужно проверять данные на официальном сайте компании или организации, от имени которой предлагается выплата, прежде чем предпринимать какие-то действия.

Легко ли найти мошенников, которые делают дипфейки

Дипфейк-видео могут стать дополнительной зацепкой при проведении расследования, например, если в качестве базы используется фотография, доступ к которой имело ограниченное количество людей, или, если было использовано специально отснятое видео, то можно предположить где и когда оно снималось видео, на какую аппаратуру и кто участвовал, говорит Калугин.

Основная проблема в том, что интернет — это сеть, не имеющая границ, и более длительный период времени занимает не сам процесс установления и поиска «создателя», а организация процесса фактического взаимодействия с ним правоохранителей, считает адвокат дистанционного юридического сервиса «Амулекс.ру» Любовь Шебанова.

Руководитель юридической практики компании «Интерцессия» Кирилл Стус считает, что найти создателей дипфейка простому пользователю практически невозможно, так как мало кто знает и может отследить цифровой след создателя файла.

Что делать, если вы стали жертвой мошенников

Пользователь может подать заявление о блокировке информационного ресурса и обратиться с иском к регистратору доменного имени, на котором распространяется дипфейк, либо подать заявку на блокировку интернет-ресурса в Роскомнадзор, сказал Стус.

Создателей дипфейков можно привлечь к ответственности, если будет доказано создание и использование дипфейков для, например, вымогательства или мошенничества, говорит Шебанова. Для таких случаев подходит, к примеру, статья 159 УК РФ (мошенничество) или же статья 152 ГК РФ, позволяющая человеку, чье изображение было использовано в дипфейке, обратиться с иском о защите чести достоинства и деловой репутации, говорит Стус. Правда, сложившейся судебной практики по дипфейкам ни в России, ни в других странах, не существует, громкие случаи из СМИ нельзя назвать массовыми, а решения по ним единообразными, добавила Шебанова.

Михаил Кузнецов