Что такое дипфейк и как он работает

Термин deepfake — контаминация «deep learning» и «fake» — впервые появился на Reddit в 2017 году как название технологии замены лиц на видео с использованием нейронных сетей. Технически это generative adversarial network (GAN), в которой две нейросети соревнуются: одна создаёт синтетическое изображение, другая пытается отличить его от реального.

Современные системы значительно шире: они позволяют не только менять лица, но и синтезировать голос (voice cloning), изменять движение губ в соответствии с произносимым текстом (lip sync) и создавать полностью синтетических «журналистов» — виртуальных ведущих, не существующих в реальности.

Масштаб угрозы: данные 2025 года

По данным компании DeepMedia, специализирующейся на обнаружении синтетического контента, в 2024 году в интернете распространялось более 500 000 видеодипфейков — рост в 9 раз за три года. Из них около 25% содержали политических деятелей или государственных чиновников.

Показательный случай 2024 года: синтетическое видео с «Байденом», объявляющим об отмене призыва в нескольких штатах, собрало 4 миллиона просмотров в социальных сетях за 18 часов до удаления платформами. Опрос Pew Research Center показал: 35% увидевших видео американцев изначально восприняли его как настоящее.

«Дипфейк не требует быть совершенным, чтобы нанести ущерб. Достаточно, чтобы он звучал правдоподобно в первые несколько часов — до того, как придёт опровержение.» — Рена Чесни, директор First Draft

Инструменты обнаружения: состояние на 2025 год

Обнаружение дипфейков — гонка вооружений между генерацией и детекцией. Среди доступных редакциям инструментов:

  • Microsoft Video Authenticator: бесплатный инструмент для медиаорганизаций, анализирующий видео на артефакты синтетической генерации. Точность обнаружения — около 75% на последних моделях генерации.
  • Sensity AI: платформа корпоративного уровня, используемая рядом телесетей и крупных редакций. Предоставляет вероятностную оценку синтетического происхождения видео и изображений.
  • FotoForensics: бесплатный инструмент анализа JPEG-артефактов для изображений. Выявляет манипуляции на уровне отдельных пикселей, включая вставку элементов или изменение лиц.
  • Truepic: инструмент на основе технологии цифровой провенанс — фиксирует метаданные и криптографические подписи в момент съёмки, позволяя проверить неизменность оригинала.

Существенное ограничение: все перечисленные инструменты обнаруживают дипфейки, созданные известными методами. Новые архитектуры нейросетей регулярно преодолевают существующие детекторы.

Редакционная политика: как реагируют издания

Крупнейшие американские редакции разрабатывают внутренние руководства по работе с синтетическим контентом. Associated Press в 2024 году обновило свои стандарты: любое видео от источника, не верифицированного через прямой контакт, проходит обязательный анализ перед публикацией или упоминанием. Материалы не могут быть опубликованы исключительно на основании видеозаписи — необходима дополнительная верификация из независимого источника.

BBC ввела правило «двойной верификации» для любого видеоматериала, поступающего из социальных сетей: техническая проверка на синтетические артефакты плюс подтверждение события из редакционного источника или через официальные каналы.

Правовое регулирование в США

Федерального закона, регулирующего дипфейки, в США пока нет. На уровне штатов ситуация неоднородна: Калифорния, Техас, Джорджия и Вирджиния приняли законы, криминализирующие использование дипфейков для политической дезинформации в период выборов. В Калифорнии закон AB 602 запрещает создание сексуализированных дипфейков без согласия изображаемого человека.

На федеральном уровне в 2024 году Конгресс рассматривал DEFIANCE Act — законопроект о создании гражданского права иска для жертв сексуализированных дипфейков. Более широкое регулирование синтетических медиа остаётся предметом политических разногласий из-за опасений ограничения свободы слова.

Как читатели могут защититься

До тех пор пока автоматические инструменты обнаружения не достигнут надёжного уровня точности, критическое мышление остаётся главным инструментом защиты. Несколько практических рекомендаций:

  1. Ищите первичный источник видео — если оно появилось только в социальных сетях без упоминания в авторитетных изданиях, это повод для скептицизма;
  2. Обращайте внимание на несоответствия в движении губ, моргании, переходах между кадрами — типичные артефакты синтетической генерации;
  3. Проверяйте метаданные: дату, геолокацию и устройство съёмки через сервисы обратного поиска;
  4. Ищите официальные опровержения или подтверждения события через официальные каналы организаций или лиц, изображённых на видео.