Истории

Разработан ИИ, который обнаруживает дипфейки по отражениям в глазах

Истории
Дарья Сидорова
Дарья Сидорова

Редактор отдела «Истории».

Дарья Сидорова

Дипфейки часто используются в плохих целях — от распространения дезинформации до включения людей в порноролики. Так, дипфейк Олега Тинькова рекламировал инвестиции, а в Telegram распространились боты, создающие порноролики по запросу. При этом поддельные изображения часто не уступают по качеству реальным, а потому их все сложнее обнаружить.

К счастью, появился инструмент на базе ИИ, который с легкостью справляется с этой задачей. Для этого ему достаточно «заглянуть» в отражение в глазах.

Разработан ИИ, который обнаруживает дипфейки по отражениям в глазах

Систему выявления дипфейков разработали программисты из Университета штата Нью-Йорк в Буффало. В тестах с портретными фотографиями она показала эффективность в 94%. Чтобы выявить подделку, инструмент анализирует роговицу глаз, имеющую зеркальную поверхность, на которой при попадании света появляются отражающие узоры.

На фотографии реального лица, снятой на камеру, отражение в обоих глазах будет одинаковым, поскольку они видят одно и то же. Дипфейки, созданные генеративно-состязательной нейросетью (Generative adversarial network, GAN), как правило, не могут с точностью отразить это сходство.

Слева — реальное фото, справа — дипфейк. Изображение: Сивэй Лю и др.

Такие изображения часто содержат несоответствия. Например, отражения могут быть разной формы или же отличаться по расположению. ИИ-система составляет карту лица и анализирует свет, отраженный в каждом глазу. Затем она генерирует оценку, которая служит показателем схожести. Чем она ниже, тем выше вероятность, что на фото — дипфейк.

Инструмент весьма эффективно справился с обнаружением дипфейков из репозитория This Person Does Not Exist, созданного нейросетью StyleGAN2. 

Однако авторы исследования признают: у их разработки есть несколько ограничений.

  • Самый очевидный недостаток — анализ основан на отражении света в обоих глазах. Имеющиеся несоответствия можно исправить вручную, а если на изображении виден только один глаз, то метод и вовсе не сработает.
  • Инструмент справляется эффективно только с портретами. Если лицо не смотрит в камеру, то результат, скорее всего, будет ложным.

Ученые планируют исправить эти недостатки. А пока система может обнаруживать многие более простые дипфейки, хотя и не справляется с самыми продвинутыми.

Источник.

Фото на обложке: kovop58 / Shutterstock

Нашли опечатку? Выделите текст и нажмите Ctrl + Enter

Материалы по теме

  1. 1 ИИ-помощники для написания контента — чем они полезны предпринимателям, копирайтерам и маркетологам
  2. 2 Топ-100 инновационных стартапов из Европы
  3. 3 Часы и кошельки не нужны: топ трендов мобильной разработки в 2022 году
  4. 4 В какие направления ИИ инвестировать в 2022 году?
  5. 5 Лучшие изобретения по версии Time — и другие новости технологий, меняющих мир
FutureFood
Кто производит «альтернативную» еду
Карта