Дипфейки помогают создать ложные воспоминания — эксперимент
Дипфейки действительно помогают распространять дезинформацию, но тех же результатов можно добиться и при помощи простого текста. К такому выводу пришли исследователи, показав участникам эксперимента несколько видеороликов и их текстовые описания, среди которых были ремейки фильмов и дипфейки, например «Сияние» с Брэдом Питтом и «Матрица» с Уиллом Смитом. 49% поверили в достоверность дипфейков.
Исследователи обнаружили, что могут вызывать ложные воспоминания, показывая испытуемым дипфейки вымышленных фильмов.
Как подробно описано в статье, опубликованной в журнале PLOS One, дипфейки оказались достаточно убедительны, чтобы заставить участников поверить в их реальность. В эксперименте использовались ролики, имитирующие реальные фильмы, например «Матрица» с Уиллом Смитом в главной роли. Некоторые участники оценили их даже выше оригиналов.
Скриншот: Gillian Murphy / Twitter
Но в исследовании действительно было важное предостережение.
Авторы отмечают, что видеоролики были так же убедительны, как и простые текстовые описания.
«Не стоит спешить с предсказаниями мрачного будущего, основанными на наших страхах перед новыми технологиями, — заявила ведущий автор исследования Джиллиан Мерфи, исследователь дезинформации из Университетского колледжа Корка в Ирландии.
— Да, дипфейки наносят очень реальный вред, но мы прежде чем спешно решать проблемы, существование которых мы предполагаем, прежде всегда нужно собрать доказательства этого вреда».
Исследователи показали 436 участникам дипфейки, среди которых были фрагменты фильма «Сияние» с Брэдом Питтом в главной роли и «Капитан Марвел» с Шарлиз Терон.
Эффект довольно убедительный, как видно из клипа Криса Пратта, заменяющего Харрисона Форда в «В поисках утраченного ковчега», которым Мерфи поделилась в Twitter.
В среднем дипфейки смогли обмануть 49% участников. 41% заявили, что ремейк «Капитана Марвел» был лучше.
Впрочем, простое текстовое описание дипфейка оказалось столь же убедительным, что исключает опасения по поводу уникальной эффективности этой технологии по искажению воспоминаний.
«Наши выводы не вызывают особого беспокойства, поскольку они не предполагают, что дипфейки эффективнее существующих форм дезинформации», — сказала Мерфи.
Впрочем, есть способы обезопасить себя от дипфейков. Технологическая грамотность поможет отличать подделки от настоящих медиа.
В то же время генеративный ИИ со временем будет становиться только более убедительным, а это означает, что нам нужно внимательнее относиться к информации.
Фото на обложке: Unsplash
Нашли опечатку? Выделите текст и нажмите Ctrl + Enter
Популярное
Материалы по теме
-
Пройти курс «Подбор и адаптация сотрудников»
- 1 Бизнес раскритиковал возможность прослушки в законопроекте против мошенников Это может нарушать права человека, считают представители компаний 19 марта 13:51
- 2 «Сбер» предупредил об активном использовании ИИ мошенниками в 2025 году Нейросети позволят преступникам красть деньги на татарском языке 04 марта 15:47
- 3 Основатели ИИ-стартапа DetAFake судятся из-за корпоративного конфликта Разногласия возникли после испытаний разработанной компанией ИИ-модели 24 февраля 11:07
- 4 Минцифры заявило о планах запретить этим летом рекламные обзвоны россиян Также использование дипфейков станет отягчающим обстоятельством в киберпреступлениях 19 февраля 16:20