Истории / Искусственный интеллект

Дипфейки помогают создать ложные воспоминания — эксперимент

Но они не более опасны, чем просто текст

27 июля 2023, 07:00

Дипфейки помогают создать ложные воспоминания — эксперимент

Дипфейки действительно помогают распространять дезинформацию, но тех же результатов можно добиться и при помощи простого текста. К такому выводу пришли исследователи, показав участникам эксперимента несколько видеороликов и их текстовые описания, среди которых были ремейки фильмов и дипфейки, например «Сияние» с Брэдом Питтом и «Матрица» с Уиллом Смитом. 49% поверили в достоверность дипфейков.

Исследователи обнаружили, что могут вызывать ложные воспоминания, показывая испытуемым дипфейки вымышленных фильмов.

Как подробно описано в статье, опубликованной в журнале PLOS One, дипфейки оказались достаточно убедительны, чтобы заставить участников поверить в их реальность. В эксперименте использовались ролики, имитирующие реальные фильмы, например «Матрица» с Уиллом Смитом в главной роли. Некоторые участники оценили их даже выше оригиналов.

примеры дипфейков, изображающих ремейки фильмов

Скриншот: Gillian Murphy / Twitter

Но в исследовании действительно было важное предостережение.

Авторы отмечают, что видеоролики были так же убедительны, как и простые текстовые описания.

«Не стоит спешить с предсказаниями мрачного будущего, основанными на наших страхах перед новыми технологиями, — заявила ведущий автор исследования Джиллиан Мерфи, исследователь дезинформации из Университетского колледжа Корка в Ирландии.

— Да, дипфейки наносят очень реальный вред, но мы прежде чем спешно решать проблемы, существование которых мы предполагаем, прежде всегда нужно собрать доказательства этого вреда».

Исследователи показали 436 участникам дипфейки, среди которых были фрагменты фильма «Сияние» с Брэдом Питтом в главной роли и «Капитан Марвел» с Шарлиз Терон.

Эффект довольно убедительный, как видно из клипа Криса Пратта, заменяющего Харрисона Форда в «В поисках утраченного ковчега», которым Мерфи поделилась в Twitter.

В среднем дипфейки смогли обмануть 49% участников. 41% заявили, что ремейк «Капитана Марвел» был лучше.

Впрочем, простое текстовое описание дипфейка оказалось столь же убедительным, что исключает опасения по поводу уникальной эффективности этой технологии по искажению воспоминаний.

«Наши выводы не вызывают особого беспокойства, поскольку они не предполагают, что дипфейки эффективнее существующих форм дезинформации», — сказала Мерфи.

Впрочем, есть способы обезопасить себя от дипфейков. Технологическая грамотность поможет отличать подделки от настоящих медиа.

В то же время генеративный ИИ со временем будет становиться только более убедительным, а это означает, что нам нужно внимательнее относиться к информации.

Источник.

Фото на обложке: Unsplash

Авторы