Инструмент мошенников и угроза для актеров: к чему приведут реалистичные дипфейки

Технология дипфейков стремительно совершенствуется. Одно из доказательств — текущий сезон телепроекта «Америка ищет таланты» (America’s Got Talent). До его финала дошли участники от стартапа Metaphysic, которые выступили «с лицами» телеведущего Саймона Коуэлла и других судей конкурса — их дипфейки транслировались в реальном времени на экране.

В команде Metaphysic работает Крис Уме — один из ведущих дипфейк-художников в мире. Именно он создал ролики с актером Томом Крузом, которые завирусились в интернете полтора года назад. Уме прорабатывает каждую морщинку и микрожест и гордится тем, что создает максимально безупречные имитации лиц.

Сейчас в интернете свободно доступны программы, позволяющие практически без каких-либо технических навыков создавать довольно неплохие живые дипфейки. Эта технология улучшается настолько быстро, что удивляет даже тех, кто внимательно следил за ее развитием.

«Помню, как примерно два года назад кто-то спросил меня о живых дипфейках, и я сказал, что на это потребуется примерно пять лет. Я бы неправ», — рассказывает Хани Фарид, специалист в области компьютерных наук из Калифорнийского университета в Беркли. Фарид — один из ведущих мировых экспертов по аутентификации цифровых изображений.

По мнению бывшего юриста Тома Грэма, который сейчас занимается инвестициями в криптовалюты и является бизнес-партнером Metaphysic, только за последний год качество дипфейков его компании повысилось в 20 раз.

Во-первых, утверждает Грэм, это связано с методом, который использует Metaphysic. Стартап создает дипфейки с помощью не одной, а нескольких ИИ-моделей, каждая из которых обрабатывает различные части лица человека. К примеру, одна модель может отвечать лишь за движения бровей, а другая — губ.

Во-вторых, дипфейки, подобные тем, что Metaphysic демонстрирует на шоу «Америка ищет таланты», возможны благодаря значительному ускорению рендеринга изображений.

По словам Грэма, Metaphysic участвовала в шоу талантов отчасти для того, что показать развитие этой технологии. Также компания хотела подтолкнуть людей отказаться от старой идеи о том, что «видеть — значит верить».

Читайте по теме: Разработан ИИ, который обнаруживает дипфейки по отражениям в глазах

Сейчас Metaphysic разрабатывает дипфейки для голливудских фильмов и рекламы. Компания также запустила сторонний проект — Every Anyone. Он позволяет любому человеку создать из обычного селфи реалистичный дипфейк самого себя, который будет привязан к NFT. Это, рассказывает Грэм, должно предоставить людям возможность владеть собственным цифровым образом и контролировать то, как он используется. 

Такой дипфейк (Грэм и Уме предпочитают термин «гиперреалистичный цифровой аватар») криптографически записывается в неизменяемый цифровой реестр. В теории так люди будут знать, что взаимодействуют с определенным человеком — или, по крайней мере, с его фейковой версией — а не с самозванцем.

Эта технология станет ключом к воплощению метавселенной в реальность, утверждает Грэм. Он также считает, что гораздо лучше предоставить каждому возможность создавать собственный «гиперреалистичный цифровой аватар», чем передавать эту задачу (вместе со всеми биометрическими данными) технологическим гигантам.

«Every Anyone — это инструмент, позволяющий людям оказывать реальное воздействие на экономику Web3, — рассказывает он. — В Web2 мы — и пользователи, и потребители, и продукты. Однако в Web3 мы должны быть партнерами, а не продуктами».

Дипфейки как инструмент для мошенничества

Несмотря на все преимущества, существуют опасения по поводу того, что живые дипфейки могут улучшить мошеннические схемы. Технология уже используется, чтобы совершать финансовые преступления и распространять политическую дезинформацию через звонки по Zoom.

В августе топ-менеджер криптобиржи Binance заявил, что с помощью его дипфейка злоумышленники пытались обмануть руководителей криптопроектов (эти утверждения не прошли независимую проверку). А в июле ФБР предупредило, что люди могут задействовать дипфейки на онлайн-собеседованиях.

Metaphysic стремится к тому, чтобы ее технология никогда не использовалась для таких целей, подчеркивает Грэм. Компания помогла создать форум Synthetic Futures для всех, кто применяет дипфейки в развлекательных и других законных целях.

Участники Synthetic Futures будут обсуждать стандарты, которые позволят предотвратить злоупотребление этой технологией. Однако Фарид опасается, что эти стандарты появятся слишком поздно, и их будет недостаточно.

Тем временем ситуацией уже обеспокоены актеры. Одни боятся остаться без работы, другие — что молодых актеров будут вынуждать продавать права на бессрочное использование их биометрических данных развлекательным компаниям.

Грэм признает, что все эти вопросы необходимо решать путем регулирования и установления стандартов, к чему должен приложить усилия «каждый в этой индустрии».

Источник.

Фото на обложке: JpegPhotographer / Shutterstock