Дипфейк в новогоднем телешоу вызвал скандал в Исландии

На дворе был канун Нового 2023 года. Вся Исландия смотрела комедийный музыкальный клип в рамках ежегодной развлекательной программы национального канала RÚV с участием самых известных людей страны. Но среди них был комик Хемми Ганн, который умер в 2013 году.

Ганн восстал из загробного мира благодаря технологии исландского стартапа Overtune. Компания разрабатывает платформу для создания аудио и была выбрана техническим партнером программы.

Далеко не все исландцы были впечатлены. Сообщается, что родные Ганна были расстроены, ситуацию раскритиковали в социальных сетях, а исландцы назвали скетч «злым», «неэтичным» и «отвратительным».

Скриншот: Sifted

История не стала масштабной — население Исландии меньше, чем в большинстве европейских городов среднего размера — но она демонстрирует, что даже небольшие ИИ-проекты могут иметь преувеличенное и потенциально опасное влияние на общество.

Регулирование ИИ

Как утверждает сооснователь Overtune Сигурдур Арнасон, в стартапе считали, что телекомпания получит разрешение от семьи Ганна. Но, похоже, его не слишком беспокоит реакция его родных.

«Меня вдохновляет, что технология может вызвать такой эмоциональный отклик, — говорит он. — На моей памяти в последний раз такое происходило с интернетом и Y2K. С нашей точки зрения, это просто подарок в плане PR. Лучше и быть не могло — очевидно, я бы ничего не стал менять».

Инцидент привлек внимание на самом высоком уровне. Член местного парламента Бьёрн Леви Гуннарссон предложил внести поправки в закон об авторском праве. Изменения вынудят людей, воссоздающих голоса и изображения с помощью искусственного интеллекта, запрашивать разрешение у людей, которым они подражают, а также потребуют нанесения водяных знаков на контент, созданный с помощью искусственного интеллекта.

Однако у него мало надежды на то, что законопроект будет принят, поскольку его партия не входит в правящую коалицию. «К сожалению, технологические компании делают то, что им сходит с рук, пока это приносит им деньги», — говорит он.

Читайте по теме:

Регулирование ИИ: куда мы движемся и что учесть бизнесу сейчас?

Мошенники стали применять дипфейки на 3000% чаще. Вот почему это происходит 

Однако Арнасон признает, что его стартап выступает за регулирование искусственного интеллекта, но имеет более неоднозначные взгляды на саморегулирование и на то, должны ли технологические компании нести ответственность за свои собственные этические решения.

«На этот вопрос действительно трудно ответить, потому что природа технологических компаний заключается в инновациях. Таким образом меняется парадигма, — говорит он. — Мы просто выводим продукт на рынок».

Ответственность за дипфейки

В 2024 году мы увидим, насколько сильным может быть влияние на общество таких технологий, как Overtune. По прогнозам, более 4 млрд человек в разных странах мира придут голосовать на выборы, и ставки высоки. Мы уже видим возможности ИИ: в январе этого года дипфейк голоса Джо Байдена призывал демократов не голосовать на президентских праймариз.

И хотя искусственный интеллект — не главная область интересов Overtune, технология стартапа позволяет создать убедительную аудиозапись голоса Барака Обамы, Дональда Трампа или Ким Кардашьян.

Арнасон признает, что у таких сценариев могут быть огромные социальные последствия, он не готов лишить разработку Overtune возможности создавать дипфейки.

«Мы обсуждали это, но пока не получали никаких жалоб на воссоздание голоса Трампа», — говорит он.

Арнасон описывает проблемы с авторским правом, связанные с моделями искусственного интеллекта, как «большую этическую проблему» технологии.

Многие в этом секторе сейчас считают, что компаниям, работающим с ИИ, необходимо начать самостоятельно контролировать свое поведение, поскольку правительства не спешат разрабатывать четкие правила.

Исследователь безопасности ИИ Эллен Реммел отметила, что разработчики технологий, которые позволяют генерировать дипфейки, «должны нести частичную ответственность за злонамеренное использование своих продуктов, поскольку они это допустили».

В некотором смысле история Overtune иллюстрирует стереотипный менталитет стартаперов «двигайся быстро и все ломай», который распространился из Кремниевой долины в Европу. Исландское общество уже продемонстрировало, что не одобряет этот подход.

Источник.

Фото на обложке: Unsplash