Сгенерированный нейросетями контент предложили маркировать водяными знаками

С предложением ввести маркировку всего контента, который создает искусственный интеллект, выступил профессор Калифорнийского университета Хани Фарид. Специализацией его работы является анализ цифровых изображений и выявление дипфейков.

Ученый считает, что при сохраняющихся темпах развития нейросетей уже в ближайшем будущем не составит труда сгенерировать видео, в котором, например, глава государства будет угрожать военными действиями, или руководитель компании объявит о падении прибыли. Такие манипуляции в итоге могут привести к шторму на рынке или геополитическому кризису, поясняет профессор.

Рядовому человеку сложно отличить подлинный контент от сгенерированного нейросетью. Поэтому созданные искусственным интеллектом аудио, видео или фотоматериалы нужно маркировать, считает Фарид. По его словам, это можно сделать с помощью водяного знака, который будет содержать уникальный идентификатор и доводить до сведения, что данный контент создала нейросеть.

С маркировкой контента уже экспериментирует компания OpenAI, которая является разработчиком популярной нейросети ChatGPT. Эксперименты заключаются в том, чтобы добавить в подлинный контент идентификатор уникальности, например, криптографическую подпись видео при записи, или маркировке результатов работы ChatGPT.