«Ценностные ориентиры» и «позитивная энергия»: как выглядит китайский взгляд на регулирование ИИ

Маркетолог Вэнь Ли впервые ощутила необъективность алгоритма, когда однажды вечером она и ее подруга использовали одно и то же приложение для вызова такси. Девушке, которая реже вызывала дорогие автомобили, была назначена более низкая цена за ту же поездку. Вэнь обвиняет в этом алгоритмы компании и считает, что на ней хотят заработать больше денег.

Китайские перевозчики утверждают, что цены варьируются из-за колебаний трафика. Но согласно некоторым исследованиям и публикациям, приложения могут устанавливать разные цены в зависимости от ряда факторов, включая историю поездок и телефон, которым пользуется человек.

С 1 марта Китай запрещает подобную алгоритмическую дискриминацию. На данный момент это, пожалуй, наиболее серьезная попытка регулировать ИИ. Правила коснутся алгоритмов, которые устанавливают цены, управляют результатами поиска, рекомендуют видео и фильтруют контент. Ограничения затронут крупный бизнес, который занимается рекламой, электронной коммерцией, стримингом и социальными сетями.

Фото в тексте: Unsplash

Это очередной этап мер, направленных на регулирование против самых популярных и ценных компаний Китая. Ранее они уже получали большие штрафы и были вынуждены переносить публичное размещение акций. Как отметил президент Си Цзиньпин в ходе выступления в октябре 2021 года: «Некоторые нездоровые и беспорядочные сигналы и тенденции произошли в быстром развитии цифровой экономики нашей страны».

Законодатели из других стран следят за примером Китая.

«Только сегодня утром я был на встрече с Министерством иностранных дел Нидерландов, и меня спросили, делает ли Китай то, чего мы не делаем», — прокомментировал Рогир Кримерс, эксперт по китайскому праву и управлению в Лейденском университете в Нидерландах. 

Правила были разработаны CAC (Cyberspace Administration of China, Администрация киберпространства Китая). Ведомство обеспечивает соблюдение правил кибербезопасности, интернет-цензуры и электронной коммерции, запрещает поддельные аккаунты, манипулирование трафиком и продвижение вызывающего привыкание контента, а также обеспечивает защиту работников службы доставки, водителей и других работников гиг-экономики.

Цель некоторых положений — решить проблемы онлайн-сервисов. В частности, компаниям будет запрещено использовать личные характеристики пользователей, чтобы предлагать им разные цены на продукт. Также они будут обязаны уведомлять пользователей и разрешать им отказаться, когда алгоритмы используются для выработки рекомендаций.

Компаниям-нарушителям могут грозить штрафы, запрет на регистрацию новых пользователей, отзыв лицензий, закрытие сайтов или приложений.

Некоторые элементы новых правил могут оказаться трудными или невозможными для применения. Например, может быть технически сложно контролировать поведение алгоритма, который постоянно меняется из-за новых входных данных.Но китайская общественность, похоже, в значительной степени поддерживает меры, направленные на ограничение влияния крупных технологических платформ, услугами которых они пользуются каждый день.

Читайте по теме: Все больше видеоигр собирают данные о игроках. Кому и зачем они нужны?

Лилиан Ли, основатель китайского технического издания Chinese Characteristics, сравнивает мнение китайского общества о технологических гигантах с двойственным отношением жителей Запада к Facebook или Google, которые предлагают большое удобство за счет личных данных пользователя.

И последние 18 месяцев показали, что китайские регуляторы не стесняются наказывать известные компании. Приложение Didi было удалено из китайских магазинов приложений вскоре после его IPO в США, поскольку у правительства возникли вопросы к политике обработки данных. Гигант Alibaba был вынужден выплатить миллионы штрафов за нарушения антимонопольного законодательства.

Некоторые правила довольно туманно сформулированы и могут быть трактованы двояко.

Другой раздел предложения требует, чтобы китайские компании избегали политик, которые вызывают у пользователей «зависимость или чрезмерное потребление». В прошлом году из-за похожих опасений в стране ограничили возможности сотрудничества с инфлюенсерами и время, которое несовершеннолетние могут проводить за видеоиграми.

Еще до того, как правила вступят в силу, китайские компании уже вносят изменения.

ByteDance, разработчик видеосервиса Douyin, в октябре начал показывать пятисекундные видеоролики, призывающие пользователей выйти из системы после длительного просмотра. Этот шаг был разработан для борьбы с зависимостью от алгоритмически подобранных лент. Компания также внедрила функции в Douyin и других приложениях, которые позволяют пользователям отказаться от предоставления личной информации в алгоритмы рекомендаций.

Расследование, проведенное одним из китайских СМИ, показало, что 26 из 28 популярных приложений в прошлом году предоставили пользователям возможность отказаться от персонализированных рекомендаций в связи с другим законом, касающимся защиты личных данных.

Китайские технологические компании уже начали внимательно мониторить контент, чтобы соблюдать правила обмена информацией, которую правительство считает вредной.

• Ранее в этом месяце социальная платформа Weibo удалила 71 тысячу сообщений с критикой олимпийских спортсменов, в том числе фигуристки американского происхождения Чжу И, которая выступает за Китай.
• Tencent Video опубликовала версию фильма «Бойцовский клуб» 1999 года с концовкой, измененной китайским дистрибьютором (оригинал был быстро восстановлен).
• Также сообщается, что сцены, изображающие темы ЛГБТ в ситкоме «Друзья», который пользуется огромной популярностью у китайских зрителей, как сообщается, были вырезаны или изменены.

Отдельное, но связанное с этим предложение направлено на решение проблемы так называемого «синтетического контента». Этот термин включает в себя фейк-ньюс, синтетическое аудио, а также дипфейки. Положения также предусматривают, что производителей ПО для создания дипфейков обязуют верифицировать настоящие имена авторов и «явно маркировать» любые дипфейки.

Такие программы пользуются популярностью в Китае и вызывают бурные обсуждения по поводу конфиденциальности и владения персональными данными.

Китай — не первое государство, которое вводит регулирование для ИИ. Европейский союз предложил правила, которые ограничат использование распознавания лиц, запретят манипуляции алгоритмов и будут регулировать продукты с поддержкой ИИ, такие как чат-боты и компьютерные игры. Но, судя по опыту предущих нормативных актов, правила ЕС, разработанные в апреле 2021 года, могут обсуждаться еще несколько лет.

Сильвия Де Конка, ученый-юрист из Университета Врие в Нидерландах, говорит, что существуют параллели между правилами Китая и предлагаемым ЕС законодательством — в частности, акцент делается на информировании пользователей и предоставлении им возможности отказаться от таргетинга.

Фото в тексте: Unsplash

При этом, отмечает она, если европейские регуляторы склонны мыслить с точки зрения укрепления рынков и прав отдельных лиц, то в Китае, напротив, акцент делается на благосостоянии общества. По ее словам, власти рассматривают эти проблемы как коллективные, что подчеркивают отсылки к морали и базовым ценностям.

В свою очередь, США склонны придерживаться нейтрального подхода к ИИ. Лишь несколько городов ограничили возможность полиции использовать системы распознавания лиц. Сенату США был предложен проект Закона об алгоритмической подотчетности (Algorithmic Accountability Act), направленный на контроль алгоритмов, которые дискриминируют по признаку пола или расы. Однако он не продвинулся дальше законодательных слушаний.

Сенаторы Эми Клобучар (штат Миннесота) и Синтия Луммис (штат Вайоминг) недавно представили проект закона, который потребует от платформ внедрения инструментов для «уменьшения зависимости и распространения вредного контента». Однако даже если такие законопроекты будут приняты, они, скорее всего, столкнутся с юридическими проблемами со стороны технологических компаний.

Рассел Уолд, директор по политике Стэнфордского института искусственного интеллекта, ориентированного на человека, отмечает, что пример Китая может повлиять на другие компании. При этом правила не распространяются на использование алгоритмов и данных правительством, а некоторые, в том числе продвигающие определенные ценности, направлены на сохранение государственного контроля. 

Читайте по теме: Эксперты предложили обязать голосовых роботов предупреждать клиентов, что разговор идет не с живым человеком

Попытки регулировать новые сложные технологии в одной стране или регионе иногда оказывали заметное влияние на другие места. GDPR (General Data Protection Regulation, Общее постановление ЕС о защите данных), вступившее в силу в 2018 году и ограничивающее использование компаниями личных данных, повлияло на политику организаций во всем мире и законодательство в других странах, в том числе в Калифорнии.

Американские законодатели вряд ли использовать китайские правила как источник вдохновения. Но маневры Пекина, возможно, могли бы оказать скрытый эффект. В Великобритании некоторые законодатели призвали онлайн-компании защищать молодежь от вредного контента в рамках подхода, который некоторые сравнивают с предложениями Китая.

«Эти идеи могут воплотиться в жизнь, — отметил Мэтт Шихан, научный сотрудник Фонда Карнеги за международный мир, который исследует экосистему ИИ в Китае. — В случае Китая интересно, что они смогут проводить эксперименты в очень больших масштабах».

Другие страны, включая Пакистан, ОАЭ и Японию, изучают стратегии управления ИИ Новое законодательство Китая, вероятно, окажут наибольшее влияние на страны, которые уже имеют с ним прочные связи. Один недавний академический анализ продемонстрировал, что именно это произошло с такими государствами, как Пакистан.

«То, что мы сделали с цифровой сферой [на Западе], — это отреклись от ощущения, что правительство должно играть определенную роль, — говорит Кримерс, голландский студент, изучающий китайское право. — Это действительно интересно, что Китай преследует свои собственные цели. В каком-то смысле этим можно восхищаться».

Источник.

Фото на обложке: aslysun / Shutterstock