Минцифры готовит ограничения для ИИ: онлайн-сервисам могут запретить манипулировать поведением пользователей

Разработчики ИИ будут контролировать, чтобы нейросети не манипулировали пользователем

Согласно проекту документа, компании, создающие и внедряющие системы искусственного интеллекта, должны предупреждать пользователей о недопустимости использования таких технологий для манипуляции поведением человека. Речь идёт о применении психологических, возрастных или социально-экономических особенностей людей для воздействия на них.

Как отмечают эксперты, на которых ссылаются «Известия», ответственность в этом случае будет лежать на разработчиках и владельцах сервисов, использующих ИИ. Именно они должны обеспечить, чтобы алгоритмы не подталкивали пользователей к действиям, на которые те не решились бы без скрытого давления.

ИИ может манипулировать пользователем с помощью сообщений или элементов интерфейса

Специалисты, опрошенные «Известиями», отмечают, что современные системы искусственного интеллекта могут значительно усиливать влияние цифровых сервисов на поведение людей. Алгоритмы анализируют большие массивы данных и формируют персонализированные рекомендации, повышая вероятность нужного действия.

Такие механизмы широко используются в рекламных технологиях, рекомендательных сервисах, онлайн-торговле и чат-ботах. Например, сервисы могут подбирать сообщения или элементы интерфейса так, чтобы вызвать у пользователя чувство срочности или доверия.

Соблюдать запрет будет трудно — количество сценариев общения почти не ограничено

Часть экспертов, опрошенных «Известиями», считает, что полностью запретить манипуляции с помощью нейросетей будет сложно. Поведение ИИ зависит от используемых моделей и контекста диалога, а число возможных сценариев общения практически не ограничено, поэтому заранее предусмотреть все потенциальные ситуации невозможно.

Кроме того, слишком жёсткое регулирование может затронуть и полезные рекомендательные алгоритмы. Такие системы помогают пользователям находить нужные товары, фильмы или услуги, упрощая выбор и навигацию по контенту.

Развитие ИИ — приоритетное направление для Минцифры

В Минцифры уточнили «Известиям», что законопроект находится на стадии обсуждения с другими ведомствами и его финальная редакция еще не утверждена. В ведомстве подчеркнули, что развитие технологий искусственного интеллекта остается одним из приоритетных направлений, однако их использование должно происходить с соблюдением прав и интересов граждан.

Например, в рамках обсуждения отечественных разработчиков ИИ собирались обязать раскрывать информацию о данных, на которых они обучают и тестируют модели.