Российский бизнес хочет защититься от ИИ — за год спрос на продукты для контроля нейросетей вырос втрое

Yandex Cloud представил отчёт о киберугрозах для бизнеса в РФ: 15 тыс. компаний используют ИИ для защиты от хакеров

Нейросети помогают обнаружить уязвимость в сети, анализировать хакерские атаки и определять их источники

Читайте также

Компании все реже используют обычных чат-ботов, и чаще — полноценных ИИ-агентов

Спрос на контроль ИИ растёт, поскольку компании всё чаще используют не обычные чат-боты, а ИИ-агентов, которые могут самостоятельно выполнять задачи, работать с корпоративными данными и запускать другие сервисы.

Чтобы управлять нейросетевыми агентами, компании создают harness. Она определяет, к каким данным и инструментам получает доступ ИИ-система, как она выполняет многошаговые задачи и в каких случаях должна запросить подтверждение человека.

«Яндекс», «Сбер» и МТС развивают собственные системы контроля ИИ

«Яндекс» развивает собственные технологии маршрутизации запросов и harness-решения для пользовательских и корпоративных продуктов, сообщили «Известия». В MWS AI, входящей в МТС Web Services, передали изданию, что работают над системой, которая позволит переключаться между разными моделями, контролировать расход вычислительных ресурсов и анализировать действия агентов.

«Сбер» уже использует собственную инфраструктуру управления моделями и агентами в GigaАгенте, GigaCode и корпоративном GigaCowork, передают «Известия».

80% запросов бизнеса связаны с данными и их утечками

По данным ИТ-холдинга Т1, на который ссылаются «Известия», за последний год спрос компаний на продукты для контроля ИИ-агентов вырос примерно втрое. Около 80% обращений касаются управления доступом к корпоративной информации, защиты от утечек. Также компании хотят настроить возможность подтверждать критически важные решения ИИ. Активнее всех решениями интересуются банки, промышленность, госорганизации и ритейл.

В ГК «Солар» сообщили изданию, что языковая модель сама по себе не всегда может отличить данные от команды. Поэтому защитный слой должен отдельно анализировать запросы, ответы и действия ИИ и блокировать потенциально опасные операции по заданным правилам.

Рынок продуктов для контроля ИИ может вырасти до 5 млрд рублей к 2029 году

Эксперты «Известий» ожидают, что рынок решений для контроля ИИ продолжит быстро расти.

По оценке сооснователя университета «Зерокодер» Кирилла Пшинника, на которого ссылается издание, к концу 2029 года объём рынка подобных продуктов может составить около 5 млрд рублей. Основную выручку, по его прогнозу, будут приносить не сами программы, а их внедрение, интеграция и дальнейшее сопровождение.