«Яндекс» выплатит до 1 млн рублей за поиск уязвимостей в нейросетях

«Участникам "Охоты" предстоит искать технические ошибки, которые могут повлиять на результаты работы и процесс обучения нейросетевых моделей: скажем, привести модель к сбою или изменить ее поведение так, чтобы она повлияла на работу других сервисов "Яндекса"», — рассказали в компании.

Размер выплаты будет зависеть от серьезности ошибки и простоты ее применения. К критичным относятся уязвимости, которые позволяют раскрыть данные о внутренней конфигурации ИИ-модели, ее служебный промт с технической информацией или другие чувствительные сведения. Максимальное вознаграждение — 1 млн рублей. В «Охоте» могут участвовать лишь отчеты о технических уязвимостях — к ним, например, не относятся сообщения о неточных ответах ассистента «Алиса» и некорректных изображениях в сервисе «Шедеврум».

Зачем это нужно? В компании отметили, что появление генеративных нейросетей в «Охоте» поможет проводить их независимую проверку и еще раз убедиться, что сервисы «Яндекса» и новые технологии отвечают самым строгим стандартам безопасности.

• Накануне Yandex B2B Tech анонсировала сервис YCDR (Yandex Cloud Detection and Response) для мониторинга и выявления киберинцидентов, который, как говорят в компании, позволит специалистам по кибербезопасности оперативно выявлять хакерские атаки и другие угрозы. Для получения доступа к YCDR нужно подать заявку на сайте Yandex Cloud.

Фото на обложке: Rokas Tenys / Shutterstock / FOTODOM