— Мы знаем несколько десятков способов сделать это за минуту. Мы в этом плане параноики, и, прежде чем выпускать решение на рынок, пытаемся сами его беспощадно ломать.
Технологией, которая умеет распознавать лица, занимается всего несколько человек. Гораздо больший штат людей делает из этого продукт, и в их ответственность входит в том числе надёжность. Если решение обеспечивает первое место по качеству распознавания в мире, это повод гордиться, но не повод давать ему зелёный свет. Если оно сломается у заказчика, грош ему цена.
Мы привлекаем большое количество тестеров, которые ломают продукт и позволяют его развивать. Например, в 2018 году мы проводили конференцию «Machines Can See» и в рамках саммита устроили большой публичный конкурс «
Adversarial Attacks on Black Box Face Recognition». Он полностью имитировал работу мошенников, которые пытаются взломать технологию, не зная, как именно она работает. Люди даже получали за это призы.