Кто вы по мнению ИИ? Об этом можно узнать на новой выставке фонда Prada

В 2009 году группа ученых из Стэнфорда и Принстона решила научить компьютеры распознавать различные объекты. Для этого им потребовалось множество изображений животных, растений, предметов, а также людей. Каждой из фотографий была присвоена своя категория, после чего их можно было использовать в машинном обучении.

В результате получился набор данных под названием ImageNet, состоящий из более чем 14 млн изображений. Все они были сгруппированы в более чем 20 тысяч категорий, в каждую из которых вошла в среднем тысяча фотографий. ImageNet стал самым цитируемым в научных статьях набором данных — исследователи ссылались на него более 12 тысяч раз.

При этом, как уже упоминалось, в него входят не только неодушевленные объекты: в ImageNet есть почти 3 тысячи категорий, характеризующие людей. Среди них присутствуют и относительно безобидные описания, например, «чирлидер» или «бойскаут».

Но многие категории, которые были созданы с помощью исполнителей-людей с платформы Mechanical Turk от Amazon, вызывают глубокое беспокойство. «Плохой человек», «лицемер», «неудачник», «наркоман», «должник» и «слабак» — так звучат их названия, и в каждой группе есть изображения людей, взятые с Flickr и из других соцсетей и используемые без их ведома.

ImageNet и другие наборы данных для обучений нейросетей, история которых восходит к 1960-м годам, и стали главной темой новой выставки фонда Prada под названием Training Humans («Обучение людей»). Ее кураторы — исследователь Кейт Кроуфорд и художник Тревор Паглен. Посетителям предлагают посмотреть фотографии, которые обеспечивают работу систем компьютерного зрения и распознавания лиц, а также узнать, кем видит их ИИ, обученный на изображениях из базы ImageNet.

Кейт Кроуфорд и Тревор Паглен

Для людей, у которых не получится посетить Милан, Кроуфорд и Паглен создали онлайн-инструмент под названием ImageNet Roulette, который также классифицирует людей по категориям ImageNet. В нем можно сфотографироваться на веб-камеру или загрузить уже готовый снимок.

Кроуфорд и Паглен продемонстрировали работу программы в начале этого года на примере своих собственных портретов и фотографии разработчика Лейфа Риге, который создал алгоритм. Кроуфорд ИИ назвал «героиней», Паглена — «членом ку-клукс-клана», Риге — «жутким», «бездомным» и «анархистом».

Кроуфорд и Паглен надеются опровергнуть распространенное убеждение, что ИИ-классификация людей нейтральна. Кроуфорд подчеркивает, что в обучении алгоритмов был задействован субъективный опыт исполнителей, размечавших фотографии.

Хотя многие наборы данных для машинного обучения обладают серьезными недостатками, они все равно продолжают использоваться как учеными, так и бизнесом. Но у Кроуфорд есть некоторые идеи для улучшения ситуации, чтобы в будущем исследователи, по крайней мере, знали о существующих проблемах.

В 2018 году она сотрудничала с восемью другими учеными в проекте по созданию новых меток для фотографий. Они сообщают, откуда их взяли, давал ли изображенный на них человек согласие на это и так далее. Такие ярлыки уже начали применяться, хотя в целом это очень маленький шаг к осознанному использованию изображений для обучения ИИ.

Для Паглена вопрос о том, как сделать наборы данных для ИИ менее примитивными и неточными, глобальнее. Поскольку он считает, что технологии не могут быть нейтральными, то предлагает разработчикам ИИ-систем задаться вопросом, действительно ли классификация людей является частью работы, которой они хотят заниматься.

Источник.

Фото: Марко Капелетти / Фонд Prada