США и Великобритания запустят институты безопасности ИИ. Как это повлияет на стартапы?

Чем будут заниматься эти институты?

Они будут изучать риски, связанные с новыми мощными системами ИИ, и пытаться снизить их. При этом у них не будет прямых полномочий на то, чтобы устанавливать нормы.

Организации также будут обмениваться информацией и совместно исследовать новые инструменты в партнерстве с учеными, компаниями и некоммерческими организациями.

• Британский институт будет создан на основе Frontier AI Taskforce — государственной группы экспертов по ИИ, возглавляемой предпринимателем Яном Хогартом.
• Американский будет входить в Национальный институт стандартов и технологий (NIST) при Министерстве торговли.

Институт в США также разработает техническое руководство для регуляторов, работающими над такими вопросами, как нанесение водяных знаков на контент от ИИ и борьба с алгоритмической дискриминацией.

Новый орган также поможет NIST установить стандарты безопасности и обеспечить среду для тестирования известных и новых рисков передовых моделей ИИ.

Как заявили политики, американский и британский институты будут тесно сотрудничать и, вероятно, делиться информацией о рисках, связанных с их моделями.

Что думают инвесторы и фаундеры?

Руководители компаний по ИИ, присутствовавшие на саммите, восприняли планы британского правительства с оптимизмом. Они заявили, что эти институты, скорее всего, не повлияют на малый бизнес напрямую.

«Насколько я понимаю, институты безопасности ориентированы на самые передовые модели, обучение которых обходится в сотни миллионов, если не миллиардов фунтов», — сказал Марк Уорнер, CEO B2B-стартапа по внедрению ИИ Faculty.

Владелец X Илон Маск поддержал идею того, чтобы создать «независимого судью», который «может наблюдать за ведущими компаниями в области ИИ и в случае опасений, по крайней мере, бить тревогу». Тем не менее он отметил, что правительствам не стоит вводить нормы, ограничивающие положительные аспекты технологии.

Другим представителям технологического сообщества не понравилось, что на саммите обсуждались лишь «катастрофические» риски передовых систем. Натан Бенайч, основатель венчурного фонда в сфере ИИ Air Street Capital, сказал, что акцент на этом не «отражает баланс мнений в сообществе» и может сосредоточить власть в руках нескольких крупных компаний.

Последуют ли примеру другие страны?

ЕС стремится создать «постоянную исследовательскую структуру» в соответствии с законом AI Act, которая будет сотрудничать с институтами Великобритании и США. Об этом рассказала заместитель председателя Европейской комиссии Вера Йоурова.

Жан-Ноэль Барро, младший министр по цифровым проблемам Франции, назвал это предложение «очень полезным». По его словам, с британским и американским институтами обязательно будут связываться экспертные центры, запущенные во Франции и Канаде французской Global Partnership on Artificial Intelligence (GPAI).

Но не всем понравилась эта идея. Так, министр цифровизации Нидерландов Александра ван Хуффелен посчитала лучшей структуру, подобную Межправительственной группе экспертов по изменению климата, в рамках которой компании объединяют свои исследования и усилия по обеспечению безопасности.

Источник.

Фото на обложке: Alberto Masnovo / Shutterstock