Top.Mail.Ru
Истории

США и Великобритания запустят институты безопасности ИИ. Как это повлияет на стартапы?

Истории
Дарья Сидорова
Дарья Сидорова

Редактор направления «Истории»

Дарья Сидорова

С 1 по 2 ноября в Великобритании прошел первый международный саммит, на котором политики и представители крупных компаний обсудили риски, связанные с искусственным интеллектом. По итогам США и Великобритания объявили, что создадут национальные институты безопасности ИИ.

Планируется, что эти организации будут сотрудничать с целью предотвратить вред от ИИ, хотя пока не все уверены в их полезности. Подробности — в переводе материала Sifted.

США и Великобритания запустят институты безопасности ИИ. Как это повлияет на стартапы?
  1. Истории
Автор: Дарья Сидорова

Чем будут заниматься эти институты?

Они будут изучать риски, связанные с новыми мощными системами ИИ, и пытаться снизить их. При этом у них не будет прямых полномочий на то, чтобы устанавливать нормы.

Организации также будут обмениваться информацией и совместно исследовать новые инструменты в партнерстве с учеными, компаниями и некоммерческими организациями.

  • Британский институт будет создан на основе Frontier AI Taskforce — государственной группы экспертов по ИИ, возглавляемой предпринимателем Яном Хогартом.
  • Американский будет входить в Национальный институт стандартов и технологий (NIST) при Министерстве торговли.

Институт в США также разработает техническое руководство для регуляторов, работающими над такими вопросами, как нанесение водяных знаков на контент от ИИ и борьба с алгоритмической дискриминацией.

Новый орган также поможет NIST установить стандарты безопасности и обеспечить среду для тестирования известных и новых рисков передовых моделей ИИ.

Как заявили политики, американский и британский институты будут тесно сотрудничать и, вероятно, делиться информацией о рисках, связанных с их моделями. 

Что думают инвесторы и фаундеры?

Руководители компаний по ИИ, присутствовавшие на саммите, восприняли планы британского правительства с оптимизмом. Они заявили, что эти институты, скорее всего, не повлияют на малый бизнес напрямую.

«Насколько я понимаю, институты безопасности ориентированы на самые передовые модели, обучение которых обходится в сотни миллионов, если не миллиардов фунтов», — сказал Марк Уорнер, CEO B2B-стартапа по внедрению ИИ Faculty.

Начни бизнес с RB.RU: 7 писем для старта

Владелец X Илон Маск поддержал идею того, чтобы создать «независимого судью», который «может наблюдать за ведущими компаниями в области ИИ и в случае опасений, по крайней мере, бить тревогу». Тем не менее он отметил, что правительствам не стоит вводить нормы, ограничивающие положительные аспекты технологии.

Другим представителям технологического сообщества не понравилось, что на саммите обсуждались лишь «катастрофические» риски передовых систем. Натан Бенайч, основатель венчурного фонда в сфере ИИ Air Street Capital, сказал, что акцент на этом не «отражает баланс мнений в сообществе» и может сосредоточить власть в руках нескольких крупных компаний.

Последуют ли примеру другие страны?

ЕС стремится создать «постоянную исследовательскую структуру» в соответствии с законом AI Act, которая будет сотрудничать с институтами Великобритании и США. Об этом рассказала заместитель председателя Европейской комиссии Вера Йоурова.

Жан-Ноэль Барро, младший министр по цифровым проблемам Франции, назвал это предложение «очень полезным». По его словам, с британским и американским институтами обязательно будут связываться экспертные центры, запущенные во Франции и Канаде французской Global Partnership on Artificial Intelligence (GPAI).

Но не всем понравилась эта идея. Так, министр цифровизации Нидерландов Александра ван Хуффелен посчитала лучшей структуру, подобную Межправительственной группе экспертов по изменению климата, в рамках которой компании объединяют свои исследования и усилия по обеспечению безопасности.

Источник.

Фото на обложке: Alberto Masnovo / Shutterstock

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе последних новостей и событий!

Нашли опечатку? Выделите текст и нажмите Ctrl + Enter

Материалы по теме

  1. 1 Что это значит: Великобритания собирается лишить Московскую биржу статуса признанной фондовой биржи
  2. 2 Визы для релокации в США и Великобританию. Как получить?
  3. 3 Рынок недвижимости в Великобритании: о чем стоит знать перед покупкой
  4. 4 Перевозим бизнес в Великобританию: 4 основных типа виз и их особенности
  5. 5 Рынок self-employed в России и на Западе: в чем отличия?
7 писем для старта
Начни бизнес с RB.RU
Подписаться