Почему в Кремниевой долине не могут договориться о том, как развивать ИИ

Ключевое разногласие касается того, насколько сильно нужно ограничивать развитие ИИ.

• Экзистенциальный риск. Сможет ли искусственный интеллект стать угрозой для человечества или это лишь идея из научной фантастики?
• Безопасность. Некоторые считают, что акцент на безопасности поможет защититься вышеупомянутого экзистенциального риска, а также сделать так, чтобы системы ИИ не усилили социальные предубеждения. Другие считают это цензурой, которая тормозит развитие технологий.
• Регулирование. Нужны ли специальные правила, которые будут контролировать и ограничивать ИИ? Некоторые видят в этом усиление цензуры и подавление инноваций.

Ничто не иллюстрирует эти разногласия лучше, чем недавнее увольнение Сэма Альтмана с поста CEO OpenAI, а затем его скорое возвращение. В результате старый совет директоров OpenAI был распущен, а в новом появилось место наблюдателя от Microsoft, крупнейшего инвестора. За возвращение Альтмана выступали несколько инвесторов компании.

Коалиция Responsible Innovation Labs, созданная General Catalyst и другими венчурными фондами, объявила, что вместе с Министерством торговли США разработала руководство по этике ИИ. Инициативу раскритиковали сторонники развития технологии, в частности инвестор Марк Андриссен.

Таким образом, в противовес «эффективному альтруизму», который олицетворяет крайнюю озабоченность по поводу бесконтрольного развития ИИ, возник «эффективный акселерационизм».

Его сторонники утверждают, что представители другого лагеря хотят поставить под угрозу человечество, лишив его преимуществ ИИ и передовых технологий в более широком смысле. Они проводят частные встречи, общаются в интернете с помощью мемов и открыто поддерживают технооптимизм.

Однако оба лагеря представлены венчурными капиталистами. Их действия более тесно взаимосвязаны, чем может показаться со стороны, а свои взгляды они выражают в первую очередь в маркетинговых целях.

Источник.

Фото на обложке: meeboonstudio / Shutterstock