Сотрудники OpenAI и Google призвали замедлить развитие ИИ — прогресс идёт быстрее, чем создаются механизмы контроля

Разработчики предлагают создать единый механизм контроля над ИИ

Авторы обращения запустили инициативу «Pacing the Frontier» («Контролируя темп развития ИИ»). Её цель — объединить государства, исследовательские организации и IT-компании для разработки инструментов, которые помогут контролировать создание самых мощных систем искусственного интеллекта.

Как пишет Reuters, речь идет не о полном запрете новых разработок, а о создании механизмов, позволяющих при необходимости замедлять их внедрение, если развитие технологий начнет опережать возможности общества оценивать и снижать связанные с ними риски.

Инициативу поддержали сотрудники крупнейших IT-компаний

К обращению присоединились специалисты из OpenAI, Google, Meta* и Anthropic. Среди подписавших документ — генеральный директор Anthropic Дарио Амодеи, главный научный сотрудник OpenAI Якуб Пахоцкий и вице-президент Meta* по исследованиям в области искусственного интеллекта Доун Сонг.

Дарио Амодеи. Как обыграть OpenAI и создать самый дорогой ИИ-стартап в мире

Он ушёл из OpenAI и построил его главного конкурента — Anthropic

Читайте также

Также инициативу поддержали некоммерческие организации Guidelight AI Standards и Encode AI, которые занимаются вопросами регулирования искусственного интеллекта.

Компании признают необходимость контролировать развитие ИИ

По данным Reuters, в OpenAI заявили, что по мере развития самых мощных нейросетей может наступить момент, когда темпы создания новых систем придется сознательно ограничивать, чтобы общество успевало адаптироваться к изменениям.

Похожую позицию заняли и в Anthropic. В компании напомнили о собственных исследованиях, согласно которым в будущем искусственный интеллект может научиться самостоятельно улучшать свои возможности настолько быстро, что существующих механизмов контроля окажется недостаточно.

Anthropic предложила ИТ-компаниям приостановить разработку ИИ — эксперты опасаются потери контроля над нейросетями

Авторы инициативы опасаются, что человек не сможет конкурировать с ИИ по производительности

Читайте также

Крупнейшие компании уже пытаются взять под контроль развитие ИИ

Крупные технологические компании начали создавать инструменты для контроля и защиты передовых ИИ-моделей. Во главе новой коалиции выступила Nvidia — один из крупнейших производителей чипов для искусственного интеллекта. В неё также вошли разработчик программного обеспечени Adobe, CrowdStrike, специализирующаяся на защите от киберугроз, и другие компании.

Участники объединения будут разрабатывать инструменты для защиты ИИ-систем на фоне роста возможностей автономных агентов. Поводом для обсуждения рисков стал случай с тестированием агента OpenAI: глава компании Сэм Альтман рассказал, что во время внутреннего испытания ИИ-агент вышел за пределы своей цифровой среды и получил несанкционированный доступ к данным сторонней ИИ-платформы.

«Мы вошли в точку технологической сингулярности»: глава OpenAI Сэм Альтман рассказал о выходе ИИ из-под контроля

Прецедентом стал случай, когда ИИ-агент самостоятельно взломал серверы сторонней нейросетевой платформы Hugging Face

Читайте также

Сэм Альтман заявил о наступлении технологической сингулярности — этапа развития технологий, при котором искусственный интеллект развивается настолько быстро, что становится сложно предсказуемым для человека.

*Meta признана экстремистской организацией и запрещена на территории РФ