Anthropic предложила ИТ-компаниям приостановить разработку ИИ — эксперты опасаются потери контроля над нейросетями

ИИ может начать улучшать сам себя

Одной из главных угроз в Anthropic называют так называемое рекурсивное самосовершенствование. Речь идёт о ситуации, при котором искусственный интеллект начинает самостоятельно улучшать собственные алгоритмы и создавать более совершенные версии самого себя.

По мнению авторов доклада, рекурсивное самосовершенствование может случиться раньше, чем к нему будут готовы государственные институты, регуляторы и общество. В результате роль человека в разработке технологий может существенно сократиться.

Anthropic собирается начать вырабатывать механизмы, которые замедляют развитие ИИ

Исследовательское подразделение Anthropic Institute планирует заняться разработкой механизмов, которые могли бы обеспечить безопасное замедление или временную приостановку развития ИИ.

В ближайшие месяцы компания намерена провести консультации с политиками, учёными, представителями гражданского общества и другими разработчиками искусственного интеллекта в США. Основная цель — выработать правила реагирования на риски, связанные с развитием всё более автономных ИИ-систем.

Компании будут проверять, не ведут ли они разработку ИИ тайно

По мнению представителей Anthropic, временное замедление или приостановка разработки должны сопровождаться независимыми проверками. Они необходимы, чтобы отдельные компании не продолжали развитие технологий в закрытом режиме, получая преимущество над остальными участниками рынка.

В компании подчёркивают, что отказ от разработки со стороны одной лаборатории не даст существенного эффекта. Организации, работающие над самыми продвинутыми ИИ-системами, должны координироваться и замедлять работу вместе.

Claude уже пишет большую часть кода в компании, которая его создала

В Anthropic отмечают, что искусственный интеллект уже играет заметную роль в создании продуктов компании.

По данным на май 2026 года, более 80% кода, который интегрируется в кодовую базу Anthropic, генерирует собственная нейросеть Claude. Компания считает это одним из признаков того, насколько быстро ИИ начинает участвовать в разработке новых технологий.