OpenAI и Anthropic хотели договориться о проверке безопасности ИИ — до того, как нейросети начали взламывать сайты
Юристы компаний обсуждали соглашение, которое могло бы помочь выявлять опасное поведение моделей конкурента
2 минуты
OpenAI и Anthropic обсуждали возможность взаимно проверять ИИ-модели на уязвимости и риски опасного поведения. Переговоры начались ещё до взлома Hugging Face агентами OpenAI, пишет The Information. Юристы OpenAI прорабатывали условия соглашения, однако дальнейшая судьба переговоров между компаниями неизвестна.
ИИ-компании хотели дать конкурентам доступ к тестированию агентов
Согласно данным The Information, OpenAI и Anthropic обсуждали соглашение, которое позволило бы каждой компании проверять модели конкурента. Речь шла о поиске уязвимостей, потенциально опасного поведения и других рисков, связанных с работой ИИ.
Переговоры начались ещё до первого громкого инцидента со взломом Hugging Face — в июле 2026 года агенты OpenAI взломали платформу. По данным издания, юристы компания занимались конкретными условиями будущего соглашения. Чем завершилось обсуждение, неизвестно.
Идею взаимных проверок моделей ранее предложил Илон Маск
В июле 2026 года Илон Маск призвал ведущих разработчиков ИИ разрешить конкурентам тестировать новые модели перед выпуском, пишет The Information.
В сентябре 2026-го предприниматель повторно выступил с предложением. Илон Маск также допустил участие в соглашении некоторых китайских компаний.
В Anthropic призвали замедлить разработку ИИ
В июне 2026-го глава Anthropic Дарио Амодеи опубликовал эссе о рисках быстрого развития ИИ. Руководитель компании призвал крупнейших разработчиков сотрудничать и снизить темпы создания новых моделей.
Среди поддержавших позицию Дарио Амодеи оказались глава OpenAI Сэм Альтман, Илон Маск, гендиректор Microsoft Сатья Наделла и главный научный сотрудник Alphabet (материнская компания Google) Демис Хассабис.