Anthropic усилила защиту Claude от конкурентов — объём утечек данных сократился почти на 100%
Разработчик Claude уже заблокировал десятки тысяч аккаунтов для защиты своих моделей от копирования
2 минуты
Anthropic разработала новый механизм защиты от копирования ИИ-моделей Claude, пишет Reuters. Разработчик также заблокировал десятки тысяч аккаунтов, созданных конкурентами для извлечения данных. Среди компаний, которые, по утверждению Anthropic, пытались перенести возможности Claude в собственную модель, оказалась китайская Z.ai.
Anthropic ограничила доступ к рассуждениям Claude
Новые меры защиты направлены против дистилляции — метода обучения ИИ, при котором одну модель используют для получения ответов и данных, помогающих обучить другую. Подход позволяет разработчикам быстрее воспроизводить возможности более мощных систем и сокращать расходы на создание собственных решений, пишет Reuters.
Anthropic, OpenAI и Google опасаются, что конкуренты копируют возможности их нейросетей, используя ответы моделей для обучения собственных ИИ. Проблема обострилась на фоне конкуренции между США и Китаем.
Anthropic сообщила, что после внедрения новых ограничений объём извлечённых данных о рассуждениях Claude сократился на 90-99% по сравнению с прежним уровнем.
Компания также усложнила использование прокси-сетей, позволяющих распределять запросы между разными IP-адресами и затрудняющих обнаружение массовых попыток получить информацию от модели.
Anthropic сравнила защиту Claude с системой блокировки опасных запросов
По заявлению Anthropic, новая система защиты по надёжности примерно сопоставима с механизмами, которые не позволяют Claude помогать в создании биологического оружия, пишет Reuters.
При этом доля ложных срабатываний составляет менее 0,1%. Иными словами, система крайне редко ошибочно принимает обычные запросы пользователей за попытки извлечь данные.
Anthropic не раскрыла подробности реализации всех защитных механизмов, однако заявила о значительном снижении эффективности атак.
Anthropic обвинила китайскую Z.ai в попытках копирования Claude
В качестве примера разработчик привёл китайскую ИИ-компанию Z.ai, также известную как Zhipu. По утверждению Anthropic, компания пыталась извлекать возможности Claude при разработке собственной модели GLM-5.3, пишет Reuters.
Anthropic заявила, что подобные действия создают риски для безопасности ИИ и национальной безопасности.
