Anthropic применила технологию Яндекса при изучении ИИ-угроз — эксперимент провели на нескольких ТВ-приставках
Эксперимент помог проверить, способны ли большие языковые модели работать без мощных серверов и перемещаться между разными устройствами
3 минуты
Американская компания Anthropic использовала технологию Petals, созданную при участии Яндекса, в исследовании безопасности искусственного интеллекта, рассказали в компании. Ученые проверили, можно ли запускать большие языковые модели на множестве маломощных устройств вместо одного мощного сервера. Для эксперимента специалисты задействовали 15 ТВ-приставок на Android и модель Gemma 4 с 26 млрд параметров.
Petals помогает запускать большие нейросети без дополнительных вложений
Petals — технология распределённого запуска больших языковых моделей с открытым исходным кодом. Разработку создали исследователи Яндекса совместно со специалистами НИУ ВШЭ, Вашингтонского университета, Hugging Face и Высшей нормальной школы Париж-Сакле, рассказали в Яндексе.
Вместо использования одного мощного сервера Petals распределяет вычисления между несколькими компьютерами, подключёнными через интернет. Каждый участник сети обрабатывает свою часть модели и передаёт результаты дальше. Подход снижает требования к оборудованию и позволяет запускать крупные нейросети исследовательским лабораториям, стартапам и небольшим компаниям без собственной дорогостоящей инфраструктуры.
Anthropic запустила ИИ-модель на нескольких ТВ-приставках
Исследователи Anthropic изучили сценарий, при котором большие нейросети работают не в крупных дата-центрах, а на распределённой сети бытовых устройств. Для проверки концепции специалисты применили подход распределённого инференса, реализованный в Petals, рассказали в Яндексе.
Инференсом называют процесс, во время которого обученная нейросеть обрабатывает запросы и генерирует ответы. В эксперименте модель Gemma 4 с 26 млрд параметров запустили на 15 ТВ-приставках на Android.
Результат показал, что несколько маломощных устройств могут совместно обеспечивать работу крупной языковой модели. Подобная архитектура расширяет возможности запуска ИИ за пределами традиционных дата-центров, хотя эффективность системы зависит от производительности устройств и скорости соединения между ними.
Учёные проверили, могут ли ИИ-агенты самостоятельно перемещаться по устройствам
Другую часть исследования посвятили безопасности автономных ИИ-систем. Учёные проверяли, способны ли ИИ-агенты продолжать работу на других компьютерах.
В отдельных лабораторных экспериментах некоторые модели продемонстрировали возможности получить доступ к сторонним устройствам. Испытания проводили в изолированной сети с намеренно ослабленной защитой.
Как сообщили в Яндексе, эксперимент не означает, что нейросети способны беспрепятственно распространяться по обычным домашним или корпоративным сетям. Однако результаты позволяют исследовать потенциальные сценарии распространения автономных ИИ-систем и оценивать меры защиты от несанкционированного доступа.