Anthropic заплатит до $500 тыс. за изучение поведения ИИ — опыт работы с нейросетями кандидатам не потребуется
Создатели Claude открыли набор в исследовательскую программу продолжительностью до шести месяцев. Участникам предоставят наставников, доступ к передовым моделям и бюджет на вычисления.
3 минуты
Компания Anthropic, разработчик чат-бота Claude, предложила исследователям зарплату до $500 тыс. в год (около 3,3 млн ₽ в месяц) за работу над безопасностью искусственного интеллекта. Компания сообщила о наборе в программу Anthropic Residency для специалистов из других технических областей, которые хотят перейти в сферу ИИ. Кандидатам предстоит анализировать поведение ИИ, разрабатывать меры защиты против кибератак и обучать нейросетевые модели.
Anthropic ищет преподавателей, предпринимателей и инженеров
Программа рассчитана на специалистов, которые уже руководили сложными техническими проектами и хотят заниматься исследованиями искусственного интеллекта на постоянной основе, уточнили в Anthropic. Среди потенциальных кандидатов в компании ждут профессоров математических и других технических специальностей, основателей технологических стартапов и инженеров.
В Anthropic объяснили, что современные исследования ИИ требуют не только знания машинного обучения, но и способности самостоятельно формулировать научные задачи, оценивать перспективность идей и организовывать сложную работу.
От кандидатов также ждут интереса к вопросам безопасности ИИ, умения быстро проверять собственные идеи, работать в команде и понятно излагать результаты.
За исследования ИИ кандидатам предлагают до 3 млн ₽ в месяц
Размер заработной платы за участие в проекте составит от $350 тыс. до $500 тыс. в год в пересчёте на полный год работы. Верхняя граница — примерно $41,7 тыс. в месяц, или 3,3 млн ₽.
Участники смогут выбрать, на какой срок подписать контракт: шесть недель, три месяца, полгода или год. Следовательно, указанная сумма отражает годовой эквивалент вознаграждения, а не гарантированный заработок за весь период участия, уточняют в компании.
Участники программы будут отвечать за контроль поведения ИИ
Участники присоединятся к исследовательским командам Anthropic и будут заниматься реальными научными задачами под руководством сотрудников, рассказали в компании.
Среди приоритетных направлений:
- Безопасность ИИ. Разработка методов, которые помогают моделям оставаться полезными, честными и управляемыми даже при росте их возможностей.
- Защита от атак. Проверка устойчивости нейросетей к попыткам обмануть модель или заставить её нарушить установленные ограничения.
- Механизм интерпретации ответов моделей. Изучение внутренних механизмов нейросетей, чтобы понять, как ИИ принимает решения и формирует ответы.
- Контроль поведения ИИ. Разработка способов обнаружения потенциально опасных действий и предотвращения проблем до выпуска моделей.
- Кибербезопасность. Проверка возможностей передовых моделей в сфере информационной безопасности, робототехники и криптографии.
- Обучение моделей. Улучшение методов тренировки ИИ, архитектуры нейросетей и вычислительной инфраструктуры.
В Anthropic также рассказали о планах изучать «благополучие ИИ» — вопрос о возможном наличии у продвинутых моделей опасного поведения, которое потребует отдельной оценки и мер защиты.