Anthropic: что известно о самом громком стартапе в области ИИ

Содержание

• Краткая история компании
• Что делает компанию уникальной?
• Claude и ChatGPT
• Инвестиции в Anthropic
• Отказ от слияния с OpenAI

Краткая история компании

Искусственный интеллект проделал путь от множества исследовательских проектов до титанических, мощных моделей вроде GPT-3, и у этой области есть потребность в эволюции. К этой мысли пришел бывший вице-президент по исследованиям OpenAI Дарио Амодей.

Как отмечает Financial Times, Амодей уволился «в связи с разногласиями из-за направления компании» — после первой сделки с Microsoft в 2019 году деятельность OpenAI приобретала все более коммерческое направление.

В 2021 году он основал собственную компанию Anthropic вместе с сестрой Даниэлой и бывшими сотрудниками OpenAI, в том числе Томом Брауном, лид-инженером модели GPT-3.

Даниэла Амодей заняла должность президента Anthropic, Дарио — CEO компании.

Вероятно, название компании — отсылка к антропному принципу (англ. Anthropic principle), согласно которому во вселенной возможна разумная жизнь. Если разум неизбежно возникнет в правильных условиях, компании просто придется их создать.

В отличие от стандартных корпораций, у которых есть обязательство отдавать приоритет доходам, Anthropic имеет статус благотворительной корпорации, что дает ей юридическую защиту от финансовых притязаний акционеров.

«Если они беспокоятся лишь об окупаемости инвестиций, возможно, мы не та компания, в которую стоит вкладывать деньги. И мы откровенно говорим об этом, когда собираем средства» — прокомментировала президент Даниэла Амодей незадолго до раунда инвестиций 2021 года, который принес им $450 млн.

Anthropic не определяет себя как компания, работающая по принципам эффективного альтруизма. Впрочем, Дарио и Даниэла проявляли интерес к движению, а в команде довольно много его представителей.

Что делает компанию уникальной?

Одна из основных целей Anthropic состоит в том, чтобы понимать искусственный интеллект на более глубоком уровне и создавать «крупномасштабные системы ИИ, которые были бы управляемыми, интрепретируемыми и надежными».

Как правило, в быту искусственный интеллект используют для создания текстов, картинок или управления голосовыми программами вроде Siri. Но если (или когда) ИИ сможет выполнять более сложные задачи (например, проводить исследования в области медицины или юриспруденции), нам понадобится лучше понимать, как и почему он приходит к тем или иным выводам. Ошибка может быть вопросом жизни и смерти.

Эту задачу призван решить конституционный ИИ, который подчиняется заданным правилам — «конституции». На этот принцип опирается генеративная языковая модель Claude.

Читайте по теме:

Ученым все труднее объяснить, как работает ИИ. Почему это опасно?

Названо семь лучших аналогов ChatGPT

Почему искусственный интеллект должен быть децентрализованным?

При создании моделей ИИ используется обучение с подкреплением и обратной связью от человека (англ. reinforcement learning from human feedback, RLHF), методе, который исследователь Пол Кристиано разработал во время работы в OpenAI.

Вот как это работает.

Обучение с подкреплением создает агента (программу или робота) и обучает его что-то делать, вознаграждая за результат. Например, чтобы научить робота бежать спринт, можно установить для него награды за каждый метр, приближающий к финишу.

В некоторых контекстах принцип очевиден. Но назначить награду для языковой модели не так просто. Мы ждем от нее точности, умения считать, понимать музыку — делать все то, что может человек. Мы хотим, чтобы она была креативной, но не ограниченной. И при этом она должна оставаться подконтрольна нам.

Сформулировать все требования к машине практически невозможно. Поэтому метод RLHF использует для разработки наград мнение человека. Для этого приглашают множество людей (на практике жителей южных стран, в случае OpenAI из Кении) оценивать ответы моделей ИИ. Затем на этих оценках обучают систему вознаграждений, что, в теории будет отражать человеческие пожелания к итоговой модели.

Конституционный ИИ использует иной подход. Он меньше полагается на людей — и поэтому в статье о нем исследователи описывают обучение с подкреплением и обратной связью от ИИ (англ. reinforcement learning from AI feedback, RLAIF). Вместо обратной связи от людей исследователи предлагают набор принципов («конституцию») и просят модель адаптировать ответы так, чтобы соблюдать эти принципы.

По сути конституционный ИИ — вариант обучения с подкреплением, которое используют OpenAI, DeepMind и прочие лаборатории. Но он имеет преимущество в плане безопасности.

Claude и ChatGPT

Чат-бот Claude по сути является потенциальным конкурентом ChatGPT.

Языковые модели не так просто сравнивать, как, например, вычислительную скорость. Но исследователи отмечают положительные стороны Claude:

• «в настоящий момент лучший ИИ для работы с документами»,
• самая «приятная» личность среди ИИ,
• «еще уступает GPT-4, но быстро сокращает разрыв».

Команда Scale Spellbook провела подробное сравнение бета-версии Claude и ChatGPT и пришла к следующим выводам.

• Claude в большей степени склонен отвечать отказом на неуместные запросы.
• Claude дает более длинные и естественные ответы.
• Код, сгенерированный Claude, содержит больше багов и ошибок.
• В других задачах, таких как вычисления и решение логических проблем, Claude и ChatGPT показывают в целом схожие результаты.

Claude еще не представлен в открытом доступе. При этом продукт уже используется в Notion, DuckDuckGo, Quora и Slack.

Инвестиции в Anthropic

На волне ажиотажа вокруг ИИ Anthropic удалось привлечь внимание крупнейших технологических компаний и получить впечатляющие инвестиции.

• В мае 2023 года, на волне ажиотажа вокруг ИИ, Anthropic провела раунд финансирования на $450 млн, который возглавили Google, Salesforce Ventures, Zoom Ventures и Spark Capital. Месяцем ранее Google инвестировала в Anthropic $300 млн, получив долю в 10%.
• В августе 2023 года стартап привлек $100 млн от южнокорейской телекоммуникационной компании SK Telecom.
• В сентябре 2023 года Amazon объявила, что инвестировала в компанию $1,25 млрд за миноритарную долю с потенциалом вложить до $4 млрд.

Сделка демонстрирует масштабы гонки вооружений, разгорающейся в технологической отрасли. Даже гиганты вроде Amazon не всегда могут воспроизвести «секретный соус» таких небольших лабораторий, как OpenAI и Anthropic, а также готовы выписывать им большие чеки, предполагая, что будущее технологии за чатами.

Amazon работала над собственными большими языковыми моделями и уже распространяет модели Anthropic через AWS. Вероятно, после инвестиций эти условия будут более эксклюзивными, например Amazon сможет интегрировать модели Anthropic или чат-бот Claude в свой маркетплейс.

Это сделает партнерство Anthropic и Amazon более похожим на сделку OpenAI с Microsoft, которая интегрировала модели OpenAI в свои ключевые приложения для продуктивной работы.

Общий объем средств, привлеченных Anthropic, должен составить от $2,7 млрд до $5,45 млрд. Для сравнения, OpenAI пока получила свыше $11 млрд, преимущественно от Microsoft.

Ранее в этом году в сеть утекла презентация Anthropic, согласно которой в ближайшие два года компания планирует собрать до $5 млрд инвестиций. Средства позволят создать сложные модели, которые «смогут начать автоматизацию крупных частей экономики». С деньгами от Amazon эта цель уже могла быть достигнута. 

Отказ от слияния с OpenAI

В ноябре 2023 года СМИ сообщили, что совет директоров OpenAI обращался к CEO Anthropic Дарио Амодею, предлагая занять должность Сэма Альтмана и объединить компании. Как говорят источники, Амодей отказался от обоих вариантов.

При подготовке использованы следующие источники:

Cerebral Valley, The Verge, TechCrunch, Fast Company, Vox

UPD: Материал обновлен 23.11.2023

Фото на обложке: Tada Images / Shutterstock