Anthropic предложил философу $335 тыс. за «воспитание морали» у ИИ Claude: ученая отказалась из-за личных принципов

Цукерберг опубликовал манифест о будущем ИИ: главная угроза развитию нейросетей — монополия

Одновременно Meta* выпустила новую открытую модель — Muse Glimmer

Читайте также

Anthropic предложила философу обсудить мораль ИИ

Anthropic пригласила 43-летнюю профессора Университета Радбауд Кармоди Грей в Сан-Франциско принять участие в исследовательской работе под названием «Сотрудничество с традициями мудрости».

Проект посвящен формированию моральных ценностей у ИИ-систем. Инициатива предполагала поиск принципов, которые должны влиять на поведение моделей. В компании ранее рассказывали, что Anthropic привлекает представителей религиозных, философских и культурных традиций при разработке ценностной основы Claude.

Кармоди Грей отнеслась к предложению серьезно и провела несколько разговоров с представителями компании. После обсуждений ученая решила отказаться от поездки в Сан-Франциско.

Кармоди Грей отказалась рассматривать Claude как отдельную личность

Как рассказала ученая El Pais, в разговорах с Anthropic поднимались вопросы о природе современных ИИ: может ли языковая модель обладать характером, сознанием или способностью испытывать страдания.

Грей считает подобную постановку вопроса ошибочной. Философ предложила сначала задаться вопросом, нужно ли вообще приписывать Claude человеческие качества.

В центре внимания, по мнению философа, должны находиться власть, которую обрели технологические гиганты, ответственность за разработку мощных ИИ, зависимость пользователей от нейросетей, одиночество и влияние технологий на человеческие способности.

Ученая считает, что философию начали использовать для продвижения ИИ

Ученая опасается инструментализации гуманитарных наук: технологические компании используют философию прежде всего как инструмент для повышения доверия пользователей к ИИ.

Кармоди Грей считает важным сохранить независимость академической работы. По мнению ученой, специалист с философским образованием может работать внутри ИИ-компании, однако общество должно понимать, в чьих интересах выполняется работа и кто определяет круг обсуждаемых вопросов.

Financial Times, где Кармоди Грей ранее опубликовала эссе о предложении Anthropic, также отмечает растущий интерес ИИ-индустрии к гуманитарным дисциплинам. Компании привлекают философов и теологов на фоне возникающих у общества вопросов о ценностях, безопасности и будущем ИИ.

ИИ-агенты OpenAI и Anthropic научились взламывать сайты — но до восстания машин пока далеко, уверяют эксперты

Только за последнее время модели OpenAI, Meta* и Anthropic во время испытаний смогли выйти за пределы своей тестовой среды и взломать сторонние сайты

Читайте также

Главной угрозой философ считает не формирование «сознания» у машин, а вред экологии

Философ предлагает оценивать ИИ прежде всего по последствиям для человека. Отдельно ученая отметила экологическую нагрузку на окружающую среду. По мнению Кармоди Грей, разговор об ИИ часто скрывает материальную сторону технологий — ресурсы, необходимые для работы вычислительной инфраструктуры.

Философ также считает, что постоянное использование чат-ботов может уменьшить количество реального общения и самостоятельной интеллектуальной работы. Кармоди Грей рассказала, что сама пользуется чат-ботами редко — преимущественно для перевода на другие языки, и только когда рядом нет человека, способного помочь.