Джиу-джитсу, борьба с ботами и страх перед ИИ: главное из интервью Марка Цукерберга

Содержание

• Спорт и бизнес
• Open-source
• Будущее ИИ в Meta*
• Боты и модерация
• Новая социальная сеть Meta*
• Twitter
• Илон Маск
• Увольнения в Meta*
• Команда
• Quest 3 и Vision Pro
• Угроза ИИ

Спорт и бизнес

«Думаю, почти все, кто запускает успешные компании, просто очень усердно работают. Но одна из важнейших вещей, которым учат джиу-джитсу или серфинг, состоит в том, что настойчивость помогает далеко не всегда…

Это унизительный, но важный урок для всех, кто чем-то управляет или что-то создает: по большей части нужно просто стоять на своем и решать сложные задачи, но в то же время нужно понимать, иногда важнее проявить деликатность».

Open-source

«Программное обеспечение с открытым исходным кодом имеет тенденцию быть более безопасным, потому что его видят больше людей, его изучают и находят в нем уязвимости, и это делает его более безопасным.

Поэтому я думаю, что в масштабе того, что мы наблюдаем сейчас с ИИ, я думаю, что мы, скорее всего, добьемся хорошего согласования и понимания того, что нужно сделать, чтобы это работало хорошо, если опубликуем исходный код».

«На внутреннем уровне мы, вероятно, делаем больше работы с открытым исходным кодом, чем большинство других крупных технологических компаний. Но мы также не открываем исходный код всего».

Будущее ИИ в Meta*

«Я думаю, главное отличие моего видения от того, над чем работают OpenAI и Google, это то, что все разрабатывают один универсальный ИИ, чтобы пользователь мог поговорить с ChatGPT, Bard или Bing.

Но на мой взгляд, появится множество разных ИИ, с которыми люди захотят взаимодействовать, так же как мы используем разные приложения для разных вещей... Так же как разные люди выполняют в нашей жизни разные эмоциональные роли. И я думаю, нам не нужен будет универсальный ИИ...

Это очевидное и интересное направление, которое, как я считаю, отличается от того, к чему движутся остальные крупные компании, и при этом соответствует духу open-source. Мы верим в более ориентированный на сообщество и демократичный подход в создании продуктов и сопутствующих технологий».

Марк Цукерберг также намекнул на возможность редактировать контент при помощи голосового запроса:

«Думаю, что у нас будут намного лучшие инструменты, чем те, что были исторически, и это больше относится к созданию изображений и медиа, чем к большой языковой модели, но все это использует достижения в той же области.  Есть много инструментов, которые будут встроены в каждый из наших продуктов. Я думаю, что все, что мы делаем, в основном будет развиваться в этом направлении».

«Один из самых простых персональных ИИ, которые могут существовать — ассистент, но я думаю, нужен и кто-то вроде наставника, кто сможет дать совет, подбодрить в трудную минуту, и такая потребность наверняка будет. Это могут быть и другие типы функциональных отношений, которые у нас есть в жизни. И я уверен, что будут компании, которые попробуют свои силы в этом направлении».

Боты и модерация

«Последние пять-семь лет мы были сосредоточены на быстром развитии очень продвинутых систем ИИ, способных определять и классифицировать угрозы. Есть около 18 различных категорий вредоносного контента, для выявления которых мы создали специфические системы. И я думаю, что прогресс в генеративном ИИ станет для них проверкой…».

«Некоторые из них [ботов] на самом деле могут быть реальными пользователями, которые маскируются под других людей, но действуют скоординировано. В некоторых случаях это поведение стало очень изощренным и враждебным. Так что с каждой итерацией, каждый раз, когда мы что-то находим и пресекаем, они как бы меняют свое поведение».

«В какой-то момент они [боты] могут решить, что использовать сервисы Meta* слишком накладно. Если на другой площадке им будет проще, они уйдут туда».

«Я думаю, что если группа людей собирается вместе или органично обменивается идеями, и из этого получается история, само по себе это не обязательно плохо... Это похоже на то, как создается культура, искусство и многое другое. Вот почему мы сосредоточились на том, что кажется скоординированным неаутентичным поведением».

«Мне совершенно неясно, как нынешние технологии смогут приблизиться к сверхинтеллекту без ряда значительных достижений. Но это не значит, что опасности нет. Я думаю, что опасность заключается в том, что вред, который могут нанести люди или группы учетных записей, станет масштабнее... Так что определенно я уделяю этому большое внимание».

«Существует ряд угроз, вокруг которых ведется большая общественная дискуссия. Дезинформация кажется очень сложной темой, потому что есть вещи, которые очевидно ложны с точки зрения фактов, но при этом не опасны».

«Я не знаю, есть ли какой-то универсальный ответ. Наши принципы строятся на том, что мы хотим позволить людям как можно больше выражать себя, но мы разработали четкие категории того, что считаем неправильным, что не хотим видеть на наших сервисах, и мы создаем инструменты, чтобы попытаться модерировать их».

«Есть много тех, кто считает, что мы должны подвергать цензуре больше контента, и в то же время есть те, кто думает, что мы должны подвергать цензуре меньше контента».

Новая социальная сеть Meta*

«Я всегда считал, что своего рода текстовая информационная сеть очень важна для общества. И мне кажется, что по тем или иным причинам Twitter не соответствует тому потенциалу, который я в нем видел.

Это направление, в котором думает Илон. И это, возможно, одна из причин, почему он купил Twitter. И я точно знаю, что есть альтернативные подходы.

Читайте по теме:

Аналог Twitter от Meta* может быть представлен уже в следующем месяце

Новая волна соцсетей. Как платные подписки, политика и ИИ меняют пейзаж социальных медиа

Я считаю особенно интересным открытый и федеративный подход, который можно видеть у Mastodon, частично можно видеть у Blue Sky.

Думаю, что если объединить эти идеи с системой идентичности, которая уже развилась в Instagram*, это может стать хорошим дополнением в этой области».

Twitter

«Я думаю, что у Twitter есть отличная идея и своего рода магия, но им пока не удалось c ней разобраться. Поэтому мы видим множество подобных сервисов, вроде Mastodon или Blue Sky, которые, как я считаю, просто разные грани одного и того же».

«Один из самых интересных экспериментов, которые стоит сделать масштабнее, — проверить, что произойдет, если сделать контроль более децентрализованным, а стек более открытым».

Илон Маск

«На своем опыте я знаю, что у всех есть свое мнение, как работать и как управлять компанией, но есть много специфики, незаметной со стороны. И я часто думаю, что в какой-то степени дискурс вокруг нас был бы лучше, если бы больше людей признавали, что есть определенные вещи, которые мы видим изнутри, и наши действия продиктованы ими».

«Илон сразу начал работу над тем, чтобы делать Twitter намного более бережливым. С этим можно соглашаться или нет, очевидно, каждый лидер сделал бы это по-своему. Но большинство принципов, которые он внедрил, пытаясь сделать организацию более технической, сократив дистанцию между инженерами и им самим… Думаю, в целом это были хорошие перемены, и, возможно, это пошло на пользу отрасли».

Увольнения в Meta*

«Во многом это было культурно и стратегически обусловлено моим стремлением сделать нас более сильной технологической компанией, чтобы быстрее выпускать более технические и высококачественные продукты.

И я просто ощущаю, что внешний мир сейчас довольно изменчивый. Я хотел убедиться, что наше положение устойчиво, чтобы продолжить инвестировать в долгосрочные амбициозные проекты, которыми занимаемся, в ИИ и метавселенную… Я решил, что нужно прийти к точке, в которой будем более бережливыми».

Команда

«Я думаю, чтобы привлекать людей, нужно работать над крутыми проектами и иметь видение... И иметь за плечами достижения, чтобы люди понимали, что вы сможете это осуществить».

«Не то чтобы я хотел отказаться от управления, но в альтернативной вселенной, где компанией управлял бы один из наших ребят, я был бы счастлив на него поработать. Я чувствую, мне бы было чему поучиться».

«Люди расцветают в разной среде и в разных командах, даже в рамках одной компании, и бывает, что те, кто пришел на короткую летнюю стажировку, отлично работают и остаются на полный день. Это одна из причин, почему мы так много вкладываемся в стажировки, они очень полезны как метод сортировки, и для нас, и для тех, кто хотел бы попробовать себя в компании».

Quest 3 и Vision Pro

«Мы приложили много усилий, чтобы устройство выглядело как можно лучше и было как можно доступнее, потому что важная часть нашей миссии и характера в том, что мы хотим, чтобы люди могли связаться друг с другом… Мы не пытаемся услужить элите. Мы хотим, чтобы это устройство было доступно».

«В определенной степени это [анонс Vision Pro] признание категории, в которой мы были первыми, кто сказал, что виртуальная, дополненная и смешанная реальности станут важной частью следующей вычислительной платформы. То, что Apple разделяет это видение, заставит задуматься об этом множество людей, которые являются поклонниками их продуктов».

«Есть вероятность, что этот запуск повысит спрос во всей категории, и на самом деле Quest 3 будет основным бенефициаром».

Угроза ИИ

«Каждый раз, когда несколько серьезных людей озвучивают экзистенциальные опасения о том, в чем участвуете, об этом нужно задуматься. Я довольно много думал об этом с этой точки зрения… Со временем нам придется думать об этом еще больше, когда мы будем приближаться к сверхинтеллекту. Но сегодня любому, кто работает над этими проектами, ясно, что до этого еще не дошло».

«Меня беспокоит, что все будут слишком концентрироваться на будущих рисках и недостаточно — на проблемах, которые определенно возникнут по пути, реальных рисках, которые проявят себя в краткосрочной перспективе».

«На мой взгляд, настоящую осторожность нужно проявить в создании автономии и том, как мы ее воспринимаем… Многое из того, на что, по моему мнению, нужно обратить внимание, когда говорят о безопасности и ответственности, — это на самом деле управление автономией, которая может быть предоставлена ​​системам».

«В мире уже существует много организаций, превосходящих ум отдельного человека. И похоже, что это в целом способствует развитию человечества. Отдельные системы ИИ расширяют возможности отдельных людей и взаимодействие между этими людьми, чтобы сделать этот коллективный машинный разум умнее.

Поэтому ИИ не становится сверхинтеллектуальным, это движущая сила, который делает коллективный разум людей интеллектуальнее».

* Meta и входящие в нее Facebook и Instagram признаны экстремистскими организациями, деятельность которых запрещена в РФ.

Источник.

Фото на обложке: Christophe Morin / Getty Images