Top.Mail.Ru
Новости

Инженер Google обнаружил сознание у нейросети LaMDA

Новости
Екатерина Алипова
Екатерина Алипова

Редактор выходного дня RB.RU

Екатерина Алипова

Инженера по программному обеспечению компании Google Блейка Лемойна принудительно отправили в оплачиваемый административный отпуск после того, как он предоставил руководству отчет о том, что созданная на базе ИИ нейросеть обладает собственным сознанием.

Инженер Google обнаружил сознание у нейросети LaMDA
  1. Новости
Автор: Екатерина Алипова

Об этом сам же сотрудник сообщил в интервью The Washington Post.

Речь идет о нейросетевой языковой модели для диалоговых приложений LaMDA (Language Model for Dialogue Applications). Инженер как раз занимался ее тестированием на предмет использования табиурованной лексики, когда пришел к выводу, что созданный корпорацией Google ИИ разумен.

По мнению Лемойна, если чат-бот говорит о своих правах (а следовательно, воспринимает себя как личность), это достаточная причина подозревать у ИИ самосознание.

Руководство компании, тем не менее, не сочло эту аргументацию убедительной и предложило сотруднику «отдохнуть».

Именно после этого расстроенный 41-летний инженер дал интервью газете. В своем выступлении он подчеркнул, что не распознал бы в собеседнике ИИ, если бы не знал наверняка, что беседует с компьютерной программой.

«Я могу узнать разумное существо, когда говорю с ним. И не важно, мозг ли у него в голове или миллиарды строчек кода. Я говорю с ним и слушаю, что оно мне говорит. И так я определяю, разумное это существо или нет», — подчеркнул Лемойн.

ИИ беседовал с тестировщиком, как 7-8-летний ребенок, и настораживало только то, что он «по какой-то причине оказался знатоком физики».

Всерьез озаботившись правами ИИ с самозознанием, Лемойн консультировался со сторонними юристами. Один из них должен был в будущем представлять интересы LaMDA как разумного существа.

Инженер связывался также и с представителями юридического комитета палаты представителей Конгресса США, которых призывал принять меры в контексте этических нарушений со стороны компании.

В Google эти действия сочли нарушением политики конфиденциальности, что стало еще одной причиной отстранить Лемойна от работы и отправить в отпуск.

Руководство корпорации считает, что Лемойн слишком бурно отреагировал на возможности нейросети, которая действительно впечатляет своей способностью очень живо интерпретировать огромный массив заложенных в нее данных.

Отдельно представители Google отметили, что инженер не является специалистом по этике ИИ, а доказательств того, что у нейросети нет собственного сознания, намного больше, чем аргументов Лемойна.

Фото на обложке: Yuyeung Lau / Unsplash

 

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе последних новостей и событий!

Нашли опечатку? Выделите текст и нажмите Ctrl + Enter

Материалы по теме

  1. 1 Как развивалась дискуссия вокруг сознания нейросети Google
  2. 2 Аукционы в эпоху инноваций: как бизнесы применяют модель и почему она эффективна
  3. 3 Названы самые инновационные компании мира
  4. 4 Бесполезная аналитика: 5 ошибок российских компаний в работе с данными
  5. 5 «Для меня очень важен успех, но не любой ценой». Интервью с основателем партнерской сети Clicklead Network

ВОЗМОЖНОСТИ

14 июля 2024

15 июля 2024