Илья Суцкевер прогнозирует «непредсказуемость» сверхразумного ИИ
Соучредитель OpenAI Илья Суцкевер приехал на ежегодную конференцию по искусственному интеллекту NeurIPS 2024 по двум причинам: выступить в ряде дискуссий и получить награду за лучшую тематическую статью, «прошедшую испытание временем».
Высказывания эксперта привлекли больше внимания, чем престижная награда, поскольку Илья заявил, что сверхразумный интеллект в какой-то момент станет «непредсказуемым» или захочет «получить права», как пишет TechCrunch.
По мнению Суцкевера, как только ИИ достигнет того уровня, на котором будет «качественно отличаться» от существующих сегодня моделей, он «будет обладать агентностью в полном смысле этого слова» (нынешние ИИ — «очень слабо агентные»).
Получив определенную свободу и самосознание, но все еще анализируя ограниченное количество данных, модели начнут по-настоящему «рассуждать», а следовательно, станут непредсказуемыми.
«Это неплохой конечный результат, если у вас есть ИИ и всё, чего они хотят, — это сосуществовать с нами и просто иметь права», — считает Суцкевер.
Такая позиция звучит особенно остро на фоне других новостей из США. Местные СМИ узнали, что в конце ноября в возрасте 26 лет покончил жизнь самоубийством бывший сотрудник OpenAI Сучир Баладжи.
Исследователь известен своей критикой политики компании в отношении ИИ. По его мнению, «технология принесёт обществу больше вреда, чем пользы».
Илья Суцкевер стал соучредителем OpenAI в 2015 году, где возглавлял работы над языковыми моделями GPT и участвовал в разработке DALL-E. В 2024 он заявил об уходе из компании. После этого он основал Safe Superintelligence — лабораторию, занимающуюся общей безопасностью ИИ. В сентябре SSI привлекла $1 млрд.
Фото на обложке: Unsplash
Нашли опечатку? Выделите текст и нажмите Ctrl + Enter
Материалы по теме
-
Пройти курс «Как заработать на продажaх»
- 1 Paramount продаст VidCon британской компании Informa Официально о сделке не объявлено, сумма не раскрывается 31 августа 23:12
- 2 Microsoft 10 сентября проведет саммит по безопасности после катастрофы CrowdStrike На мероприятие позовут представителей правительства и компаний по кибербезопасности 24 августа 14:45
- 3 Как экспертам выбрать конференцию, чтобы не оказаться в пустом зале Рассказали, как выбрать мероприятие и получить деньги за свое выступление 29 июля 15:32
- 4 В VK Рекламе в 2024 году появится таргетинг на аудиторию RuStore К октябрю 2023 года аудитория российского магазина приложений достигла 22,5 млн 18 ноября 16:51