Илья Суцкевер прогнозирует «непредсказуемость» сверхразумного ИИ

Высказывания эксперта привлекли больше внимания, чем престижная награда, поскольку Илья заявил, что сверхразумный интеллект в какой-то момент станет «непредсказуемым» или захочет «получить права», как пишет TechCrunch.

По мнению Суцкевера, как только ИИ достигнет того уровня, на котором будет «качественно отличаться» от существующих сегодня моделей, он «будет обладать агентностью в полном смысле этого слова» (нынешние ИИ — «очень слабо агентные»).

Получив определенную свободу и самосознание, но все еще анализируя ограниченное количество данных, модели начнут по-настоящему «рассуждать», а следовательно, станут непредсказуемыми. Возможно также, что они захотят «получить права». 

«Это неплохой конечный результат, если у вас есть ИИ и всё, чего они хотят, — это сосуществовать с нами и просто иметь права», — считает Суцкевер.

Такая позиция звучит особенно остро на фоне других новостей из США. Местные СМИ узнали, что в конце ноября в возрасте 26 лет покончил жизнь самоубийством бывший сотрудник OpenAI Сучир Баладжи.

Исследователь известен своей критикой политики компании в отношении ИИ. По его мнению, «технология принесёт обществу больше вреда, чем пользы».

Илья Суцкевер стал соучредителем OpenAI в 2015 году, где возглавлял работы над языковыми моделями GPT и участвовал в разработке DALL-E. В 2024 он заявил об уходе из компании. После этого он основал Safe Superintelligence — лабораторию, занимающуюся общей безопасностью ИИ. В сентябре SSI привлекла $1 млрд.

Фото на обложке: Unsplash