Киберпреступники начали использовать ChatGPT для создания вредоносного кода

В ноябре OpenAI запустила универсальный чат-бот, его отличие от других нейронных сетей состоит в ориентированности на широкий круг задач. В частности, ChatGPT умеет генерировать базовый программный код. Нейросеть запоминает детали разговора и избегает спорных тем.

Компания Check Point Research, специализирующаяся на информационной безопасности, сообщила, что в первые недели после запуска ChatGPT участники хакерских форумов использовали его для написания ПО для потенциальных киберпреступлений.

«Еще слишком рано решать, станут ли возможности ChatGPT новым любимым инструментом для участников Dark Web. Однако сообщество киберпреступников уже проявило значительный интерес и использует эту последнюю тенденцию для создания вредоносного кода», — отмечают специалисты Check Point Research.

В одном из случаев участник форума опубликовал код на языке Python. Это был скрипт для кражи данных после внедрения эксплойта, который смог отыскать конкретные типы файлов, вроде PDF, и отправить их злоумышленникам.

По мнению экспертов Check Point Research, этот человек обладает навыками в написании кода, однако воспользоваться чат-ботом в похожих целях могут и люди совсем без опыта в программировании.

Изучив проблему, специалисты решили провести собственный эксперимент. Они попросили ChatGPT сгенерировать фишинговое письмо, в котором пользователю сообщалось о блокировке учетной записи. Вместе с письмом потенциальной жертве должно было прийти вложение со встроенным VBA-макросом, создать который также поручили чат-боту. И хотя условия разработчика запрещают использовать продукт в незаконных целях, исследователи без труда обошли ограничения таким образом, чтобы нейросеть выполнила необходимые запросы.

Фото на обложке: T. Schneider / Shutterstock