Участники хакерских форумов начали использовать чат-бот ChatGPT для создания вредоносных программ, пишет портал Ars Technica. Некоторые из них даже не обладают навыками программирования.
В ноябре OpenAI запустила универсальный чат-бот, его отличие от других нейронных сетей состоит в ориентированности на широкий круг задач. В частности, ChatGPT умеет генерировать базовый программный код. Нейросеть запоминает детали разговора и избегает спорных тем.
Компания Check Point Research, специализирующаяся на информационной безопасности, сообщила, что в первые недели после запуска ChatGPT участники хакерских форумов использовали его для написания ПО для потенциальных киберпреступлений.
«Еще слишком рано решать, станут ли возможности ChatGPT новым любимым инструментом для участников Dark Web. Однако сообщество киберпреступников уже проявило значительный интерес и использует эту последнюю тенденцию для создания вредоносного кода», — отмечают специалисты Check Point Research.
Читайте также:
Нейросеть ChatGPT: новый бесплатный чат-бот с искусственным интеллектом
OpenAI: создатель Chat GPT и потенциальная «угроза для человечества»
Больше устных экзаменов: как университеты меняют подход к обучению из-за развития генеративного ИИ
В одном из случаев участник форума опубликовал код на языке Python. Это был скрипт для кражи данных после внедрения эксплойта, который смог отыскать конкретные типы файлов, вроде PDF, и отправить их злоумышленникам.
По мнению экспертов Check Point Research, этот человек обладает навыками в написании кода, однако воспользоваться чат-ботом в похожих целях могут и люди совсем без опыта в программировании.
Изучив проблему, специалисты решили провести собственный эксперимент. Они попросили ChatGPT сгенерировать фишинговое письмо, в котором пользователю сообщалось о блокировке учетной записи. Вместе с письмом потенциальной жертве должно было прийти вложение со встроенным VBA-макросом, создать который также поручили чат-боту. И хотя условия разработчика запрещают использовать продукт в незаконных целях, исследователи без труда обошли ограничения таким образом, чтобы нейросеть выполнила необходимые запросы.
Фото на обложке: T. Schneider /
Нашли опечатку? Выделите текст и нажмите Ctrl + Enter
Материалы по теме
ВОЗМОЖНОСТИ
14 декабря 2024
15 декабря 2024
16 декабря 2024