Cisco предупреждает о новой волне угроз — участились кибератаки с использованием LLM
Компания Cisco в своём новом отчёте «Состояние безопасности ИИ – 2025» раскрыла тревожные данные о росте числа кибератак с использованием больших языковых моделей (LLM). Вредоносные ИИ, такие как FraudGPT, ChostGPT и DarkGPT, уже продаются в даркнете всего за $75 в месяц и применяются для фишинга, взлома систем и кражи данных.
Суть проблемы. Одна из серьезных проблем, делающих ИИ-инструменты уязвимыми для переформатирование во вредоносное ПО, — это кастомизация (или тонкая настрока) моделей LLM.
Согласно отчёту Cisco, модели с точной настройкой в 22 раза чаще генерируют вредоносные программы, чем базовые. Успешность взломов с использованием таких ИИ-инструментов увеличивается в 3 раза, а объём вывода данных растет на 2200%.
Выводы Cisco. Прогнозы неутешительны: оказывается, LLM сегодня — уже не только удобный инструмент, но и серьезная уязвимость. В ситуации, когда преступники используют ИИ-инструменты для атаки на компанию, традиционные меры защиты данных устарели: требуются динамический мониторинг и адаптивные решения.
«Злоумышленники рассматривают LLM как инфраструктуру для взлома, а не как приложение», — подчёркивают эксперты Cisco. Компании, особенно в регулируемых отраслях, должны срочно пересмотреть стратегии кибербезопасности.
Это полезно: у нас на сайте можно почитать, как безопасно взаимодействовать с LLM и избежать утечек, выбрав подходящую модель, а также как оценить перспективы использования LLM в своем бизнесе.
Фото на обложке: Unsplash
Нашли опечатку? Выделите текст и нажмите Ctrl + Enter
Популярное
Материалы по теме
-
Пройти курс «Искусство переговоров»
- 1 Экс-глава Cisco в РФ Джонатан Спэрроу станет советником в IT-компании «Аквариус» Его деятельность на новой должности не раскрывается 16 августа 08:53
- 2 Cisco проведет сокращение тысячи рабочих мест ради инвестиций в ИИ Это вторая за год волна массовых увольнений в компании 11 августа 23:14
- 3 В Cisco Systems ждут новую волну сокращений — Reuters Под угрозой тысячи сотрудников, но точных данных пока нет 10 февраля 18:16
- 4 Глава AMD Лиза Су покинет совет директоров Cisco Решение может быть связано с потенциальным конфликтом интересов 15 октября 22:16