Cisco предупреждает о новой волне угроз — участились кибератаки с использованием LLM

Суть проблемы. Одна из серьезных проблем, делающих ИИ-инструменты уязвимыми для переформатирование во вредоносное ПО, — это кастомизация (или тонкая настрока) моделей LLM.

Согласно отчёту Cisco, модели с точной настройкой в 22 раза чаще генерируют вредоносные программы, чем базовые. Успешность взломов с использованием таких ИИ-инструментов увеличивается в 3 раза, а объём вывода данных растет на 2200%.

Выводы Cisco. Прогнозы неутешительны: оказывается, LLM сегодня — уже не только удобный инструмент, но и серьезная уязвимость. В ситуации, когда преступники используют ИИ-инструменты для атаки на компанию, традиционные меры защиты данных устарели: требуются динамический мониторинг и адаптивные решения.

«Злоумышленники рассматривают LLM как инфраструктуру для взлома, а не как приложение», — подчёркивают эксперты Cisco. Компании, особенно в регулируемых отраслях, должны срочно пересмотреть стратегии кибербезопасности.

Это полезно: у нас на сайте можно почитать, как безопасно взаимодействовать с LLM и избежать утечек, выбрав подходящую модель, а также как оценить перспективы использования LLM в своем бизнесе.

Фото на обложке: Unsplash