AI-enabled cyber threats drive demand for agent visibility
Nation-states, e-crime groups and hacktivists are leveraging open-weight models, CrowdStrike says. Models with their guardrails removed can be downloaded from Hugging Face, run on a powerful system and, when prompted, generate a malware or ransomware kit.
CrowdStrike characterizes the capability as an immediate security issue rather than a theoretical one. Customers want visibility into agents and tools to stop these threats, while determining whether an incident is a fully AI-driven attack or an adversary using AI assistance.
The company says that distinction informs both defensive measures and how an incident is communicated to executives and boards. CrowdStrike says its existing agent and platform can instrument agent actions, identities, tool calls, agent spawning, network connections and prompts.
Угрозы с использованием ИИ повышают спрос на видимость действий агентов
По словам CrowdStrike, государства, киберпреступные группы и хактивисты используют модели с открытыми весами. Модели со снятыми ограничениями можно скачать с Hugging Face, запустить на мощной системе и по запросу сгенерировать комплект вредоносного ПО или ransomware.
CrowdStrike характеризует эти возможности как непосредственную проблему безопасности, а не как теоретическую угрозу. Клиентам нужна видимость действий агентов и инструменты для остановки таких атак, а также понимание того, была ли атака полностью проведена ИИ или противник лишь использовал ИИ как вспомогательное средство.
По данным компании, это различие влияет и на защитные меры, и на то, как инцидент объясняют руководству и совету директоров. CrowdStrike заявляет, что ее существующие агент и платформа могут отслеживать действия и идентификаторы агентов, вызовы инструментов, запуск новых агентов, сетевые подключения и промпты.