Угрозы с использованием ИИ повышают спрос на видимость действий агентов

По словам CrowdStrike, государства, киберпреступные группы и хактивисты используют модели с открытыми весами. Модели со снятыми ограничениями можно скачать с Hugging Face, запустить на мощной системе и по запросу сгенерировать комплект вредоносного ПО или ransomware.

CrowdStrike характеризует эти возможности как непосредственную проблему безопасности, а не как теоретическую угрозу. Клиентам нужна видимость действий агентов и инструменты для остановки таких атак, а также понимание того, была ли атака полностью проведена ИИ или противник лишь использовал ИИ как вспомогательное средство.

По данным компании, это различие влияет и на защитные меры, и на то, как инцидент объясняют руководству и совету директоров. CrowdStrike заявляет, что ее существующие агент и платформа могут отслеживать действия и идентификаторы агентов, вызовы инструментов, запуск новых агентов, сетевые подключения и промпты.