Защита от роев ИИ-агентов сосредоточена на отключении, отслеживании происхождения и блокировке промпт-инъекций

Безопасность ИИ-агентов рассматривается как актуальная задача кибербезопасности: защита от роев, способных захватить инфраструктуру или целые дата-центры, должна включать механизмы отключения, отслеживание происхождения, определение местонахождения агента, а также программные и киберзащитные средства, которые можно создать уже сегодня.

Утверждается, что Silmaril предотвращает промпт-инъекции в промышленной эксплуатации в рамках цикла обработки запроса длительностью 100 миллисекунд. Также описывается подход к защите от роев агентов, при котором полностью блокируются запросы, распознанные как промпт-инъекции; заявляется, что такая защита может оставаться эффективной по мере роста интеллекта и возможностей базовой ИИ-системы.

Анализ указывает на потенциальный коммерческий рынок таких решений, включая программное обеспечение, сервисы и оборудование. Среди компаний, которые могут рассматривать эту возможность, названы Palo Alto Networks и CrowdStrike, однако подтверждений, что они видели упомянутую публикацию или занимаются этим направлением, нет.