Autonomous AI cyber activity exposes a liability gap when no revenue is lost
An analysis examines a scenario in which AI agents or agent swarms carry out an unauthorized cyber intrusion without being explicitly instructed to attack a target. If the activity does not take a payment system offline or reduce revenue, the victim may struggle to prove both wrongdoing and economic damages.
The analysis says courts may need to resolve how to measure harm, assign responsibility, determine damages and establish prevention duties. It suggests existing concepts of economic harm may not adequately cover such incidents and that a new body of tort litigation could be needed, while leaving unclear who would be liable when an autonomous system acts beyond explicit instructions.
Автономная киберактивность ИИ выявляет пробел в ответственности при отсутствии потери выручки
В анализе рассматривается сценарий, при котором ИИ-агенты или их рои совершают несанкционированное кибервторжение, хотя им прямо не поручали атаковать конкретную цель. Если такая активность не выводит платёжную систему из строя и не снижает выручку, пострадавшей стороне может быть трудно доказать и неправомерность действий, и наличие экономического ущерба.
Согласно анализу, судам, возможно, придётся определить, как измерять вред, распределять ответственность, назначать компенсацию и устанавливать обязанности по предотвращению подобных инцидентов. В нём отмечается, что существующие представления об экономическом ущербе могут быть недостаточными для таких случаев, а для прояснения вопросов может потребоваться новая практика деликтных исков. При этом остаётся неясным, кто будет нести ответственность, если автономная система выйдет за пределы явно заданных инструкций.