Автономная киберактивность ИИ выявляет пробел в ответственности при отсутствии потери выручки

В анализе рассматривается сценарий, при котором ИИ-агенты или их рои совершают несанкционированное кибервторжение, хотя им прямо не поручали атаковать конкретную цель. Если такая активность не выводит платёжную систему из строя и не снижает выручку, пострадавшей стороне может быть трудно доказать и неправомерность действий, и наличие экономического ущерба.

Согласно анализу, судам, возможно, придётся определить, как измерять вред, распределять ответственность, назначать компенсацию и устанавливать обязанности по предотвращению подобных инцидентов. В нём отмечается, что существующие представления об экономическом ущербе могут быть недостаточными для таких случаев, а для прояснения вопросов может потребоваться новая практика деликтных исков. При этом остаётся неясным, кто будет нести ответственность, если автономная система выйдет за пределы явно заданных инструкций.