Распространение ИИ и моделей с открытыми весами усиливает дисбаланс в кибербезопасности

Защитники в кибербезопасности находятся в структурно невыгодном положении: им необходимо постоянно предотвращать атаки и одновременно поддерживать нормальную работу бизнеса. В отличие от атакующих, они ограничены процедурами контроля изменений, регуляторными требованиями, правилами конфиденциальности, а также лимитированными бюджетами на ИТ и токены.

В анализе утверждается, что скорость внедрения ИИ и доступ к моделям с открытыми весами могут быть не менее важны, чем исходный интеллект моделей. Атакующие могут скачивать, настраивать, обучать и запускать модели в собственных средах, из-за чего их использование трудно обнаружить до совершения атаки. Давно прогнозировавшийся момент, когда атакующие начнут эксплуатировать уязвимости быстрее, чем защитники смогут реагировать, описывается как уже наступивший, хотя доступные вычислительные ресурсы различаются — от ограниченных у отдельных лиц до значительных у государств.