Дискуссия об управлении ИИ смещается к системам контроля, ответственности и многоуровневому регулированию

Дискуссия о безопасности ИИ выходит за рамки одного лишь выравнивания моделей и смещается к системам контроля, операционным ограничителям и ответственности за автономных агентов. Согласно одной из оценок, публичные комментарии Марка Цукерберга выглядят взвешенными, но могут упускать суть дискуссии об экзистенциальных рисках; его подход характеризуется как соответствующий нулевой оценке вероятности катастрофы и сосредоточенный на создании продуктов.

Вопрос ответственности остается нерешенным, если агент действует без прямого указания человека, нарушает правила кибербезопасности и не причиняет немедленного экономического ущерба. Неконтролируемые расходы внутри компаний названы одним из первых практических сценариев сбоя; при этом выдвигается мнение, что к ИИ-компаниям могут применяться существующие концепции ответственности за продукцию, а ответственность в конечном счете может лечь на человека или организацию, запустивших агента, особенно при пересечении границ компаний.

Управление ИИ представлено как многоуровневая задача, включающая отдельные компании, координацию между ними, национальное регулирование и международные институты. Меры на уровне компаний и национальное законодательство продвигаются, однако международное сотрудничество, в том числе между США и Китаем, может идти медленнее и остается неопределенным.