Компания в сфере frontier AI связывает аудит безопасности со страхованием и обновлением правил ответственности

Компания в сфере frontier AI заявила, что после привлечения $40 млн в раунде Series A занимается стандартами, аудитом и страхованием передовых ИИ-систем. По её оценке, эффективная экосистема аудита требует спроса, достаточного числа квалифицированных аудиторов и стимулов для точной оценки рисков; в краткосрочной перспективе главным узким местом она назвала нехватку аудиторов мирового уровня, понимающих передовые ИИ-системы.

Компания считает, что у страховщиков могут быть более сильные стимулы выявлять и достоверно сообщать о рисках, чем у ИИ-лабораторий, поскольку страховщики понесут потери при ошибочной оценке. Она заявила, что действующие категории ответственности не вполне охватывают инциденты с ИИ, включая случаи без очевидного человеческого умысла, поэтому правовые рамки необходимо обновить. При этом ответственность не может превышать размер балансов компаний, которые могут быть признаны ответственными.

В качестве возможной модели покрытия рисков, превышающих такие балансы, компания указала на обязательное страхование в атомной отрасли и взаимное страхование операторов АЭС, отметив, что крупные ИИ-риски пока трудно оценивать. По её прогнозу, сочетание уже существующей ответственности лабораторий, формальных страховщиков и стимулов для независимого контроля может стать перспективным началом, хотя крупным страховщикам может потребоваться время, чтобы предложить покрытие на очень большие суммы.