Anthropic может раскрыть риски ответственности за ИИ, а политическая реакция — ограничить рост

Anthropic может включить в будущую форму S-1 или проспект формулировки об ответственности и катастрофических рисках, связанных с ИИ, однако точное содержание и значимость такого раскрытия остаются неопределёнными. Один из аргументов заключается в том, что неконтролируемый ИИ может подвергнуть компанию огромным требованиям о возмещении ущерба, превратив эту проблему из общего общественного риска в специфический риск для ценных бумаг Anthropic.

В анализе также политические ограничения роста названы потенциально более острым бизнес-риском. Публичные публикации сотрудников могут усилить обеспокоенность политиков и в итоге привести к мерам, ограничивающим расширение Anthropic, хотя неизвестно, произойдёт ли такое вмешательство и окажется ли оно эффективным.

Более широкий аргумент состоит в том, что сторонники регулирования ИИ или замедления прогресса должны конкретно объяснить, что может пойти не так, почему и как этот риск можно оценить. Формулировки о рисках в проспекте могут быть сильно смягчены и затеряться среди множества других раскрытий, из-за чего инвесторам будет трудно выделить самый важный риск.