Разработчики ИИ сталкиваются с коллективной проблемой координации стандартов безопасности

В аналитике утверждается, что разработчикам передовых систем ИИ может потребоваться координация для создания стандартов безопасности: односторонние меры защиты способны повлечь издержки, пока конкуренты продолжают работать без них. OpenAI, как описывается в материале, считает, что для координации политики безопасности с другими компаниями ей не требуется специальное разрешение.

Эта проблема сравнивается с внедрением ремней безопасности: Volvo сначала предлагала их как опцию, а часть автопроизводителей и потребителей сопротивлялась. Аналогия показывает, что общественно полезные меры безопасности в ИИ могут потребовать широких отраслевых соглашений или координации, а не внедрения только одной компанией.