Bernie Sanders proposal would ban superintelligent AI and create federal regulator
A proposal attributed to Bernie Sanders would ban any person or entity from developing or deploying artificial superintelligence—systems that match or can be readily modified to match or exceed human cognitive capabilities across a broad range of tasks. It would also target systems capable of planning and executing humanity’s disempowerment.
The proposal calls for pausing advanced AI development until a new cabinet-level federal AI agency is established. The agency would monitor frontier systems throughout their life cycle, oversee removal of dangerous capabilities, and supervise the destruction of artificial superintelligence. Organizations that continue development after a pause order could face a “corporate death penalty,” while individuals could face up to 20 years in prison.
The legal definitions, including what counts as AI development, remain unclear, and it is uncertain whether the proposal will be adopted or implemented.
Предложение Берни Сандерса предусматривает запрет суперинтеллекта и создание федерального регулятора
Согласно предложению, которое связывают с Берни Сандерсом, любым лицам и организациям запретят разрабатывать или внедрять искусственный суперинтеллект — системы, соответствующие человеческим когнитивным возможностям в широком спектре задач или легко модифицируемые до такого уровня. Запрет также должен охватывать системы, способные планировать и осуществлять лишение человечества власти.
Предложение предусматривает приостановку передовой разработки ИИ до создания нового федерального агентства кабинетного уровня. Оно будет отслеживать передовые системы на всех этапах жизненного цикла, контролировать удаление опасных возможностей и уничтожение искусственного суперинтеллекта. Организациям, продолжившим разработку после требования о паузе, может грозить «корпоративная смертная казнь», а отдельным лицам — до 20 лет тюрьмы.
Юридические определения, включая понятие разработки ИИ, остаются неясными; также неизвестно, будет ли предложение принято или реализовано.