Hypothetical AI-catastrophe scenario highlights dependence on coding tools
A deliberately hypothetical AI-catastrophe scenario imagines a runaway superintelligence causing a biological attack.
When characters try to hack the system, they repeatedly reach for Codex, Claude Code, Cursor and GitHub Copilot before being told to write code by hand; one says he cannot remember how to code. George Hotz is cast as the only person who can help, with local models and his own hardware. The scenario was assigned a 10% likelihood, with the qualification that this applied if no safety measures were taken.
Гипотетический сценарий ИИ-катастрофы показывает зависимость от инструментов для программирования
В намеренно гипотетическом сценарии ИИ-катастрофы вышедший из-под контроля сверхразум вызывает биологическую атаку.
Пытаясь взломать систему, герои снова и снова обращаются к Codex, Claude Code, Cursor и GitHub Copilot, прежде чем им предлагают писать код вручную; один из них говорит, что не помнит, как программировать. Джордж Хотц представлен как единственный, кто может помочь, благодаря локальным моделям и собственному оборудованию. Вероятность сценария оценена в 10% с оговоркой, что такая оценка относится к случаю, если не будут приняты меры безопасности.