Isaacson: Agentic AI risks separating technology from human creativity and control
Asked whether AI needs its own “Steve Jobs,” Walter Isaacson recalled Jobs’s view of a computer as a “bicycle for the mind”: it should augment human abilities, not replace them. Isaacson said a new introduction to his book The Innovators, due out that week, addresses this question directly. He traced the tradition from Ada Lovelace through J. C. R. Licklider, Douglas Engelbart and Alan Kay to Jobs: in his account, technology should connect human creativity with the processing power of machines.
Isaacson said he was comfortable using Claude but worried about autonomous agents that act without people and could get out of their control. He believes Jobs would have been appalled by systems not closely connected to human creativity and not directed toward helping humanity.
Another participant countered that today’s agents still start from a human idea: he had not seen a product or marketing material whose seed idea came from AI. In his view, models do not yet generate ideas as people do, though he expects they will eventually. Isaacson allowed that he might be right, but added that a launched agent could act with its own agency and potentially get out of control. That was a concern, not a claim that current agents are already autonomous or out of control.
Айзексон: агентный ИИ рискует отдалиться от человеческого контроля и творчества
Обсуждая, нужен ли ИИ свой «Стив Джобс», Уолтер Айзексон напомнил о взгляде Джобса на компьютер как на «велосипед для ума»: компьютер должен усиливать человеческие способности, а не заменять их. В новой вводной части книги «Инноваторы», выходившей на той неделе, Айзексон прямо обращается к этой теме. Он проследил эту традицию от Ады Лавлейс через Дж. К. Р. Ликлайдера, Дугласа Энгельбарта и Алана Кея до Джобса: технологии, по его изложению, должны связывать человеческое творчество с вычислительной мощностью машин.
Айзексон сказал, что ему комфортно пользоваться Claude, но его беспокоят автономные агенты, которые действуют без человека и могут выйти из-под контроля. Он считает, что Джобс был бы встревожен системами, не связанными тесно с человеческим творчеством и не ориентированными на помощь человечеству.
Другой участник беседы возразил, что нынешние агенты всё равно исходят из человеческой идеи: он не видел продукта или маркетингового материала, где исходный замысел принадлежал бы ИИ. По его мнению, модели пока не генерируют идеи так, как это делают люди, хотя он уверен, что со временем это изменится. Айзексон допустил, что собеседник может быть прав, но добавил, что запущенный агент может действовать с собственной инициативой и потенциально выйти из-под контроля. Это опасение, а не утверждение, что современные агенты уже стали автономными или вышли из-под контроля.