Айзексон: агентный ИИ рискует отдалиться от человеческого контроля и творчества

Обсуждая, нужен ли ИИ свой «Стив Джобс», Уолтер Айзексон напомнил о взгляде Джобса на компьютер как на «велосипед для ума»: компьютер должен усиливать человеческие способности, а не заменять их. В новой вводной части книги «Инноваторы», выходившей на той неделе, Айзексон прямо обращается к этой теме. Он проследил эту традицию от Ады Лавлейс через Дж. К. Р. Ликлайдера, Дугласа Энгельбарта и Алана Кея до Джобса: технологии, по его изложению, должны связывать человеческое творчество с вычислительной мощностью машин.

Айзексон сказал, что ему комфортно пользоваться Claude, но его беспокоят автономные агенты, которые действуют без человека и могут выйти из-под контроля. Он считает, что Джобс был бы встревожен системами, не связанными тесно с человеческим творчеством и не ориентированными на помощь человечеству.

Другой участник беседы возразил, что нынешние агенты всё равно исходят из человеческой идеи: он не видел продукта или маркетингового материала, где исходный замысел принадлежал бы ИИ. По его мнению, модели пока не генерируют идеи так, как это делают люди, хотя он уверен, что со временем это изменится. Айзексон допустил, что собеседник может быть прав, но добавил, что запущенный агент может действовать с собственной инициативой и потенциально выйти из-под контроля. Это опасение, а не утверждение, что современные агенты уже стали автономными или вышли из-под контроля.