Podcast guests say AI agents still lack genuine autonomy
The participants argued that today’s AI agents mostly perform only the tasks they are given and often resemble one another. One guest compared them to a room of 100 PhDs who do not talk to one another or look around. In his view, a next step would be an agent given a spending cap and a goal—such as improving a business—that decides how best to use the budget. He compared this with Meta advertising, where an advertiser sets a spend limit and asks the platform to find as many customers as possible.
Another participant suggested that autonomous multi-agent teams may be held back by their members being too alike. Making agents with genuinely different perspectives challenge one another could help, he said, while adding that he did not know whether anyone had found the right way to orchestrate such teams.
Гостям подкаста не хватает подлинной автономии у ИИ-агентов
Участники разговора считают, что нынешние ИИ-агенты в основном выполняют только порученные им задачи и часто похожи друг на друга. Один из собеседников сравнил их с командой из 100 докторов наук, которые находятся в одной комнате, но не общаются и не замечают происходящего вокруг. По его мнению, следующий шаг — агент, которому задают бюджетный предел и цель, например улучшить бизнес, а он сам выбирает, как эффективнее использовать средства; собеседник сопоставил это с рекламой Meta, где задают сумму расходов и поручают привлечь как можно больше клиентов.
Другой участник предположил, что автономным мультиагентным командам мешает одинаковость их участников. Возможно, их стоит сталкивать друг с другом, чтобы получить действительно разные точки зрения. Однако, по его словам, он не знает, кому уже удалось найти правильный способ координации таких систем.
