Personal AI agents face challenges in learning and context management
A developer building an internal bot says current AI agents imitate learning by continually recording information, while their underlying models remain frozen in time.
In their personal definition, AGI is AI that actually learns. Developing the bot has exposed difficult choices about context management and data structures, including what to retain or discard. They plan to keep their human assistant for now and expect people new to personal assistants to face a learning process.
Персональные ИИ-агенты сталкиваются с трудностями обучения и управления контекстом
Разработчик внутреннего бота говорит, что современные ИИ-агенты имитируют обучение, постоянно записывая информацию, тогда как лежащие в их основе модели остаются зафиксированными в определенный момент времени.
По его личному определению, AGI — это ИИ, который действительно учится. Разработка бота выявила сложные задачи управления контекстом и структурами данных, в том числе необходимость решать, что сохранять, а что удалять. Пока разработчик намерен сохранить помощь человека и ожидает, что людям, впервые использующим персональных помощников, предстоит освоиться с ними.