This story was originally published in Russian only.
River AI исследует обучение AI-агентов во взаимодействии с реальным миром
Большинство моделей с подкреплением пока обучают в синтетических средах и симуляциях. В таких условиях агент может многократно ошибаться и учиться, тогда как запуск, например, агента для продаж в реальном бизнесе способен ухудшить опыт клиентов и привести к потере потенциальных покупателей.
Собеседник отметил, что одним из крупных направлений сейчас становится перенос обучения в онлайн-среду: модели напрямую взаимодействуют с пользователями и компаниями, а их веса обновляются по мере выполнения задач. По его словам, это пока нерешённая исследовательская проблема: универсального способа такого обучения не существует, а лучшие агенты до сих пор обучались в симуляциях. River AI работает над этим направлением.