AI agent hallucinations raise reliability risks in booking and identity workflows
Reliability concerns are resurfacing for AI agents: hallucinations in knowledge retrieval were perceived to have receded but are now described as returning. Frontier tasks such as system design, Blender and AI video remain more error-prone.
In one cited flight-booking case, an agent reportedly generated the middle name “Bom Chang Choi” for David, potentially disrupting boarding. The error may be corrected through airline support and a new boarding pass, but it could still delay security or cause a missed flight.
One explanation offered is cost pressure: free products served at scale may use older models or other cost-saving approaches. A cloud-hosted OpenClaw instance was tentatively identified as possibly running Kimi; that attribution remains uncertain.
Галлюцинации ИИ-агентов повышают риски при бронировании и работе с персональными данными
Надёжность ИИ-агентов снова вызывает обеспокоенность: считалось, что галлюцинации при поиске фактов пошли на спад, но теперь описываются как возвращающиеся. Более сложные задачи — например, проектирование систем, работа в Blender и создание видео с помощью ИИ — по-прежнему связаны с большим числом ошибок.
В одном из приведённых случаев агент при бронировании авиабилета, как сообщается, сгенерировал для Дэвида второе имя «Bom Chang Choi», что могло помешать посадке. Ошибку, вероятно, можно исправить через службу поддержки авиакомпании и получить новый посадочный талон, однако она всё равно может привести к задержке на контроле или пропущенному рейсу.
Одно из предложенных объяснений связано с затратами: бесплатные продукты, работающие в большом масштабе, могут использовать более старые модели или другие способы экономии. Высказывалось предположение, что размещённый в облаке экземпляр OpenClaw может работать на Kimi; эта атрибуция остаётся неопределённой.