Галлюцинации ИИ-агентов повышают риски при бронировании и работе с персональными данными

Надёжность ИИ-агентов снова вызывает обеспокоенность: считалось, что галлюцинации при поиске фактов пошли на спад, но теперь описываются как возвращающиеся. Более сложные задачи — например, проектирование систем, работа в Blender и создание видео с помощью ИИ — по-прежнему связаны с большим числом ошибок.

В одном из приведённых случаев агент при бронировании авиабилета, как сообщается, сгенерировал для Дэвида второе имя «Bom Chang Choi», что могло помешать посадке. Ошибку, вероятно, можно исправить через службу поддержки авиакомпании и получить новый посадочный талон, однако она всё равно может привести к задержке на контроле или пропущенному рейсу.

Одно из предложенных объяснений связано с затратами: бесплатные продукты, работающие в большом масштабе, могут использовать более старые модели или другие способы экономии. Высказывалось предположение, что размещённый в облаке экземпляр OpenClaw может работать на Kimi; эта атрибуция остаётся неопределённой.