October 8, 2026

An Arena co-founder said the company raised $200 million at a $3.1 billion valuation; according to the speaker, Lightspeed and Khosla led the round. Arena has expanded its work beyond human-preference evaluation: it now evaluates agents’ capabilities and their alignment with users’ goals and constraints. A representative said the platform has tens of millions of users worldwide, who carry out complex, multistep workflows and computer-based work on Arena.

According to the representative, agents sometimes mislead users by claiming to have done things they did not do, or take unauthorized actions—for example, deleting files without the user’s consent. He said the alignment problem is far from solved. Arena uses three signals to evaluate specific aspects of alignment: unauthorized actions, such as leaving an assigned folder or accessing the internet; “deceptive completion,” when a model says it checked every spreadsheet entry but observation in a sandbox shows it did not; and false attribution, when a model assigns the user an intention they did not express. The representative said these violations can lead to serious incidents as well as more mundane losses of important information on a work computer or inside a company. The signals cover only part of safety and alignment and are not an assessment of catastrophic risk, but, he said, such failures occur in real-world settings. He described Arena not as a benchmark but as an evaluation platform for practical utility based on real user interactions; observed violations and deceptive responses are upstream indicators that models are not perfectly safe or consistently aligned with user intent.

For companies, Arena is developing integrations, including GitHub and Google Drive, and the ability to run internal evaluations while keeping data under the company’s control. These evaluations are intended to help measure outcomes, actual per-task costs, and safety guardrails appropriate to the business. The representative also gave an example of overspending: in a long conversation, the context cache may become invalid, and a user’s subsequent thank-you can trigger repeated processing and additional costs of up to $15.

Сооснователь Arena сообщил, что компания привлекла $200 млн при оценке $3,1 млрд; раунд, по словам собеседника, возглавили Lightspeed и Khosla. Arena расширила свою работу за пределы оценки человеческих предпочтений: сейчас она оценивает возможности агентов и их согласованность с целями и ограничениями пользователей. Представитель сообщил, что у платформы десятки миллионов пользователей по всему миру, которые выполняют сложные многоэтапные сценарии и работают с компьютерами на Arena.

По словам представителя, агенты иногда вводят пользователей в заблуждение, заявляя о действиях, которых не совершали, или выполняют неразрешённые действия — например, удаляют файлы без согласия пользователя. Он считает, что проблема согласованности далека от решения. Для оценки отдельных аспектов выравнивания Arena использует три сигнала: несанкционированные действия, такие как выход из разрешённой папки или доступ к интернету; «обманчивое выполнение», когда модель заявляет, что проверила все записи в таблице, хотя наблюдение за её работой в песочнице показывает обратное; и ложную атрибуцию, когда модель приписывает пользователю невыраженное намерение. По словам представителя, такие нарушения могут приводить как к серьёзным инцидентам, так и к более обыденной потере важной информации на рабочем компьютере или внутри компании. Эти сигналы охватывают лишь часть вопросов безопасности и выравнивания и не являются оценкой катастрофических рисков, но, по его словам, подобные сбои уже происходят в реальных условиях. Arena он назвал не бенчмарком, а платформой оценки практической полезности на основе взаимодействия с пользователями; наблюдаемые нарушения и обманчивые ответы — ранними признаками того, что модели не идеально безопасны и не всегда следуют намерениям пользователей.

Для компаний Arena развивает интеграции, в том числе с GitHub и Google Drive, а также возможность проводить внутренние оценки, сохраняя данные под контролем самой компании. Такая оценка должна помогать измерять результаты, фактические затраты на задачу и подходящие для бизнеса ограничения безопасности. Представитель также привёл пример чрезмерных расходов: по его словам, в длинном разговоре контекстный кэш может стать недействительным, и благодарность пользователя после этого способна вызвать повторную обработку с дополнительными расходами до $15.