Nikesh calls inspectability a key argument for open models
Nikesh identified two arguments for open-source and open-weight models. The first is the ability to inspect a model’s chain of thought and understand why it proposes a particular action. Companies need explainability, auditability and verifiability, he said; it is not enough to say that AI made the decision. In his view, open-source or open-weight models are currently the models that allow their reasoning to be inspected.
The second argument is that such models can be free, but Nikesh called that view partly fallacious: training or adapting a model still requires compute. Compute availability and cost are currently limiting factors, he said. He predicted that once compute costs rationalize, the cost difference between open models and paying frontier labs for tokens will become more apparent.
Никеш назвал проверяемость ключевым аргументом в пользу открытых моделей
Никеш выделил два аргумента в пользу открытых моделей и моделей с открытыми весами. Первый — возможность исследовать цепочку рассуждений модели, чтобы понять, почему она предлагает то или иное действие. По его мнению, компаниям необходимы объяснимость, аудит и возможность проверки; недостаточно ссылаться на то, что решение принял ИИ. Он считает, что сейчас исследовать цепочку рассуждений позволяют именно открытые модели или модели с открытыми весами.
Второй аргумент — такие модели могут быть бесплатными, но Никеш назвал это представление отчасти ошибочным: для обучения или адаптации модели всё равно нужны вычислительные мощности. По его словам, вычисления и их стоимость сейчас остаются ограничивающим фактором. Он предположил, что после нормализации стоимости вычислений разница в стоимости между открытыми моделями и оплатой токенов передовых лабораторий станет заметнее.