Legora распределяет юридические задачи между моделями и сообщает о снижении расходов на LLM на 30 пунктов

Legora сообщает, что в 2023 году изначально строила юридический продукт вокруг GPT-3.5, но теперь направляет разные задачи — включая подготовку документов, проверку, фактчекинг и юридические исследования — к наиболее подходящим моделям. В ее стеке используются модели Meta, Groq, Anthropic и OpenAI.

Компания считает своей ключевой интеллектуальной собственностью определение того, где применять каждую модель, а не привязку к одному поставщику или узкую дообученную модель. Legora утверждает, что модель, дообученная ради небольшого краткосрочного прироста, может обесцениться по мере развития базовых моделей.

Legora также сообщает, что создала собственный маршрутизатор и за одни выходные снизила общие расходы на LLM по всей платформе на 30 процентных пунктов; сэкономленные средства увеличили валовую маржу.