Большинство продуктов, которые в 2026 году ставят модель за интерфейсом чата, выбирают самую умную доступную передовую модель. Cambio работает на Gemini 2.5 Flash Lite. Вот реальный компромисс в инженерии, который привел к этому выбору — включая период, который мы провели сначала с другой моделью быстрого уровня — и условия, которые заставили бы нас снова изменить свое мнение.
Когда за интерфейсом продукта ставят языковую модель, самый громкий вариант по умолчанию — взять ту frontier-модель, что возглавляет рейтинг этого месяца. Умнее значит лучше, гласит логика, а на масштабе разница в цене исчезает.
Cambio работает на Gemini 2.5 Flash Lite — быстрой линейке Google, а не на линейке рассуждений. Это значение по умолчанию в продакшене с 27 мая 2026 года; до этого тот же слой работал на grok-4-1-fast от xAI. Этот текст — инженерное обоснование текущего выбора и условия, при которых мы пересмотрим его снова.
Что модель должна делать в Cambio
Две задачи, обе ограниченные. Ни одна из них не требует интенсивных рассуждений.
Первая — разбор сообщения. Модель получает короткое сообщение пользователя и возвращает один JSON-объект: намерение из закрытого списка, семь полей сущностей — валюта и сеть отправления, валюта и сеть получения, сумма, направление и предпочтение — и число уверенности. Она не первой видит сообщение: детерминированный резолвер сам отвечает на большинство ходов, а модель спрашивают, когда резолвер не уверен. На выборке из 209 продакшен-ходов детерминированный слой ответил сам в 69% случаев, а до модели дошло 8%.
Вторая — изложение. Модель получает структурированный объект котировки и пишет вокруг него короткую фразу простым языком. Ей нельзя писать цену, курс или сумму: все цифры несёт карточка, и модели никогда не поручают их создавать. Если она добавляет уточняющую фразу, код ограничивает её двенадцатью словами и отбрасывает всё, что длиннее.
Ни одна из задач не включает многошаговые рассуждения. Ни одна из задач не требует от модели выбора между множеством альтернатив. Ни одна из задач не предполагает взаимодействия модели с инструментами, вызова API или поддержания состояния между обращениями. Требования к возможностям: чтение короткого запроса, следование структурированному формату вывода, генерация связного английского языка. Каждая современная языковая модель может это сделать, включая модели, выпущенные два или три года назад.
Почему передовые модели для рассуждений — неподходящий инструмент здесь
Мы не проводили прямого сравнения frontier-моделей на этой задаче и не станем публиковать сравнение, которого не делали. Выбору оно и не требовалось. Вопрос никогда не стоял, какая модель способнее; вопрос был, какая достаточно быстра, достаточно дешева и достаточно дисциплинированна в структурированном выводе для двух задач, которые детерминированный код и так решает большую часть времени.
Что мы действительно измерили — это собственную систему. Вызов классификации — это около 70 входных токенов и 30 выходных, порядка $0,0001 за некешированный запрос по прайс-листу (замер на Flash Lite 26 мая 2026 года), а повторный запрос отдаётся из кеша и до модели не доходит. По задержке: детерминированный путь в среднем около 1,1 секунды от начала до конца, путь с вызовом модели — около 2,3. Именно на этот разрыв, а не на публичный рейтинг, и должен отвечать выбор модели.
С какого-то момента лишняя мощность — это потраченный впустую бюджет. Когда модель уже достаточно быстра и достаточно точна для узкой задачи, впечатление определяет задержка, а не потолок модели.
Почему в целом быстрый уровень
Короткий список — быстрые линейки тех провайдеров, которых поддерживает наш агентный слой: Gemini 2.5 Flash Lite, на котором он работает сейчас; grok-4-1-fast, на котором он работал раньше; и GPT-5 Mini, который по-прежнему можно выбрать. Каждая умеет прочитать короткий запрос, соблюсти схему и написать предложение. На нашем объёме каждая стоит достаточно мало, чтобы цена сама по себе ничего не решала.
Значит, решение — об операционной пригодности, а не о способностях: сколько стоит вызов на том объёме, который мы реально гоняем; насколько надёжно модель возвращает ровно тот объект, которого просит наша схема; как она ведёт себя, когда провайдер загружен; и насколько с этим провайдером удобно жить изо дня в день.
Почему именно Gemini 2.5 Flash Lite
О цене: наши запросы короткие и на входе, и на выходе — именно та форма, которую быстрая линейка тарифицирует лучше всего. При примерно 70 входных и 30 выходных токенах вызов стоит порядка $0,0001 по прайс-листу, а повторный запрос до модели вообще не доходит, потому что классификация закеширована. Мы не публикуем ценовой рейтинг этих трёх, потому что не делали такого, который выдержал бы проверку.
О структурированном выводе: мы не просим свободный текст и не надеемся на удачу. Вызов фиксирует тип ответа как JSON, передаёт Google схему ответа с явными обязательными полями и перечислениями и выполняется при нулевой температуре. Всё, что вернулось и не укладывается в схему, отбрасывается, и ход уходит в детерминированную обработку: некорректный вывод стоит повторной попытки, но никогда — неверной карточки.
О поведении при сбое: слой принимает упорядоченный список провайдеров — по умолчанию Gemini, затем xAI — и молча пропускает ненастроенных. Если отказали все настроенные, ход возвращает безопасную запасную форму, а не блокирует клиента. Недоступность модели — это более медленный ответ, а не мёртвый композер.
О предыдущем продакшен-этапе: первая версия Cambio гоняла этот слой на grok-4-1-fast. Переход на Flash Lite 27 мая 2026 года не означал, что Grok был плох. Слой агента не привязан к провайдеру — xAI и OpenAI по-прежнему выбираются одной переменной окружения, — так что выбор остаётся обратимым.
Почему не вариант для рассуждений
Gemini 2.5 поставляется с вариантом режима мышления. Мы его не используем. Режим мышления предназначен для задач, которые выигрывают от цепочки рассуждений — многошаговых задач, задач, где модель должна рассматривать альтернативы, задач, где промежуточные шаги на черновике улучшают окончательный ответ.
Ни одна из наших двух задач не такая. Превращение короткого сообщения в один JSON-объект не выигрывает от шага рассуждений, и написание одной фразы вокруг котировки, которую код уже посчитал, — тоже. Поэтому вызов ставит бюджет рассуждений в ноль. Комментарий в нашем собственном классификаторе говорит прямо: для одношаговой классификации цепочка рассуждений нам не нужна.
Эта настройка живёт в коде, а не у кого-то в голове, и действует на каждый вызов этого слоя. Такое значение по умолчанию стоит записать: рассуждения, которые вам не нужны, — это задержка, за которую вы платите на каждом ходу.
От чего мы отказываемся
Честно о компромиссе. Не беря frontier-модель, мы теряем запас на самых неоднозначных сообщениях: тот, кто напишет что-то по-настоящему путаное, может получить более слабый уточняющий вопрос, чем дала бы модель покрупнее. Мы также отказываемся от возможностей, которые продаёт frontier-линейка, — очень длинных окон контекста, длинных цепочек вызова инструментов, глубоких мультимодальных рассуждений. Ни одну из них наши две задачи не используют, и все они имели бы значение, если бы мы расширили роль модели. Мы не будем — об этом прошлый текст этой серии.
От чего мы не отказываемся: от детерминированного пути, который отвечает на большинство ходов вообще без модели; от правила, что каждую цифру на карточке считает код и никогда не пишет модель; и от возможности сменить провайдера одной строкой, если размен перестанет иметь смысл.
Когда бы мы пересмотрели
Несколько конкретных условий заставили бы нас снова пересмотреть выбор модели.
Если задержка Flash Lite заметно вырастет и останется такой, бюджет ломается и мы меняем модель. Мы следим за задержкой собственного композера, а не за опубликованной цифрой поставщика, потому что именно её чувствует клиент.
Если качество упадёт на конкретном языке, мы можем увести этот язык в другое место. Ассистент уже отвечает на девяти языках, а слой принимает упорядоченный список провайдеров, так что это настройка, а не переписывание.
Если цены существенно изменятся — скажем, Google поднимет тарифы на Flash Lite в 5 раз или конкурент снизит до десятой части — мы пересмотрим ценовую ось. Мы не будем переключаться из-за разницы в 10% в цене, но структурный сдвиг имеет значение.
Если более новая быстрая модель окажется лучше на наших собственных запросах — тех, что клиенты действительно пишут, а не на публичном рейтинге, — мы перейдём на неё. Именно так этот слой и оказался на Gemini.
Общий урок
Выбор модели — это решение, специфичное для рабочей нагрузки, а не решение бренда. «Лучшая» модель для продукта зависит от формы отправляемых вами запросов, вашего бюджета задержки, необходимой вам дисциплины структурированного вывода, вашего бюджета затрат в вашем масштабе и позиции поставщика, с которой вы можете смириться. Ничто из этого не видно в рейтинговой таблице. Все это должно быть измерено на вашей фактической рабочей нагрузке — и периодически переизмерено, потому что поставщики выпускают новые модели быстрого уровня каждые несколько месяцев, и ответ может измениться.
Для формы Cambio — короткие симметричные запросы, жесткий бюджет задержки, две узкие задачи, не требующие рассуждений — Gemini 2.5 Flash Lite является правильным ответом сегодня. Для другого продукта с другой формой правильный ответ будет совершенно другим. Если вы строите что-то похожее, вывод не в том, что «используйте Gemini Flash Lite». Это «постройте независимый от поставщика уровень агента, протестируйте быстрый уровень на вашей фактической рабочей нагрузке и повторно запускайте тест каждый квартал».
Последний пост этой серии углубляется дальше, чем все предыдущие: как кросс-чейн обмены в Cambio работают без мост-контрактов и почему это иной операционный профиль, чем у архитектур, которые во многом использует индустрия для той же задачи.
