返回探索

用 Jev 做模型路由的最便宜升级

用户分享了一个节省成本的模型调用策略:优先让 Jev 回答是/否并打分,若置信度高于 0.9 则直接输出,否则根据 Jev 的路由将请求分发给合适的模型(Haiku、Sonnet 等),从而减少对昂贵模型的调用。

the cheapest setup upgrade i made this month: ask the smallest model first. jev → haiku 5.5 → sonnet 5.5 → opus 5.5 > jev answers yes/no, picks and scores. above 0.9 confidence it stops there > otherwise jev routes the call to the right model > haiku does bulk, sonnet

用 Jev 做模型路由的最便宜升级 1
· 1 次赞在 X 打开