Back to explore

Użycie Jev do automatycznego routingu modeli: pomysł i problemy z pamięcią podręczną

Ktoś zaproponował użycie Jev do automatycznego routingu modeli: zaawansowane modele do złożonych zadań, tańsze do prostych, by obniżyć koszty. Jednak zmiana modelu psuje trafienia w pamięć podręczną i może zwiększyć koszty.

脑洞很大,有人想用 jev 来实现模型自动路由,就是复杂任务自动用高级模型,简单任务用低级模型,降本增效。但他完全没考虑切换模型后,缓存无法命中,升本增笑了,哈哈。

Użycie Jev do automatycznego routingu modeli: pomysł i problemy z pamięcią podręczną 1Użycie Jev do automatycznego routingu modeli: pomysł i problemy z pamięcią podręczną 2
· 0 likesOpen on X