Back to explore

Att använda Jev för att avgöra modellbyte i Codex-uppgifter sänker Astra-kostnaden med 50%

En rapport uppger att användning av Jev för att avgöra vilken modell som ska användas för aktuell inferens under Codex-uppgifter sänkte Astra-kostnaden med 50%. Kommentarerna diskuterar huruvida det förstör cachen, och författaren planerar att testa och dela när tid finns.

「Codexのタスク中にどのモデルを今の推論に使うべきかの切替判定にJevを使って、Astraコストが50%低下。」と言う報告。 キャッシュ壊す壊さないでコメント欄が炎上中だけど、実際にやってみれば良いよね。私も時間出来たらテストして共有します☺️

· 0 likesOpen on X