Back to explore

Jev zur Modellwechsel-Entscheidung in Codex-Aufgaben senkt Astra-Kosten um 50 %

Ein Bericht besagt, dass die Verwendung von Jev zur Entscheidung, welches Modell für die aktuelle Inferenz in Codex-Aufgaben genutzt wird, die Astra-Kosten um 50 % senkte. In den Kommentaren wird diskutiert, ob dadurch der Cache zerstört wird; der Autor will es bei Gelegenheit testen und teilen.

「Codexのタスク中にどのモデルを今の推論に使うべきかの切替判定にJevを使って、Astraコストが50%低下。」と言う報告。 キャッシュ壊す壊さないでコメント欄が炎上中だけど、実際にやってみれば良いよね。私も時間出来たらテストして共有します☺️

· 0 likesOpen on X