Back to explore

Mô hình nhỏ Jev điều chỉnh động nỗ lực suy luận trong Codex và cắt giảm hóa đơn Astra

Somi chia sẻ: Mô hình nhỏ Jev làm việc cùng GPT-6 trong Codex để điều chỉnh nỗ lực suy luận theo từng bước, tiết kiệm 50% hóa đơn Astra trong thử nghiệm của vechen và giữ nguyên bộ nhớ đệm prompt.

50% off the Astra bill in vechen's tests, prompt caching intact. Jev, a tiny model, sits beside GPT-6 in Codex and dials reasoning effort per step. Stuck? Think harder. Routine? Don't. GPT-6 is a bad judge of when it's stuck, and I'd rather a cheap watcher own that knob.

· 0 likesOpen on X