Back to explore

Điều chỉnh động nỗ lực suy luận của GPT-6 trong Codex

Tác giả dùng Jev để thay đổi động nỗ lực suy luận của GPT-6 trong một tác vụ Codex: suy nghĩ nhiều hơn khi bế tắc, ít hơn cho các bước thường lệ, đạt chi phí Astra thấp hơn 50% trong thử nghiệm, chạy nhanh hơn mà không phá vỡ bộ nhớ đệm prompt.

People use Jev to pick a model before a task. I made it change GPT-6's reasoning effort inside Codex DURING the task. More thinking when stuck. Less for routine steps. 50% lower Astra costs in my tests. Faster runs, without breaking prompt caching.

· 2,8 N likesOpen on X