บล็อกเทคนิค Jev และการเข้าถึงล่วงหน้า
ท้ายเธรดเปิดตัวของ Diogo มีลิงก์ไปยังบล็อกเทคนิคทางการและทางเข้า early access สำหรับอ่านต่อ
ได้รับแรงบันดาลใจจาก TypeSafe AI ผู้เขียนได้เปิดตัว API สาธารณะที่เข้ากันได้กับ Jev ซึ่งรันโมเดลเปิดที่เทียบเคียงได้ Qwen3.6-35B-A3B และใช้ SGLang radix cache เพื่อใช้ prefill ซ้ำและการสร้าง System One แบบขนานที่รวดเร็ว ทำ 64 งานเสร็จในไม่ถึง 1 วินาที
Inspired by @typesafeai , here is a Jev-compatible public API to play with It runs a comparable open model (Qwen3.6-35B-A3B), and just uses SGLang radix cache to preserve the prefill reuse / really fast parallel systemone generation - 64 tasks in <1s. https://github.com/ekzhang/openjev-sglang…