API công khai tương thích Jev: tạo System One song song nhanh với SGLang

Name: API công khai tương thích Jev: tạo System One song song nhanh với SGLang
Uploaded: 2026-09-17
Description: Lấy cảm hứng từ TypeSafe AI, tác giả đã phát hành API công khai tương thích Jev chạy mô hình mở tương đương Qwen3.6-35B-A3B, sử dụng SGLang radix cache để tái sử dụng prefill và tạo System One song song nhanh, hoàn thành 64 tác vụ trong dưới 1 giây.

Lấy cảm hứng từ TypeSafe AI, tác giả đã phát hành API công khai tương thích Jev chạy mô hình mở tương đương Qwen3.6-35B-A3B, sử dụng SGLang radix cache để tái sử dụng prefill và tạo System One song song nhanh, hoàn thành 64 tác vụ trong dưới 1 giây.

Eric Zhang@ekzhang1𝕏

Inspired by @typesafeai , here is a Jev-compatible public API to play with It runs a comparable open model (Qwen3.6-35B-A3B), and just uses SGLang radix cache to preserve the prefill reuse / really fast parallel systemone generation - 64 tasks in <1s. https://github.com/ekzhang/openjev-sglang…

17 thg 9, 2026· 977 likesOpen on X

More like this

Blog kỹ thuật Jev và quyền truy cập sớm

Bắt đầu với Jev: waitlist và Agent Skill

Đảo ngược kiến trúc giống Jev và mở kho huấn luyện mã nguồn mở