Xây dựng bộ phân loại cơ sở mã với Jev
Một nhà phát triển chia sẻ việc xây dựng bộ phân loại cơ sở mã với Jev, cho rằng có thể giải quyết mã quá phức tạp do tác nhân tạo ra, và hỏi nên thử nghiệm gì tiếp theo.
Laya, đối thủ mã nguồn mở của Jev, ra mắt: mô hình quyết định phi sinh tạo 32,8 ms/truy vấn trên T4
Laya là đối thủ mã nguồn mở của Jev: mô hình quyết định phi sinh tạo với 32,8 ms mỗi truy vấn trên T4, hỗ trợ hơn 100 ngôn ngữ, hoàn toàn miễn phí và có thể tự vận hành. Nó đảm nhận định tuyến, chấm điểm ưu tiên và guardrail mà trước đây phải suy luận LLM lặp lại, giúp tăng tốc phân nhánh tác tử đáng kể.
JevにOSS対抗が速攻で出てきた Laya ・判断だけ返す非生成型モデル ・T4で32.8ms/問 ・100言語以上 ・完全無料・自前運用可 LLMで毎回考えさせてた振り分け・優先度判定・ガードレールを、この軽量モデルに逃がせる。 エージェント分岐の速度が段違いになるやつ。
· 0 likesOpen on X
More like this
Jev cho phép LLM-as-a-Judge nhanh hơn 20–200 lần và rẻ hơn 40–400 lần
Jev được dùng để chọn mô hình nào là AGI, mang lại tốc độ nhanh hơn 20–200 lần và chi phí thấp hơn 40–400 lần, giúp LLM-as-a-judge cực nhanh và gần như miễn phí.
Kiểm thử ứng dụng với TypeSafe Jev & OpenCode
Filip chia sẻ bản demo nhỏ cho thấy tốc độ kiểm thử ứng dụng với TypeSafe Jev và OpenCode.
