Xây dựng bộ phân loại cơ sở mã với Jev
Một nhà phát triển chia sẻ việc xây dựng bộ phân loại cơ sở mã với Jev, cho rằng có thể giải quyết mã quá phức tạp do tác nhân tạo ra, và hỏi nên thử nghiệm gì tiếp theo.
Đánh đổi MLOps: Jev so với LLM trong sản xuất
Một chuyên gia MLOps chia sẻ đánh đổi sản xuất: độ trễ mili giây của Jev so với vài giây của LLM, lược đồ enum và xác suất so với phân tích JSON, khác biệt thiết kế ảo giác kiểu và hình dạng chi phí.
Production tradeoffs I care about as MLOps: • Latency: Jev ms-class vs LLM multi-second (p95 kills UX + agent loops) • Schema: enums + probs vs “parse the JSON and pray” • Hallucination on types: Jev can’t emit an invalid choice by design; LLMs still can • Cost shape: Jev
· 0 likesOpen on X
More like this
Jev cho phép LLM-as-a-Judge nhanh hơn 20–200 lần và rẻ hơn 40–400 lần
Jev được dùng để chọn mô hình nào là AGI, mang lại tốc độ nhanh hơn 20–200 lần và chi phí thấp hơn 40–400 lần, giúp LLM-as-a-judge cực nhanh và gần như miễn phí.
Kiểm thử ứng dụng với TypeSafe Jev & OpenCode
Filip chia sẻ bản demo nhỏ cho thấy tốc độ kiểm thử ứng dụng với TypeSafe Jev và OpenCode.
