Jev tăng tốc Computer Use: bộ nhớ LLM với thực thi Jev
LLM giữ bộ nhớ/ngữ cảnh, dùng agent-desktop chụp ảnh và gửi cho Jev, Jev chọn phần tử đúng để thao tác, giúp Computer Use nhanh hơn, hỗ trợ Cursor và chế độ headless.
Jev định tuyến lượt của tác nhân thoại trong ~100ms
Một nhà phát triển chia sẻ rằng tác nhân thoại của họ chờ vài giây mỗi lượt khi chạy Qwen3 trên 4090; dùng Jev cho các quyết định chọn/đúng-sai/điểm, mỗi lượt được định tuyến trong ~100ms và GPU chỉ chạy khi thực sự cần suy luận.
Our voice agent runs Qwen3 on a 4090. Every turn waits seconds. Jev can't talk. It only decides: choice, true/false, score. Now Jev routes each turn in ~100ms. The GPU only fires when reasoning is truly needed. We spent months making inference faster. The fix: infer less.
· 0 likesOpen on X
More like this
Jev phân loại 500 email trong vài giây với chi phí 3,5 xu
Riley Brown chia sẻ rằng Jev của TypeSafe AI đã phân loại 500 email trong vài giây với chi phí chỉ 3,5 xu, cho thấy khả năng phân loại email nhanh và rẻ.
Video giải thích toàn diện về AI Jev: AI không viết văn bản
Video giải thích toàn diện giới thiệu Jev, một AI không viết văn bản mà xác định yêu cầu cần chuyển đến bộ phận nào và mức độ khẩn cấp.
