Jev so với các mô hình tạo văn bản
Jev không tạo văn bản tự do. Video so sánh cho thấy khác biệt giữa ra quyết định song song và tạo văn bản từng token.
Jev của TypeSafeAI nén ngữ cảnh mà không cần tóm tắt
Bài đăng ca ngợi Jev của TypeSafeAI vì nén ngữ cảnh bằng cách lọc lịch sử theo điểm số thay vì tóm tắt, giảm 156.000 token xuống còn 62.000 trong một lần, và hy vọng Claude Code và Codex áp dụng cách tiếp cận này.
This usage is really great. I hope it's implemented in Claude Code and Codex. > Claude Code's context compression, without summarization, reduces 156,000 to 62,000 tokens in one shot. TypeSafeAI's "Jev" The idea of filtering history by scores without summarizing is great
· 399 likesOpen on X
More like this
Giá, đánh giá và nguồn gốc tên Jev
Chuỗi ra mắt giải thích đánh giá quy trình code + AI, giá đầu vào lúc công bố và token đầu ra miễn phí.
Mô hình Jev: tạo xác suất cho việc ra quyết định, nhanh hơn 200 lần và rẻ hơn 400 lần so với LLM
Mô hình này được thiết kế cho việc ra quyết định thay vì tạo văn bản, tạo xác suất cho từng lựa chọn song song thay vì phản hồi từng token. Tác giả chia sẻ ví dụ đơn giản so sánh LLM thông thường với mô hình Jev này.
