Jev so với các mô hình tạo văn bản
Jev không tạo văn bản tự do. Video so sánh cho thấy khác biệt giữa ra quyết định song song và tạo văn bản từng token.
Giải thích trực quan cách Jev hoạt động, dựa trên Qwen2.5-RLCD
Niels Rogge đã tạo giải thích trực quan về cách Jev hoạt động bằng Claude, dựa trên mô hình Qwen2.5-RLCD do Harsh Agundal phát hành trên Hugging Face, thay thế việc tạo LLM tự hồi quy bằng một bộ giải mã Transformer duy nhất.
For anyone curious how Jev works, I made a visual explanation using @claudeai :) This is based on the Qwen2.5-RLCD model which @harshagundal released on @huggingface The idea is to replace autoregressive LLM generation by a single Transformer decoder (of a pre-trained LLM),
· 3,8 N likesOpen on X
More like this
Giá, đánh giá và nguồn gốc tên Jev
Chuỗi ra mắt giải thích đánh giá quy trình code + AI, giá đầu vào lúc công bố và token đầu ra miễn phí.
Mô hình Jev: tạo xác suất cho việc ra quyết định, nhanh hơn 200 lần và rẻ hơn 400 lần so với LLM
Mô hình này được thiết kế cho việc ra quyết định thay vì tạo văn bản, tạo xác suất cho từng lựa chọn song song thay vì phản hồi từng token. Tác giả chia sẻ ví dụ đơn giản so sánh LLM thông thường với mô hình Jev này.
