Jev so với các mô hình tạo văn bản
Jev không tạo văn bản tự do. Video so sánh cho thấy khác biệt giữa ra quyết định song song và tạo văn bản từng token.
Mô hình quyết định Kev-0.6B lớp Jev chạy một lượt truyền xuôi trên Apple Neural Engine
Kev-0.6B là mô hình quyết định lớp Jev chạy trên Apple Neural Engine. Một lượt truyền xuôi, không sinh token, 7,18 ms mỗi quyết định với p99 là 7,53 ms. Vị trí chưa được khẳng định; nó được đo theo ba cách: chỉ CPU trả về số không, và công cụ xctrace Neural Engine của Apple đếm được 303.
Kev-0.6B, a Jev-class decision model, running on the Apple Neural Engine. One forward pass, no token generation. 7.18 ms per decision, p99 7.53. Placement isn't asserted yet, it's measured three ways: CPU-only returns zeros, Apple's xctrace Neural Engine instrument counts 303
· 1 likesOpen on X
More like this
Giá, đánh giá và nguồn gốc tên Jev
Chuỗi ra mắt giải thích đánh giá quy trình code + AI, giá đầu vào lúc công bố và token đầu ra miễn phí.
Mô hình Jev: tạo xác suất cho việc ra quyết định, nhanh hơn 200 lần và rẻ hơn 400 lần so với LLM
Mô hình này được thiết kế cho việc ra quyết định thay vì tạo văn bản, tạo xác suất cho từng lựa chọn song song thay vì phản hồi từng token. Tác giả chia sẻ ví dụ đơn giản so sánh LLM thông thường với mô hình Jev này.
