Jev so với các mô hình tạo văn bản
Jev không tạo văn bản tự do. Video so sánh cho thấy khác biệt giữa ra quyết định song song và tạo văn bản từng token.
Karpathy gọi Jev là điểm bị bỏ qua trên đường cong Pareto của LLM
Bài đăng trích dẫn quan điểm của Karpathy rằng Jev là một điểm trước đây bị bỏ qua trên đường cong Pareto của LLM, và phác họa phổ từ Rules đến Classifier, Jev, Flash, General LLM và Reasoning LLM: Flash là trí tuệ tổng quát nhanh hơn còn Jev là trí tuệ ra quyết định hẹp hơn; nhiều tác vụ chỉ cần trí tuệ vượt ngưỡng, sau đó độ trễ, chi phí và tính xác định lại quan trọng hơn.
Karpathy 说 Jev 是 LLM Pareto curve 上一个此前被忽略的点。 画出来之后更直观： Rules → Classifier → Jev → Flash → General LLM → Reasoning LLM Flash 是更快的通用智能，Jev 是更窄的决策智能。 很多任务不需要最高智能，只需要智能过线。过线之后，延迟、成本和确定性反而更重要。
· 0 likesOpen on X
More like this
Giá, đánh giá và nguồn gốc tên Jev
Chuỗi ra mắt giải thích đánh giá quy trình code + AI, giá đầu vào lúc công bố và token đầu ra miễn phí.
Mô hình Jev: tạo xác suất cho việc ra quyết định, nhanh hơn 200 lần và rẻ hơn 400 lần so với LLM
Mô hình này được thiết kế cho việc ra quyết định thay vì tạo văn bản, tạo xác suất cho từng lựa chọn song song thay vì phản hồi từng token. Tác giả chia sẻ ví dụ đơn giản so sánh LLM thông thường với mô hình Jev này.
