Jev so với các mô hình tạo văn bản
Jev không tạo văn bản tự do. Video so sánh cho thấy khác biệt giữa ra quyết định song song và tạo văn bản từng token.
JEV không chỉ trả về xác suất ứng viên mà còn cả điểm tin cậy
Tác giả nhận thấy JEV trả về xác suất cho các lựa chọn ứng viên cùng với điểm tin cậy cho dự đoán của nó, và tự hỏi liệu TypeSafe AI có mang trở lại Mạng Bayes để học sự không chắc chắn không, nhưng theo tài liệu của họ thì không phải vậy.
I was super intrigued when I noticed that JEV returns not just probs for candidate choices, but also a CONFIDENCE SCORE of it's prediction... I was wondering if TypeSafe AI brought back Bayesian Networks or something to learn uncertainty. Turns out - NO. Acc to their docs,
· 42 likesOpen on X
More like this
Giá, đánh giá và nguồn gốc tên Jev
Chuỗi ra mắt giải thích đánh giá quy trình code + AI, giá đầu vào lúc công bố và token đầu ra miễn phí.
Mô hình Jev: tạo xác suất cho việc ra quyết định, nhanh hơn 200 lần và rẻ hơn 400 lần so với LLM
Mô hình này được thiết kế cho việc ra quyết định thay vì tạo văn bản, tạo xác suất cho từng lựa chọn song song thay vì phản hồi từng token. Tác giả chia sẻ ví dụ đơn giản so sánh LLM thông thường với mô hình Jev này.
