Jev so với các mô hình tạo văn bản
Jev không tạo văn bản tự do. Video so sánh cho thấy khác biệt giữa ra quyết định song song và tạo văn bản từng token.
Jev vs Gemini: Kiểm tra xử lý đầu ra có cấu trúc
Tác giả mở rộng lô lên khoảng 300 câu hỏi mỗi lần gọi. Jev trả lời thành công, trong khi Gemini từ chối tất cả yêu cầu trước khi tạo ra bất kỳ nội dung nào. Đầu vào chỉ khoảng 55k token trong cửa sổ ngữ cảnh ~1M token, chỉ ra vấn đề trong cách Gemini thực thi đầu ra có cấu trúc.
5/7 Then I widened the batch to roughly 300 questions per call. ✅ Jev answered. ❌ Gemini rejected all 300 test requests before generating anything. The input was only ~55k tokens in a ~1M-token context window. The problem was how Gemini enforces structured output using a
· 0 likesOpen on X
More like this
Giá, đánh giá và nguồn gốc tên Jev
Chuỗi ra mắt giải thích đánh giá quy trình code + AI, giá đầu vào lúc công bố và token đầu ra miễn phí.
Mô hình Jev: tạo xác suất cho việc ra quyết định, nhanh hơn 200 lần và rẻ hơn 400 lần so với LLM
Mô hình này được thiết kế cho việc ra quyết định thay vì tạo văn bản, tạo xác suất cho từng lựa chọn song song thay vì phản hồi từng token. Tác giả chia sẻ ví dụ đơn giản so sánh LLM thông thường với mô hình Jev này.
