Jev เทียบกับโมเดลสร้างข้อความ
Jev ไม่สร้างข้อความแบบอิสระ วิดีโอเปรียบเทียบแสดงความต่างระหว่างการตัดสินใจแบบขนานกับการสร้างข้อความทีละโทเคน
Jev vs Gemini: ทดสอบการจัดการเอาต์พุตแบบมีโครงสร้าง
ผู้เขียนขยายชุดคำถามเป็นประมาณ 300 คำถามต่อการเรียก Jev ตอบสำเร็จ ขณะที่ Gemini ปฏิเสธคำขอทั้งหมดก่อนที่จะสร้างสิ่งใด ข้อมูลนำเข้าเพียงประมาณ 55k โทเค็นภายในหน้าต่างบริบทประมาณ 1M โทเค็น แสดงถึงปัญหาในการบังคับใช้เอาต์พุตแบบมีโครงสร้างของ Gemini
5/7 Then I widened the batch to roughly 300 questions per call. ✅ Jev answered. ❌ Gemini rejected all 300 test requests before generating anything. The input was only ~55k tokens in a ~1M-token context window. The problem was how Gemini enforces structured output using a
· 0 likesOpen on X
More like this
ราคา การประเมิน และที่มาของชื่อ Jev
เธรดเปิดตัวอธิบายการประเมินเวิร์กโฟลว์ code + AI ราคาอินพุตตอนเปิดตัว และโทเคนเอาต์พุตฟรี
โมเดล Jev: การสร้างความน่าจะเป็นสำหรับการตัดสินใจ เร็วกว่า 200 เท่าและถูกกว่า 400 เท่าเมื่อเทียบกับ LLM
โมเดลนี้ออกแบบมาสำหรับการตัดสินใจแทนการสร้างข้อความ โดยสร้างความน่าจะเป็นสำหรับแต่ละตัวเลือกแบบขนาน แทนที่จะตอบทีละโทเค็น ผู้เขียนยกตัวอย่างเปรียบเทียบแบบง่ายระหว่าง LLM ทั่วไปกับโมเดล Jev นี้
