Jev เทียบกับโมเดลสร้างข้อความ
Jev ไม่สร้างข้อความแบบอิสระ วิดีโอเปรียบเทียบแสดงความต่างระหว่างการตัดสินใจแบบขนานกับการสร้างข้อความทีละโทเคน
โมเดลตัดสินใจ Kev-0.6B ระดับ Jev รัน forward pass ครั้งเดียวบน Apple Neural Engine
Kev-0.6B เป็นโมเดลตัดสินใจระดับ Jev ที่ทำงานบน Apple Neural Engine หนึ่ง forward pass ไม่มีการสร้างโทเค็น 7.18 มิลลิวินาทีต่อการตัดสินใจ โดย p99 อยู่ที่ 7.53 มิลลิวินาที ยังไม่ยืนยันตำแหน่งการวาง วัดได้สามวิธี: CPU อย่างเดียวคืนค่าศูนย์ และเครื่องมือ xctrace Neural Engine ของ Apple นับได้ 303
Kev-0.6B, a Jev-class decision model, running on the Apple Neural Engine. One forward pass, no token generation. 7.18 ms per decision, p99 7.53. Placement isn't asserted yet, it's measured three ways: CPU-only returns zeros, Apple's xctrace Neural Engine instrument counts 303
· 1 likesOpen on X
More like this
ราคา การประเมิน และที่มาของชื่อ Jev
เธรดเปิดตัวอธิบายการประเมินเวิร์กโฟลว์ code + AI ราคาอินพุตตอนเปิดตัว และโทเคนเอาต์พุตฟรี
โมเดล Jev: การสร้างความน่าจะเป็นสำหรับการตัดสินใจ เร็วกว่า 200 เท่าและถูกกว่า 400 เท่าเมื่อเทียบกับ LLM
โมเดลนี้ออกแบบมาสำหรับการตัดสินใจแทนการสร้างข้อความ โดยสร้างความน่าจะเป็นสำหรับแต่ละตัวเลือกแบบขนาน แทนที่จะตอบทีละโทเค็น ผู้เขียนยกตัวอย่างเปรียบเทียบแบบง่ายระหว่าง LLM ทั่วไปกับโมเดล Jev นี้
