Jev เทียบกับโมเดลสร้างข้อความ
Jev ไม่สร้างข้อความแบบอิสระ วิดีโอเปรียบเทียบแสดงความต่างระหว่างการตัดสินใจแบบขนานกับการสร้างข้อความทีละโทเคน
โมเดล Jev: การสร้างความน่าจะเป็นสำหรับการตัดสินใจ เร็วกว่า 200 เท่าและถูกกว่า 400 เท่าเมื่อเทียบกับ LLM
โมเดลนี้ออกแบบมาสำหรับการตัดสินใจแทนการสร้างข้อความ โดยสร้างความน่าจะเป็นสำหรับแต่ละตัวเลือกแบบขนาน แทนที่จะตอบทีละโทเค็น ผู้เขียนยกตัวอย่างเปรียบเทียบแบบง่ายระหว่าง LLM ทั่วไปกับโมเดล Jev นี้
200× faster and 400× cheaper than llms this model is made for “decision-making” instead of text generation, so it generates probabilities for each option in parallel instead of giving you a response token by token here is a simplified example of normal llms vs this jev thing at
· 5.7K likesOpen on X
More like this
ราคา การประเมิน และที่มาของชื่อ Jev
เธรดเปิดตัวอธิบายการประเมินเวิร์กโฟลว์ code + AI ราคาอินพุตตอนเปิดตัว และโทเคนเอาต์พุตฟรี
โมเดล Jev ทำได้ 42 ดอลลาร์ต่อพันล้านโทเคนด้วยการคำนวณแบบขนาน
โพสต์อ้างว่า Jev ใช้การคำนวณแบบขนานที่ไม่ใช่ transformer ในราคา 42 ดอลลาร์ต่อพันล้านโทเคน อภิปรายผลกระทบที่อาจเกิดกับ ChatGPT และ Anthropic และเสนอการเปลี่ยนไปใช้ LLM เป็นอินเทอร์เฟซโดยมี harness เป็นแบ็กเอนด์
