Jev เทียบกับโมเดลสร้างข้อความ
Jev ไม่สร้างข้อความแบบอิสระ วิดีโอเปรียบเทียบแสดงความต่างระหว่างการตัดสินใจแบบขนานกับการสร้างข้อความทีละโทเคน
ราคา การประเมิน และที่มาของชื่อ Jev
เธรดเปิดตัวอธิบายการประเมินเวิร์กโฟลว์ code + AI ราคาอินพุตตอนเปิดตัว และโทเคนเอาต์พุตฟรี
เธรดเปิดตัวอธิบายการประเมินเวิร์กโฟลว์ code + AI ราคาอินพุตตอนเปิดตัว และโทเคนเอาต์พุตฟรี
· 3.6K likesOpen on X
More like this
โมเดล Jev: การสร้างความน่าจะเป็นสำหรับการตัดสินใจ เร็วกว่า 200 เท่าและถูกกว่า 400 เท่าเมื่อเทียบกับ LLM
โมเดลนี้ออกแบบมาสำหรับการตัดสินใจแทนการสร้างข้อความ โดยสร้างความน่าจะเป็นสำหรับแต่ละตัวเลือกแบบขนาน แทนที่จะตอบทีละโทเค็น ผู้เขียนยกตัวอย่างเปรียบเทียบแบบง่ายระหว่าง LLM ทั่วไปกับโมเดล Jev นี้
โมเดล Jev ทำได้ 42 ดอลลาร์ต่อพันล้านโทเคนด้วยการคำนวณแบบขนาน
โพสต์อ้างว่า Jev ใช้การคำนวณแบบขนานที่ไม่ใช่ transformer ในราคา 42 ดอลลาร์ต่อพันล้านโทเคน อภิปรายผลกระทบที่อาจเกิดกับ ChatGPT และ Anthropic และเสนอการเปลี่ยนไปใช้ LLM เป็นอินเทอร์เฟซโดยมี harness เป็นแบ็กเอนด์
