สร้างตัวจำแนกโค้ดเบสด้วย Jev
นักพัฒนแชร์การสร้างตัวจำแนกโค้ดเบสด้วย Jev โดยเสนอว่าอาจแก้ปัญหาโค้ดที่ซับซ้อนเกินไปจากเอเจนต์ และถามว่าควรทดสอบอะไรต่อไป
นักพัฒนาชื่นชมตัวจำแนก Jev สำหรับการกำหนดเส้นทางอนุมานหลายโมเดล
นักพัฒนา Chris Dukes กล่าวว่าตัวจำแนก Jev ของ TypeSafe ทำงานได้ดีและเหมาะสำหรับการกำหนดเส้นทางไปยังหลายโมเดลที่ให้บริการพร้อมกันในเวลาอนุมาน แต่ถูกจำกัดด้วย VRAM 8GB
Major shoutout to @typesafeai ; #Jev the #classifier works a treat, and is going to be great to route to multiple models served at once when it comes inference time... ...or at least, that would be my PROPER use-case if I wasn't kneecapped at 8GB VRAM 🥲🥲 many thanks for the
· 0 likesOpen on X
More like this
Jev ทำให้ LLM-as-a-Judge เร็วขึ้น 20–200 เท่า และถูกลง 40–400 เท่า
Jev ถูกใช้เพื่อเลือกว่าโมเดลใดคือ AGI โดยให้ความเร็ว 20–200 เท่าและต้นทุนต่ำลง 40–400 เท่า ทำให้ LLM-as-a-judge เร็วมากและเกือบฟรี
ทดสอบแอปด้วย TypeSafe Jev และ OpenCode
Filip แชร์เดโมเล็กๆ ที่แสดงความเร็วในการทดสอบแอปด้วย TypeSafe Jev และ OpenCode
