สร้างตัวจำแนกโค้ดเบสด้วย Jev
นักพัฒนแชร์การสร้างตัวจำแนกโค้ดเบสด้วย Jev โดยเสนอว่าอาจแก้ปัญหาโค้ดที่ซับซ้อนเกินไปจากเอเจนต์ และถามว่าควรทดสอบอะไรต่อไป
laya-mlx: ระบบจำแนกประเภทในเครื่องที่เร็วกว่า Jev 50 เท่า
laya-mlx เป็นระบบจำแนกประเภทแบบเปิดที่คล้ายกับ Jev สร้างขึ้นจากความน่าจะเป็นของเอาต์พุตข้อความ พอร์ตไปยัง MLX เพื่อทำงานในเครื่องทั้งหมดด้วย RAM สูงสุด 1GB ไม่มีการเรียกเซิร์ฟเวอร์ และอ้างว่าเร็วกว่า Jev 50 เท่า
Meet laya-mlx — 50x faster than Jev, and it runs entirely on your device 🚀 Max 1GB RAM, fully local, no server calls. Laya is an open classification system similar to Jev, built on text-output probabilities — just far more compact. Ported it to MLX and squeezed out some extra
· 1 likesOpen on X
More like this
Jev ทำให้ LLM-as-a-Judge เร็วขึ้น 20–200 เท่า และถูกลง 40–400 เท่า
Jev ถูกใช้เพื่อเลือกว่าโมเดลใดคือ AGI โดยให้ความเร็ว 20–200 เท่าและต้นทุนต่ำลง 40–400 เท่า ทำให้ LLM-as-a-judge เร็วมากและเกือบฟรี
ทดสอบแอปด้วย TypeSafe Jev และ OpenCode
Filip แชร์เดโมเล็กๆ ที่แสดงความเร็วในการทดสอบแอปด้วย TypeSafe Jev และ OpenCode
