สร้างตัวจำแนกโค้ดเบสด้วย Jev
นักพัฒนแชร์การสร้างตัวจำแนกโค้ดเบสด้วย Jev โดยเสนอว่าอาจแก้ปัญหาโค้ดที่ซับซ้อนเกินไปจากเอเจนต์ และถามว่าควรทดสอบอะไรต่อไป
Laya ทางเลือกโอเพนซอร์สของ Jev เปิดตัว: โมเดลตัดสินใจแบบไม่สร้าง 32.8ms/คำถามบน T4
Laya เป็นทางเลือกโอเพนซอร์สของ Jev: โมเดลตัดสินใจแบบไม่สร้าง ใช้เวลา 32.8 มิลลิวินาทีต่อคำถามบน T4 รองรับกว่า 100 ภาษา ฟรีทั้งหมดและโฮสต์เองได้ ช่วยย้ายงานจัดเส้นทาง จัดลำดับความสำคัญ และการ์ดเรลที่เคยต้องให้ LLM คิดซ้ำมาไว้ที่โมเดลเบา ทำให้การแตกแขนงของเอเจนต์เร็วขึ้นมาก
JevにOSS対抗が速攻で出てきた Laya ・判断だけ返す非生成型モデル ・T4で32.8ms/問 ・100言語以上 ・完全無料・自前運用可 LLMで毎回考えさせてた振り分け・優先度判定・ガードレールを、この軽量モデルに逃がせる。 エージェント分岐の速度が段違いになるやつ。
· 0 likesOpen on X
More like this
Jev ทำให้ LLM-as-a-Judge เร็วขึ้น 20–200 เท่า และถูกลง 40–400 เท่า
Jev ถูกใช้เพื่อเลือกว่าโมเดลใดคือ AGI โดยให้ความเร็ว 20–200 เท่าและต้นทุนต่ำลง 40–400 เท่า ทำให้ LLM-as-a-judge เร็วมากและเกือบฟรี
ทดสอบแอปด้วย TypeSafe Jev และ OpenCode
Filip แชร์เดโมเล็กๆ ที่แสดงความเร็วในการทดสอบแอปด้วย TypeSafe Jev และ OpenCode
