สร้างตัวจำแนกโค้ดเบสด้วย Jev
นักพัฒนแชร์การสร้างตัวจำแนกโค้ดเบสด้วย Jev โดยเสนอว่าอาจแก้ปัญหาโค้ดที่ซับซ้อนเกินไปจากเอเจนต์ และถามว่าควรทดสอบอะไรต่อไป
การผสมผสาน TypeGPU + ruNNtime + Jev ช่วยให้การอนุมานและการเรนเดอร์ในเครื่องแบบเรียลไทม์
นักพัฒนาแบ่งปันประสบการณ์การผสมผสาน TypeGPU, ruNNtime และ Jev: ruNNtime ให้การอนุมานในเครื่องที่มีประสิทธิภาพ ขณะที่ TypeGPU ช่วยให้การอนุมานและการเรนเดอร์ใช้ทรัพยากร GPU ร่วมกันโดยตรงแบบ zero copy ทำงานสามการอนุมาน NN บวกการเรนเดอร์แบบเรียลไทม์
TypeGPU + ruNNtime + Jev @typesafeai is a very fun combo :D ruNNtime gives me efficient local inference, TypeGPU lets inference and rendering share GPU resources directly with zero copy. That’s 3 separate NN inferences plus rendering, all happening in realtime Since we control
· 699 likesOpen on X
More like this
Jev ทำให้ LLM-as-a-Judge เร็วขึ้น 20–200 เท่า และถูกลง 40–400 เท่า
Jev ถูกใช้เพื่อเลือกว่าโมเดลใดคือ AGI โดยให้ความเร็ว 20–200 เท่าและต้นทุนต่ำลง 40–400 เท่า ทำให้ LLM-as-a-judge เร็วมากและเกือบฟรี
ทดสอบแอปด้วย TypeSafe Jev และ OpenCode
Filip แชร์เดโมเล็กๆ ที่แสดงความเร็วในการทดสอบแอปด้วย TypeSafe Jev และ OpenCode
