Jev ile kod tabanı sınıflandırıcısı oluşturma
Bir geliştirici Jev ile kod tabanı sınıflandırıcısı oluşturduğunu paylaşıyor, ajanların ürettiği aşırı mühendislik kodunu çözebileceğini öne sürüyor ve sırada neyin test edileceğini soruyor.
Jev'e açık kaynak rakip Laya geldi: üretken olmayan karar modeli, T4'te sorgu başına 32,8 ms
Laya, Jev'in açık kaynak alternatifi: T4'te sorgu başına 32,8 ms çalışan, 100'den fazla dili destekleyen, tamamen ücretsiz ve kendi sunucunuzda barındırılabilen üretken olmayan bir karar modeli. Daha önce tekrarlı LLM çıkarımı gerektiren yönlendirme, öncelik belirleme ve guardrail görevlerini devralarak ajan dallanmasını büyük ölçüde hızlandırıyor.
JevにOSS対抗が速攻で出てきた Laya ・判断だけ返す非生成型モデル ・T4で32.8ms/問 ・100言語以上 ・完全無料・自前運用可 LLMで毎回考えさせてた振り分け・優先度判定・ガードレールを、この軽量モデルに逃がせる。 エージェント分岐の速度が段違いになるやつ。
· 0 likesOpen on X
More like this
Jev, LLM-as-a-Judge'ı 20–200x hız ve 40–400x daha düşük maliyetle mümkün kılıyor
Jev, hangi modelin AGI olduğunu seçmek için kullanıldı; 20–200x hız ve 40–400x daha düşük maliyet sunarak LLM-as-a-judge'ı son derece hızlı ve neredeyse ücretsiz hale getiriyor.
TypeSafe Jev ve OpenCode ile uygulama testi
Filip, TypeSafe Jev ve OpenCode ile uygulama testinin ne kadar hızlı olduğunu gösteren küçük bir demo paylaştı.
