Back to explore

Yerel 421M model Laya, hızda bulut Jev'i geçti

Laya, yerel olarak çalışan açık kaynaklı bir System 1 karar modelidir: 421M parametre, ~1GB çıkarım belleği, saniyede 86,5 karar, P50 ~9ms, puan 46; Jev'in saniyede 3,2 kararı, 317ms API gidiş-dönüşü, puan 1 ile karşılaştırıldığında.

🚨 A LOCAL 421M MODEL JUST ATE CLOUD JEV ON SPEED Laya is an open-source System 1 decision model that runs on your machine. Laya: 86.5 decisions/sec, P50 ~9ms, score 46 Jev: 3.2 decisions/sec, 317ms API round-trip, score 1 Ships with: — 421M params — ~1GB inference memory

Yerel 421M model Laya, hızda bulut Jev'i geçti 1
· 0 likesOpen on X