Back to explore

Açık kaynak Jev benzeri model API olmadan dizüstünde çalışıyor

Gönderi, TypeSafe'in bir karar modelini buluta taşımak için iki yıl ve 40 milyon dolar harcadığını, bir birinci sınıf öğrencisinin ise API, bekleme listesi ve çıktı token'ı olmadan dizüstünde çalışan Jev benzeri bir modeli açık kaynak yaptığını söylüyor: karar başına ~13ms, ~1GB RAM, saniyede 60 karar, Snake oynuyor.

TypeSafe Al spent 2 years in stealth and $40M to put a decision model in the cloud. 5 days later, a freshman open-sourced a Jev-like model that runs on a laptop. No API. No waitlist. No output tokens. ~13ms per decision. ~1GB RAM. 60 decisions a second. Playing Snake

· 0 likesOpen on X