Back to explore

Jev-liknande modell med öppen källkod körs på en laptop utan API

Inlägget säger att TypeSafe spenderade två år och 40 miljoner dollar på att lägga en beslutsmodell i molnet, medan en förstaårsstudent öppnade källkoden för en Jev-liknande modell som körs på en laptop utan API, utan väntelista, utan utdatatokens, cirka 13 ms per beslut, ~1 GB RAM, 60 beslut per sekund, spelande Snake.

TypeSafe Al spent 2 years in stealth and $40M to put a decision model in the cloud. 5 days later, a freshman open-sourced a Jev-like model that runs on a laptop. No API. No waitlist. No output tokens. ~13ms per decision. ~1GB RAM. 60 decisions a second. Playing Snake

· 0 likesOpen on X