Back to explore

Open-Source-Jev-ähnliches Modell läuft ohne API auf einem Laptop

Der Beitrag besagt, dass TypeSafe zwei Jahre und 40 Mio. $ investierte, um ein Entscheidungsmodell in die Cloud zu bringen, während ein Erstsemester ein Jev-ähnliches Modell open-sourcte, das auf einem Laptop ohne API, ohne Warteliste, ohne Ausgabe-Tokens läuft: ca. 13 ms pro Entscheidung, ~1 GB RAM, 60 Entscheidungen pro Sekunde, beim Snake-Spielen.

TypeSafe Al spent 2 years in stealth and $40M to put a decision model in the cloud. 5 days later, a freshman open-sourced a Jev-like model that runs on a laptop. No API. No waitlist. No output tokens. ~13ms per decision. ~1GB RAM. 60 decisions a second. Playing Snake

· 0 likesOpen on X