Budowanie klasyfikatora bazy kodu z Jev
Deweloper dzieli się budową klasyfikatora bazy kodu z Jev, sugerując, że może rozwiązać problem przekombinowanego kodu od agentów, i pyta, co testować dalej.
Lokalny model Laya 421M przewyższa chmurowy Jev pod względem szybkości
Laya to otwartoźródłowy model decyzyjny System 1 działający lokalnie: 421M parametrów, ~1GB pamięci wnioskowania, 86,5 decyzji/s, P50 ~9ms, wynik 46; w porównaniu do Jev: 3,2 decyzji/s, 317ms rundy API, wynik 1.
🚨 A LOCAL 421M MODEL JUST ATE CLOUD JEV ON SPEED Laya is an open-source System 1 decision model that runs on your machine. Laya: 86.5 decisions/sec, P50 ~9ms, score 46 Jev: 3.2 decisions/sec, 317ms API round-trip, score 1 Ships with: — 421M params — ~1GB inference memory
· 0 likesOpen on X
More like this
Jev umożliwia LLM-as-a-Judge 20–200x szybciej i 40–400x taniej
Jev został użyty do wyboru, który model jest AGI, oferując 20–200x większą szybkość i 40–400x niższy koszt, czyniąc LLM-as-a-judge niezwykle szybkim i niemal darmowym.
Testowanie aplikacji z TypeSafe Jev i OpenCode
Filip dzieli się małym demo pokazującym szybkość testowania aplikacji z TypeSafe Jev i OpenCode.
