Budowanie klasyfikatora bazy kodu z Jev
Deweloper dzieli się budową klasyfikatora bazy kodu z Jev, sugerując, że może rozwiązać problem przekombinowanego kodu od agentów, i pyta, co testować dalej.
Integracja serwera zgodnego z JEV w llama.cpp sprawia, że dowolny model zachowuje się jak JEV
Deweloper pokazuje, że integracja serwera zgodnego z JEV w llama.cpp pozwala dowolnemu modelowi zachowywać się jak JEV bez modyfikacji; Qwen3.5-2B odpowiedział na 4 pytania dotyczące obrazu 448x448 w 800 ms.
Genius! If you integrate a JEV-compatible server into llama.cpp, any model can behave JEV-like without modifications! Qwen3.5-2B is answering 4 questions about an image in 800ms! The image is 448x448
· 588 likesOpen on X
More like this
Jev umożliwia LLM-as-a-Judge 20–200x szybciej i 40–400x taniej
Jev został użyty do wyboru, który model jest AGI, oferując 20–200x większą szybkość i 40–400x niższy koszt, czyniąc LLM-as-a-judge niezwykle szybkim i niemal darmowym.
Testowanie aplikacji z TypeSafe Jev i OpenCode
Filip dzieli się małym demo pokazującym szybkość testowania aplikacji z TypeSafe Jev i OpenCode.
