Deweloper zbudował chatbota bez LLM z Jev, który daje natychmiastowe odpowiedzi bez halucynacji, połączony z wyszukiwaniem w sieci, Wikipedią, pogodą, Todoist i Home Assistant. Jev decyduje, które narzędzie wywołać i z jakimi argumentami na podstawie promptu, a odpowiedzi cytują źródła.
I built a chat bot with jev, no LLM at all! Responses are instant, no hallucinations. I hooked it up to web search, wikipedia, weather, todoist and home assistant. Jev decides what tool to call and what args to use based on the prompt. Instant answers cite sources as well!
Gregor Zunic prezentuje otwartoźródłowego agenta przeglądarki łączącego Browser Use i Jev, znajduje loty w 7 sekund za 0,0039 USD, używając nowej przestrzeni akcji na krok, przestrzeni stanów DOM i małego LLM awaryjnego do wpisywania.
Scott Williams przewiduje, że niestandardowe modele w stylu Jev (równoległe dekodowanie z ograniczeniami) zwiększą efektywność tokenową istniejących systemów agentowych firm, tworząc milionerów.
Użytkownik chwali model JEV za niezwykle szybkie odtwarzanie każdego ruchu i polecenia, uważając, że boty staną się mądrzejsze.
