Jev kontra modele generujące tekst
Jev nie generuje swobodnego tekstu. Film porównuje równoległe decyzje z generowaniem tekstu token po tokenie.
Wnioskowanie System One od Jev działa lokalnie na iPhone i Mac
Post wyjaśnia, że spopularyzowane przez Jev wnioskowanie System One działa lokalnie na iPhone lub Mac dzięki implementacji Core AI, nadając się do powtarzalnych decyzji na urządzeniu, takich jak wykrywanie wypowiedzi wymagających odpowiedzi, sprawdzanie wklejeń i weryfikacja poleceń agenta.
System One inference, the kind Jev made popular, runs on an iPhone or a Mac (a Core AI implementation). It suits on-device use: telling which utterance needs a reply, checking a paste, vetting an agent's command are decisions made locally, many times over. https://github.com/john-rocky/coreai-kit/blob/main/docs/SYSTEM_ONE.md…
· 0 likesOpen on X
More like this
Cennik, ewaluacje i nazwa Jev
Wątek premierowy wyjaśnia ewaluacje przepływów code + AI, ogłoszoną cenę wejścia i darmowe tokeny wyjściowe.
Model Jev: generowanie prawdopodobieństw do podejmowania decyzji, 200× szybszy i 400× tańszy niż LLM
Model ten jest stworzony do podejmowania decyzji, a nie generowania tekstu; generuje prawdopodobieństwa dla każdej opcji równolegle zamiast odpowiedzi token po tokenie. Autor dzieli się uproszczonym przykładem porównania zwykłych LLM z tym modelem Jev.
