Jev kontra modele generujące tekst
Jev nie generuje swobodnego tekstu. Film porównuje równoległe decyzje z generowaniem tekstu token po tokenie.
Od generacji autoregresyjnej do równoległego oceniania decyzji Jev: nowa rola interpretowalności mechanistycznej
Post sugeruje, że przejście od generacji autoregresyjnej do równoległego oceniania decyzji Jev tworzy nową rolę dla interpretowalności mechanistycznej: dokładny pomiar kierunków pojęć może pomóc w kształtowaniu architektur modeli.
the shift from autoregressive generation to #jev's parallel decision scoring suggests a new role for mechanistic interpretability. accurately measuring concept directions could help shape model architectures.
· 1 likesOpen on X
More like this
Cennik, ewaluacje i nazwa Jev
Wątek premierowy wyjaśnia ewaluacje przepływów code + AI, ogłoszoną cenę wejścia i darmowe tokeny wyjściowe.
Model Jev: generowanie prawdopodobieństw do podejmowania decyzji, 200× szybszy i 400× tańszy niż LLM
Model ten jest stworzony do podejmowania decyzji, a nie generowania tekstu; generuje prawdopodobieństwa dla każdej opcji równolegle zamiast odpowiedzi token po tokenie. Autor dzieli się uproszczonym przykładem porównania zwykłych LLM z tym modelem Jev.
