Jev kontra modele generujące tekst
Jev nie generuje swobodnego tekstu. Film porównuje równoległe decyzje z generowaniem tekstu token po tokenie.
Kompromisy między JEV a szybkimi klasyfikatorami: projektowanie przepływów ograniczających błędy
Autor twierdzi, że programy poprawnie klasyfikujące nie potrzebują JEV; tanie i szybkie klasyfikatory popełniają błędy, a jeśli są one nieakceptowalne, należy projektować przepływy z dodatkowymi elementami ograniczającymi błędy.
#JeV #ai大pk 小小研究看法： 會出錯的便宜快速分類器 程式能正確分類的就不用 JEV 錯誤如果是不可接受的, 要設計流程加入其他東西使錯誤收束
· 4 likesOpen on X
More like this
Cennik, ewaluacje i nazwa Jev
Wątek premierowy wyjaśnia ewaluacje przepływów code + AI, ogłoszoną cenę wejścia i darmowe tokeny wyjściowe.
Model Jev: generowanie prawdopodobieństw do podejmowania decyzji, 200× szybszy i 400× tańszy niż LLM
Model ten jest stworzony do podejmowania decyzji, a nie generowania tekstu; generuje prawdopodobieństwa dla każdej opcji równolegle zamiast odpowiedzi token po tokenie. Autor dzieli się uproszczonym przykładem porównania zwykłych LLM z tym modelem Jev.
