Jev kontra modele generujące tekst
Jev nie generuje swobodnego tekstu. Film porównuje równoległe decyzje z generowaniem tekstu token po tokenie.
Model Jev osiąga 42 dolary za miliard tokenów dzięki obliczeniom równoległym
Post twierdzi, że Jev wykorzystuje równoległe obliczenia nieoparte na transformerze w cenie 42 dolarów za miliard tokenów, omawia potencjalny wpływ na ChatGPT i Anthropic oraz sugeruje przejście do LLM jako interfejsu z backendem harness.
ท่าทางจะเจ๊งกันยกแผงละ chatGPT กับ Anthropic เจอพี่ Jev เข้าไป โดยมันทำการคำนวณแบบ Parallel ไดเราคาถูกมาก $42 ต่อ billion token แบบไม่ใช้วิธี transformer คนทำ chatGPT ที่แยกตัวออกมาซุ่มทำ AI ตัวใหม่ น่าจะกลายเป็น Harness หลังบ้านเอา LLM มาต่ออีกทีแล้วให้ LLM เป็นเพียง interface
· 439 likesOpen on X
More like this
Cennik, ewaluacje i nazwa Jev
Wątek premierowy wyjaśnia ewaluacje przepływów code + AI, ogłoszoną cenę wejścia i darmowe tokeny wyjściowe.
Model Jev: generowanie prawdopodobieństw do podejmowania decyzji, 200× szybszy i 400× tańszy niż LLM
Model ten jest stworzony do podejmowania decyzji, a nie generowania tekstu; generuje prawdopodobieństwa dla każdej opcji równolegle zamiast odpowiedzi token po tokenie. Autor dzieli się uproszczonym przykładem porównania zwykłych LLM z tym modelem Jev.
