Jev ve metin üreten modeller
Jev serbest biçimli metin üretmez. Yan yana video, paralel karar alma ile token token metin üretimi arasındaki farkı gösterir.
Jev Geleneksel LLM'lerden Neden Daha Hızlı Olabilir
Gönderi, Jev ile geleneksel LLM'leri karşılaştırıyor: LLM'ler token token otoregresif kod çözme yaparken, Jev doğrudan Choice, Score veya NOUL döndürebilir; bu da kod çözme adımlarını azaltıp çıkarım gecikmesini düşürebilir.
Why could Jev be faster than traditional LLMs like ChatGPT? LLMs use autoregressive generation: Token 1 → Token 2 → Token 3 → … Jev can return a direct Choice / Score / NOUL instead. Less decoding → potentially lower AI inference latency. #AI #LLM #Jev #MachineLearning
· 1 likesOpen on X
More like this
Fiyatlandırma, değerlendirmeler ve Jev adı
Lansman dizisi code + AI iş akışı değerlendirmelerini, duyurulan girdi fiyatını ve ücretsiz çıktı tokenlarını açıklar.
Jev Modeli: Karar verme için olasılık üretimi, LLM'lerden 200× daha hızlı ve 400× daha ucuz
Bu model metin üretimi yerine karar verme için tasarlanmıştır; token token yanıt vermek yerine her seçenek için olasılıkları paralel olarak üretir. Yazar, normal LLM'ler ile bu Jev modelinin basitleştirilmiş bir karşılaştırmasını paylaşıyor.
