Jev ve metin üreten modeller
Jev serbest biçimli metin üretmez. Yan yana video, paralel karar alma ile token token metin üretimi arasındaki farkı gösterir.
Jev sayma darboğazı: olasılıksal çıktı net yanıt veremiyor
Bir geliştirici Jev ile sayma uygulaması yaptı ve modelin kesin yanıt yerine olasılık döndürdüğünü, bariz sorularda sık sık hata yaptığını görerek kesin saymadaki darboğazı ortaya koydu.
here's one of the major bottlenecks of Jev... i made an app that uses Jev to tell me how many a's are in a word it doesn't return a clear answer, it returns probabilities, it's rarely 100% sure it's right most of the time, but it also gets such an obvious question wrong
· 128 likesOpen on X
More like this
Fiyatlandırma, değerlendirmeler ve Jev adı
Lansman dizisi code + AI iş akışı değerlendirmelerini, duyurulan girdi fiyatını ve ücretsiz çıktı tokenlarını açıklar.
Jev Modeli: Karar verme için olasılık üretimi, LLM'lerden 200× daha hızlı ve 400× daha ucuz
Bu model metin üretimi yerine karar verme için tasarlanmıştır; token token yanıt vermek yerine her seçenek için olasılıkları paralel olarak üretir. Yazar, normal LLM'ler ile bu Jev modelinin basitleştirilmiş bir karşılaştırmasını paylaşıyor.
