Jev ve metin üreten modeller
Jev serbest biçimli metin üretmez. Yan yana video, paralel karar alma ile token token metin üretimi arasındaki farkı gösterir.
Jev'i teknik olmayan şekilde anlamak: LLM'ler uygulamalarda neden yavaş hissettiriyor
Jev'in teknik olmayan açıklaması: LLM'ler uygulamalarda sık sık yavaş hissettirir çünkü geliştiriciler her seferinde bir yanıt 'yazmaya' zorlar; sanki 'evet' demek için tam bir paragraf yazdırmak gibi.
Frankly I didn’t get this until today Here’s the non-technical friendly way to understand Jev: 👇🏼 Problem: LLMs often feel slow for a lot of app work because developers force it to “write” an answer every time Like asking someone to write a full paragraph just to say yes or
· 308 likesOpen on X
More like this
Fiyatlandırma, değerlendirmeler ve Jev adı
Lansman dizisi code + AI iş akışı değerlendirmelerini, duyurulan girdi fiyatını ve ücretsiz çıktı tokenlarını açıklar.
Jev Modeli: Karar verme için olasılık üretimi, LLM'lerden 200× daha hızlı ve 400× daha ucuz
Bu model metin üretimi yerine karar verme için tasarlanmıştır; token token yanıt vermek yerine her seçenek için olasılıkları paralel olarak üretir. Yazar, normal LLM'ler ile bu Jev modelinin basitleştirilmiş bir karşılaştırmasını paylaşıyor.
