Jev ve metin üreten modeller
Jev serbest biçimli metin üretmez. Yan yana video, paralel karar alma ile token token metin üretimi arasındaki farkı gösterir.
Jev, tek bir ileri geçişte çok görevli sınıflandırma yapar ve anlamsal sınıflandırma için LLM'lerin yerini alabilir
Gönderi, Jev'in kod çözücü çıktısını yorumluyor: otoregresif sonraki token tahmini yerine tek bir ileri geçişte çok görevli sınıflandırma yapıyor; bu sayede anlamsal sınıflandırma için kullanılıp mevcut bir LLM'in yerini doğrudan alabilir ve anlam temelli bilgi yönlendirmesi sağlar.
#Jev、デコーダーからの出力を、自己回帰的な次単語予測するんじゃなくて、単一フォワードパスでマルチタスク分類する、ってことで、「意味による分類」って用途で使われたLLMをそのまま置き換えるができると理解した。意味を通した情報のルーティング、ってことか。
· 1 likesOpen on X
More like this
Fiyatlandırma, değerlendirmeler ve Jev adı
Lansman dizisi code + AI iş akışı değerlendirmelerini, duyurulan girdi fiyatını ve ücretsiz çıktı tokenlarını açıklar.
Jev Modeli: Karar verme için olasılık üretimi, LLM'lerden 200× daha hızlı ve 400× daha ucuz
Bu model metin üretimi yerine karar verme için tasarlanmıştır; token token yanıt vermek yerine her seçenek için olasılıkları paralel olarak üretir. Yazar, normal LLM'ler ile bu Jev modelinin basitleştirilmiş bir karşılaştırmasını paylaşıyor.
