Jev ve metin üreten modeller
Jev serbest biçimli metin üretmez. Yan yana video, paralel karar alma ile token token metin üretimi arasındaki farkı gösterir.
Jev'in kapalı karar sınırı: numaralandırılabilir yuvalar ve LLM
Gönderi, Jev'in kapalı kararlara uygun olduğunu savunuyor: aracı seç, numaralandırılabilir yuvaları doldur ve LLM'i yalnızca girdi numaralandırılamadığında kullan—doğru çizgi bu.
Jev for the closed decision -- pick the tool, fill the enumerable slots -- and an LLM only where the input can't be enumerated. That's the right place to draw the line.
· 0 likesOpen on X
More like this
Fiyatlandırma, değerlendirmeler ve Jev adı
Lansman dizisi code + AI iş akışı değerlendirmelerini, duyurulan girdi fiyatını ve ücretsiz çıktı tokenlarını açıklar.
Jev Modeli: Karar verme için olasılık üretimi, LLM'lerden 200× daha hızlı ve 400× daha ucuz
Bu model metin üretimi yerine karar verme için tasarlanmıştır; token token yanıt vermek yerine her seçenek için olasılıkları paralel olarak üretir. Yazar, normal LLM'ler ile bu Jev modelinin basitleştirilmiş bir karşılaştırmasını paylaşıyor.
