Jev ve metin üreten modeller
Jev serbest biçimli metin üretmez. Yan yana video, paralel karar alma ile token token metin üretimi arasındaki farkı gösterir.
Jev Modeli: Sonraki Token Tahmininden Cevap Tahminine
Jev modeli sonraki token yerine doğrudan cevapları tahmin eder ve yalnızca üç soru türünü destekler: evet/hayır, en fazla 255 seçenekten birini seçme ve 2 ila 10 seviyeli özel bir ölçek.
okay, wtf is jev? in first principles, - normal LLMs predict the next token - jev predicts the answer three question types only. - yes/no - pick one of up to 255 - a scale you define, 2 to 10 levels follow for more #jev #typesafe
· 0 likesOpen on X
More like this
Fiyatlandırma, değerlendirmeler ve Jev adı
Lansman dizisi code + AI iş akışı değerlendirmelerini, duyurulan girdi fiyatını ve ücretsiz çıktı tokenlarını açıklar.
Jev Modeli: Karar verme için olasılık üretimi, LLM'lerden 200× daha hızlı ve 400× daha ucuz
Bu model metin üretimi yerine karar verme için tasarlanmıştır; token token yanıt vermek yerine her seçenek için olasılıkları paralel olarak üretir. Yazar, normal LLM'ler ile bu Jev modelinin basitleştirilmiş bir karşılaştırmasını paylaşıyor.
