Jev ve metin üreten modeller
Jev serbest biçimli metin üretmez. Yan yana video, paralel karar alma ile token token metin üretimi arasındaki farkı gösterir.
Jev erişimi aldığınızda yapılacak 4 şey: önce küçük seçimi Jev yapsın
Tavsiye: Modelinizi Jev ile değiştirmeyin, Jev'i önüne koyun. Jev önce küçük seçimi yapar ve pahalı modeliniz yalnızca gerçekten gerektiğinde çalışır. Bir e-posta aracı, e-posta başına 2 AI çağrısını 1 Jev çağrısıyla değiştirdi ve normal işlevlerini korudu.
4 things to do when you get access to Jev: 1. don't replace your model, put Jev in front of it Jev makes the small choice first, and your expensive model only runs when it's really needed one email tool swapped 2 AI calls per email for 1 Jev call, and kept all their normal
· 467 likesOpen on X
More like this
Fiyatlandırma, değerlendirmeler ve Jev adı
Lansman dizisi code + AI iş akışı değerlendirmelerini, duyurulan girdi fiyatını ve ücretsiz çıktı tokenlarını açıklar.
Jev Modeli: Karar verme için olasılık üretimi, LLM'lerden 200× daha hızlı ve 400× daha ucuz
Bu model metin üretimi yerine karar verme için tasarlanmıştır; token token yanıt vermek yerine her seçenek için olasılıkları paralel olarak üretir. Yazar, normal LLM'ler ile bu Jev modelinin basitleştirilmiş bir karşılaştırmasını paylaşıyor.
