Jev ve metin üreten modeller
Jev serbest biçimli metin üretmez. Yan yana video, paralel karar alma ile token token metin üretimi arasındaki farkı gösterir.
Jev, AI kararlarında LLM'lerin yerini alabilir mi?
Yazar, Jev hakkında okuduktan sonra Jev'in girdi ve sabit seçenekler alıp olasılıklar döndürdüğünü vurguluyor ve her AI kararı için bir LLM gerekip gerekmediğini sorguluyor.
Recently I was reading about Jev, and one idea stood out. We use LLMs for generation, but many AI systems just need to make a decision. Give Jev an input + fixed choices, and it returns probabilities. It got me thinking: Do we really need an LLM for every AI decision?
· 0 likesOpen on X
More like this
Fiyatlandırma, değerlendirmeler ve Jev adı
Lansman dizisi code + AI iş akışı değerlendirmelerini, duyurulan girdi fiyatını ve ücretsiz çıktı tokenlarını açıklar.
Jev Modeli: Karar verme için olasılık üretimi, LLM'lerden 200× daha hızlı ve 400× daha ucuz
Bu model metin üretimi yerine karar verme için tasarlanmıştır; token token yanıt vermek yerine her seçenek için olasılıkları paralel olarak üretir. Yazar, normal LLM'ler ile bu Jev modelinin basitleştirilmiş bir karşılaştırmasını paylaşıyor.
