Jev ve metin üreten modeller
Jev serbest biçimli metin üretmez. Yan yana video, paralel karar alma ile token token metin üretimi arasındaki farkı gösterir.
Jev: Paralel Yapılandırılmış Çıktı için Özel Model
Jev'i normal bir LLM değil, paralel yapılandırılmış çıktıda uzmanlaşmış bir model olarak tanıtıyor: paralel sorular anında güven puanlarıyla 1:1 JSON benzeri yapılar döndürüyor.
Jev, that's interesting! A model specialized in parallel structured output, not a regular LLM When you throw a bunch of questions at it in parallel The output comes back instantly in a 1:1 JSON-like structure Complete with confidence scores As a result, it can handle
· 841 likesOpen on X
More like this
Fiyatlandırma, değerlendirmeler ve Jev adı
Lansman dizisi code + AI iş akışı değerlendirmelerini, duyurulan girdi fiyatını ve ücretsiz çıktı tokenlarını açıklar.
Jev Modeli: Karar verme için olasılık üretimi, LLM'lerden 200× daha hızlı ve 400× daha ucuz
Bu model metin üretimi yerine karar verme için tasarlanmıştır; token token yanıt vermek yerine her seçenek için olasılıkları paralel olarak üretir. Yazar, normal LLM'ler ile bu Jev modelinin basitleştirilmiş bir karşılaştırmasını paylaşıyor.
