Jev ve metin üreten modeller
Jev serbest biçimli metin üretmez. Yan yana video, paralel karar alma ile token token metin üretimi arasındaki farkı gösterir.
TypeSafe'in Jev'i metin üretici karar verme sürecini tersine çeviriyor
Gönderi, sınıflandırma, yönlendirme ve yükseltme gibi kararlar için metin üreticilerinin kullanıldığı ve token'ların yapılandırılmış çıktıya ayrıştırıldığı üç yılı anlatıyor; TypeSafe'in Jev'i karar mantığını kullanıcının tanımlamasına izin vererek bunu tersine çeviriyor.
We've spent three years asking text generators to make decisions. Classify this. Route that. Escalate or not. Continue or stop. We parse the tokens back into a decision our software can actually use - and call that structured output. TypeSafe's Jev inverts it. You define the
· 0 likesOpen on X
More like this
Fiyatlandırma, değerlendirmeler ve Jev adı
Lansman dizisi code + AI iş akışı değerlendirmelerini, duyurulan girdi fiyatını ve ücretsiz çıktı tokenlarını açıklar.
Jev Modeli: Karar verme için olasılık üretimi, LLM'lerden 200× daha hızlı ve 400× daha ucuz
Bu model metin üretimi yerine karar verme için tasarlanmıştır; token token yanıt vermek yerine her seçenek için olasılıkları paralel olarak üretir. Yazar, normal LLM'ler ile bu Jev modelinin basitleştirilmiş bir karşılaştırmasını paylaşıyor.
