Jev ve metin üreten modeller
Jev serbest biçimli metin üretmez. Yan yana video, paralel karar alma ile token token metin üretimi arasındaki farkı gösterir.
Jev: Çıkarımdan Önce Geçerli Çıktıları Tanımlama
Jev'in çıkarımdan önce geçerli çıktıları tanımlama yaklaşımını tanıtır; metin üretme, markdown temizleme, JSON ayrıştırma ve şema doğrulama akışının karşıtıdır.
JEV DELETES THE DUMBEST PART OF AI CODE. - Generate text. - Strip the markdown. - Parse the JSON. - Validate the schema. - Retry after the model adds a poem anyway. Jev starts from the opposite assumption: the valid outputs are defined before inference. State goes in. A typed
· 1 likesOpen on X
More like this
Fiyatlandırma, değerlendirmeler ve Jev adı
Lansman dizisi code + AI iş akışı değerlendirmelerini, duyurulan girdi fiyatını ve ücretsiz çıktı tokenlarını açıklar.
Jev Modeli: Karar verme için olasılık üretimi, LLM'lerden 200× daha hızlı ve 400× daha ucuz
Bu model metin üretimi yerine karar verme için tasarlanmıştır; token token yanıt vermek yerine her seçenek için olasılıkları paralel olarak üretir. Yazar, normal LLM'ler ile bu Jev modelinin basitleştirilmiş bir karşılaştırmasını paylaşıyor.
