Jev ve metin üreten modeller
Jev serbest biçimli metin üretmez. Yan yana video, paralel karar alma ile token token metin üretimi arasındaki farkı gösterir.
Jev ile Otomatik Model Yönlendirme: Jev işi sınıflandırır, modeli seçmez
Jev'in otomatik model yönlendirme tasarımını açıklar: Her turun başında Jev işi sınıflandırır (sohbet, yazma, kodlama, analiz, çıkarım) ve araç kullanımı ile süreklilik gibi ikincil gereksinimleri algılar; model seçimi ise başka bir yerde yapılır.
We built Auto model routing with Jev, but Jev never chooses the model. That distinction is the whole design. At the start of each turn, Jev classifies the work: conversation, writing, coding, analysis or extraction. It also detects secondary requirements, tool usage, continuity
· 2 likesOpen on X
More like this
Fiyatlandırma, değerlendirmeler ve Jev adı
Lansman dizisi code + AI iş akışı değerlendirmelerini, duyurulan girdi fiyatını ve ücretsiz çıktı tokenlarını açıklar.
Jev Modeli: Karar verme için olasılık üretimi, LLM'lerden 200× daha hızlı ve 400× daha ucuz
Bu model metin üretimi yerine karar verme için tasarlanmıştır; token token yanıt vermek yerine her seçenek için olasılıkları paralel olarak üretir. Yazar, normal LLM'ler ile bu Jev modelinin basitleştirilmiş bir karşılaştırmasını paylaşıyor.
