Jev ve metin üreten modeller
Jev serbest biçimli metin üretmez. Yan yana video, paralel karar alma ile token token metin üretimi arasındaki farkı gösterir.
TypeSafe Jev: Girdi olarak durum ve tipli sorular, çıktı olarak seçim, puan ve olasılık
TinyRouter, TypeSafe'in Jev modelini tanıtıyor: girdi olarak durum ve tipli sorular, çıktı olarak seçim, puan veya olasılık; metin ayrıştırmaya gerek yok. Örnek çağrı, POST /v1/systemone üzerinden choice=billing (p=0.71) ve score 0.8 döndürüyor; 32K bağlam ve ücretsiz çıktı.
Text was never the hard part. Parsing it was. Jev by TypeSafe: state + typed questions in, choice/score/probability out — no prose to parse. Real call → choice=billing (p=0.71), score 0.8. POST /v1/systemone, 32K ctx, output free. #Jev #TypeSafe #DecisionModels
· 0 likesOpen on X
More like this
Fiyatlandırma, değerlendirmeler ve Jev adı
Lansman dizisi code + AI iş akışı değerlendirmelerini, duyurulan girdi fiyatını ve ücretsiz çıktı tokenlarını açıklar.
Jev Modeli: Karar verme için olasılık üretimi, LLM'lerden 200× daha hızlı ve 400× daha ucuz
Bu model metin üretimi yerine karar verme için tasarlanmıştır; token token yanıt vermek yerine her seçenek için olasılıkları paralel olarak üretir. Yazar, normal LLM'ler ile bu Jev modelinin basitleştirilmiş bir karşılaştırmasını paylaşıyor.
