Jev ve metin üreten modeller
Jev serbest biçimli metin üretmez. Yan yana video, paralel karar alma ile token token metin üretimi arasındaki farkı gösterir.
Jev Modeli: Yapay zeka ajanları her karar için LLM'e ihtiyaç duymaz
Yazar, TypeSafe AI'nın Jev'ini öğrendikten sonra çıkarımlarını paylaşıyor: istek yönlendirme, araç çağırma veya risk değerlendirme gibi kararlar her zaman LLM gerektirmez.
AI agents don't always need an LLM to make every decision That was my biggest takeaway after learning about Jev from TypeSafe AI We often use LLMs for tasks like: → Which team should this request go to? → Should this tool be called? → Is this action risky? → Which model
· 0 likesOpen on X
More like this
Fiyatlandırma, değerlendirmeler ve Jev adı
Lansman dizisi code + AI iş akışı değerlendirmelerini, duyurulan girdi fiyatını ve ücretsiz çıktı tokenlarını açıklar.
Jev Modeli: Karar verme için olasılık üretimi, LLM'lerden 200× daha hızlı ve 400× daha ucuz
Bu model metin üretimi yerine karar verme için tasarlanmıştır; token token yanıt vermek yerine her seçenek için olasılıkları paralel olarak üretir. Yazar, normal LLM'ler ile bu Jev modelinin basitleştirilmiş bir karşılaştırmasını paylaşıyor.
