Jev ve metin üreten modeller
Jev serbest biçimli metin üretmez. Yan yana video, paralel karar alma ile token token metin üretimi arasındaki farkı gösterir.
LLM ve Jev arasındaki temel fark
Video, tipik bir LLM'in metin veya JSON'u token token ürettiğini, her token'ın bir öncekine bağlı olduğunu ve bu nedenle birden çok sıralı aşama gerektiğini, Jev'in ise farklı çalıştığını açıklıyor.
The video is about the main difference between LLMs and Jev. Summary of this tweet from our friend: - A typical LLM generates text or JSON token by token. - Each token depends on the previous one; therefore, the model has to go through multiple sequential stages to produce a
· 91 likesOpen on X
More like this
Fiyatlandırma, değerlendirmeler ve Jev adı
Lansman dizisi code + AI iş akışı değerlendirmelerini, duyurulan girdi fiyatını ve ücretsiz çıktı tokenlarını açıklar.
Jev Modeli: Karar verme için olasılık üretimi, LLM'lerden 200× daha hızlı ve 400× daha ucuz
Bu model metin üretimi yerine karar verme için tasarlanmıştır; token token yanıt vermek yerine her seçenek için olasılıkları paralel olarak üretir. Yazar, normal LLM'ler ile bu Jev modelinin basitleştirilmiş bir karşılaştırmasını paylaşıyor.
