Jev ve metin üreten modeller
Jev serbest biçimli metin üretmez. Yan yana video, paralel karar alma ile token token metin üretimi arasındaki farkı gösterir.
Jev ile ilk ilkelerden LLM inşa etmek: sınıflandırıcı tabanlı otoregresif döngü
Yazar, Jev ile ilk ilkelerden bir LLM inşa etti: karakter başına 29 evet/hayır sorusu, sonraki tuşun a–z, boşluk, virgül veya nokta olup olmadığını tahmin ediyor; en yüksek olasılık eklenip döngüye geri veriliyor ve sınıflandırıcıdan oluşan otoregresif bir süreç oluşuyor.
i made an llm from first principles with Jev 29 yes/no questions per character: should the next key be a–z, space, comma, or period? highest probability gets append to it, then fed the updated text back in & repeat an autoregressive loop made out of a classifier
· 884 likesOpen on X
More like this
Fiyatlandırma, değerlendirmeler ve Jev adı
Lansman dizisi code + AI iş akışı değerlendirmelerini, duyurulan girdi fiyatını ve ücretsiz çıktı tokenlarını açıklar.
Jev Modeli: Karar verme için olasılık üretimi, LLM'lerden 200× daha hızlı ve 400× daha ucuz
Bu model metin üretimi yerine karar verme için tasarlanmıştır; token token yanıt vermek yerine her seçenek için olasılıkları paralel olarak üretir. Yazar, normal LLM'ler ile bu Jev modelinin basitleştirilmiş bir karşılaştırmasını paylaşıyor.
