Jev проти моделей генерації тексту
Jev не генерує довільний текст. Порівняльне відео показує різницю між паралельним ухваленням рішень і генерацією тексту токен за токеном.
Модель Jev досягає $42 за мільярд токенів завдяки паралельним обчисленням
У дописі стверджується, що Jev використовує нетрансформерні паралельні обчислення вартістю $42 за мільярд токенів, обговорюється потенційний вплив на ChatGPT і Anthropic та перехід до LLM як інтерфейсу з harness-бекендом.
ท่าทางจะเจ๊งกันยกแผงละ chatGPT กับ Anthropic เจอพี่ Jev เข้าไป โดยมันทำการคำนวณแบบ Parallel ไดเราคาถูกมาก $42 ต่อ billion token แบบไม่ใช้วิธี transformer คนทำ chatGPT ที่แยกตัวออกมาซุ่มทำ AI ตัวใหม่ น่าจะกลายเป็น Harness หลังบ้านเอา LLM มาต่ออีกทีแล้วให้ LLM เป็นเพียง interface
· 439 likesOpen on X
More like this
Ціни, оцінювання і походження назви Jev
Тред запуску пояснює оцінки робочих процесів code + AI, оголошену ціну вхідних токенів і безкоштовні вихідні токени.
Модель Jev: генерація ймовірностей для прийняття рішень, у 200 разів швидша та в 400 разів дешевша за LLM
Ця модель створена для прийняття рішень, а не генерації тексту: вона видає ймовірності для кожного варіанту паралельно, а не відповідь токен за токеном. Автор наводить спрощене порівняння звичайних LLM із цією моделлю Jev.
