Jev против моделей генерации текста
Jev не генерирует свободный текст. Сравнительное видео показывает различие между параллельным принятием решений и генерацией текста по токенам.
OpenAI-совместимый API Jev и механизм безвесовой нейронной сети
Представляет OpenAI-совместимый чат-API Jev, механизм безвесовой нейронной сети с таблицами поиска или целочисленной памятью и вывод за 5,1 мкс.
What the heck is this? Keep up with Jev or something ・OpenAI-compatible chat API ・Weightless Neural Network type mechanism that uses lookup tables or integer memory on RAM, instead of a massive number of floating-point parameters in a neural network ・5.1 µs inference?
· 11 likesOpen on X
More like this
Цены, оценки и происхождение названия Jev
Тред запуска объясняет оценки рабочих процессов code + AI, объявленную цену входных токенов и бесплатные выходные токены.
Модель Jev: генерация вероятностей для принятия решений, в 200 раз быстрее и в 400 раз дешевле LLM
Эта модель создана для принятия решений, а не генерации текста: она выдаёт вероятности для каждого варианта параллельно, а не ответ токен за токеном. Автор приводит упрощённый пример сравнения обычных LLM с этой моделью Jev.
