Jev so với các mô hình tạo văn bản
Jev không tạo văn bản tự do. Video so sánh cho thấy khác biệt giữa ra quyết định song song và tạo văn bản từng token.
Xây dựng LLM từ nguyên lý đầu tiên với Jev: vòng lặp tự hồi quy dựa trên bộ phân loại
Tác giả đã xây dựng một LLM từ nguyên lý đầu tiên với Jev: 29 câu hỏi có/không cho mỗi ký tự dự đoán phím tiếp theo là a–z, dấu cách, dấu phẩy hay dấu chấm; xác suất cao nhất được thêm vào rồi đưa trở lại vòng lặp, tạo thành quá trình tự hồi quy từ bộ phân loại.
i made an llm from first principles with Jev 29 yes/no questions per character: should the next key be a–z, space, comma, or period? highest probability gets append to it, then fed the updated text back in & repeat an autoregressive loop made out of a classifier
· 884 likesOpen on X
More like this
Giá, đánh giá và nguồn gốc tên Jev
Chuỗi ra mắt giải thích đánh giá quy trình code + AI, giá đầu vào lúc công bố và token đầu ra miễn phí.
Mô hình Jev: tạo xác suất cho việc ra quyết định, nhanh hơn 200 lần và rẻ hơn 400 lần so với LLM
Mô hình này được thiết kế cho việc ra quyết định thay vì tạo văn bản, tạo xác suất cho từng lựa chọn song song thay vì phản hồi từng token. Tác giả chia sẻ ví dụ đơn giản so sánh LLM thông thường với mô hình Jev này.
