Back to explore

Kiểm tra mô hình Jev trên tác vụ đếm chữ cái

Một người dùng kiểm tra liệu mô hình Jev của TypeSafe AI có thể đếm số chữ r trong strawberry hay không, và nhận thấy hiệu suất tương tự các LLM thông thường với kết quả không nhất quán.

can @typesafeai Jev count the r's in strawberry? no. 47% says 3, 47% says 2. a coin flip, same as every LLM. On 70% on 168 test words, it undercounts doubled letters like everyone then I gave it the letters instead of the word: ["s","t","r","a","w","b","e","r","r","y"]

· 149 likesOpen on X