Back to explore

Тестирование модели Jev на задачах подсчёта букв

Пользователь проверяет, может ли модель Jev от TypeSafe AI подсчитать количество букв r в слове strawberry, и обнаруживает, что результаты нестабильны, как у типичных LLM.

can @typesafeai Jev count the r's in strawberry? no. 47% says 3, 47% says 2. a coin flip, same as every LLM. On 70% on 168 test words, it undercounts doubled letters like everyone then I gave it the letters instead of the word: ["s","t","r","a","w","b","e","r","r","y"]

· 149 likesOpen on X