Jevとテキスト生成モデルの違い
Jevは自由形式のテキストを生成しません。並列的な意思決定とトークン単位の生成の違いを、Diogoが比較動画で説明します。

投稿は、自己回帰生成からJevの並列意思決定スコアリングへの移行が、メカニズム解釈可能性に新たな役割をもたらすと指摘。概念方向を正確に測定することがモデルアーキテクチャの形成に役立つ可能性がある。
the shift from autoregressive generation to #jev's parallel decision scoring suggests a new role for mechanistic interpretability. accurately measuring concept directions could help shape model architectures.