Jevの分類モデルで有効な次トークンを選びC++を書く
TypeSafeのJev決定/分類モデルを使い、各ステップで文法的に有効な次トークンだけを提示してC++コードを生成する実験。
著者は、Jev を使って翻訳が必要な HTML DOM 要素を判断し、表示中の領域だけを処理し、リクエストをまとめて送信し、スクロール時に逐次読み込むことで、トークンを節約しつつスムーズな翻訳を実現した方法を共有しています。
让 AI 按我的想法,迭代了一个给自己用的翻译插件。要简洁易用,技术方案尽量用新的,token 也要省。 比如用 Jev 判断哪些 HTML DOM 需要翻译,只处理当前看得到的区域,再把待翻译内容合并成一个 request,批量发送。滚动时按需加载,翻译跟得上,页面也不卡顿。再接上 evot 的 model