JevとCodeGraphによるセキュリティレビュー
typesafe-security-reviewプロジェクトは、Jevの確率判断をコードグラフやOWASP/CWEデータと組み合わせ、低コストのセキュリティスキャンに使います。
Jevモデルに対するユニバーサルサフィックス攻撃
ある研究によると、短いサフィックス1つでJevモデルの未見文書の43%が反転し、あるタスクのサフィックスは他のタスクの90〜100%のサンプルを反転させ、攻撃は数分で見つかる。
One short suffix flips 43% of unseen documents for the Jev model One suffix from one task flips 90 to 100% of samples in other tasks, and the attack finds it in minutes. Subscribe: https://aimatterin.substack.com #AISecurity #Microsoft #ArXiv https://aimatter.in/2026/10/30/one-short-suffix-flips-43-of-unseen-documents-for/…
· 0 likesOpen on X
More like this
Jevがセキュリティパイプラインで5倍のコスト削減と高精度を実現
ユーザーがセキュリティパイプラインでJevを使用した経験を共有：小型で性能の低いモデルより5倍以上安く、高速で、高精度。
AIセキュリティ領域におけるjevのユースケースとデモ
AIセキュリティ領域でのjevのユースケースとデモを紹介。選択と確率を返すモデル特性を活かし、Unity AI GatewayやMLflowと連携してチェックを行う。
