Une étude révèle qu'un suffixe court fait basculer 43 % des documents non vus pour le modèle Jev ; un suffixe d'une tâche fait basculer 90 à 100 % des échantillons d'autres tâches, et l'attaque le trouve en quelques minutes. Link
L'auteur a créé Peekray, un outil qui permet de coller un lien suspect. En environ une seconde, il suit le lien jusqu'à sa destination réelle, le compare à plus de 164 000 liens frauduleux connus, et interroge Jev, le modèle de TypeSafe AI, au cas où le lien serait trop récent pour figurer sur une liste.
Boaz Foux salue la vitesse fulgurante de Jev pour remplacer la logique d'authentification traditionnelle, réduisant la latence et rendant la sécurité fluide.
Analyse les menaces par le filtrage des e-mails et la recherche d'informations publiques, combine la renumérisation avec la mise en quarantaine/le blocage, et poursuit les décisions par règles lorsque l'IA n'est pas disponible.
Question de frontière de sécurité : un dépôt peut-il exécuter son propre .mcp.json ou ses hooks avant les contrôles de confiance, et Jev-guard peut-il intercepter en amont ?
Dans une expérience avec 50 injections de prompts cachées dans des articles de 5 000 mots, Jev et Clef ont tout détecté avec ≤1 faux positif, tandis que Horizon Guard a signalé 46/50.
Sur 800 prompts, les différents classificateurs d'injection de prompt échouent sur différents types d'attaques. Les erreurs de Jev se concentrent sur l'obfuscation technique, celles de Clef sur l'ingénierie sociale, et celles de Wolf sur les astuces linguistiques et la manipulation du contexte. Horizon Guard ne manque que 5 cas (mais...).
Avant d'acheter une voiture, l'auteur a effectué un balayage du véhicule. Moteur éteint et téléphone en mode avion, Claude a listé tous les signaux dans l'habitacle et Jev a passé un appel, révélant 3 choses qui ne devraient pas être là.
Selon le post, Sentry utilise le modèle Jev pour vérifier 10 millions d'événements par jour, pour 263 $ par jour, et teste son propre classificateur visant une réduction de 90 %. Il s'agit de contrer l'injection de prompt via les rapports d'erreur pour les agents de codage.
Cloudflare Developers explique que Sentry utilise Jev pour filtrer les injections de prompt dans les rapports d'erreur, vérifiant 10M événements par jour pour 263 $; l'équipe teste son propre classificateur pour égaler la précision de Jev avec 90 % de coût en moins.
Ce projet se concentre sur la sécurité des LLM, en utilisant un modèle de décision moderne comme Jev comme couche tampon et en le testant avec Garak, améliorant ainsi les hits de détection de 98,86 %.