THE JEV GUIDE · CURATED EDITION

Cybersécurité.

Annonces, explications, démos et projets communautaires autour de TypeSafe Jev, organisés par thème. Chaque entrée renvoie à sa source sur X.

Sélection curée · Non exhaustive · Mise à jour manuelle

6757posts curés
3414vidéos originales

Attaque par suffixe universel contre le modèle Jev

Une étude révèle qu'un suffixe court fait basculer 43 % des documents non vus pour le modèle Jev ; un suffixe d'une tâche fait basculer 90 à 100 % des échantillons d'autres tâches, et l'attaque le trouve en quelques minutes. Link

Attaque par suffixe universel contre le modèle Jev · original post image 1

Peekray : détection de liens frauduleux avec Jev

L'auteur a créé Peekray, un outil qui permet de coller un lien suspect. En environ une seconde, il suit le lien jusqu'à sa destination réelle, le compare à plus de 164 000 liens frauduleux connus, et interroge Jev, le modèle de TypeSafe AI, au cas où le lien serait trop récent pour figurer sur une liste.

Peekray : détection de liens frauduleux avec Jev · original post image 1

Givvy lance une IA de cyberdéfense proactive basée sur le modèle Jev

Analyse les menaces par le filtrage des e-mails et la recherche d'informations publiques, combine la renumérisation avec la mise en quarantaine/le blocage, et poursuit les décisions par règles lorsque l'IA n'est pas disponible.

Givvy lance une IA de cyberdéfense proactive basée sur le modèle Jev · original post image 1

Comparaison des classificateurs d'injection de prompt : les erreurs de Jev se concentrent sur l'obfuscation technique

Sur 800 prompts, les différents classificateurs d'injection de prompt échouent sur différents types d'attaques. Les erreurs de Jev se concentrent sur l'obfuscation technique, celles de Clef sur l'ingénierie sociale, et celles de Wolf sur les astuces linguistiques et la manipulation du contexte. Horizon Guard ne manque que 5 cas (mais...).

Comparaison des classificateurs d'injection de prompt : les erreurs de Jev se concentrent sur l'obfuscation technique · original post image 1

Sentry utilise Jev pour filtrer 10M d'événements par jour

Selon le post, Sentry utilise le modèle Jev pour vérifier 10 millions d'événements par jour, pour 263 $ par jour, et teste son propre classificateur visant une réduction de 90 %. Il s'agit de contrer l'injection de prompt via les rapports d'erreur pour les agents de codage.

Video frame from the original post: Sentry utilise Jev pour filtrer 10M d'événements par jour

Sentry dépense 263 $/jour pour détecter les injections de prompt avec Jev

Cloudflare Developers explique que Sentry utilise Jev pour filtrer les injections de prompt dans les rapports d'erreur, vérifiant 10M événements par jour pour 263 $; l'équipe teste son propre classificateur pour égaler la précision de Jev avec 90 % de coût en moins.

Eryma : un projet de sécurité LLM basé sur Jev

Ce projet se concentre sur la sécurité des LLM, en utilisant un modèle de décision moderne comme Jev comme couche tampon et en le testant avec Garak, améliorant ainsi les hits de détection de 98,86 %.

Eryma : un projet de sécurité LLM basé sur Jev · original post image 1