pi-heed: TypeSafe Jev 기반 PI 런타임 제약
pi 코딩 에이전트용 런타임 제약: 부작용이 있는 도구 호출을 사용자가 명시한 규칙과 대조하고 TypeSafe Jev를 사용합니다. Jev System One 결정을 평가한 상세 벤치마크와 실험 기록이 포함됩니다.
710MIT
Prompt injection protection and tool-call guardrails for LangChain/LangGraph agents, powered by TypeSafe Jev. It screens tool outputs and gates risky calls with allow, human review, or block decisions.
该仓库是一个真实的安全护栏项目,明确使用 TypeSafe AI 的 Jev 模型作为分类器,用于检测提示注入和评估工具调用风险。包含可运行的 demo、测试和评估脚本,深入集成了 Jev API,并有详细的原理说明。