pi-heed:基于 TypeSafe Jev 的 PI 运行时约束
pi 编码代理的运行时约束:在执行前将每个产生副作用的工具调用与用户声明的规则核对,由 TypeSafe Jev 提供支持。包含评估 Jev System One 决策的详细基准和实验记录。
710MIT
基于 TypeSafe Jev 的 LangChain/LangGraph 代理提示注入防护与工具调用护栏,它筛查工具输出并对风险工具调用执行允许、人工审核或阻止。
该仓库是一个真实的安全护栏项目,明确使用 TypeSafe AI 的 Jev 模型作为分类器,用于检测提示注入和评估工具调用风险。包含可运行的 demo、测试和评估脚本,深入集成了 Jev API,并有详细的原理说明。