1作者: beebeeVB大约 1 个月前原帖
大家好, 随着互联网代理数量的不断增加,安全问题将变得越来越严重。目前,解决这个问题的方法是使用大型语言模型(LLM)来保护代理,但这会导致幻觉和延迟的问题。因此,我用Rust编写了一个防火墙,运行时间在五毫秒以内。这个防火墙通过制定计划并执行计划来工作;对于每个动作调用,它使用模型上下文协议列表进行强制执行,而对于序列,它会跟踪每一个工具调用和数据流。此外,还有一个污点机制,如果代理读取了用户上下文之外的内容,它会标记并添加更多的安全机制。它的工作原理是使用有向无环图(DAG)。