1作者: irqlevel2 个月前原帖
正在进行中。用户暂停检测可能无法正常工作,且尚未实现大语言模型/文本转语音的中断功能。 目前已经可以运行并回答问题,但需要使用耳机以避免回声问题(使用笔记本麦克风作为输入,耳机作为输出)。 抱歉,我不是Rust专家,所以代码可能不太优雅,大部分代码是通过编程生成的。
1作者: tonyystef2 个月前原帖
我注意到,如果我花超过5分钟来阅读和/或理解Claude的回复,Anthropic的提示缓存就会过期。接下来的消息会强制进行完整的上下文重建,这样的成本大约是写入的1.25倍,而读取的成本仅为0.1倍,这样会更快地达到速率限制。 因此,我更新了Grov,这是我的开源工具,新增了一个“心跳”模式(--extended-cache),在空闲时间每4分钟发送一个最小的令牌(仅仅是一个句点)。 我们还刚刚推出了云同步功能,这样你的代理可以从你团队成员的会话中学习(共享的推理痕迹),但保持缓存活跃是此次发布的主要“黑科技”。目前它仅适用于Claude代码CLI。 代码采用Apache 2.0许可证。请告诉我你对代理实现的看法。