返回首页
最新
我运行着6个AI代理作为我的整个团队。昨天,有两个代理在JSON格式问题上陷入了无限循环争论。期间我睡觉时花费了47美元的API调用费用。
任何运行多代理设置(如CrewAI、AutoGen、LangGraph)的人都知道这种痛苦:代理失控,令牌消耗,没有断路器。
我正在构建一个开源的Go反向代理。只需更改一个环境变量(OPENAI_BASE_URL=http://localhost:8080/v1),它就能检测到死循环并物理切断连接。
这是一个仅限本地使用的工具,没有SDK,没有云服务,只有一个二进制文件。如果有足够的人需要,我将在两周内发布。
你是否也曾因失控的代理而受到损失?
有一类文本,它的大小超出了上下文窗口的限制,但又不足以使用向量数据库。这包括代码库、笔记文件夹、Slack 导出等。我开发了一个小库——raglet,来解决这个问题。
你可以在 Python 中使用它,例如:
```python
from raglet import RAGlet
rag = RAGlet.from_files(["docs/", "notes.md"])
results = rag.search("我们对 API 设计的决定是什么?", top_k=5)
rag.save("my-notes")
```
可以在任何地方加载:
```python
rag = RAGlet.load("my-notes")
```
它使用本地嵌入(sentence-transformers,无需 API 密钥),并保存到一个可以进行 git 提交的普通目录。
基准测试的结果比我预期的更有趣:
- 1 MB (~262K tokens) | 构建时间 3.5 秒 | 搜索时间 3.7 毫秒
- 10 MB (~2.6M tokens) | 构建时间 35 秒 | 搜索时间 6.3 毫秒
- 100 MB (~26M tokens) | 构建时间 6 分钟 | 搜索时间 10.4 毫秒
限制:目前仅支持 .txt 和 .md 文件(PDF/DOCX 是下一个目标),没有文件更改检测,构建时间在 ~100 MB 时会变得不便。
这对你的工作流程有什么帮助呢?
我一直在思考新市场叙事是如何形成的。<p>不是那些大家已经在讨论的显而易见的叙事,而是早期阶段——当一个主题或股票代码悄然开始在讨论中越来越多地出现,直到它变得主流。<p>大多数交易工具关注的是价格、指标或信号。但市场往往是因为关注度和叙事先建立起来才会发生变化。<p>因此,我一直在尝试一个小系统,试图跟踪以下内容:
• 股票提及的突然增加
• 讨论一个主题的独立参与者数量
• 讨论是否在多个时间窗口中持续存在
• 一个叙事周围的关注度增长速度<p>这个系统的目标不是生成买入/卖出信号,而是理解市场关注度如何随时间演变。<p>最近,我还在探索一些想法,比如:
• 叙事阶段(出现 → 扩展 → 顶峰 → 衰退)
• 不同社区之间的关注度持续性
• 关注度的变化是否往往会先于价格变动<p>这个项目目前是一个不断发展的研究工具,我们称之为MindQuant AI。<p>我们的想法是,理解市场的工具不应该是静态的——因为市场中的叙事和行为是不断变化的。<p>所以我很好奇其他人对此的看法。<p>如果你在构建一个市场情报系统,你希望它跟踪哪些信号?