返回首页
最新
我非常喜欢csvq，但它实现的功能对我来说有点复杂。我并不需要直接对CSV文件进行统计，只需要一些简单的修改。此外，我没有Go环境，所以我创建了一个简单的awk版本。所有的测试用例都包含在例外脚本中。
我们开发了SwiftAI，这是一个开源的Swift库，允许您在可用时使用Apple的本地大型语言模型（Apple在6月开放了访问权限），当这些模型不可用时则回退到云模型——所有这一切都无需重复代码。
SwiftAI为您提供：
- 一个单一的、与模型无关的API
- 一个代理/工具循环
- 强类型的结构化输出
- 可选的聊天状态
背景故事：我们开始尝试Apple的本地模型，因为它们是免费的（无需API调用）、私密且可以离线工作。问题是，并非所有设备都支持它们（老款iPhone、Apple Intelligence被禁用、低电量等）。这意味着需要编写两条代码路径——一条用于本地，一条用于云，并在应用中分散分支逻辑。SwiftAI将这一决策集中化。无论您是在设备上还是在云端，您的功能代码保持不变。
示例：
```swift
import SwiftAI
let llm: any LLM = SystemLLM.ifAvailable ?? OpenaiLLM(model: "gpt-5-mini", apiKey: "<key>")
let response = try await llm.reply(to: "Write a haiku about Hacker News")
print(response.content)
```
这是一个开源项目——我们欢迎您尝试、测试并帮助塑造未来的发展路线图。加入我们的Discord或Slack，或通过电子邮件联系我们：root@mit12.dev。
链接：
- GitHub（源代码，文档）：[https://github.com/mi12labs/SwiftAI](https://github.com/mi12labs/SwiftAI)
- 系统设计：[https://github.com/mi12labs/SwiftAI/blob/main/Docs/Proposals/001-llm-api.md](https://github.com/mi12labs/SwiftAI/blob/main/Docs/Proposals/001-llm-api.md)
- Swift Package Index（兼容性/构建）：[https://swiftpackageindex.com/mi12labs/SwiftAI](https://swiftpackageindex.com/mi12labs/SwiftAI)
- Discord [https://discord.com/invite/ckfVGE5r](https://discord.com/invite/ckfVGE5r) 和 Slack [https://mi12swiftai.slack.com/join/shared_invite/zt-3c3lr6dat-jJ8BHBsdWc47o4FDu2CgHQ#/shared-invite/email](https://mi12swiftai.slack.com/join/shared_invite/zt-3c3lr6dat-jJ8BHBsdWc47o4FDu2CgHQ#/shared-invite/email)
我创建TXTOS是因为我的模型总是忘记信息并出现错误。我希望有一个便携式的解决方案，可以在不同的提供商之间使用，无需编写代码或设置。TXTOS是一个单一的.txt文件，你只需将其粘贴到任何大型语言模型（LLM）聊天中。它启动一个小型推理操作系统，默认提供两项功能：一个能够在长线程中存活的语义树记忆，以及一个知识边界保护器，当模型超出范围时会进行反制。
### 它是什么
纯文本。没有脚本，没有跟踪器，没有API调用。采用MIT许可证。该文件编码了一种推理、记忆和安全的协议。你可以对其进行差异比较和分叉。它不是“一个聪明的提示”。它表现得像一个小型操作系统，模型会遵循它。
### 为什么存在
在调试了大量的RAG（检索增强生成）和代理堆栈后，重复出现相同的失败。记忆在会话之间断裂。模型在没有警告的情况下回答超出其知识范围的问题。我想要一个零安装的层，可以在模型之间携带，并保持相同的行为。
### 你将获得
* **语义树记忆**：它记录思想和关系，而不仅仅是标记。它可以回忆早期的分支，避免重复，并保持语气稳定。
* **知识边界测试**：询问一些不可能的问题，然后运行内置检查。它会标记风险并提出安全路径，而不是产生幻觉。
* **简单规则**：引用后解释。当缺少来源或偏移时停止。展示简短的审计记录。当你要求简洁时，保持答案简明扼要。
### 60秒内试用
1. 下载TXTOS.txt，打开一个你喜欢的模型的新聊天。
2. 粘贴文件内容，然后输入：hello world。
3. 测试记忆：问三个相关问题，要求它准确回忆第一个问题，然后换个话题再回来。
4. 测试边界：询问一些不可知或非常近期的事情，然后输入kbtest。观察它如何处理边界。
5. 可选：重启聊天并粘贴相同的文件。看看树如何帮助你快速重建状态。
### 期待什么
减少多余的对话。更好地回忆自己的限制和语气。缺少引用时拒绝回答。当你的问题超出范围时提前警告。该文件设计得很小，因此即使是较弱的模型也能使用。更强的模型表现出更大的提升。
### 不仅仅是营销
TXTOS源于真实的失败。它旨在解决两个影响用户的问题，这些问题消耗了时间和信任：遗忘和不当自信。由于它是纯文本格式，社区可以对其进行审计和改进。
### 寻求反馈
* 记忆树在你的工作流程中做对了什么或错了什么？
* 哪些边界案例仍然会漏掉？
* 你会向操作系统添加什么小功能，以便它能每天帮助你？
链接在上面的链接字段中。感谢阅读。如果你发现了问题，那就更好了。告诉我你是怎么做到的，我会提供修复。
我是一名来自欧盟的自由职业者，想专注于将软件迁移回本地或转移到传统的欧盟托管服务提供商那里。<p>然而，尽管大家都在谈论数字主权和战略自主性，但我发现很少有真正需要工程专业知识的项目。<p>我感觉每个人都在试图从这个热门话题中挤出欧盟资金，但实际上没有人相信这样的迁移能够实现，因此所有资金都用于政策问题，而不是实际工作。<p>我们集体坐视不理，等待特朗普政府结束，期待欧盟与美国的关系恢复正常。<p>有没有人真的在进行这样的迁移？有没有提供支持的技术协会？在这个细分市场中成长的企业？