返回首页
最新
嗨，HN！我们是来自AMD本地LLM（Lemonade SDK）团队的Jeremy、Victoria、Krishna和Daniel，我们正在构建Infinity Arcade（<a href="https://infinity-arcade.app" rel="nofollow">https://infinity-arcade.app</a>）。这个项目结合了一个开源应用和模型，展示了在大约2亿台配备16GB内存的日常笔记本电脑上进行本地LLM编码的可能性。进展出乎意料地顺利，所以我想在这里分享一下。
问题：虽然使用大型云端模型进行LLM编码非常出色，但今天的开源7B-8B参数模型（普通消费者笔记本电脑的最大尺寸）所产生的结果却毫无启发性。即使我们将自己限制在“简单”的任务上，比如用Python编写复古街机游戏，最好的子8B参数模型也几乎无法生成可用的贪吃蛇和乒乓球游戏。
我们的解决方案：首先，我们需要一个应用程序，使得使用本地LLM进行游戏创建时能够轻松提供准确的提示和功能。我们构建了三个最小代理：Create、Remix和Debug。这使得用户可以创建新游戏、对现有游戏进行修改，并允许系统自动修复自身的错误。
其次，我们需要构建自己的模型，因为没有任何开源产品能够满足需求。我们组建了一个包含超过5万行高质量Python游戏代码的数据集，然后使用LORA SFT创建了Playable1-GGUF（<a href="https://huggingface.co/playable/Playable1-GGUF" rel="nofollow">https://huggingface.co/playable/Playable1-GGUF</a>）：这是目前在这一任务中表现最好的7B模型。它能够处理三倍于其他模型的游戏类型，并且可以实现许多有趣的变体，比如“带有爆炸子弹的太空入侵者”和“每次击打时球加速的打砖块游戏”。
这里有一个短GIF，展示了输出的演示：<a href="https://github.com/lemonade-sdk/assets/blob/main/arcade/aracde-201-demo-shiny.gif" rel="nofollow">https://github.com/lemonade-sdk/assets/blob/main/arcade/arac...</a>
还有一个展示完整用户界面的GIF：<a href="https://github.com/lemonade-sdk/assets/blob/main/arcade/infinity-arcade-demo.gif" rel="nofollow">https://github.com/lemonade-sdk/assets/blob/main/arcade/infi...</a>
最终目标是提供一个参考设计，激励初创公司使用本地LLM进行开发。本地解决方案没有持续的云成本，也没有用户数据通过互联网共享时的隐私/安全问题。主要挑战在于较小本地模型的能力，以及集成一个相对不成熟的软件栈（与OpenAI/Open Router API相比）的工作。我们相信，Infinity Arcade展示了这两个挑战都可以克服，并且本地解决方案的好处可以实现。
你今天可以做的事情：从GitHub下载应用程序，一键安装，运行Infinity Arcade及其LLM，完全免费且本地使用，查看经过微调模型的训练数据和过程，并以此为参考构建自己的应用程序。
链接：
GitHub: <a href="https://github.com/lemonade-sdk/infinity-arcade" rel="nofollow">https://github.com/lemonade-sdk/infinity-arcade</a>
模型: <a href="https://huggingface.co/playable/Playable1-GGUF" rel="nofollow">https://huggingface.co/playable/Playable1-GGUF</a>
我们非常希望听到你的反馈！你是否相信本地解决方案的好处超过了挑战？你是否拥有开始所需的所有资源？请在评论中告诉我们！
嘿，HN，
我非常喜欢阅读关于代理编码和Claude代码主题的博客，这些博客探索新思想并讨论代理编码的高级话题。
杰西最近在他的博客 blog.fsck.com 上发表的几篇文章就是我所寻找的好例子。阅读这样的文章真的很有启发性、教育意义、愉快且令人兴奋。
我也很喜欢阅读Geoffrey Huntley在 ghuntley.com 上发布的新文章。
无论是博客、聚合网站还是YouTube频道，如果你知道在这个领域非常活跃的作者或内容创作者，我将非常感激你的推荐。
抱歉，我无法直接翻译链接内容。不过，如果您能提供链接中的具体文本或信息，我将很乐意为您进行翻译。
我在从 Arc 切换到 Chrome 时感到沮丧，因为失去了使用 `cmd+shift+C` 复制页面 URL 的功能。现有的扩展程序往往不够可靠。<p>于是我开发了 Arclet Copier。本文讲述了这一过程，重点介绍了我如何通过使用 Chrome 的离屏文档 API 来克服传统内容脚本注入的局限性，从而实现接近原生的复制可靠性。<p>此外，还详细描述了我在开发该扩展的过程中，99% 的工作是借助 AI（Claude Code）完成的，期间消耗了大约 5 亿个令牌。