返回首页
最新
编程语言、框架等只是为了提高开发者的工作效率、代码重用和人类理解。如果我们使用人工智能生成了大量代码,以至于没有人真正去查看或阅读这些代码,只是验证最终功能,那么我们完全可以跳过这些,直接使用汇编语言,不是吗?当然,我们可以重用一些基本的构建模块,比如 TCP/IP 协议、HTTP、套接字等的实现,但像 FastAPI 这样的服务器框架只是对这些内容的友好抽象。
嗨,HN,我是这个项目的开发者。
我意识到在敏感工作流程中使用云端AI API——比如转录董事会会议、光学字符识别(OCR)雇佣合同或处理身份证照片——存在巨大的隐私风险。因此,我使用transformers.js、Whisper和WebGPU构建了一个客户端工作空间。所有操作都在本地进行。您可以在初始模型加载后启用飞行模式,系统仍然可以完美地转录和提取文本。
为了保持透明,我撰写了一份技术审计,详细说明了数据的流动(或者说,数据并没有流动)。我的唯一后端是位于新加坡的一台小型2核节点,运行自托管的Plausible分析:[<a href="https://gist.github.com/ygx2378/3275b333504c6a9def50ef531b548a26" rel="nofollow">https://gist.github.com/ygx2378/3275b333504c6a9def50ef531b54...</a>]
我仍在学习基于浏览器的内存管理,因此非常希望您能反馈一下在您特定GPU上模型的加载情况!