返回首页
最新
嗨,HN,
我们是来自乌克兰的Volodymyr和Volodymyr——两个开发者,正在构建WhiteLightning。这是一个工具,可以将大型语言模型(如Claude 4、Grok 4、通过OpenRouter的GPT-4o)转化为*微型ONNX文本分类器*,可以在任何地方运行——甚至是在边缘的无人机上。
我们之所以开发这个工具,是因为许多开发者需要定制模型:垃圾邮件过滤、情感分析、个人信息识别或内容审核工具,但又不想处理频繁的API调用或在生产环境中部署大型模型。
WhiteLightning利用大型语言模型生成训练数据,并训练*KB级别的学生模型*,这些模型可以在任何语言的边缘设备上运行。您只需用一句话描述任务,获取ONNX模型,然后在Python、JS、Rust、Java、Swift、C++等环境中本地运行。
主要特点:
* 一行训练提示
* 支持多种运行时的ONNX导出
* 模型大小以千字节为单位
* 无需TensorFlow或PyTorch
* 支持多语言分类
通过Docker(Linux/macOS)立即试用:
```bash
docker run --rm \
-v "$(pwd)":/app/models \
-e OPEN_ROUTER_API_KEY="YOUR_OPEN_ROUTER_KEY" \
ghcr.io/inoxoft/whitelightning:latest \
python -m text_classifier.agent \
-p "将客户评论分类为积极、中性或消极"
```
我们也支持Windows,通过PowerShell(此处未显示),具有相同的功能——只需相应更改命令样式。
您可以在浏览器中立即试用: [https://whitelightning.ai/playground.html](https://whitelightning.ai/playground.html)
使用案例:
* 个人信息识别(“包含个人信息吗?”)
* 垃圾邮件分类
* 有毒内容与安全内容的审核
* 支持票务紧急程度:高/中/低
* 意图识别:预订/支持/信息
与众不同之处在于,它结合了大型语言模型驱动的训练与边缘设备的性能,无需部署巨型模型或高昂的API使用费用。
* 代码和文档:[https://github.com/whitelightning-ai/whitelightning](https://github.com/whitelightning-ai/whitelightning)
* 社区模型库:[https://github.com/your-username/whitelightning-model-library](https://github.com/your-username/whitelightning-model-library)
我们非常希望听到您的反馈——哪些有效,哪些无效,以及如何改进。谢谢!
我从2008年开始使用HN(Hacker News)。作为一名工程师,这里是我常用的资源,但我也逐渐尊重我们专注于某些话题的事实,这正是HN的魅力所在。我想问的是,在哪里可以以类似的尊重和包容讨论政治和世界问题?我认为X或其他平台并没有以正确的方式促进这种讨论。那里的交流更像是吼叫和诽谤,而不是尊重和理解。你怎么看?
大家好,我创建了 Swatcher.ie 作为一个副项目,旨在实验颜色,后来它发展成为帮助一些家人和朋友在爱尔兰匹配油漆颜色的工具。<p>这个网站是免费的,油漆探索部分不需要登录。也许其他人会觉得它有用。<p>我只是享受这个项目,所以我一直在不断尝试和改进。谢谢!
我想整理一份愿意雇佣非洲人远程工作的公司的名单。<p>我指的是提供稳定性和职业发展的全职永久职位,而不是临时工作、短期合同或零工。<p>特别希望了解哪些公司实际上雇佣了远程的非洲团队成员,而不仅仅是在纸面上提供“全球远程”职位。<p>我会将相关信息添加到 https://www.fanaka.pro。
大家好,我想分享一些我在初创公司工作和创建自己的公司(Soya)过程中学到的经验教训,欢迎大家补充或批评。<p>快速构建和发布,向客户收费并评估需求。<p>在构建之前采访潜在用户,深入了解你所解决的问题。<p>不要盲目相信传统智慧。<p>从第一原则出发思考,最佳解决方案往往不是显而易见的。<p>风险投资并不总是最佳路径,同样不要盲目相信传统智慧。<p>与用户沟通并根据反馈进行迭代。<p>不需要招聘大量员工,通常小团队更高效。<p>关注保罗·格雷厄姆、史蒂夫·布兰克等人的观点。<p>始终从失败中学习。<p>进行迭代,必要时进行调整。<p>寻找市场空白并填补它们,也就是识别机会。<p>要有些疯狂的想法,但同时保持现实。<p>不断测试新事物,快速行动,敢于打破常规。<p>向用户学习,了解他们如何使用你的产品。<p>不要过于执着于添加功能,先把一件事情做好,然后再在此基础上添加其他功能。<p>在营销时尽量避免做广告,转化率很差。理想情况下,如果你构建了一个真正优秀的产品,用户会为你做营销。