返回首页
最新
我很好奇在生产环境中,使用大型语言模型(LLM)应用的团队是如何处理重复或冗余的API调用的。
在实验LLM API时,我注意到相同的提示有时会在应用的不同部分反复发送,这导致了不必要的令牌使用和更高的API成本。
对于在生产环境中使用OpenAI、Anthropic或类似API的团队:
你们目前是如何检测或防止重复提示或冗余调用的?
你们是依赖日志和仪表板、缓存层、内部代理服务,还是其他方法?
还是说这通常被认为是一个小问题,大多数团队只是将其视为正常使用的一部分?
在企业世界中,雄心往往被描绘成一段孤独的旅程,是一场自我竞争的战斗,只有一个人能够胜出。我们会关注身边的同事,关注自己之上的职位,并构建出一种竞争的心理叙事。然而,现实却是复杂得多,数据和2025年就业市场的动态呈现出一种更为人性化的图景。超越他人并不是一场拔河比赛,而是一场耐力赛,终点线始终在移动。
理解这种动态的第一步是认识到竞争的环境。最新数据显示,竞争从入门阶段就异常激烈。平均而言,一个职位空缺会吸引约118名申请者,而其中只有22%的人会被邀请面试。对于已经在公司内部的人来说,竞争的形式虽然有所变化,但强度并未减弱。统计数据显示,约80%的职位空缺根本不会在外部发布,而是通过内部填补。这意味着你最大的竞争对手可能并不在市场上,而是在你旁边的办公桌上。优势在于?你已经在游戏中。劣势在于?你在内部的可见度是一把双刃剑。
因此,“超越”同事的观念需要重新框定。这并不是让他们变得渺小,而是扩展自己在公司生态系统中的相关性。这一切始于关注的转变:从他人转向自己。现代组织在人才管理数据的驱动下,寻求的不仅是高效的专业人士,更是一套超越评估表的特质。专家指出,晋升的标准超越了单纯的“在公司工作时间”。虽然资历可能会有所影响,但只有在与已证明的业绩(如高生产力和交付具体结果的能力)相关联时,才具有意义。
教育和资格成为关键的区分因素。这不仅仅是学位的问题,更是对知识不懈追求的过程,为企业增添价值。专业课程、新技术的掌握,甚至对行为动态的理解都受到青睐。我们生活在一个持续学习的专业人士的时代。主动性和积极性则是将知识转化为行动的引擎。成为那个不仅指出问题而且提出解决方案并愿意实施的人,使专业人士处于一个不同的层次。这是成为旁观者与成为主角之间的区别。继续阅读请点击这里:<https://chat-to.dev/post?id=K2VHTWo2aEV6NDV2Vjk4Mml5disrUT09>
我为自己开发了这个系统,因为我意识到作为一个独处的人,没有简单的方法来确保如果我发生了什么事情,其他人会被通知。<p>这个想法很简单:你可以按照自己设定的时间表(每天、每周或自定义间隔)进行签到。如果你错过了截止时间,系统会自动通过电子邮件和短信通知你的紧急联系人。你可以控制发送警报之前的宽限期。<p>它是一个基于Node.js/Express的后端,使用PostgreSQL数据库,前端为PWA,并支持Web推送通知。不需要应用商店。<p>目前处于早期测试阶段——现在仅限邀请,等我解决一些问题后再开放。<p>欢迎提问有关技术实现或产品本身的问题。
作为一个热爱编程和语言学习的人(我现在正在学习日语),我一直希望能有一个免费的开源工具来学习日语,就像打字社区中的Monkeytype一样。
最棒的是:我添加了无数种不同的颜色主题、字体和其他疯狂的自定义选项,灵感直接来源于Monkeytype。此外,我还让这个应用的界面看起来像Duolingo,因为这是我目前用来学习日语的工具,而且很多语言学习者也对此非常熟悉。
令人惊讶的是,人们对这个想法非常喜欢,这个项目在GitHub上也成功达到了1000颗星。现在,我希望继续在这个项目上努力,看看接下来能把它带到哪里。
早在一月份,我甚至开玩笑地申请了Vercel的开源软件赞助计划。我并没有认真期待能获胜,更多是出于好奇,完全预期会失败。
没想到,昨天我醒来时收到了邮件,通知我这个应用已经被Vercel的冬季项目接受了。真是太疯狂了!
GitHub: <a href="https://github.com/lingdojo/kana-dojo" rel="nofollow">https://github.com/lingdojo/kana-dojo</a>
在线演示: <a href="https://kanadojo.com/" rel="nofollow">https://kanadojo.com/</a>
总之,我为什么要做这一切?因为我是个死宅。
どうもありがとうございます!