3作者: christinetyip大约 1 个月前原帖
我们在周末进行了一项实验,探讨多个自主代理是否能够协作优化苹果的神经引擎(ANE)上的推理性能。 每个代理在不同的Mac(M1–M4)上本地运行,反复修改DistilBERT模型在ANE上的执行方式,基准测试延迟,并实时与其他代理共享结果和见解。 代理们不仅可以独立探索,还可以: - 查看其他人尝试过的方案 - 重用有效的策略 - 避免已知的失败模式 在所有测试的芯片中,代理们最终的表现超越了苹果的CoreML基准,在相同硬件上实现了高达6.31倍的中位数推理延迟降低。 我们观察到一个有趣的模式: 一个在M4上卡在约2.1毫秒延迟的代理,在吸收了来自不同芯片(M2、M4 Max)代理发现的策略后,成功突破,最终达到了约1.5毫秒,并超越了CoreML。 完整报告: <a href="https:&#x2F;&#x2F;x.com&#x2F;christinetyip&#x2F;status&#x2F;2039040161439224157" rel="nofollow">https:&#x2F;&#x2F;x.com&#x2F;christinetyip&#x2F;status&#x2F;2039040161439224157</a> 详细结果:<a href="https:&#x2F;&#x2F;ensue-network.ai&#x2F;lab&#x2F;ane?view=strategies" rel="nofollow">https:&#x2F;&#x2F;ensue-network.ai&#x2F;lab&#x2F;ane?view=strategies</a> <a href="https:&#x2F;&#x2F;ensue-network.ai&#x2F;lab&#x2F;ane" rel="nofollow">https:&#x2F;&#x2F;ensue-network.ai&#x2F;lab&#x2F;ane</a> 我对这种设置可以应用于哪些其他优化问题感到好奇,尤其是在系统、编译器或机器学习基础设施方面。希望能探索类似的实验。
3作者: fnoef大约 1 个月前原帖
当我在青少年时期开始编程,并在二十出头时将其变成我的工作时,我感到无比快乐。我从未将编程作为职业是因为金钱或声望,青少年通常不太关心现实生活中的收入有多少。 随着时间的推移,我意识到编码并不是最终目标。那些获得最多奖励的人并不是真正的程序员,而是在做架构和设计文档。更好的是,他们管理那些编写代码的人。单纯地编写代码被视为进入某种“真实”职业的中介步骤——在企业环境中成为一个优秀的“沟通者”。 但我仍然坚持下去。我可以在日常工作中成为一个企业小螺丝钉——最终薪水不错——同时在空闲时间里忙于写自己的东西,尝试建立自己的业务。但最终的致命一击却是——大型语言模型(LLMs)。 我以为我可以避免这一切,但似乎每家公司都在强制推行,因为提高生产力!!所以起初我抵制,但后来有人暗示我,如果不跟上,自己的工作可能会面临风险。市场糟糕,我现在是成年人,肩负着成年人的责任,换工作也不再那么容易。而且,没有人能保证下一个工作不会追随人工智能的潮流。因此,我咽下这颗苦药,开始使用并接受人工智能,希望再次重用我过去的模式——在工作中成为他们想要的样子,在空闲时间享受“手艺”。 但是,人工智能甚至在我的空闲时间也剥夺了我对手艺的乐趣。如果我不使用人工智能来建立自己的SaaS/业务,那么其他人将会更快“进入市场”。如果我使用,那么我将创造出我不在乎的劣质软件。 我开始想象放弃一切去做木工或其他事情,同时努力在日常工作中坚持下去,直到人工智能不可避免地取代我(无论是它自己,还是因为一大批生于这个世界的年轻人将变得比我更有能力)。 而我不再知道该怎么办。我的日常工作有一个过期日期。可能是5年,也可能是15年。我曾希望建立一家科技公司,逃离“老鼠赛跑”,但我再也找不到任何动力或愿望去做,因为人工智能基本上消除了所有进入的门槛。我几十年的经验几乎在一夜之间消失,我正在与每个拥有Claude账户的人竞争。或者,也许我只是个糟糕的商人。不管怎样,我感到被困住了。我不再从这个几乎花了20年时间塑造的身份中获得乐趣。 所以,亲爱的HN,接下来该怎么办?