1作者: zerocool86大约 1 个月前原帖
我花了20年时间构建后端系统,过去12年专注于云基础设施。现在,我开始朝另一个方向发展。 我的论点不是“本地人工智能更好”,而是构建可信替代品的窗口正在关闭。苹果、谷歌、亚马逊都在关注本地推理的可行性。他们的回应将是“本地”人工智能,它会与云端连接——在设备上处理的同时,强制要求云端功能,隐私营销也会伴随遥测要求。 一旦这些默认设置推出,替代品的存在就无关紧要了。大多数人在便利的选择已经存在时,从不会去寻找其他选项。搜索、社交、移动、云服务——这一模式不断重复。 我一直在问的问题是:如果本地优先的替代品无法赢得市场份额,构建它们是否还有意义?我目前的答案是肯定的——一个可信的退出选项的存在会改变平台的行为,即使大多数用户从未使用过。 但我也意识到这可能只是一种自我安慰。自托管的群体在每一场重大斗争中都失败了。电子邮件、消息传递、社交——私人选项每次都只停留在小众。也许人工智能是不同的,因为这些模型终于能够在小规模下运行。也许并非如此。 我正在这个领域构建一些东西。想知道其他人是否也看到同样的机会,还是我只是在将个人偏好合理化为市场需求。
2作者: kingcauchy大约 1 个月前原帖
Go 1.26 通过 GOEXPERIMENT=simd 添加了原生 SIMD。这一库提供了一个可移植性层,使得相同的代码可以在 AVX2、AVX-512 上运行,或回退到标量模式。<p>灵感来源于谷歌的 Highway C++ 库。<p>包括向量化数学运算(如 exp、log、sin、tanh、sigmoid、erf),因为这些在机器学习/科学代码中经常使用,而标准库中没有 SIMD 版本。<p>函数:algo.SigmoidTransform(input, output)<p>需要 go1.26rc1。欢迎反馈。