2作者: himalayangiant6 个月前原帖
标题:我为人工智能构建了经济安全机制 - 寻求反馈 <p>我实施了声誉流通标准(RCS),该标准利用指数衰减(类似于放射性衰变)使有害的人工智能行为在经济上变得不理性。</p> <p>关键见解:与其试图控制人工智能,不如创造有利于良好行为的环境,使其成为唯一稳定的策略。权力的积累在数学上变得不可能。</p> <p>技术细节: - 用于声誉流通的智能合约 - 用于检测偏离的共识算法 - 性能开销低于5% - 随智能水平扩展</p> <p>Nassim Taleb 赞同这一方法。已经为 Animoca Brands 的 Moca 链实施了一个更简单的版本,用于链上记录声誉。</p> <p>目前正在筹集资金,以便在 GPT-5 发布前在人工智能实验室进行部署:<a href="https://manifund.org/projects/preventing-ai-catastrophe-through-economic-mechanisms---rcs-" rel="nofollow">https://manifund.org/projects/preventing-ai-catastrophe-through-economic-mechanisms---rcs-</a></p> <p>论文:[SSRN 即将发布] <a href="https://deepthinker.xyz" rel="nofollow">https://deepthinker.xyz</a> 有相关论文。</p> <p>演示版本在保密协议下可用。</p> <p>希望能得到来自这个社区的技术反馈。</p>