嗨！这里有历史爱好者吗？我制作了一个名为《时间别针》的小游戏，灵感来自于Geo Guessr，但主题是历史。你可以在这里玩（它在桌面和移动设备上都能运行）。任何反馈都非常欢迎：<a href="https://www.crazygames.com/game/time-pin" rel="nofollow">https://www.crazygames.com/game/time-pin</a>
<p>现在来介绍一些细节：游戏的目标是猜测一个角色来自的时间和地点。你需要根据一些环境照片和可以向角色提问的问题来做出猜测（你有12个问题，但只能问5个，所以必须谨慎选择）。</p>
<p>你猜得越接近，得分就越高。最后，会揭示角色的肖像照片，以及一些教育资源，帮助你进一步了解他们的文化和时代（包括文章、视频、播客等）。</p>
<p>目前游戏只有5个关卡，但我希望将来能有超过100个。制作关卡很困难，因为这需要一些研究，加上使用人工智能生成照片（如果没有人工智能，我们只能使用从19世纪相机发明后才有的照片）。</p>
<p>我制作这个游戏的目标是创造一个挑战，同时也许能激发一些对历史的好奇心。</p>
返回首页
最新
WaveletLM是一种基于小波变换的无注意力架构，它用学习到的提升小波分解、快速沃尔什-哈达玛变换、每个尺度的门控谱混合（使用SwiGLU激活函数）、逆快速沃尔什-哈达玛变换和小波重构替代了自注意力机制。结合扩展的多层感知器（MLP）和稀疏产品键记忆，这使得模型在序列长度上具有O(n log n)的扩展性。
在WikiText-103上，WaveletLM的困惑度为23.8，超越了在80倍数据上训练的GPT-2 Medium和使用递归扩展有效上下文的Transformer-XL Standard。由于预算限制，该模型训练不足且正则化不足，因此还有很大的发展和改进空间。
我邀请任何感兴趣的人来检查该模型，进行测试，并进一步扩展其能力。所有代码和权重都是完全开源的，PG-19的运行将在2-3天内完成。在4-5 GB的显存下，生成速度为28.8个标记/秒，使用20 GB显存的情况下，模型的训练时间为16.25小时，均在5090上进行。
比较表、说明、日志和未来计划的README：
<a href="https://github.com/ramongougis/WaveletLM" rel="nofollow">https://github.com/ramongougis/WaveletLM</a>
权重：
<a href="https://huggingface.co/ragou19/WaveletLM/tree/main" rel="nofollow">https://huggingface.co/ragou19/WaveletLM/tree/main</a>
生成结果：
<a href="https://github.com/ramongougis/WaveletLM/blob/main/logs/wikitext-103_2026-04-22_01-36-47/generations.txt" rel="nofollow">https://github.com/ramongougis/WaveletLM/blob/main/logs/wiki...</a>
以下样本是为了连贯性而选择的，而非事实准确性。确保事实准确性需要扩展和下游技术，如RAG和指令调优。
> 这座城市的历史体现在其建筑中，包括历史悠久的老城区和新城堡县法院广场历史区。该建筑由约翰·H·史蒂文斯设计，他还设计了1906年的阿尔巴尼-富尔顿庆典，并在湖岸建造了一座钢壳船厂。
> 该专辑于2007年8月25日由索尼音乐娱乐公司发行，包含多首歌曲，包括《Never Say Die》、《The Show》、《Don't Cry for Me Argentina》和《I Can Only Imagine (But You Are Not Alone)》的翻唱。
> 该物种首次由瑞典动物学家卡尔·林奈于1758年描述为Agaricus adustus。属名源自拉丁词perma“绑”，而pous（“像”）意为“有大头”。1821年，法国真菌学家让-巴蒂斯特·德·拉凯尔将其归入食肉目Cricetae部分。他后来将其重新命名为Spongiforma punctata，源自希腊语kribensis。