2026
03-30
03-30
内存厂暴跌上百亿 结果只是一个乌龙? NEW
如果不是谷歌 TurboQuant 的搞了这样一场闹剧,我都没发现我们忍 AI 这么久了。这个月的 24 号,谷歌研究院(Google Research)突然发帖,详细介绍一项名为 TurboQuant 的极端压缩算法。内存厂暴跌上百亿 结果只是一个乌龙?这篇帖子非常简单地总结了 TurboQuant 这个算法的用处 —— 它能把大模型推理时的 KV cache 内存压缩到 3.5 bit(约 6 倍),而且几乎不丢精度。翻译成人话就是,谷歌研究院介绍了一种算法,能大幅度减少...
Read More >