偏偏宠爱

从HBM到SSD：被严重低估的AI存储长周期逻辑_蜘蛛资讯网

思路是把一些静态的事实性知识从 DRAM 挪到 SSD，或者把 KV cache 压缩 4 到 6 倍，从而释放更多的 HBM 和 DRAM 空间。但都是Jevons 悖论，已经有很多人解释过了，这里不再赘述。          200 到 300EB 的需求从哪里来     

钟的视频内容，存储体积是同样时长文本的 10000 倍。          这不是危言耸听。想想 Claude 的截图分析功能，想想各种 AI 视频生成工具，想想那些正在路测的自动驾驶系统。这些应用产生的数据，不仅体积庞大，而且全都是热数据，必须随时可以被快速读取。      &

当前文章：http://sfmt7o7.hengmuyao.cn/boab/m7tm3.html

发布时间：00:00:00