MIT Technology Review · AI· Tim Rausch·· 11 天前精选AI 评分50
AI 推理在后台留下的存储成本远超输出文件
AI’s hidden storage bill: What inference leaves behind
AI 导读
WD 指出每次模型推理都会在后台留下日志、缓存和备份等数据,一份 8 秒视频的用户输出仅约 4MB,后台留存却超过 500MB。IDC 调查显示近 95% 的企业因生成式 AI 导致数据量增长,其中 61% 增速达 25% 以上。作者认为存储支出正在超越按训练周期预算的计算预算,需要按数据生命周期规划容量。
推荐理由
文章量化了推理产生的隐性存储成本并给出预算建议,企业可对照评估自身存储支出是否被低估。
来源:MIT Technology Review · AI · technologyreview.com