跳到正文
MIT Technology Review · AI· Tim Rausch·· 11 天前精选AI 评分50

AI 推理在后台留下的存储成本远超输出文件

AI’s hidden storage bill: What inference leaves behind

AI 导读

WD 指出每次模型推理都会在后台留下日志、缓存和备份等数据,一份 8 秒视频的用户输出仅约 4MB,后台留存却超过 500MB。IDC 调查显示近 95% 的企业因生成式 AI 导致数据量增长,其中 61% 增速达 25% 以上。作者认为存储支出正在超越按训练周期预算的计算预算,需要按数据生命周期规划容量。

推荐理由

文章量化了推理产生的隐性存储成本并给出预算建议,企业可对照评估自身存储支出是否被低估。

来源:MIT Technology Review · AI · technologyreview.com