跳到正文
10月21日周三
  1. The Decoder52

    Nvidia DSX POD 可将 AI 数据中心部署周期从六个月缩短至十四天

    Nvidia 在 GTC Berlin 发布 DSX POD,这是基于 Nvidia Vera Rubin 系统的模块化数据中心参考设计。戴尔、HPE、联想和施耐德电气等合作伙伴在工厂将计算设备、网络、布线、供电和液冷安装进集装箱并完成测试,现场只需接通电源、冷却和网络。

    推荐理由:给出了 DSX POD 的模块化方案和预计部署周期,有助于评估 AI 数据中心硬件交付路径。

  2. NVIDIA Blog45

    NVIDIA 扩展 Confidential Computing,新增 Bare Metal 部署选项

    NVIDIA 宣布扩展 Confidential Computing,新增 Confidential Bare Metal 部署选项,使前沿模型构建者能够在第三方专用基础设施上运行敏感工作负载,同时保留对模型和数据的控制。

    推荐理由:原文给出了新增的 Bare Metal 部署选项与支持的云厂商,读者可据此评估隐私计算能力的落地范围。

  3. NVIDIA Blog45

    NVIDIA 宣布 cuDSS 库正式全面公开可用,加速工程与科学仿真

    NVIDIA 今日宣布 cuDSS 库正式全面公开可用(GA)。该 CUDA-X 库将工程与科学仿真中求解大型稀疏系统的核心步骤转移到 GPU 执行,以加速仿真流程。

    推荐理由:NVIDIA 官方宣布 cuDSS 库正式发布,原文列举了多家头部工业软件厂商的实测加速数据,读者可直观了解其对仿真工作流的实际提升。

  4. Mistral AI51

    Mistral与NVIDIA合作推进AI工业工程工作流

    Mistral与NVIDIA宣布合作,将Mistral Large 4与NVIDIA CUDA-X、Warp和Omniverse结合,用于加速CAE/EDA仿真和闭环设计。

    推荐理由:双方明确了Mistral Large 4与NVIDIA计算栈的结合方式,以及针对CAE/EDA智能体的公开基准计划,对工程AI落地路径有参考意义。

  5. NVIDIA Blog46

    NVIDIA GTC 发布 DGX Spark 与 RTX Spark 更新,扩展本地 Agent 与编码模型支持

    NVIDIA 在 GTC Berlin 发布本地 AI 软硬件更新,DGX Spark 64GB 系统于 10 月 23 日开放,支持多机集群连接,可扩展至 8 台以运行 GLM 5.3 等更大模型。

    推荐理由:NVIDIA 发布 RTX Spark、DGX Spark 和 DGX Station 的本地硬件与软件更新,明确哪些模型可在桌面级别运行及推理优化效果。

  6. Hugging Face Blog61

    Hugging Face 发布 SimReady Central:面向机器人与 AI 工厂的超 2000 个 SimReady OpenUSD 资产库

    Hugging Face 宣布发布 SimReady Central Library,提供一个包含超过 2000 个已准备好仿真属性的 OpenUSD 资产库,用于构建机器人物理 AI 训练环境和 AI 工厂数字孪生。

    推荐理由:原文明确发布了 SimReady Central 库并给出使用方式和 OEM 准入路径,适合关注物理 AI 仿真生态的读者评估其对现有开发流程的影响。

  7. NVIDIA Blog47

    NVIDIA 在欧洲发布 Nemotron 3.5 等新开源模型

    NVIDIA 宣布扩展其开源模型系列,新增 Nemotron 3.5 Super VL 和 Nemotron 3.5 Bolt 等模型,用于构建定制应用。此次发布还包括 Cosmos 3.5 世界模型、Kumo 结构化数据模型、BioNeMo RFD4-Proteina 蛋白质设计模型以及 Ising 量子计算模型。

    推荐理由:NVIDIA 在欧洲发布多款开源模型,涵盖语言、机器人和蛋白质设计,并列出具体合作方与部署渠道。

  8. Latent Space77

    DeepSeek 开源 DeepInfer 推理引擎并披露生产数据与经济学细节

    DeepSeek 在 PyTorch Conf 首日开源生产级推理引擎 DeepInfer,基于 vLLM 并进行定制,支持分布式推理、投机解码、SWA Bounded Replay 和结构化输出,兼容 NVIDIA 和 Huawei Ascend 平台。

    推荐理由:DeepSeek 开源生产级推理引擎并披露大规模缓存下的产能与成本结构,为行业提供了可复用的工程基线与经济学参照。

  9. AWS Machine Learning Blog52

    i14 在 AWS Trainium2 上训练与部署 Laplace 3B 线性注意力模型

    i14 与 AWS 合作将 Laplace 3B 线性注意力模型部署到 AWS Trainium2,通过 TorchNeuron Native 使用原生 PyTorch 保留 GLA 架构,单 trn2.48xlarge 训练吞吐约 12 万 token/秒,推理 1,280 并发序列输出 11,544 token/秒。

    推荐理由:原文给出了模型设计与 Trainium2 工程适配细节,读者可据此评估其在长上下文场景下的部署可行性。

  10. Latent Space55

    SF Compute CEO:用可编程数据中心构建物理交割的GPU交易市场

    SF Compute CEO Evan Conrad在AIE NYC介绍其构建GPU交易市场的进展:通过物理交割而非现金结算,将集群的软硬件约束(如存储恢复速度、GPU世代、InfiniBand分区)融入订单簿匹配。目前5%容量上链,支持1小时至3-5年远期合约,批处理与实时推理因中断风险不同而定价差异显著。公司不持有硬件以保持中立,并推出了可动态划分配件的网络虚拟化功能。

    推荐理由:通过物理交割和可编程数据中心构建GPU合约市场,揭示了算力作为可交易资产的工程约束与金融套利逻辑。

  11. The Decoder74

    DeepSeek 开源 DeepInfer 推理引擎

    DeepSeek 在 Apache License 2.0 下开源内部推理框架 DeepInfer,支持 V4.1-Flash 模型高速低成本响应;基于 vLLM 优化,提供分布式处理与更快文本生成,并开源 deepseek-recipe 复现官方 API token 处理方式。

    推荐理由:DeepSeek 开源推理框架降低自托管成本,同时为自身模型提供标准化部署能力。

  12. TechCrunch · AI70

    Google 发布 TorchTPU 加入打破 NVIDIA 主导地位的行动

    Google 宣布开源 TorchTPU,使开发者能把 PyTorch 应用迁移到 Google TPU 和 Google Cloud。Amazon 同时推出 TorchNeuron,把 PyTorch 应用迁移到 Trainium 和 AWS,并准备把解耦 NVIDIA 的代码提交给 PyTorch 主项目。

    推荐理由:报道给出了 Google 和 Amazon 各自推出的 PyTorch 开源适配层,读者可以据此评估 AI 芯片竞争格局的变化。

  13. AWS Machine Learning Blog50

    Octave 基于 Amazon Bedrock 构建多租户 AI 基础架构与实践

    Octave Reliance 团队利用 Amazon Bedrock、Cohere Embed v4 和 AgentCore 为超过 14,000 个客户构建了支持语义搜索的多租户 AI 基础架构,解决了跨租户隔离、不可信文档注入及 20 亿级文档快速入库等难题,将新用例部署时间缩短 50%。

    推荐理由:原文详述了如何在强隔离约束下构建SaaS AI基础架构,给出了Cohere Embed v4选型与AgentCore隔离设计的可复用经验。

  14. AWS Machine Learning Blog39

    AWS 发布通过 Amazon Quick 与 AgentCore 构建供应链智能体的参考架构与部署指南

    AWS 发布参考架构与部署指南,展示如何用 Amazon Bedrock AgentCore 和 Amazon Quick 把供应链多系统数据变为自然语言对话智能。

    推荐理由:原文给出一套可复用的供应链智能体参考架构与分步部署指南,覆盖 AgentCore、MCP 连接器和 Amazon Quick 的端到端集成。

  15. AWS Machine Learning Blog45

    Smartsheet MCP Server 发布,支持通过自然语言操作项目数据

    Smartsheet 发布通用可用的 MCP Server,提供 40 多种工具用于读取、写入和管理 Smartsheet 数据,已与 Amazon Quick 和 Kiro 集成。该服务可通过 Streamable HTTP 在商业 US、EU 和 AU 三个区域访问,使用 OAuth 2.0 或个人访问令牌认证,允许项目经理和业务用户通过自然语言查询项目状态、更新任务以及生成摘要。

    推荐理由:官方给出通过 MCP 协议对接 Smartsheet 的具体步骤,适用于想在 Amazon Quick 或 Kiro 中使用工作管理数据的场景。

  16. AWS Machine Learning Blog36

    Smartsheet MCP Server 通用版发布,支持 Amazon Quick 与 Kiro 接入

    Smartsheet 发布了通用可用的 MCP Server,提供 40 多个工具用于读取和管理表格、任务与自动化。可通过 Amazon Quick 让业务人员用自然语言查询和更新项目状态,或通过 Kiro 让开发者在不切换工作流的情况下获取 Sprint 数据并自动更新任务。

    推荐理由:文章演示了通过 MCP 连接 Smartsheet 到 Amazon Quick 和 Kiro 的实操流程,可直接复制配置参考。

  17. Hugging Face Blog75

    Hugging Face 原生支持 TPU:TorchTPU 发布与生态整合

    Hugging Face 推出 TorchTPU,将 TPU 作为 PyTorch 原生后端,Transformers 和 Diffusers 现在可直接在 TPU 上运行,无需 PyTorch/XLA。TPU 上运行 Qwen3-30B-A3B 等模型时,结合 Pallas 内核可实现最高 21.5 倍的解码加速,目前 96.5% 的测试通过。

    推荐理由:Hugging Face 官方介绍 TorchTPU 后端及 Transformers、Diffusers 的 TPU 原生支持,读者可了解迁移成本与性能收益。

  18. AWS Machine Learning Blog39

    AWS 教程:用 Strategy Mosaic 与 Bedrock AgentCore 构建 Agent 语义层

    AWS 发布系列第三篇教程,使用 Strategy Mosaic 在 Amazon Redshift 与 Aurora 上构建面向 Agentic AI 的维度语义层,并通过 MCP 端点将模型暴露给托管在 Amazon Bedrock AgentCore 中的 Strands Agent。

    推荐理由:文章给出基于 AgentCore 与 Mosaic 的 Agent 接入落地方案,适合想通过 MCP 把语义层接入智能体的工程师参考。

  19. AWS Machine Learning Blog60

    AWS 正式推出 Agent Registry,支持运行时发现 MCP 和 A2A 智能体

    AWS Agent Registry 现已全面可用,是用于目录化和发现 Model Context Protocol (MCP) 服务器、Agent-to-Agent (A2A) 智能体及智能体技能的托管服务。

    推荐理由:AWS 正式推出 Agent Registry,支持 MCP 和 A2A 协议运行时发现,读者可据此评估企业级智能体编排的解耦与治理方案。

  20. MIT Technology Review · AI23

    HPE:企业 AI 的经济学已进入有效成本时代

    HPE 提出企业 AI 的经济衡量指标应从 Token 成本转向有效结果成本。其 Private Cloud AI 平台通过调度、模型选择等杠杆提升利用率,独立测试显示多负载高利用率场景下单次 Token 成本低于重复租赁。文章指出持续关键负载应视作长期运营资产而非单纯采购。

10月20日周二
  1. The Decoder76

    Cloudflare 发布 Clairic 模型,文档数据提取比 LLM 更快更便宜

    Cloudflare 发布 Clairic 模型,从文档中提取数据速度更快且成本更低。该模型在 Workers AI 上提供预览版,用户指定字段后单次返回匹配值与置信度。测试中结合 Clef 决策模型和 GLM-5.3 写入回复,整条链耗时 19.3 秒,成本仅为单独使用 GLM-5.3 的一半。

    推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。

  2. Hugging Face Blog45

    PyTorch 2.15 为 Mac 引入 FP8 支持与 LLM 解码加速

    PyTorch 2.15 为 Mac 带来多项改进。FP8 浮点支持到达 MPS,可通过 F.scaled_mm 直接进行 GPU 矩阵乘法。MoE 模型在 M3 Ultra 上使用 torch.compile 解码速度提升 5–6.6 倍,Qwen3.6-35B-A3B 从 9.4 提升至 61.3 tokens/s。

    推荐理由:PyTorch 2.15 为 Mac 带来 FP8、MoE 加速和大量 Metal 原生内核,读者可据此评估本地运行大模型与视频生成的实际提升。

  3. TechCrunch · AI70

    Nvidia 发布 Nemotron 3.5 系列开源模型

    Nvidia 周四发布新版开源权重模型,包括面向企业智能体的 1200 亿参数 Nemotron 3.5 Super VL,以及两款可在 AI PC 本地运行的轻量级 Bolt 模型。

    推荐理由:Nvidia 同时推出面向企业的 Nemotron 3.5 Super VL 和面向 PC 的两款 Bolt 模型,覆盖不同场景的部署需求。

  4. AWS Machine Learning Blog45

    Amazon Bedrock 为 Anthropic Claude 模型提供结构化输出与严格工具调用

    Amazon Bedrock 现已为所有 Anthropic Claude 模型提供结构化输出,涵盖 bedrock-runtime 和 bedrock-mantle 端点。使用 constrained decoding 可在生成过程中强制 JSON 符合定义 Schema,并把 Strict tool use 用于 Agentic 工作流,从而减少解析与重试成本。

    推荐理由:官方给出能力变化、代码示例与最佳实践,读者可直接评估如何用于生产。

  5. AWS Machine Learning Blog40

    Amazon SageMaker Studio 接入新 AWS 注册体验

    Amazon SageMaker AI 推出新的注册体验,新用户可以仅用 2–3 步通过 Google、GitHub、Apple、Amazon 账号或电子邮件创建 AWS 账户并进入 SageMaker Studio,无需填写信用卡或验证手机。新用户可获得最多 200 美元的 Free Tier 积分,环境约 20 秒自动配置完成,预置权限并默认提供 G5、G6 和 G4dn GPU 实例访问。

    推荐理由:官方给出了新用户从发现模型到部署模型的实际路径和免费额度,读者可以据此判断它是否降低了 SageMaker 的使用门槛。

  6. TechCrunch · AI70

    微软推出 Guardian Agents 应对 AI 智能体安全威胁

    微软宣布新增 Guardian Agents 等安全功能,作为 Project Perception 的一部分,用于监控企业部署的 AI 智能体。CEO Satya Nadella 称前沿模型不可信任,主张将智能体的供应与其权限分离;安全主管 Hayete Gallot 指出现有模型因不可预测且缺乏组织判断力,不能被视为可信。

    推荐理由:Microsoft 以内部威胁为视角推出 Guardian Agents 等安全功能,反映了业界对 frontier 模型不可靠的担忧及厂商利益冲突。