OpenAI 介绍 ChatGPT 广告系统架构
OpenAI 发布文章,介绍 ChatGPT 如何构建基于 LLM 的广告系统,重点说明该系统如何理解对话意图、将广告与回答分离,以及规模化投放相关内容。
OpenAI 发布文章,介绍 ChatGPT 如何构建基于 LLM 的广告系统,重点说明该系统如何理解对话意图、将广告与回答分离,以及规模化投放相关内容。
Nvidia 在 GTC Berlin 发布 DSX POD,这是基于 Nvidia Vera Rubin 系统的模块化数据中心参考设计。戴尔、HPE、联想和施耐德电气等合作伙伴在工厂将计算设备、网络、布线、供电和液冷安装进集装箱并完成测试,现场只需接通电源、冷却和网络。
推荐理由:给出了 DSX POD 的模块化方案和预计部署周期,有助于评估 AI 数据中心硬件交付路径。
NVIDIA 宣布扩展 Confidential Computing,新增 Confidential Bare Metal 部署选项,使前沿模型构建者能够在第三方专用基础设施上运行敏感工作负载,同时保留对模型和数据的控制。
推荐理由:原文给出了新增的 Bare Metal 部署选项与支持的云厂商,读者可据此评估隐私计算能力的落地范围。
NVIDIA 今日宣布 cuDSS 库正式全面公开可用(GA)。该 CUDA-X 库将工程与科学仿真中求解大型稀疏系统的核心步骤转移到 GPU 执行,以加速仿真流程。
推荐理由:NVIDIA 官方宣布 cuDSS 库正式发布,原文列举了多家头部工业软件厂商的实测加速数据,读者可直观了解其对仿真工作流的实际提升。
欧洲工业领袖正在通过 NVIDIA CUDA-X、Omniverse、Cosmos 和 Nemotron 等技术在工程与制造全生命周期中提升生产力。NVIDIA Factory Operations Blueprint (FOX) 现已在 GitHub 开放早期访问,开发者可基于其构建常驻工厂管理智能体。
NVIDIA 与 Google Cloud 宣布 Vera Rubin 基础设施的 A5X 实例进入通用可用阶段,下月正式交付并计划扩展到欧洲。
推荐理由:官方明确了首发客户、架构组合与可用性扩展计划,适合评估云端推理与强化学习的基础设施选项。
Mistral与NVIDIA宣布合作,将Mistral Large 4与NVIDIA CUDA-X、Warp和Omniverse结合,用于加速CAE/EDA仿真和闭环设计。
推荐理由:双方明确了Mistral Large 4与NVIDIA计算栈的结合方式,以及针对CAE/EDA智能体的公开基准计划,对工程AI落地路径有参考意义。
NVIDIA 在 GTC Berlin 发布本地 AI 软硬件更新,DGX Spark 64GB 系统于 10 月 23 日开放,支持多机集群连接,可扩展至 8 台以运行 GLM 5.3 等更大模型。
推荐理由:NVIDIA 发布 RTX Spark、DGX Spark 和 DGX Station 的本地硬件与软件更新,明确哪些模型可在桌面级别运行及推理优化效果。
Hugging Face 宣布发布 SimReady Central Library,提供一个包含超过 2000 个已准备好仿真属性的 OpenUSD 资产库,用于构建机器人物理 AI 训练环境和 AI 工厂数字孪生。
推荐理由:原文明确发布了 SimReady Central 库并给出使用方式和 OEM 准入路径,适合关注物理 AI 仿真生态的读者评估其对现有开发流程的影响。
NVIDIA 称 Nebius、Nscale、Verda 等云服务商正基于 Vera CPU 建设基础设施,以支持 AI 智能体检索、调用工具和执行代码等需快速 CPU 处理的环节。
推荐理由:原文列出多家欧洲伙伴采用 Vera CPU 的具体场景,可帮助判断该芯片在智能体基础设施中的实际价值。
NVIDIA 宣布扩展其开源模型系列,新增 Nemotron 3.5 Super VL 和 Nemotron 3.5 Bolt 等模型,用于构建定制应用。此次发布还包括 Cosmos 3.5 世界模型、Kumo 结构化数据模型、BioNeMo RFD4-Proteina 蛋白质设计模型以及 Ising 量子计算模型。
推荐理由:NVIDIA 在欧洲发布多款开源模型,涵盖语言、机器人和蛋白质设计,并列出具体合作方与部署渠道。
NVIDIA 扩展开源 Agent Toolkit,推出 Agent Knowledge Foundation,集成 cuDF/cuGraph/cuML/cuOpt/cuVS 与 Auto-Ontology 库。
推荐理由:官方给出基础组件变化和 Palantir、Databricks 等落地案例,读者可据此判断与企业数据的集成路径。
黄仁勋在 NVIDIA GTC Berlin 2026 大会上介绍面向欧洲和全球市场的新产品与平台,包括可在 14 天内交付的 DSX POD 参考设计、支持动态权限控制的 OpenShell 参考架构、Agent Knowledge Foundation 以及 RTX Spark 笔记本,并展示 RTX Spark、Isaac Sim 与实体机器人协同运行的案例。
DeepSeek 在 PyTorch Conf 首日开源生产级推理引擎 DeepInfer,基于 vLLM 并进行定制,支持分布式推理、投机解码、SWA Bounded Replay 和结构化输出,兼容 NVIDIA 和 Huawei Ascend 平台。
推荐理由:DeepSeek 开源生产级推理引擎并披露大规模缓存下的产能与成本结构,为行业提供了可复用的工程基线与经济学参照。
据外媒报道,Anthropic 向 SEC 提交的 S-1 文件披露其正从 AWS、Google 和 Microsoft 获取云容量时遇到困难,后三者越来越视其为竞争对手而非客户。
推荐理由:文件披露了 Anthropic 在云资源、客户结构、保险责任和亏损上的风险,有助于判断其 IPO 的财务健康程度。
i14 与 AWS 合作将 Laplace 3B 线性注意力模型部署到 AWS Trainium2,通过 TorchNeuron Native 使用原生 PyTorch 保留 GLA 架构,单 trn2.48xlarge 训练吞吐约 12 万 token/秒,推理 1,280 并发序列输出 11,544 token/秒。
推荐理由:原文给出了模型设计与 Trainium2 工程适配细节,读者可据此评估其在长上下文场景下的部署可行性。
SF Compute CEO Evan Conrad在AIE NYC介绍其构建GPU交易市场的进展:通过物理交割而非现金结算,将集群的软硬件约束(如存储恢复速度、GPU世代、InfiniBand分区)融入订单簿匹配。目前5%容量上链,支持1小时至3-5年远期合约,批处理与实时推理因中断风险不同而定价差异显著。公司不持有硬件以保持中立,并推出了可动态划分配件的网络虚拟化功能。
推荐理由:通过物理交割和可编程数据中心构建GPU合约市场,揭示了算力作为可交易资产的工程约束与金融套利逻辑。
DeepSeek 在 Apache License 2.0 下开源内部推理框架 DeepInfer,支持 V4.1-Flash 模型高速低成本响应;基于 vLLM 优化,提供分布式处理与更快文本生成,并开源 deepseek-recipe 复现官方 API token 处理方式。
推荐理由:DeepSeek 开源推理框架降低自托管成本,同时为自身模型提供标准化部署能力。
Google 宣布开源 TorchTPU,使开发者能把 PyTorch 应用迁移到 Google TPU 和 Google Cloud。Amazon 同时推出 TorchNeuron,把 PyTorch 应用迁移到 Trainium 和 AWS,并准备把解耦 NVIDIA 的代码提交给 PyTorch 主项目。
推荐理由:报道给出了 Google 和 Amazon 各自推出的 PyTorch 开源适配层,读者可以据此评估 AI 芯片竞争格局的变化。
AWS 发布教程,演示如何通过 Amazon Bedrock 跨区推理(CRIS)从 Canada Central 和 Canada West 调用 OpenAI GPT-5.6、GPT-6 和 GPT-6.1 模型。
推荐理由:官方给出了跨区推理的完整接入指南,覆盖 API 调用、权限、配额与安全合规,可直接落地生产。
Octave Reliance 团队利用 Amazon Bedrock、Cohere Embed v4 和 AgentCore 为超过 14,000 个客户构建了支持语义搜索的多租户 AI 基础架构,解决了跨租户隔离、不可信文档注入及 20 亿级文档快速入库等难题,将新用例部署时间缩短 50%。
推荐理由:原文详述了如何在强隔离约束下构建SaaS AI基础架构,给出了Cohere Embed v4选型与AgentCore隔离设计的可复用经验。
AWS 发布教程,介绍如何在 Amazon SageMaker HyperPod 上通过监督微调(SFT)和基于组的相对策略优化(GRPO)对 GPT-OSS-20B 进行多语言推理微调。
推荐理由:本文提供了在 SageMaker HyperPod 上用 SFT 和 GRPO 微调 GPT-OSS-20B 处理多语言推理的完整代码路径与配置。
AWS 发布参考架构与部署指南,展示如何用 Amazon Bedrock AgentCore 和 Amazon Quick 把供应链多系统数据变为自然语言对话智能。
推荐理由:原文给出一套可复用的供应链智能体参考架构与分步部署指南,覆盖 AgentCore、MCP 连接器和 Amazon Quick 的端到端集成。
Smartsheet 发布通用可用的 MCP Server,提供 40 多种工具用于读取、写入和管理 Smartsheet 数据,已与 Amazon Quick 和 Kiro 集成。该服务可通过 Streamable HTTP 在商业 US、EU 和 AU 三个区域访问,使用 OAuth 2.0 或个人访问令牌认证,允许项目经理和业务用户通过自然语言查询项目状态、更新任务以及生成摘要。
推荐理由:官方给出通过 MCP 协议对接 Smartsheet 的具体步骤,适用于想在 Amazon Quick 或 Kiro 中使用工作管理数据的场景。
Smartsheet 发布了通用可用的 MCP Server,提供 40 多个工具用于读取和管理表格、任务与自动化。可通过 Amazon Quick 让业务人员用自然语言查询和更新项目状态,或通过 Kiro 让开发者在不切换工作流的情况下获取 Sprint 数据并自动更新任务。
推荐理由:文章演示了通过 MCP 连接 Smartsheet 到 Amazon Quick 和 Kiro 的实操流程,可直接复制配置参考。
Hugging Face 推出 TorchTPU,将 TPU 作为 PyTorch 原生后端,Transformers 和 Diffusers 现在可直接在 TPU 上运行,无需 PyTorch/XLA。TPU 上运行 Qwen3-30B-A3B 等模型时,结合 Pallas 内核可实现最高 21.5 倍的解码加速,目前 96.5% 的测试通过。
推荐理由:Hugging Face 官方介绍 TorchTPU 后端及 Transformers、Diffusers 的 TPU 原生支持,读者可了解迁移成本与性能收益。
AWS 发布系列第三篇教程,使用 Strategy Mosaic 在 Amazon Redshift 与 Aurora 上构建面向 Agentic AI 的维度语义层,并通过 MCP 端点将模型暴露给托管在 Amazon Bedrock AgentCore 中的 Strands Agent。
推荐理由:文章给出基于 AgentCore 与 Mosaic 的 Agent 接入落地方案,适合想通过 MCP 把语义层接入智能体的工程师参考。
AWS 博客演示了如何通过 Denodo 平台在 Amazon Bedrock AgentCore 上为 Agentic AI 构建语义层,实现对企业级数据的安全访问。
Eon 使用 Amazon Bedrock AgentCore 替代分散的凭据和本地 MCP 进程,构建统一的多云调查网关。新员工配置调查工具的时间从约两天缩短至两分钟。该架构通过统一网关为开发者和运行 Claude 的自主 SRE 代理提供跨 AWS、GCP 和 Azure 的工具访问及细粒度权限控制。
AWS Agent Registry 现已全面可用,是用于目录化和发现 Model Context Protocol (MCP) 服务器、Agent-to-Agent (A2A) 智能体及智能体技能的托管服务。
推荐理由:AWS 正式推出 Agent Registry,支持 MCP 和 A2A 协议运行时发现,读者可据此评估企业级智能体编排的解耦与治理方案。
HPE 提出企业 AI 的经济衡量指标应从 Token 成本转向有效结果成本。其 Private Cloud AI 平台通过调度、模型选择等杠杆提升利用率,独立测试显示多负载高利用率场景下单次 Token 成本低于重复租赁。文章指出持续关键负载应视作长期运营资产而非单纯采购。
Hugging Face 发布 AnyLanguageModel 1.0、swift-huggingface 1.0 和 swift-xet 1.0。
推荐理由:Hugging Face 发布 AnyLanguageModel 1.0,统一 Apple 平台本地与托管推理的 Swift API,并同步发布相关工具包。
Cloudflare 发布 Clairic 模型,从文档中提取数据速度更快且成本更低。该模型在 Workers AI 上提供预览版,用户指定字段后单次返回匹配值与置信度。测试中结合 Clef 决策模型和 GLM-5.3 写入回复,整条链耗时 19.3 秒,成本仅为单独使用 GLM-5.3 的一半。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
PyTorch 2.15 为 Mac 带来多项改进。FP8 浮点支持到达 MPS,可通过 F.scaled_mm 直接进行 GPU 矩阵乘法。MoE 模型在 M3 Ultra 上使用 torch.compile 解码速度提升 5–6.6 倍,Qwen3.6-35B-A3B 从 9.4 提升至 61.3 tokens/s。
推荐理由:PyTorch 2.15 为 Mac 带来 FP8、MoE 加速和大量 Metal 原生内核,读者可据此评估本地运行大模型与视频生成的实际提升。
Nvidia 周四发布新版开源权重模型,包括面向企业智能体的 1200 亿参数 Nemotron 3.5 Super VL,以及两款可在 AI PC 本地运行的轻量级 Bolt 模型。
推荐理由:Nvidia 同时推出面向企业的 Nemotron 3.5 Super VL 和面向 PC 的两款 Bolt 模型,覆盖不同场景的部署需求。
Amazon Bedrock 现已为所有 Anthropic Claude 模型提供结构化输出,涵盖 bedrock-runtime 和 bedrock-mantle 端点。使用 constrained decoding 可在生成过程中强制 JSON 符合定义 Schema,并把 Strict tool use 用于 Agentic 工作流,从而减少解析与重试成本。
推荐理由:官方给出能力变化、代码示例与最佳实践,读者可直接评估如何用于生产。
Amazon SageMaker AI 推出新的注册体验,新用户可以仅用 2–3 步通过 Google、GitHub、Apple、Amazon 账号或电子邮件创建 AWS 账户并进入 SageMaker Studio,无需填写信用卡或验证手机。新用户可获得最多 200 美元的 Free Tier 积分,环境约 20 秒自动配置完成,预置权限并默认提供 G5、G6 和 G4dn GPU 实例访问。
推荐理由:官方给出了新用户从发现模型到部署模型的实际路径和免费额度,读者可以据此判断它是否降低了 SageMaker 的使用门槛。
微软宣布新增 Guardian Agents 等安全功能,作为 Project Perception 的一部分,用于监控企业部署的 AI 智能体。CEO Satya Nadella 称前沿模型不可信任,主张将智能体的供应与其权限分离;安全主管 Hayete Gallot 指出现有模型因不可预测且缺乏组织判断力,不能被视为可信。
推荐理由:Microsoft 以内部威胁为视角推出 Guardian Agents 等安全功能,反映了业界对 frontier 模型不可靠的担忧及厂商利益冲突。
Amazon SageMaker JumpStart 发布 2026 年数据汇总报告,介绍 1-9 月新增超过 100 个来自 30 个提供商的模型。其中阿里巴巴(Qwen)贡献最多,达到 29 个模型,涵盖推理、代码生成、语音识别及 TTS 等多种能力。
AWS发布TorchNeuron开发工具,让开发者只需修改一行配置即可把PyTorch应用迁移到Amazon Trainium芯片,无需重写代码,并计划将上游代码贡献给PyTorch社区以降低对Nvidia的绑定。