跳到正文
10月20日周二
  1. AWS Machine Learning Blog45

    Amazon Bedrock 为 Anthropic Claude 模型提供结构化输出与严格工具调用

    Amazon Bedrock 现已为所有 Anthropic Claude 模型提供结构化输出,涵盖 bedrock-runtime 和 bedrock-mantle 端点。使用 constrained decoding 可在生成过程中强制 JSON 符合定义 Schema,并把 Strict tool use 用于 Agentic 工作流,从而减少解析与重试成本。

    推荐理由:官方给出能力变化、代码示例与最佳实践,读者可直接评估如何用于生产。

  2. AWS Machine Learning Blog40

    Amazon SageMaker Studio 接入新 AWS 注册体验

    Amazon SageMaker AI 推出新的注册体验,新用户可以仅用 2–3 步通过 Google、GitHub、Apple、Amazon 账号或电子邮件创建 AWS 账户并进入 SageMaker Studio,无需填写信用卡或验证手机。新用户可获得最多 200 美元的 Free Tier 积分,环境约 20 秒自动配置完成,预置权限并默认提供 G5、G6 和 G4dn GPU 实例访问。

    推荐理由:官方给出了新用户从发现模型到部署模型的实际路径和免费额度,读者可以据此判断它是否降低了 SageMaker 的使用门槛。

  3. NVIDIA Blog39

    德国政府与NVIDIA签署工业AI合作意向宣言并公布新投资计划

    德国总理Merz与NVIDIA创始人兼CEO黄仁勋在柏林Kraftwerk会谈,讨论将AI融入制造业与汽车产业的路线。德国联邦政府经济事务与能源部、研究与太空部与NVIDIA签署联合意向宣言,合作推进面向物理AI的前沿模型,并把与NVIDIA的合作纳入德国“Industry 4.0平台”。

    推荐理由:材料交代了德国政府与NVIDIA的工业AI合作框架及新投资方项,是判断双方产业协同方向的关键背景。

  4. GitHub Blog · AI & ML68

    GitHub Copilot 教程:如何在 VS Code 中继续 Copilot App 会话

    GitHub Copilot 发布在 VS Code 中直接打开 App 会话的教程,用户可保留对话历史、改动和 worktree,直接在编辑器中审查 diff、进行手工修改、本地运行测试并推送更新到 PR。

    推荐理由:原文演示了从 Copilot App 无缝切换到 VS Code 继续工作的具体步骤,包括检查 diff、本地测试和提交。

  5. AWS Machine Learning Blog74

    vLLM 新增推送模式 NIXL 连接器,拆分预填充与解码以降低 TTFT

    vLLM 引入基于推送的 NIXL 连接器,让解码实例提前注册目标块并与预填充计算重叠,把传输准备移出关键路径。在 P5en + EFA 的 1P1D Qwen3-32B 基准中,高并发长上下文下 TTFT 最高改善约 3 倍,TPOT 改善约 30%,现已可用并通过 NixlPushConnector 启用。

    推荐理由:作者说明了vLLM新增推送模式KV传输的工作原理,并给出了在高负载下TTFT最高降低3倍和TPOT提升30%的实测数据。

  6. AWS Machine Learning Blog70

    vLLM 新增双向 KV 传输降低多轮智能体 TTFT

    AWS 将双向 KV 缓存传输贡献给 vLLM,使 Prefill-Decode 分离部署中 decode 节点保留的 KV 可反向复用,避免多轮对话中重复计算。在 EC2 P5en 实例上,该机制使 Qwen3-32B 的 TTFT 最多降低 1.6 倍,zai-org/GLM-5-FP8 最多降低 3.3 倍。

    推荐理由:AWS 开源双向 KV 传输功能,为 vLLM 多轮智能体场景提供具体的延迟优化方案和性能数据参考。

10月19日周一
  1. NVIDIA Blog36

    NVIDIA 推进媒体智能体安全,联合 EBU 扩展主权云与开源模型框架

    NVIDIA 与欧洲广播联盟(EBU)扩展主权云标准,引入微软、Nebius、Nemotron 等合作伙伴定义广播机构部署 AI 智能体的架构与安全规范;同时 Adobe Frame.io 借助 NVIDIA GPU 加速视频搜索,实现约5倍更快嵌入生成、4倍更高吞吐量及5倍更低延迟。

    推荐理由:原文详述了NVIDIA在柏林欧洲活动中的两项媒体合作进展,可据此评估其在媒体工作流中的实际应用方向。

10月16日周五
  1. NVIDIA Blog52

    NVIDIA 发布 RTX Spark PC 并启动全球首发活动

    NVIDIA 发布 RTX Spark PC,定位面向创作者、玩家和 AI 智能体的设备,旨在提供强大的本地 AI 工作流程支持。10 月 16 日,NVIDIA 将在旧金山、柏林、台北、北京、伊斯坦布尔和首尔举办线下首发庆祝活动。

    推荐理由:原文给出了 RTX Spark 的产品定位和全球首发活动信息,读者可以据此了解 NVIDIA 本地 AI PC 战略的具体落地。

10月15日周四
  1. NVIDIA Blog46

    NVIDIA宣布支持欧盟科学计算倡议并提供多项开放资源

    NVIDIA宣布参与欧盟AI in Science Enablers Initiative,提供开源模型、数据集和软件工具。公司推出了新的Deep Learning Institute开源课程库,并通过Inception项目与法国、西班牙和瑞典的AI工厂合作,为初创企业开放计算资源。欧洲目前在建35台超级计算机,这是欧洲历史上单年度最大规模超算建设。

    推荐理由:原文给出了欧盟科学计算倡议的参与方式,读者可了解欧洲科研界如何获得NVIDIA算力与模型支持。

  2. Google Research57

    Google Research 发布十项新工具与能力,聚焦地理智能、医疗与效率

    Google Research 在 Research@ 活动中介绍十项进展。Google Earth AI 开放实验功能,提供行星预测引擎、多源数据查询和 Agent 调用入口,并设立 1000 万美元公益基金。

    推荐理由:Google 在 Research@ 活动中集中披露十个新工具与芯片,覆盖地理智能、医疗AI和量化模型等,反映其研究转产品的最新布局。

10月14日周三
  1. GitHub Blog · AI & ML44

    GitHub 秘密扫描引入 ModernBERT 分类器,降低误报与成本

    GitHub 推出基于 ModernBERT 的秘密检测分类器,替代原有的远程 LLM 管道,在保留正则召回的同时利用上下文区分真实凭证与占位符、测试固定值等干扰项。该变更使 Owner-weighted 告警接受率提升 11.5%,中位推送后扫描执行时间降低 86%,部署成本降低 98% 以上,并让推送前保护能力更可行。

    推荐理由:文章给出了从远程 LLM 切换到 ModernBERT 分类器的前后效果对比,便于评估此类安全扫描任务的模型选型思路。

10月8日周四
  1. GitHub Blog · AI & ML54

    GitHub 推出基于 ModernBERT 的 AI 推送保护功能并公布九季度密钥泄露数据

    GitHub 发布新文章称其基于 ModernBERT 的 AI 通用密钥检测模型已纳入推送保护流程,可在不到两毫秒内评估候选密钥,有望使阻止的密钥数量翻倍。该功能目前已进入私密预览阶段,本月将向拥有 GitHub Secret Protection 的企业版和 Teams 用户开放。

    推荐理由:GitHub 公布九季度扫描数据并提出新的推送保护模型,读者可据此评估其能否真正跟上 AI 智能体加速写代码的节奏。

  2. Microsoft Research76

    微软亚洲研究院发布 Agent Lightning v1.0 轻量智能体 RL 训练框架

    微软亚洲研究院开源 Agent Lightning v1.0,是一套约 3500 行代码的轻量 Agentic RL 框架。它通过 Harnessed Agentic RL 范式让部署用的智能体 harness 直接参与训练,并在 Agent 与模型之间加入 LLM 代理来观察和记录调用。

    推荐理由:原文给出了轻量架构和真实 harness 接入方式,读者可以据此复用该框架训练自己的代码智能体。

10月6日周二
  1. Mistral AI80

    Mistral AI 发布 Mistral Large 4 公开预览

    Mistral AI 发布 Mistral Large 4(ML4)公开预览,这是一款拥有 1 万亿参数、520 亿激活参数的原生多模态模型,将于月底开源权重。该模型在网络安全、代码智能体和多模态理解等任务上表现突出,已在多个独立基准中超越同类开源模型。

    推荐理由:官方公布ML4参数规模与预览入口,并列出网络安全、代码智能体等基准成绩,适合评估其当前能力水位。

10月2日周五
10月1日周四
  1. Microsoft Research53

    微软研究展示空间天气风险预测系统

    微软研究院发布了一套端到端机器学习管道,可对北美大陆66,935个变电站进行空间天气风险评估。该系统结合L1拉格朗日点的太阳风测量数据、地磁指数预报和局部地质特征,能在威胁出现前30到60分钟提供具体位置的电网风险预警,在2020至2026年的评估期间检测了近80%的重大空间天气事件。

    推荐理由:微软研究展示了覆盖美国六万多个变电站的端到端空间天气风险预测系统,可提供30到60分钟预警,有助于电网提前采取保护措施。

9月24日周四
  1. Microsoft Research55

    微软在 Physical AI Toolchain 中引入推理卸载能力

    微软研究团队发布新的推理卸载功能,可把物理 AI 推理从机器人 onboard GPU 迁移到边缘或云端 GPU。替换为轻量级板卡并远程推理后,Stretch-3 机器人电池续航最多提升 160%,映射和规划任务在不同小 GPU 下速度下降最高达 383%,导航避障及时检测下降 30%。团队用 K8s 工具链实现自动容器化与调度,已提供 SO-101 和 UR10e 示例项目。

    推荐理由:微软在 Physical AI Toolchain 新增推理卸载能力,通过实测数据展示了对机器人性能、续航和成本的具体改善。

9月9日周三
5月8日周五
  1. Berkeley AI Research38

    Berkeley AI Research 综述自适应并行推理:从固定并行到模型自主调度

    Berkeley AI Research 发布综述,介绍自适应并行推理让推理模型在推理时自行决定何时拆分、并发几个线程以及如何协调,以此缓解序列推理随探索变长带来的延迟和上下文退化。

    推荐理由:文章系统梳理了并行推理的技术路线,给出了两种实现架构与奖励设计的对比,便于判断哪条路径适合你的硬件约束。