跳到正文
10月22日周四
10月21日周三
  1. AWS Machine Learning Blog52

    i14 在 AWS Trainium2 上训练与部署 Laplace 3B 线性注意力模型

    i14 与 AWS 合作将 Laplace 3B 线性注意力模型部署到 AWS Trainium2,通过 TorchNeuron Native 使用原生 PyTorch 保留 GLA 架构,单 trn2.48xlarge 训练吞吐约 12 万 token/秒,推理 1,280 并发序列输出 11,544 token/秒。

    推荐理由:原文给出了模型设计与 Trainium2 工程适配细节,读者可据此评估其在长上下文场景下的部署可行性。

  2. AWS Machine Learning Blog50

    Octave 基于 Amazon Bedrock 构建多租户 AI 基础架构与实践

    Octave Reliance 团队利用 Amazon Bedrock、Cohere Embed v4 和 AgentCore 为超过 14,000 个客户构建了支持语义搜索的多租户 AI 基础架构,解决了跨租户隔离、不可信文档注入及 20 亿级文档快速入库等难题,将新用例部署时间缩短 50%。

    推荐理由:原文详述了如何在强隔离约束下构建SaaS AI基础架构,给出了Cohere Embed v4选型与AgentCore隔离设计的可复用经验。

  3. AWS Machine Learning Blog39

    AWS 发布通过 Amazon Quick 与 AgentCore 构建供应链智能体的参考架构与部署指南

    AWS 发布参考架构与部署指南,展示如何用 Amazon Bedrock AgentCore 和 Amazon Quick 把供应链多系统数据变为自然语言对话智能。

    推荐理由:原文给出一套可复用的供应链智能体参考架构与分步部署指南,覆盖 AgentCore、MCP 连接器和 Amazon Quick 的端到端集成。

  4. AWS Machine Learning Blog45

    Smartsheet MCP Server 发布,支持通过自然语言操作项目数据

    Smartsheet 发布通用可用的 MCP Server,提供 40 多种工具用于读取、写入和管理 Smartsheet 数据,已与 Amazon Quick 和 Kiro 集成。该服务可通过 Streamable HTTP 在商业 US、EU 和 AU 三个区域访问,使用 OAuth 2.0 或个人访问令牌认证,允许项目经理和业务用户通过自然语言查询项目状态、更新任务以及生成摘要。

    推荐理由:官方给出通过 MCP 协议对接 Smartsheet 的具体步骤,适用于想在 Amazon Quick 或 Kiro 中使用工作管理数据的场景。

  5. AWS Machine Learning Blog36

    Smartsheet MCP Server 通用版发布,支持 Amazon Quick 与 Kiro 接入

    Smartsheet 发布了通用可用的 MCP Server,提供 40 多个工具用于读取和管理表格、任务与自动化。可通过 Amazon Quick 让业务人员用自然语言查询和更新项目状态,或通过 Kiro 让开发者在不切换工作流的情况下获取 Sprint 数据并自动更新任务。

    推荐理由:文章演示了通过 MCP 连接 Smartsheet 到 Amazon Quick 和 Kiro 的实操流程,可直接复制配置参考。

  6. Hugging Face Blog75

    Hugging Face 原生支持 TPU:TorchTPU 发布与生态整合

    Hugging Face 推出 TorchTPU,将 TPU 作为 PyTorch 原生后端,Transformers 和 Diffusers 现在可直接在 TPU 上运行,无需 PyTorch/XLA。TPU 上运行 Qwen3-30B-A3B 等模型时,结合 Pallas 内核可实现最高 21.5 倍的解码加速,目前 96.5% 的测试通过。

    推荐理由:Hugging Face 官方介绍 TorchTPU 后端及 Transformers、Diffusers 的 TPU 原生支持,读者可了解迁移成本与性能收益。

  7. AWS Machine Learning Blog40

    AtScale与Amazon Bedrock AgentCore发布Agentic AI语义层方案

    AWS与AtScale联合发布在Amazon EKS上构建Agentic AI语义层的方案,该方案通过AtScale MCP服务器与Amazon Bedrock AgentCore集成,支持将SML语义模型暴露给AI智能体,实现基于角色的访问控制和行级安全策略,同时保持与现有BI工具的兼容性。

    推荐理由:官方给出了AtScale语义层与Bedrock AgentCore的落地方案,含MCP协议与身份治理细节。

  8. AWS Machine Learning Blog39

    AWS 教程:用 Strategy Mosaic 与 Bedrock AgentCore 构建 Agent 语义层

    AWS 发布系列第三篇教程,使用 Strategy Mosaic 在 Amazon Redshift 与 Aurora 上构建面向 Agentic AI 的维度语义层,并通过 MCP 端点将模型暴露给托管在 Amazon Bedrock AgentCore 中的 Strands Agent。

    推荐理由:文章给出基于 AgentCore 与 Mosaic 的 Agent 接入落地方案,适合想通过 MCP 把语义层接入智能体的工程师参考。

  9. AWS Machine Learning Blog55

    AWS联合Keyfactor发布X.509 PKI AI智能体安全架构

    AWS与Keyfactor发布参考架构,用X.509 PKI解决多智能体系统缺乏身份认证的问题。方案通过签名请求信封、用户签名委托断言、RFC 8693范围限定令牌和实时OCSP撤销检查四层机制,实现智能体间的零信任身份验证。

    推荐理由:首次给出基于X.509 PKI的AI智能体零信任身份认证参考架构,提供可落地的代码与流程。

10月20日周二
  1. GitHub Blog · AI & ML68

    GitHub Copilot 教程:如何在 VS Code 中继续 Copilot App 会话

    GitHub Copilot 发布在 VS Code 中直接打开 App 会话的教程,用户可保留对话历史、改动和 worktree,直接在编辑器中审查 diff、进行手工修改、本地运行测试并推送更新到 PR。

    推荐理由:原文演示了从 Copilot App 无缝切换到 VS Code 继续工作的具体步骤,包括检查 diff、本地测试和提交。

  2. AWS Machine Learning Blog74

    vLLM 新增推送模式 NIXL 连接器,拆分预填充与解码以降低 TTFT

    vLLM 引入基于推送的 NIXL 连接器,让解码实例提前注册目标块并与预填充计算重叠,把传输准备移出关键路径。在 P5en + EFA 的 1P1D Qwen3-32B 基准中,高并发长上下文下 TTFT 最高改善约 3 倍,TPOT 改善约 30%,现已可用并通过 NixlPushConnector 启用。

    推荐理由:作者说明了vLLM新增推送模式KV传输的工作原理,并给出了在高负载下TTFT最高降低3倍和TPOT提升30%的实测数据。

  3. AWS Machine Learning Blog70

    vLLM 新增双向 KV 传输降低多轮智能体 TTFT

    AWS 将双向 KV 缓存传输贡献给 vLLM,使 Prefill-Decode 分离部署中 decode 节点保留的 KV 可反向复用,避免多轮对话中重复计算。在 EC2 P5en 实例上,该机制使 Qwen3-32B 的 TTFT 最多降低 1.6 倍,zai-org/GLM-5-FP8 最多降低 3.3 倍。

    推荐理由:AWS 开源双向 KV 传输功能,为 vLLM 多轮智能体场景提供具体的延迟优化方案和性能数据参考。

10月17日周六
  1. AWS Machine Learning Blog53

    AWS 发布 Amazon Bedrock AgentCore 生产级智能体评估框架

    Amazon Bedrock AgentCore 正式发布生产级评估框架 AgentCore Evaluations,并提供 Guardrails、CloudWatch、S3、Redshift 和 Lambda 等配套能力。

    推荐理由:AWS 发布包含 AgentCore Evaluations 在内的生产级评估框架,给出了覆盖九个阶段、三种层级的落地实践与可复用指标。

10月16日周五
10月15日周四
  1. Hugging Face Blog80

    FLUX.3 Image Klein 正式接入 Diffusers 并支持布局控制

    Black Forest Labs 的 FLUX.3 Image Klein 模型现已支持 Diffusers,提供文本到图像、多图到图像以及基于边界框的布局控制能力。蒸馏版在 H100 上约 2 秒生成 1024×1024 图像,同时提供 FP8 和 NVFP4 量化变体,并附带 DreamBooth LoRA 微调脚本与模块化管线接口。

    推荐理由:Black Forest Labs 发布 FLUX.3 Image Klein,集成 Distillers 并新增布局控制能力,可兼顾推理速度与设计自由度。

10月14日周三
10月13日周二
10月2日周五
10月1日周四
  1. Microsoft Research53

    微软研究展示空间天气风险预测系统

    微软研究院发布了一套端到端机器学习管道,可对北美大陆66,935个变电站进行空间天气风险评估。该系统结合L1拉格朗日点的太阳风测量数据、地磁指数预报和局部地质特征,能在威胁出现前30到60分钟提供具体位置的电网风险预警,在2020至2026年的评估期间检测了近80%的重大空间天气事件。

    推荐理由:微软研究展示了覆盖美国六万多个变电站的端到端空间天气风险预测系统,可提供30到60分钟预警,有助于电网提前采取保护措施。

9月26日周六
  1. GitHub Blog · AI & ML48

    GitHub Copilot App 入门:如何用画布构建自定义工作流

    GitHub Copilot App 推出画布(canvas)功能,允许用户通过自然语言描述工作流、交互意图和代理能力,一键生成可定制界面(如看板、待办清单、电子表格)。画布支持用户与 AI 智能体双向实时协作,更改会即时同步。现有模板可在 Awesome Copilot 社区获取,支持保存为个人或团队扩展重复使用。

    推荐理由:GitHub Copilot App 的画布功能支持通过自然语言快速创建可编辑工作流界面,并提供协同操作示例。

9月25日周五
  1. GitHub Blog · AI & ML30

    GitHub Copilot 演示 Canvas:当 Chat 不是最佳交互界面

    GitHub Copilot 推出 Canvas 功能,允许用户通过全栈应用替代 Chat 与 AI 交互。用户可用 Canvas 构建自定义 UI(如 Connect 4 游戏或本地包管理),实现双向通信与代码本地执行,从而节省 Token 并自动化开发工作流。该功能现已在 GitHub Copilot 应用中开放试用。

9月9日周三