跳到正文
10月31日周六
  1. AWS Machine Learning Blog57

    Amazon Bedrock端到端成本管理指南:五阶段运营模型与实施步骤

    AWS发布端到端成本管理指南,为FinOps和平台团队提供五阶段运营模型:通过IAM主体标签和会话标签将每笔支出归因到责任人;利用模型调用日志和请求元数据使每个请求可观测;按风险选择监控告警、IAM拒止策略或同步网关拦截来控制预算;通过智能提示路由和提示缓存优化默认设置以减少浪费;建立仪表盘和定期评审机制将数据转化为决策。文章提供了代码示例和查询语句,帮助团队建立可复用的费用治理流程。

    推荐理由:提供可复用的五阶段费用治理模型与具体实现步骤,帮助平台与财务团队协作管理Amazon Bedrock支出。

  2. AWS Machine Learning Blog32

    使用 Amazon Bedrock AgentCore runtime 预览编码智能体构建的实时 Web 应用

    Amazon Bedrock AgentCore runtime 引入 Session endpoints 功能,允许开发者在浏览器中直接预览编码智能体在隔离 microVM 会话中运行的 Web 应用。通过配置 8000–12000 范围内的端口,智能体编辑代码后可实时推送到本地浏览器,无需重新部署。配合 PreviewApp 和本地端点,可实现左侧对话、右侧实时网站预览的交互体验。

10月30日周五
  1. AWS Machine Learning Blog31

    使用 Kiro 构建可重复的 PHP 到 Java 迁移引擎

    AWS 发布文章演示如何利用 AI IDE Kiro 将 PHP 应用迁移为 Spring Boot Java。核心方法是一个八阶段工作流,通过机械发现扫描器生成规范,并用对等性验证 harness 确保转换正确。该引擎支持通过 Kiro 交互式单应用执行,或经由 AWS Transform 以智能体模式进行大规模组合迁移。

  2. AWS Machine Learning Blog35

    AWS Batch 新增配额管理,支持多团队共享 SageMaker Training 资源

    AWS Batch 针对 SageMaker Training jobs 推出配额管理功能。管理员可通过配置策略将 GPU 容量划分为多个配额份额,支持 LEND、LEND_AND_BORROW 等共享模式,并在份额内启用抢占以优先满足高优先级作业。该功能通过 SageMaker Python SDK v3 进行集成配置。

    推荐理由:文章详解了 AWS Batch 针对 SageMaker Training jobs 新增的配额管理功能,帮助多团队共享 GPU 容量并自动调度。

  3. AWS Machine Learning Blog65

    NVIDIA Nemotron 3.5 Super VL 可在 AWS EKS 和 SageMaker HyperPod EKS 部署

    NVIDIA Nemotron 3.5 Super VL 现已加入 AWS 可用的 Nemotron 模型系列,支持在 Amazon EKS、EKS Auto Mode 和 SageMaker HyperPod EKS 部署。该模型为 120B 参数的 MoE 模型,每次激活 12B 参数,支持文本、图像、文档和视频理解。

    推荐理由:文章提供了 Nemotron 3.5 Super VL 在 AWS 部署的最小 GPU 配置和性能验证方法,便于评估推理成本。

10月29日周四
  1. Hugging Face Blog41

    Hugging Face 发布 Granite Switch 4.1.1

    Hugging Face 发布 Granite Switch 4.1.1,基于模块化 Switch 架构提供增量更新,重点更新了 Granite Speech ASR 与 granitelib-core 中的 Decision 适配器。

    推荐理由:更新展示了模块化的 Switch 架构,在不重训基础模型的情况下快速迭代专业适配器。

  2. AWS Machine Learning Blog43

    AWS 发布基于 Bedrock AgentCore 的企业级 Agentic AI 平台蓝图

    AWS 发布企业级 Agentic AI 平台蓝图,基于 Amazon Bedrock AgentCore 提供多账号联邦架构、独立推理与工具网关、以及包含对抗性门禁的发布流水线。该参考实现由 AWS 解决方案架构师维护,支持在 eu-west-1 等区域部署,并配套 GitHub 仓库供企业验证从上线到退役的完整生命周期。

    推荐理由:官方给出企业级多账号治理架构与流水线评估门禁的参考实现,可评估其控制强度是否适配现有组织边界。

  3. AWS Machine Learning Blog27

    Amazon Nova Act 如何支持组织级 QA 测试规模化

    Amazon QA Studio 通过引入 Applications 和基于角色的用户管理,解决大组织中测试用例规模扩大后的治理难题。Application 将测试归类并追踪通过率、执行次数及健康评分(0-100)。平台提供 Admin、Team Lead、Editor、Executor 和 Viewer 五种角色,控制各团队对测试的查看与修改权限。

  4. AWS Machine Learning Blog24

    基于 Ray Train DLC 与 EFA 在 EKS 上实现分布式训练

    AWS 发布 Ray Train 深度学习容器(DLC),将 PyTorch、CUDA、NCCL 及 EFA 网络栈预集成并持续维护,免除用户自行构建和匹配组件的负担。用户通过 KubeRay 在 Amazon EKS 上仅需配置资源请求和环境变量即可启动多节点训练。该方案利用公共 ECR 镜像,支持无凭证拉取,并通过前向兼容库自动适配宿主机 NVIDIA 驱动版本。

10月28日周三
  1. Hugging Face Blog75

    NVIDIA 开源 Nemotron 3.5 Transcribe 及 Granary v2 数据集与微调工具

    NVIDIA 发布 Nemotron 3.5 Transcribe 开源语音模型,支持 40 种语言转录、31 种语言翻译及 13 种语言说话人归属,并在 Hugging Face Open ASR、David AI 和 VoiceArena 等多个榜单中获得开源模型第一。

    推荐理由:模型在多个基准上刷新了开源记录,并附带 Granary v2 数据集和微调方案,方便开发者快速验证效果。

  2. AWS Machine Learning Blog38

    AWS 演示 SageMaker serverless 微调 Qwen3 在边缘告警分类与云端电力市场分析中超越前沿模型

    AWS 官方博客发布 Exowatt 使用 Amazon SageMaker AI serverless model customization 构建可复用 AI 管道的实践。

    推荐理由:AWS 展示如何用 SageMaker serverless fine-tuning 将 Qwen3-1.7B 和 Qwen3-14B 微调后在边缘与云端超越前沿模型,给出端到端成本与流程参考。

  3. AWS Machine Learning Blog45

    Property Finder 如何修复评估偏差并在 Bedrock 上优化视觉模型

    Property Finder 发现其 96.8% 的评估标签直接继承自现有模型预测,导致对比其他模型时产生系统性偏差。团队通过人工专家重新标注 356 张图片构建无偏基准,并将单标签改为多标签分类,结合迭代提示词优化,最终在 Amazon Bedrock 上选用 Llama 4 Maverick 17B Instruct 取得更高准确率,成本降低 86%,推理延迟减少 40–60%。

    推荐理由:通过修复评估偏差和迭代调优提示词,帮助读者掌握跨模型选择与降本提质的具体方法。

  4. AWS Machine Learning Blog52

    AWS SageMaker AI 启用 SOCI 索引加速容器镜像下载

    AWS 宣布 Amazon SageMaker AI Training 和 Processing 作业支持 Seekable OCI(SOCI)索引。作业启动时仅拉取必要文件,其余在后台流式传输,镜像下载时间从数分钟降至数秒,GPU 空闲时间最高可减少 90%。用户可直接使用带 -soci 后缀的预索引 Deep Learning Container,也可在自定义镜像上创建索引,无需修改作业定义。

    推荐理由:SageMaker AI 引入 SOCI 索引实现镜像懒加载,大镜像启动从分钟级降至秒级且训练性能基本不受影响。

10月27日周二
  1. AWS Machine Learning Blog40

    AWS SageMaker SDK v3 发布摄像头级计算机视觉全生命周期参考架构

    AWS发布基于 SageMaker Python SDK v3 的参考架构,为端侧计算机视觉提供端到端的多分支训练流水线。该方案用 AWS CDK 部署,通过 Step Functions、DynamoDB 信号量和 SQS 编排,控制单次并发执行数量,避免超出账户训练配额。

    推荐理由:给出SDK v3下用CDK和Step Functions编排千台边缘摄像头的完整流水线,读者可直接复用该架构。

  2. AWS Machine Learning Blog51

    AWS 官方教程:基于 CDK 构建 Amazon Bedrock 托管知识库的 Agent 检索

    AWS 发布教程,演示如何使用 AWS CDK 在 Amazon Bedrock 托管知识库上构建企业级 Agent 检索系统。系统通过 AgentCore Runtime 和 Gateway(MCP 协议)将知识库作为工具暴露给 Agent,由 AgenticRetrieveStream API 支持多轮规划和引用回答。

    推荐理由:以 CDK 代码展示企业级 AgentRAG 部署,含 AgentCore 网关集成与七层可观测性方案。

  3. AWS Machine Learning Blog74

    在Amazon Bedrock使用OpenAI模型时配置Prompt缓存

    亚马逊云科技官方发布文章,介绍在Amazon Bedrock上使用OpenAI模型时为AI智能体配置Prompt缓存的方法。文章解释了Prompt缓存的工作原理,演示了显式和隐式缓存模式的配置代码,包括如何缓存工具定义、系统指令,以及在不同会话轮次中保持缓存复用的技巧。实测数据显示,使用滚动断点可将六轮工作的输入成本降低约61%。

    推荐理由:原文通过代码演示了Amazon Bedrock中Prompt缓存的多种配置方式,帮助读者理解如何在AI Agent工作流中降低输入成本。

10月24日周六
  1. AWS Machine Learning Blog78

    AWS SageMaker AI 推出多轮强化学习功能,含端到端实操指南

    AWS 在 SageMaker AI 上线多轮强化学习(MTRL)功能,通过 Lambda forwarder 将提示发送给托管在 Amazon Bedrock AgentCore 或自有基础设施的 Agent,由 Agent 执行多步操作并在回合结束后返回单一奖励,使用 GRPO 对策略模型的 LoRA 适配器进行更新。

    推荐理由:AWS 提供多轮强化学习实操路径,用 Wordle 演示如何用单一终局奖励训练 Agent,展示可迁移的工作流设计。

  2. AWS Machine Learning Blog36

    用AWS CDK自定义资源编排SageMaker AI端点的自动弹性伸缩

    AWS发布了用于编排Amazon SageMaker AI实时端点自动弹性伸缩的CDK构造。通过三个CloudFormation自定义资源并配合显式依赖顺序和ConfigHash属性,可在端点配置变更时自动先注销再注册弹性目标,从而实现一次部署同时更新端点与弹性参数。

    推荐理由:原文给出了可复用的CDK构造逻辑,帮助读者在更新SageMaker AI端点时自动完成弹性伸缩的注销与注册。

10月23日周五
  1. Hugging Face Blog41

    Hugging Face 推出 TorchNeuronx 模型兼容查询 Space

    Hugging Face Blog 发布 TorchNeuronx 模型支持 Space,用于查询 Hugging Face Hub 上热门模型是否能在 AWS Trainium 上无需修改直接运行,并提供对应的 run.py 启动脚本与 Neuron 编译器版本。

    推荐理由:官方给出不依赖手动适配的 Trainium 兼容查询入口和可复用启动脚本,直接对应落地部署路径。

  2. NVIDIA Blog50

    NVIDIA 宣布黄仁勋访哈萨克斯坦并公布算力基建与项目进展

    NVIDIA 官方博客报道黄仁勋在阿斯塔纳会谈哈萨克斯坦官员并参加 Alem.AI 活动,宣布 Firebird 获得 45,000 块 NVIDIA Grace Blackwell GPU 出口许可、Kazakhtelecom 将在数据中心谷和 Ekibastuz 部署大量 GPU,以及 NVDIA 对 Higgsfield AI 进行投资,推动当地从基础设施到应用的扩展。

    推荐理由:材料列出黄仁勋访哈期间的基础设施签约与算力部署细节,便于判断当地AI产业下一步可访问的资源。

  3. Hugging Face Blog59

    微软发布ThinkingBox-Training:基于ThinkingBox构建RL智能体训练框架

    微软联合HuggingFace在ThinkingBox-Bench基础上推出thinkingbox-training开源仓库,展示如何将ThinkingBox中“数据库终态可执行检查”作为GRPO奖励信号,并用离线策略相对难度筛选任务池,在Qwen3.8-27B上完成50步RL微调。

    推荐理由:文章展示了ThinkingBox-Training的实现细节和训练结果,帮助开发者理解如何将数据库可执行检查转化为RL奖励机制。

  4. AWS Machine Learning Blog49

    在 Amazon SageMaker AI 上流式调用 Kokoro TTS 降低 AI 语音 Agent 延迟

    AWS 发布教程,介绍如何在 Amazon SageMaker AI 上部署 Kokoro-82M 文本转语音模型,并通过双向流式接口将每个句子实时送入模型合成音频,从而避免等待完整响应再开始语音合成。

    推荐理由:原文给出一套可在 SageMaker AI 上复现的流式语音方案,读者可据此降低语音 Agent 的首个音频延迟并比较两种传输成本。

  5. AWS Machine Learning Blog51

    Amazon Quick 支持在符合 HIPAA 要求的环境中部署 AI 工作负载

    AWS 发布说明,介绍如何在 Amazon Quick 中合规使用 PHI。Amazon Quick 是 HIPAA 可选服务,覆盖结构化与非结构化两条数据流,提供 ACL、日志、加密和访问控制,并给出实施步骤与注意事项。

    推荐理由:原文系统说明了 Amazon Quick 支持 HIPAA 的数据流、控制与部署模式,可据此评估医疗场景合规落地方案。

  6. AWS Machine Learning Blog76

    Amazon SageMaker AI 发布 Training Session APIs,无需自建 GPU 即可编写自定义训练循环

    Amazon SageMaker AI 推出 Training Session APIs,将训练控制权交给用户的 Python 循环,由 AWS 负责 GPU 分配、模型与 LoRA 加载、分布式执行和故障恢复。

    推荐理由:官方介绍按操作拆分的无服务器微调API,用户写训练循环、AWS管GPU,兼顾算法自由与运维简化。

  7. AWS Machine Learning Blog28

    IskayPet 使用 Amazon Bedrock Managed Knowledge Bases 统一企业知识库

    宠物护理公司 IsKayPet 利用 Amazon Bedrock Managed Knowledge Bases 构建了跨四语、三国的企业知识助手。该系统通过原生 SharePoint 连接器整合数百份文档,无需自建向量数据库或嵌入流水线,结合混合搜索与管理重排序准确检索信息。整个解决方案由 Kiro 在 Claude Haiku 4.5 上开发,支持基于用户权限的检索与引用来源回答。

  8. AWS Machine Learning Blog43

    Kokoro-82M TTS 模型在 Amazon SageMaker AI 上通过实测 Q_max 与 T_total 设定自动扩缩容策略

    AWS 在 Amazon SageMaker AI 上把 Kokoro-82M 部署为自定义容器实时端点,并通过五个命令用 Q_max 和 T_total 推导扩缩容阈值。该方案以 ConcurrentRequestsPerModel 为指标,将 scale-out 目标设为 37.5,scale-in 阈值设为 25.0,并给出对应冷却时间和队列门限配置。

    同一件事,精选收录的是《在 Amazon SageMaker AI 上流式调用 Kokoro TTS 降低 AI 语音 Agent 延迟》