跳到正文

内容类型

教程实践 最新动态

拿来就能用的实操内容:提示词技巧、工作流搭建、工具用法与踩坑经验。

53 条精选近 30 天 50 条共收录 86 条

更新

精选归档 · 第 2 页

10月23日周五第 21–40 条
  1. Hugging Face Blog59

    微软发布ThinkingBox-Training:基于ThinkingBox构建RL智能体训练框架

    微软联合HuggingFace在ThinkingBox-Bench基础上推出thinkingbox-training开源仓库,展示如何将ThinkingBox中“数据库终态可执行检查”作为GRPO奖励信号,并用离线策略相对难度筛选任务池,在Qwen3.8-27B上完成50步RL微调。

    推荐理由:文章展示了ThinkingBox-Training的实现细节和训练结果,帮助开发者理解如何将数据库可执行检查转化为RL奖励机制。

  2. AWS Machine Learning Blog49

    在 Amazon SageMaker AI 上流式调用 Kokoro TTS 降低 AI 语音 Agent 延迟

    AWS 发布教程,介绍如何在 Amazon SageMaker AI 上部署 Kokoro-82M 文本转语音模型,并通过双向流式接口将每个句子实时送入模型合成音频,从而避免等待完整响应再开始语音合成。

    推荐理由:原文给出一套可在 SageMaker AI 上复现的流式语音方案,读者可据此降低语音 Agent 的首个音频延迟并比较两种传输成本。

  3. AWS Machine Learning Blog51

    Amazon Quick 支持在符合 HIPAA 要求的环境中部署 AI 工作负载

    AWS 发布说明,介绍如何在 Amazon Quick 中合规使用 PHI。Amazon Quick 是 HIPAA 可选服务,覆盖结构化与非结构化两条数据流,提供 ACL、日志、加密和访问控制,并给出实施步骤与注意事项。

    推荐理由:原文系统说明了 Amazon Quick 支持 HIPAA 的数据流、控制与部署模式,可据此评估医疗场景合规落地方案。

10月22日周四
  1. Hugging Face Blog67

    IBM 开源 Granite Timeseries Ensemble 多模型集成预测方案

    IBM 在 Hugging Face 开源了 Granite Timeseries Ensemble R1,用同一个可扩展接口同时调用 PatchTST-FM-r1、PatchTST-FM-r2、FlowState-r1.1 和 TTM-r3 四个架构,开箱提供点预测与 0.1-0.9 分位数输出,支持 Probabilistic 默认配方与按预测扩散自适应的 IQR 配方。

    推荐理由:它把四种不同架构的 Granite 时间序列模型打包成统一接口,用户无需微调即可直接获得概率与分位数预测,降低了模型选择成本。

  2. NVIDIA Blog50

    NVIDIA 展示欧洲部署的 Earth-2 开放气象模型

    NVIDIA 在 GTC Berlin 展示 StormScope EU 等 Earth-2 开放模型,提供短临预报与区域气象预测能力。AXA、Vaisala Xweather、TotalEnergies 和曼彻斯特大学等已基于 Earth-2 部署区域气候、空气质量及太阳能发电预测应用。

    推荐理由:NVIDIA 展示了 StormScope EU 等新模型的实际部署案例,读者可了解开源模型在区域气象与环境预测中的落地路径。

  3. AWS Machine Learning Blog35

    AWS 发布 Amazon Quick 私有网络连通架构指南

    AWS 发布指南,说明如何通过 VPC 端点和 VPC 连接将 Amazon Quick 接入企业内网,确保 AI 代理和仪表板在不经过公网的前提下访问内部数据源。文档覆盖网络隔离、身份联合及成本估算。

    推荐理由:官方给出 Amazon Quick 私有网络架构的完整实施步骤,有助于企业构建合规的低延迟 AI 访问路径。

  4. AWS Machine Learning Blog50

    AWS 教程:用 Strands Agents 构建自适应智能体框架 AAIF

    AWS 官方博客介绍使用 Strands Agents 和 Amazon Bedrock 构建自适应智能体框架(AAIF)。框架通过本地小语言模型分类请求,日常查询由 Ollama 在边缘处理,复杂任务路由至云端大模型,示例基于 IoT 监控场景并附带完整代码。

    推荐理由:给出可运行的代码和 IoT 示例,帮助开发者在本地 SLM 与云端 Bedrock 之间按复杂度路由请求以降低成本。

  5. AWS Machine Learning Blog38

    在 AWS Trainium 上用 torchtitan 训练 Qwen3 的三种配置

    AWS 发布指南介绍在 trn2.48xlarge 上通过 torchtitan 训练 Qwen3 的三种方式:使用 Transformers v5 后端、切换为 torchtitan 原生 Qwen3 实现,以及加载 torchtitan-neuron 的 NKI MoE 算子并演示自定义 NKI 算子注册。

    推荐理由:文章给出了在 AWS Trainium 上跑 Qwen3 的三种具体配置和完整 launch 命令,便于直接迁移到训练流程。

10月21日周三
  1. AWS Machine Learning Blog52

    i14 在 AWS Trainium2 上训练与部署 Laplace 3B 线性注意力模型

    i14 与 AWS 合作将 Laplace 3B 线性注意力模型部署到 AWS Trainium2,通过 TorchNeuron Native 使用原生 PyTorch 保留 GLA 架构,单 trn2.48xlarge 训练吞吐约 12 万 token/秒,推理 1,280 并发序列输出 11,544 token/秒。

    推荐理由:原文给出了模型设计与 Trainium2 工程适配细节,读者可据此评估其在长上下文场景下的部署可行性。

  2. AWS Machine Learning Blog50

    Octave 基于 Amazon Bedrock 构建多租户 AI 基础架构与实践

    Octave Reliance 团队利用 Amazon Bedrock、Cohere Embed v4 和 AgentCore 为超过 14,000 个客户构建了支持语义搜索的多租户 AI 基础架构,解决了跨租户隔离、不可信文档注入及 20 亿级文档快速入库等难题,将新用例部署时间缩短 50%。

    推荐理由:原文详述了如何在强隔离约束下构建SaaS AI基础架构,给出了Cohere Embed v4选型与AgentCore隔离设计的可复用经验。

  3. AWS Machine Learning Blog39

    AWS 发布通过 Amazon Quick 与 AgentCore 构建供应链智能体的参考架构与部署指南

    AWS 发布参考架构与部署指南,展示如何用 Amazon Bedrock AgentCore 和 Amazon Quick 把供应链多系统数据变为自然语言对话智能。

    推荐理由:原文给出一套可复用的供应链智能体参考架构与分步部署指南,覆盖 AgentCore、MCP 连接器和 Amazon Quick 的端到端集成。

  4. AWS Machine Learning Blog45

    Smartsheet MCP Server 发布,支持通过自然语言操作项目数据

    Smartsheet 发布通用可用的 MCP Server,提供 40 多种工具用于读取、写入和管理 Smartsheet 数据,已与 Amazon Quick 和 Kiro 集成。该服务可通过 Streamable HTTP 在商业 US、EU 和 AU 三个区域访问,使用 OAuth 2.0 或个人访问令牌认证,允许项目经理和业务用户通过自然语言查询项目状态、更新任务以及生成摘要。

    推荐理由:官方给出通过 MCP 协议对接 Smartsheet 的具体步骤,适用于想在 Amazon Quick 或 Kiro 中使用工作管理数据的场景。

  5. AWS Machine Learning Blog36

    Smartsheet MCP Server 通用版发布,支持 Amazon Quick 与 Kiro 接入

    Smartsheet 发布了通用可用的 MCP Server,提供 40 多个工具用于读取和管理表格、任务与自动化。可通过 Amazon Quick 让业务人员用自然语言查询和更新项目状态,或通过 Kiro 让开发者在不切换工作流的情况下获取 Sprint 数据并自动更新任务。

    推荐理由:文章演示了通过 MCP 连接 Smartsheet 到 Amazon Quick 和 Kiro 的实操流程,可直接复制配置参考。

  6. Hugging Face Blog75

    Hugging Face 原生支持 TPU:TorchTPU 发布与生态整合

    Hugging Face 推出 TorchTPU,将 TPU 作为 PyTorch 原生后端,Transformers 和 Diffusers 现在可直接在 TPU 上运行,无需 PyTorch/XLA。TPU 上运行 Qwen3-30B-A3B 等模型时,结合 Pallas 内核可实现最高 21.5 倍的解码加速,目前 96.5% 的测试通过。

    推荐理由:Hugging Face 官方介绍 TorchTPU 后端及 Transformers、Diffusers 的 TPU 原生支持,读者可了解迁移成本与性能收益。

  7. AWS Machine Learning Blog40

    AtScale与Amazon Bedrock AgentCore发布Agentic AI语义层方案

    AWS与AtScale联合发布在Amazon EKS上构建Agentic AI语义层的方案,该方案通过AtScale MCP服务器与Amazon Bedrock AgentCore集成,支持将SML语义模型暴露给AI智能体,实现基于角色的访问控制和行级安全策略,同时保持与现有BI工具的兼容性。

    推荐理由:官方给出了AtScale语义层与Bedrock AgentCore的落地方案,含MCP协议与身份治理细节。