跳到正文
10月23日周五
  1. The Verge · AI31

    有人利用老游戏和 AI 破解了 Switch 2

    一款名为 ns2jb 的软件仅依赖 tethered 方式的 Switch 2 已遭破解, modder "pepsipu" 借助 OpenAI Codex 实现了通过 SmileBASIC 4 运行的自定义 Mario Kart World。该破解仍需每次开机从游戏启动,过程对普通用户极为复杂,其实际影响尚存争议。

  2. AWS Machine Learning Blog43

    Kokoro-82M TTS 模型在 Amazon SageMaker AI 上通过实测 Q_max 与 T_total 设定自动扩缩容策略

    AWS 在 Amazon SageMaker AI 上把 Kokoro-82M 部署为自定义容器实时端点,并通过五个命令用 Q_max 和 T_total 推导扩缩容阈值。该方案以 ConcurrentRequestsPerModel 为指标,将 scale-out 目标设为 37.5,scale-in 阈值设为 25.0,并给出对应冷却时间和队列门限配置。

    同一件事,精选收录的是《在 Amazon SageMaker AI 上流式调用 Kokoro TTS 降低 AI 语音 Agent 延迟》

10月22日周四
  1. Hugging Face Blog67

    IBM 开源 Granite Timeseries Ensemble 多模型集成预测方案

    IBM 在 Hugging Face 开源了 Granite Timeseries Ensemble R1,用同一个可扩展接口同时调用 PatchTST-FM-r1、PatchTST-FM-r2、FlowState-r1.1 和 TTM-r3 四个架构,开箱提供点预测与 0.1-0.9 分位数输出,支持 Probabilistic 默认配方与按预测扩散自适应的 IQR 配方。

    推荐理由:它把四种不同架构的 Granite 时间序列模型打包成统一接口,用户无需微调即可直接获得概率与分位数预测,降低了模型选择成本。

  2. NVIDIA Blog50

    NVIDIA 展示欧洲部署的 Earth-2 开放气象模型

    NVIDIA 在 GTC Berlin 展示 StormScope EU 等 Earth-2 开放模型,提供短临预报与区域气象预测能力。AXA、Vaisala Xweather、TotalEnergies 和曼彻斯特大学等已基于 Earth-2 部署区域气候、空气质量及太阳能发电预测应用。

    推荐理由:NVIDIA 展示了 StormScope EU 等新模型的实际部署案例,读者可了解开源模型在区域气象与环境预测中的落地路径。

  3. AWS Machine Learning Blog35

    AWS 发布 Amazon Quick 私有网络连通架构指南

    AWS 发布指南,说明如何通过 VPC 端点和 VPC 连接将 Amazon Quick 接入企业内网,确保 AI 代理和仪表板在不经过公网的前提下访问内部数据源。文档覆盖网络隔离、身份联合及成本估算。

    推荐理由:官方给出 Amazon Quick 私有网络架构的完整实施步骤,有助于企业构建合规的低延迟 AI 访问路径。

  4. AWS Machine Learning Blog50

    AWS 教程:用 Strands Agents 构建自适应智能体框架 AAIF

    AWS 官方博客介绍使用 Strands Agents 和 Amazon Bedrock 构建自适应智能体框架(AAIF)。框架通过本地小语言模型分类请求,日常查询由 Ollama 在边缘处理,复杂任务路由至云端大模型,示例基于 IoT 监控场景并附带完整代码。

    推荐理由:给出可运行的代码和 IoT 示例,帮助开发者在本地 SLM 与云端 Bedrock 之间按复杂度路由请求以降低成本。

  5. AWS Machine Learning Blog38

    在 AWS Trainium 上用 torchtitan 训练 Qwen3 的三种配置

    AWS 发布指南介绍在 trn2.48xlarge 上通过 torchtitan 训练 Qwen3 的三种方式:使用 Transformers v5 后端、切换为 torchtitan 原生 Qwen3 实现,以及加载 torchtitan-neuron 的 NKI MoE 算子并演示自定义 NKI 算子注册。

    推荐理由:文章给出了在 AWS Trainium 上跑 Qwen3 的三种具体配置和完整 launch 命令,便于直接迁移到训练流程。

10月21日周三
  1. AWS Machine Learning Blog52

    i14 在 AWS Trainium2 上训练与部署 Laplace 3B 线性注意力模型

    i14 与 AWS 合作将 Laplace 3B 线性注意力模型部署到 AWS Trainium2,通过 TorchNeuron Native 使用原生 PyTorch 保留 GLA 架构,单 trn2.48xlarge 训练吞吐约 12 万 token/秒,推理 1,280 并发序列输出 11,544 token/秒。

    推荐理由:原文给出了模型设计与 Trainium2 工程适配细节,读者可据此评估其在长上下文场景下的部署可行性。

  2. AWS Machine Learning Blog50

    Octave 基于 Amazon Bedrock 构建多租户 AI 基础架构与实践

    Octave Reliance 团队利用 Amazon Bedrock、Cohere Embed v4 和 AgentCore 为超过 14,000 个客户构建了支持语义搜索的多租户 AI 基础架构,解决了跨租户隔离、不可信文档注入及 20 亿级文档快速入库等难题,将新用例部署时间缩短 50%。

    推荐理由:原文详述了如何在强隔离约束下构建SaaS AI基础架构,给出了Cohere Embed v4选型与AgentCore隔离设计的可复用经验。

  3. AWS Machine Learning Blog39

    AWS 发布通过 Amazon Quick 与 AgentCore 构建供应链智能体的参考架构与部署指南

    AWS 发布参考架构与部署指南,展示如何用 Amazon Bedrock AgentCore 和 Amazon Quick 把供应链多系统数据变为自然语言对话智能。

    推荐理由:原文给出一套可复用的供应链智能体参考架构与分步部署指南,覆盖 AgentCore、MCP 连接器和 Amazon Quick 的端到端集成。

  4. AWS Machine Learning Blog45

    Smartsheet MCP Server 发布,支持通过自然语言操作项目数据

    Smartsheet 发布通用可用的 MCP Server,提供 40 多种工具用于读取、写入和管理 Smartsheet 数据,已与 Amazon Quick 和 Kiro 集成。该服务可通过 Streamable HTTP 在商业 US、EU 和 AU 三个区域访问,使用 OAuth 2.0 或个人访问令牌认证,允许项目经理和业务用户通过自然语言查询项目状态、更新任务以及生成摘要。

    推荐理由:官方给出通过 MCP 协议对接 Smartsheet 的具体步骤,适用于想在 Amazon Quick 或 Kiro 中使用工作管理数据的场景。

  5. AWS Machine Learning Blog36

    Smartsheet MCP Server 通用版发布,支持 Amazon Quick 与 Kiro 接入

    Smartsheet 发布了通用可用的 MCP Server,提供 40 多个工具用于读取和管理表格、任务与自动化。可通过 Amazon Quick 让业务人员用自然语言查询和更新项目状态,或通过 Kiro 让开发者在不切换工作流的情况下获取 Sprint 数据并自动更新任务。

    推荐理由:文章演示了通过 MCP 连接 Smartsheet 到 Amazon Quick 和 Kiro 的实操流程,可直接复制配置参考。

  6. Hugging Face Blog75

    Hugging Face 原生支持 TPU:TorchTPU 发布与生态整合

    Hugging Face 推出 TorchTPU,将 TPU 作为 PyTorch 原生后端,Transformers 和 Diffusers 现在可直接在 TPU 上运行,无需 PyTorch/XLA。TPU 上运行 Qwen3-30B-A3B 等模型时,结合 Pallas 内核可实现最高 21.5 倍的解码加速,目前 96.5% 的测试通过。

    推荐理由:Hugging Face 官方介绍 TorchTPU 后端及 Transformers、Diffusers 的 TPU 原生支持,读者可了解迁移成本与性能收益。

  7. AWS Machine Learning Blog40

    AtScale与Amazon Bedrock AgentCore发布Agentic AI语义层方案

    AWS与AtScale联合发布在Amazon EKS上构建Agentic AI语义层的方案,该方案通过AtScale MCP服务器与Amazon Bedrock AgentCore集成,支持将SML语义模型暴露给AI智能体,实现基于角色的访问控制和行级安全策略,同时保持与现有BI工具的兼容性。

    推荐理由:官方给出了AtScale语义层与Bedrock AgentCore的落地方案,含MCP协议与身份治理细节。

  8. AWS Machine Learning Blog39

    AWS 教程:用 Strategy Mosaic 与 Bedrock AgentCore 构建 Agent 语义层

    AWS 发布系列第三篇教程,使用 Strategy Mosaic 在 Amazon Redshift 与 Aurora 上构建面向 Agentic AI 的维度语义层,并通过 MCP 端点将模型暴露给托管在 Amazon Bedrock AgentCore 中的 Strands Agent。

    推荐理由:文章给出基于 AgentCore 与 Mosaic 的 Agent 接入落地方案,适合想通过 MCP 把语义层接入智能体的工程师参考。

  9. AWS Machine Learning Blog55

    AWS联合Keyfactor发布X.509 PKI AI智能体安全架构

    AWS与Keyfactor发布参考架构,用X.509 PKI解决多智能体系统缺乏身份认证的问题。方案通过签名请求信封、用户签名委托断言、RFC 8693范围限定令牌和实时OCSP撤销检查四层机制,实现智能体间的零信任身份验证。

    推荐理由:首次给出基于X.509 PKI的AI智能体零信任身份认证参考架构,提供可落地的代码与流程。

  10. AWS Machine Learning Blog60

    AWS 正式推出 Agent Registry,支持运行时发现 MCP 和 A2A 智能体

    AWS Agent Registry 现已全面可用,是用于目录化和发现 Model Context Protocol (MCP) 服务器、Agent-to-Agent (A2A) 智能体及智能体技能的托管服务。

    推荐理由:AWS 正式推出 Agent Registry,支持 MCP 和 A2A 协议运行时发现,读者可据此评估企业级智能体编排的解耦与治理方案。

10月20日周二
  1. GitHub Blog · AI & ML68

    GitHub Copilot 教程:如何在 VS Code 中继续 Copilot App 会话

    GitHub Copilot 发布在 VS Code 中直接打开 App 会话的教程,用户可保留对话历史、改动和 worktree,直接在编辑器中审查 diff、进行手工修改、本地运行测试并推送更新到 PR。

    推荐理由:原文演示了从 Copilot App 无缝切换到 VS Code 继续工作的具体步骤,包括检查 diff、本地测试和提交。

  2. AWS Machine Learning Blog74

    vLLM 新增推送模式 NIXL 连接器,拆分预填充与解码以降低 TTFT

    vLLM 引入基于推送的 NIXL 连接器,让解码实例提前注册目标块并与预填充计算重叠,把传输准备移出关键路径。在 P5en + EFA 的 1P1D Qwen3-32B 基准中,高并发长上下文下 TTFT 最高改善约 3 倍,TPOT 改善约 30%,现已可用并通过 NixlPushConnector 启用。

    推荐理由:作者说明了vLLM新增推送模式KV传输的工作原理,并给出了在高负载下TTFT最高降低3倍和TPOT提升30%的实测数据。

  3. AWS Machine Learning Blog70

    vLLM 新增双向 KV 传输降低多轮智能体 TTFT

    AWS 将双向 KV 缓存传输贡献给 vLLM,使 Prefill-Decode 分离部署中 decode 节点保留的 KV 可反向复用,避免多轮对话中重复计算。在 EC2 P5en 实例上,该机制使 Qwen3-32B 的 TTFT 最多降低 1.6 倍,zai-org/GLM-5-FP8 最多降低 3.3 倍。

    推荐理由:AWS 开源双向 KV 传输功能,为 vLLM 多轮智能体场景提供具体的延迟优化方案和性能数据参考。

10月19日周一
  1. Simon Willison25

    llm-echo 0.5 更新:更准确的模拟 Token 用量统计

    llm-echo 调试插件更新至 0.5 版本,现在在模拟 Token 用量计算中纳入了工具调用、系统提示词和推理 Token。该插件提供一个不涉及 LLM 的"echo"模型,仅回显输入的提示词。更新后输出示例展示了包含 thinking token 的 prompt、system、attachments 等字段的完整 JSON 结构及 2 input、24 output 的用量统计。

10月17日周六
  1. Simon Willison13

    web-edit 0.1a2 更新

    Simon Willison 发布 web-edit 0.1a2,为该文件浏览与编辑应用新增文本及图像数据的“复制到剪贴板”功能。该工具主要用于通过 Tailscale 在不同设备间编辑文件夹内的文件。

  2. AWS Machine Learning Blog53

    AWS 发布 Amazon Bedrock AgentCore 生产级智能体评估框架

    Amazon Bedrock AgentCore 正式发布生产级评估框架 AgentCore Evaluations,并提供 Guardrails、CloudWatch、S3、Redshift 和 Lambda 等配套能力。

    推荐理由:AWS 发布包含 AgentCore Evaluations 在内的生产级评估框架,给出了覆盖九个阶段、三种层级的落地实践与可复用指标。

10月16日周五
  1. Simon Willison32

    Chirp Pong:用声音传球的网页双人对战游戏

    开发者利用麦克风与扬声器通过音频脉冲而非 Wi-Fi 或蓝牙,实现了基于静态 HTML 的双人手机乒乓球对战。该网页应用支持语音握手配对的 duel 模式及与 CPU 对抗的练习模式,提供 7、11 或 15 分的可选比分长度,由 Claude Opus 5.5 Extra 在 Claude Code 中构建。

10月15日周四
  1. Hugging Face Blog80

    FLUX.3 Image Klein 正式接入 Diffusers 并支持布局控制

    Black Forest Labs 的 FLUX.3 Image Klein 模型现已支持 Diffusers,提供文本到图像、多图到图像以及基于边界框的布局控制能力。蒸馏版在 H100 上约 2 秒生成 1024×1024 图像,同时提供 FP8 和 NVFP4 量化变体,并附带 DreamBooth LoRA 微调脚本与模块化管线接口。

    推荐理由:Black Forest Labs 发布 FLUX.3 Image Klein,集成 Distillers 并新增布局控制能力,可兼顾推理速度与设计自由度。