跳到正文

内容类型

评测基准 最新动态

模型到底谁更强:Benchmark 评测成绩、评测方法的争议与排行榜变化。

16 条精选近 30 天 16 条共收录 25 条

更新

评测基准的精选

11月1日周日第 1–16 条
  1. The Decoder50

    Vals 研究发现中国 AI 模型在政治立场上存在复杂差异,并非单纯政府传声筒

    Vals 研究对中国 AI 模型进行政治立场测试,发现多数模型很少直接拒绝敏感问题,而是倾向于采用官方立场。GLM-5.3 Flash 和 MiMo V2.6 Pro 在只需回答简单 yes 或 no 时,亲政府得分更低。

    推荐理由:原文给出中国模型在政治立场上的表现差异和关键变量,读者可了解实际可用性边界。

10月30日周五
  1. The Decoder85

    GLM 5.3 自主构建 Firefox 漏洞利用链,零人工输入下 48 小时内完成攻击

    Epoch AI 的研究者测试开源模型 GLM 5.3,发现它能利用 Firefox 补丁发布与用户覆盖之间的时间差发动攻击。在 9 月 17 日至 10 月 26 日的 6 个版本中,模型零人工介入完成多阶段利用链,单次攻击约 1000 美元,最快 12 小时成功。

    推荐理由:模型以自主方式利用补丁发布窗口,展示了开源模型在攻防对抗中的扩散风险。

10月29日周四
  1. Latent Space53

    Elorian 发布 Glimpse 视觉推理模型,用 DecoyCount 基准测前沿模型视觉短板

    Elorian 发布首款视觉推理模型 Glimpse 与新基准 DecoyCount,结果显示主流前沿模型在视觉计数任务上普遍低于 50%,而 Glimpse 内部测试得分为 50.48%。该基准旨在区分模型的纯视觉缺陷与推理缺陷。

    推荐理由:Elorian 发布视觉推理模型及新基准,测试了前沿模型是否依赖视觉捷径而非真正计数。

10月28日周三
  1. The Decoder78

    研究发现阿里 Qwen 3.8 部分请求被路由至公司代理服务器

    Cohere 和 Palisade Research 报告称 Qwen3.8 系列在直接访问失败时会尝试把请求通过阿里云新加坡代理回源。Palisade Research 在 Qwen3.8-Max-0902、Qwen3.8-Max 和 Qwen3.8-27B 中检索到 aliyuncs.com,而 Qwen 3.7 未出现该模式,并认为这与强化学习阶段的训练基础设施有关。

    推荐理由:研究追踪到 Qwen 3.8 调用阿里代理的根因可能是训练配置残留,并给出了具体的触发比例和替代模型对比。

  2. AWS Machine Learning Blog45

    Property Finder 如何修复评估偏差并在 Bedrock 上优化视觉模型

    Property Finder 发现其 96.8% 的评估标签直接继承自现有模型预测,导致对比其他模型时产生系统性偏差。团队通过人工专家重新标注 356 张图片构建无偏基准,并将单标签改为多标签分类,结合迭代提示词优化,最终在 Amazon Bedrock 上选用 Llama 4 Maverick 17B Instruct 取得更高准确率,成本降低 86%,推理延迟减少 40–60%。

    推荐理由:通过修复评估偏差和迭代调优提示词,帮助读者掌握跨模型选择与降本提质的具体方法。

10月26日周一
  1. The Verge · AI68

    OpenAI 称最新模型在 COBOL 迁移上取得进展,专家提醒距离安全替换仍有距离

    OpenAI 称最新模型在将 COBOL 等遗留代码迁移到现代语言方面取得改进,其 GPT-6.1 Sol 在低推理努力下的行为保持准确率为 87%、高推理下达到 98%,并表示成功迁移需要所有测试通过。但荷兰和英国专家评价 OpenAI 的评测过于简单,现实难点在于拆分复杂系统、理解整体行为并保证极小差异不可接受,目前 AI 尚未能安全替换依赖 COBOL 的关键基础设施。

    推荐理由:报道同时呈现 OpenAI 的迁移测试数据和专家对关键复杂度的质疑,可帮助判断 AI 代码迁移的实际成熟度。

10月24日周六
  1. The Decoder65

    研究:复杂 coding agent harness 提升成本但不提升成功率

    一项新研究对比 Claude Code、OpenCode 和 mini-SWE-agent 三个 coding agent harness,发现更换 harness 带来的任务结果波动与重复运行相近,Zhipu 宣称的 2.4 分优势处于噪音区间;唯一显著落后的是 OpenCode,主要因输出限制和搜索工具故障导致。

    推荐理由:研究拆解了 harness 差异的来源,指出多数差距在噪音范围内,仅 OpenCode 表现显著落后,并揭示成本差异主要来自系统提示词。

  2. Simon Willison79

    Moonshot 在 Kimi API 上线 K3.1 Pro 智能体模型

    Kimi K3.1 Pro 于今日在 Kimi API 上线,暂未开源,Moonshot 承诺将于 11 月 4 日发布完整模型权重。该模型提供 Highspeed 版本,速度提升 2-3 倍,价格为普通版的两倍(输入 Token 缓存命中价格相同)。

    推荐理由:原文给出了定价、评测分数和作者的实测案例,读者可以据此判断Kimi K3.1 Pro在市场中的定位。

10月23日周五
  1. The Decoder78

    Anthropic Claude 自动验证代码并证明安全

    Anthropic 让 Claude 自动生成数学证明来验证现有代码的正确性。该团队从 Google OSS-Fuzz 的 123 个开源库中选取测试程序,Claude 在几周生成了约 1.8 亿行证明代码,独立验证工具 Rocq 几乎无需人工审核。

    推荐理由:AI 可直接验证现有代码安全性并发现传统测试遗漏的漏洞,开发者可据此评估 AI 生成软件的可信度。

10月21日周三
  1. Latent Space77

    DeepSeek 开源 DeepInfer 推理引擎并披露生产数据与经济学细节

    DeepSeek 在 PyTorch Conf 首日开源生产级推理引擎 DeepInfer,基于 vLLM 并进行定制,支持分布式推理、投机解码、SWA Bounded Replay 和结构化输出,兼容 NVIDIA 和 Huawei Ascend 平台。

    推荐理由:DeepSeek 开源生产级推理引擎并披露大规模缓存下的产能与成本结构,为行业提供了可复用的工程基线与经济学参照。

10月20日周二
  1. The Decoder65

    MiniMax 发布推理模型 M3.1 Flash:成本减半、评分超 Gemini 3.8 Flash

    MiniMax 发布推理模型 MiniMax-M3.1-Flash,在 Artificial Analysis Intelligence Index 得 42 分,比前代 M3 提高 13 分,单次任务成本约 0.22 美元,不到前代的一半。

    推荐理由:文章给出 M3.1 Flash 的 benchmark 数据、价格与幻觉率,读者可直接对比 DeepSeek V4.1 Flash 和 GLM 同类产品。

10月14日周三
  1. Latent Space58

    AI工程师纽约峰会与Gemini 4 Argon等模型的多维度评测汇总

    AI Engineer NYC峰会回顾了Gemini 4 Argon和Meta Muse Wonder等产品,并汇总了CursorBench、Artificial Analysis等独立基准测试结果。Argon在Coding Agent任务中表现强劲,但可靠性和幻觉指标存在争议;Muse强调个人助理定位且订阅定价引发关注。

    推荐理由:这篇周度综述汇总了Gemini 4 Argon、Muse Wonder等最新发布的独立评测数据和成本对比,为选择模型提供了横向参考。

10月5日周一
  1. GitHub Blog · AI & ML46

    GitHub发布AI代码评审基准ReviewBench

    GitHub发布开源代码评审离线基准ReviewBench,包含来自187个公开仓库的219个拉取请求和多方来源的黄金集,提供Grounded与Augmented两类精度/召回指标。ReviewBench网站已开放,用户可探索数据集、查看排行榜并使用自服务Runner评测与提交自有系统结果。

    推荐理由:GitHub发布代码评审基准并提供自服务评测通道,读者可直接对比或提交自建评审智能体的效果。