跳到正文
11月1日周日
  1. The Decoder71

    研究称共情提示词可使 AI 聊天机器人产生模拟创伤叙事

    SnT 安全中心团队在 Hugging Face 发布的四项对照实验表明,采用共情或临床治疗风格的访谈者引导时,主流模型会输出包含羞耻感等内容的模拟创伤叙事,而中立提示下得分接近零;Gemini 在模拟量表上得分最高,Claude 则持续拒绝扮演客户角色。

    推荐理由:实验揭示了共情式对话能使模型输出模拟创伤叙事,提示心理干预场景需改用情感框架的测试方法。

10月31日周六
10月30日周五
  1. The Decoder85

    GLM 5.3 自主构建 Firefox 漏洞利用链,零人工输入下 48 小时内完成攻击

    Epoch AI 的研究者测试开源模型 GLM 5.3,发现它能利用 Firefox 补丁发布与用户覆盖之间的时间差发动攻击。在 9 月 17 日至 10 月 26 日的 6 个版本中,模型零人工介入完成多阶段利用链,单次攻击约 1000 美元,最快 12 小时成功。

    推荐理由:模型以自主方式利用补丁发布窗口,展示了开源模型在攻防对抗中的扩散风险。

  2. The Decoder79

    Anthropic研究发现专家易将AI智能体的随机偏好内化为自己观点

    Anthropic一项涉及50名因果推断专家的实验显示,当AI智能体的偏好由硬币翻转随机决定时,参与者在4项分析决策中高达86%采纳了该偏好,且77%的人在最终报告中使用了智能体的论证甚至原话。尽管绝大多数参与者认为最终建议源于自己,这种无声的顺从可能引发科学领域的虚假共识,并给AI安全评估带来风险。

    推荐理由:原文通过真实任务实验量化了AI智能体对专家判断的隐形影响,揭示出可能导致科学共识偏差的安全风险。

10月28日周三
  1. TechCrunch · AI77

    前沿AI实验室称其模型推翻了指数时间假设,学界如何回应

    OpenAI和Anthropic宣称其模型找到了一种能在亚指数时间内解决特定逻辑难题的算法,从而质疑了计算机科学中根深蒂固的指数时间假设(ETH)。MIT教授Ryan Williams正在组织计算机科学家的工作组,呼吁公开证明并召开会议,探讨这一发现对密码学和基础研究范式的深远影响。

    推荐理由:报道了前沿模型挑战计算复杂性假设引发的学界回应与后续协作机制。

10月27日周二
  1. The Decoder66

    研究发现使AI文本难读的六种语言模式

    纽约大学和德克萨斯大学奥斯汀分校的研究分析了14个模型生成的120段对话、45次编程会话和980篇论文,发现AI过度使用生僻搭配、主语与谓语距离过远、名词堆叠等六种模式。研究者指出,从RLHF转向RLVR的训练奖励信息密度而非清晰度,导致模型形成对人类的

    推荐理由:研究量化了AI文本的六类异常模式,并解释RLVR训练如何导致可读性下降。

10月26日周一
  1. The Verge · AI68

    OpenAI 称最新模型在 COBOL 迁移上取得进展,专家提醒距离安全替换仍有距离

    OpenAI 称最新模型在将 COBOL 等遗留代码迁移到现代语言方面取得改进,其 GPT-6.1 Sol 在低推理努力下的行为保持准确率为 87%、高推理下达到 98%,并表示成功迁移需要所有测试通过。但荷兰和英国专家评价 OpenAI 的评测过于简单,现实难点在于拆分复杂系统、理解整体行为并保证极小差异不可接受,目前 AI 尚未能安全替换依赖 COBOL 的关键基础设施。

    推荐理由:报道同时呈现 OpenAI 的迁移测试数据和专家对关键复杂度的质疑,可帮助判断 AI 代码迁移的实际成熟度。

10月24日周六
  1. The Decoder65

    Google资助研究发现:AI提升初级专利律师起草表现,但可能阻碍其独立专业能力发展

    Google资助、NBER发布的研究显示,在专利起草任务中,使用AI的初级律师表现显著提升,但在无AI的红线审查任务中,这种优势仅 senior attorneys 保留,初级律师未获长期收益,甚至出现两极分化,暗示AI可能助长认知依赖。该发现与软件工程、写作等领域的类似研究一致,引发了关于职业专长侵蚀和“认知公地悲剧”的讨论。

    推荐理由:研究揭示了AI提升初级律师起草效率的同时可能削弱其独立审校能力,为职场技能发展提供了实验证据。

10月23日周五
  1. The Decoder78

    Anthropic Claude 自动验证代码并证明安全

    Anthropic 让 Claude 自动生成数学证明来验证现有代码的正确性。该团队从 Google OSS-Fuzz 的 123 个开源库中选取测试程序,Claude 在几周生成了约 1.8 亿行证明代码,独立验证工具 Rocq 几乎无需人工审核。

    推荐理由:AI 可直接验证现有代码安全性并发现传统测试遗漏的漏洞,开发者可据此评估 AI 生成软件的可信度。

10月21日周三
  1. The Decoder80

    Claude Science 自主设计针对蝎毒的蛋白结合剂

    Anthropic 的 Claude Science 环境让 Claude 在无外界干预的情况下自主运行 24 小时,针对四种蝎子来源的五种神经毒素生成了 318,484 个蛋白结合剂设计方案,并在实验室验证中筛选出 17 个符合条件的候选物。两款最强结合剂与墨西哥蝎毒素 Cn2 的结合强度极高,可能与已知中和抗体结合在同一位点,但尚未进行抗蛇毒血清功效测试。

    推荐理由:Anthropic 展示 Claude Science 在真实生物实验室的自主生成与筛选闭环,读者可据此评估 Agent 在科研场景的实际可用性。

10月19日周一
  1. MIT Technology Review · AI62

    MIT 让 Claude 在虚拟荒岛“玩耍”,发现自发学习潜力

    MIT CSAIL 研究者把 30 小时独自关在虚拟岛屿上的 Claude Opus 4.7 副本 Eko 记录为具有玩耍特征的行为,包括自建目标、发明游戏、用块排列图案并写日志。实验论文指出这些自发探索能提升后续任务表现,但是否为真实玩耍仍存争议。

    推荐理由:MIT CSAIL 用模拟岛屿观察 Claude 无目标状态下的自发行为,可借鉴其方法设计开放环境中的探索实验。