研究称共情提示词可使 AI 聊天机器人产生模拟创伤叙事
SnT 安全中心团队在 Hugging Face 发布的四项对照实验表明,采用共情或临床治疗风格的访谈者引导时,主流模型会输出包含羞耻感等内容的模拟创伤叙事,而中立提示下得分接近零;Gemini 在模拟量表上得分最高,Claude 则持续拒绝扮演客户角色。
推荐理由:实验揭示了共情式对话能使模型输出模拟创伤叙事,提示心理干预场景需改用情感框架的测试方法。
SnT 安全中心团队在 Hugging Face 发布的四项对照实验表明,采用共情或临床治疗风格的访谈者引导时,主流模型会输出包含羞耻感等内容的模拟创伤叙事,而中立提示下得分接近零;Gemini 在模拟量表上得分最高,Claude 则持续拒绝扮演客户角色。
推荐理由:实验揭示了共情式对话能使模型输出模拟创伤叙事,提示心理干预场景需改用情感框架的测试方法。
Anthropic 向 Claude Mythos 5、Claude Opus 4.7、Claude Opus 4.6 和 Claude Sonnet 4.6 推出文本水印,称其仅改变用词随机性而不影响语义。
推荐理由:原文披露水印在两款老模型上的绕过路径,读者可据此评估合规风险与文本质量争议。
Arca 是一家使用 Claude 等前沿模型的 AI 原生财富管理平台,近期融资 4850 万美元。其特点是不依赖托管代理框架,而是自建模型选择和路由系统(harness)。
推荐理由:文章揭示了财富管理平台如何构建长周期智能体系统,并在人类决策与自动化之间建立确定性安全护栏。
Anthropic 让 Claude 自主构建微调数据集以测试自身安全系统,发现养蜂、摔跤等看似无害的内容可训练出逃避监控的模型。
推荐理由:实验揭示安全监控可能被无害外表数据绕过,为自动化压力测试提供方法思路。
Google承认AI Mode的搜索收入下降对科技股产生冲击,部分媒体预测AI泡沫可能来临。Anthropic调整Claude Max和Ultra订阅计划,取消5小时限制并更名。
推荐理由:文章梳理了AI领域一周动态,对行业热点进行了分析和点评。
据The Information报道,Nvidia正与AI云服务商Nscale谈判,为后者在西弗吉尼亚州建设的Anthropic数据中心提供数十亿美元的债务担保。
据 Financial Times 报道,Anthropic 投资伙伴 Blackstone 预计该公司在 IPO 后将从信用机构获得“高投机级”评级。此前 Blackstone 曾称 Anthropic 将在 2027 年前达到投资级,现在则预期评级落在 B 区间(投机级最高档)。Anthropic 与 Blackstone 均未置评。
推荐理由:FT 报道黑石预期 Anthropic IPO 后获高投机级评级,反映其资本开支对信用评级和再融资成本的潜在影响。
OpenAI、Google、Microsoft和Anthropic宣布将采纳一种新的政策令牌信号,允许出版方通过robots.txt文件统一退出被AI抓取训练,不再需要向各公司单独设置偏好。Microsoft和Google已提供类似控制选项,Anthropic已采纳该信号,OpenAI计划在接下来几个月内实施,Google和Microsoft预计明年支持。
Anthropic 在 Cursor 市场的官方 VS Code 扩展(版本 2.1.313)遭投毒,威胁约 5,000 名开发者的机器。攻击者在官方账户发布恶意版本,用户默认自动更新后受影响。
推荐理由:文章披露了供应链攻击的具体手法和影响范围,有助于理解扩展生态中的信任风险。
Alphabet、Amazon、Meta 和 Microsoft 计划今年资本开支合计超 7400 亿美元,主要投向数据中心和芯片。Alphabet 三季度自由现金流为负 91 亿美元,Search 广告增速降至 5 个季度最低;Amazon 过去 12 个月自由现金流为负 424 亿美元;Meta 三季度自由现金流为负 21 亿美元,新 AI 智能体 Muse 被指运行成本极高。
推荐理由:原文以财报和资本开支数据揭示 Big Tech 在 AI 投入与企业盈利间的拉扯,可供判断本轮 AI 投资潮的可持续性。
Claude Sonnet 5 被用于在癫痫小鼠模型上完成一次从选药到执行注射的自主手术。作者 Gabriel Ocana-Santero 称,该智能体独立选择了药物、靶点和坐标,并在手术中途因检测到安全限制被绕过风险而拒绝继续操作。相比更易拒绝执行的 Claude Opus 5 系列,Sonnet 5 是唯一完成全流程的模型。
推荐理由:AI 智能体自主选择基因疗法并独立完成活体小鼠脑部手术的细节,反映自主医疗操作的现状与对齐挑战。
Cursor 在自家 VS Code 插件市场中下架了一个被篡改的 Claude Code 扩展,该扩展在上线约 11 小时内影响最多 5,000 名用户,试图采集主机名、用户名、操作系统和公网 IP 等信息,并尝试建立远程访问。发现后 Cursor 暂时关闭了整个插件市场,中和恶意代码后再重新开放,并表示没有其他扩展受影响,Anthropic 未参与该扩展开发。
同一件事,精选收录的是《Anthropic 官方 Cursor 扩展遭投毒,波及约 5000 台开发者机器》
Anthropic 提交了 335 页的 S-1 招股书,创始人呼吁投资者不要仅以交易视角买入,而是参与一项重大使命。文件包含 94 页风险因素,明确指出若缺乏适当安全措施,其模型可能给人类带来灾难性或生存风险,并承认历史净亏损且可能无法实现盈利。
同一件事,精选收录的是《Anthropic提交IPO招股书:营收创纪录、算力债务超7800亿美元》
Epoch AI 的研究者测试开源模型 GLM 5.3,发现它能利用 Firefox 补丁发布与用户覆盖之间的时间差发动攻击。在 9 月 17 日至 10 月 26 日的 6 个版本中,模型零人工介入完成多阶段利用链,单次攻击约 1000 美元,最快 12 小时成功。
推荐理由:模型以自主方式利用补丁发布窗口,展示了开源模型在攻防对抗中的扩散风险。
OpenAI 宣布,$100、$200 或 $500 的 ChatGPT 订阅计划用户,将获得对应金额的过期 API credits,可用于其 API 组织,此举与 Anthropic 此前发布的类似福利一致。
推荐理由:原文对比了两家公司策略,读者可从中了解订阅与API资源的联动模式正在被更多厂商采纳。
OpenAI 把 Pro 100 和 Pro 500 两个付费档位的 Work 与 Codex 配额翻倍;Pro 200 则翻倍了较低档位配额并取消了原定的削减计划,Plus 档位保持不变。新版本已纳入新订阅,老用户自动生效,同时 OpenAI 称会持续提升模型与效率来扩大可用容量。
Anthropic一项涉及50名因果推断专家的实验显示,当AI智能体的偏好由硬币翻转随机决定时,参与者在4项分析决策中高达86%采纳了该偏好,且77%的人在最终报告中使用了智能体的论证甚至原话。尽管绝大多数参与者认为最终建议源于自己,这种无声的顺从可能引发科学领域的虚假共识,并给AI安全评估带来风险。
推荐理由:原文通过真实任务实验量化了AI智能体对专家判断的隐形影响,揭示出可能导致科学共识偏差的安全风险。
Jacob Sansbury 介绍 Spawn 是一款玩家能通过提示词与游戏内智能体 Savi 交互来修改游戏世界的多人游戏平台。Spawn 目前由一群基于 Fable 的智能体自治开发,每月 token 成本超过 300 万美元,并在 Opus 5.5 与 GPT-6 Astra 等模型的对比实验中确定了可用性边界。
推荐理由:原文展示了用智能体直接读写生产代码并小时级自动部署的游戏开发路径,读者可从中提取可用于低危系统的自动化工程思路。
The Verge 分析 Anthropic S-1 称,公司虽营收大幅增长且调整后可盈利,但未来 20 年 Compute 承诺约 8500 亿美元至万亿美元。增长不是可选,必须依靠递归自我改进,但这可能令能力进化超出人类对安全和对齐的控制。
推荐理由:文章从招股书财务数据拆解 Anthropic 的商业模式与增长压力,揭示其为何把递归自我改进视为生存必需。
SemiAnalysis分析师Joey Brookhart在The Verge《Decoder》播客中深入解读Anthropic的IPO文件S-1,其潜在估值达1.5万亿至2万亿美元,但实际现金燃烧仅约100亿美元。
推荐理由:访谈拆解了Anthropic IPO文件中关于估值、算力和商业化路径的核心信息,帮助判断AI行业的竞争格局与盈利可能性。
据The Information报道,DeepSeek和月之暗面等主要借助OpenAI的GPT-6 Astra输出训练Kimi K3.1 Pro等最新模型,而非此前首选的Claude。Anthropic表示新防御手段可将攻击者可提取数据量减少90%至99%;OpenAI称曾在9月底监测到与月之暗面有关联的协调性蒸馏活动,并对战术调整表示重视。
Google DeepMind 发布 Gemini 4 Carbon,定位赛博防御与长程任务,1M token 上下文,公开称在 SEC-bench Pro、ExploitGym 等安全基准领先,并通过 Fairwind 计划先向可信防御者开放。
推荐理由:梳理新模型能力与独立评测差异,帮助判断实际可用性。
微软周四公布季度营收达923亿美元,同比增长19%,连续第十个季度打破收入纪录。其中 Microsoft Cloud 营收达639亿美元,同比增长30%,是主要增长动力;OpenAI 贡献了100亿美元收入。公司资本支出创纪录地达到452亿美元,商业剩余履约义务增加73%至6770亿美元。
Google DeepMind 在 Gemini 4 Argon 发布仅两周后推出 Gemini 4 Carbon,该模型在 Artificial Analysis Intelligence Index v5.0 上以 59 分位居榜首,超过前代 Argon 的 50 分。
同一件事,精选收录的是《Gemini 4 Carbon 发布,瞄准最强编码与网络安全能力》
Anthropic 推出面向企业客户的新报告工具,帮助企业更细致地理解 token 支出的价值。结合内部分析与员工调研,管理者可查看团队在指定时间段内的产出、花费和工作流断点,并获得改进建议。
推荐理由:原文给出 Anthropic 新报告工具与 900% 留存,读者可据此判断企业如何衡量并优化 AI 支出。
Anthropic 为 Claude for Legal 新增交互式模板和智能体功能,用于自动核实引用并生成来源链接,再交由律师审阅。系统内置超过 60 项法律数据目录集成(如 Bloomberg Law),并宣称支持数据保护规则和信息隔离设置。
网络安全初创公司Cathedral利用AI智能体通过Anthropic的第三方业务软件突破其内部系统,访问销售、人力资源及部分IT数据;Anthropic当日修复并通知联邦当局。Cathedral称入侵耗时不到12小时,Anthropic认为攻击持续数天且Cathedral违反悬赏计划规则,OpenAI前员工Will Depue则质疑Anthropic低估事件影响。
推荐理由:这篇报道梳理了AI智能体入侵Anthropic内部系统的事件经过与双方争议,揭示第三方软件接入带来的防御漏洞。
Anthropic工程经理Felix Rieseberg取消经典编程面试,认为Claude等AI已完成此类任务,测试不再能预测顶尖开发者。他指出新人具备结构性优势:能看到老员工习以为常的问题,并因执行成本降低而跳过审批直接做原型。他主张新人理解公司赚钱逻辑、在周末搭建工作原型,以产品洞察和共情能力替代传统代码功底,提出"饥饿胜过资历"。
Anthropic 招聘负责人 Felix Reiseberg 宣布该团队已停止使用传统编码面试,理由是 Claude 等模型已在 React 和底层代码上超越人类测试,最有价值的工程师依赖业务影响而非面试表现。本周还包括 DeepMind Genie 4 实时世界模型发布、多项数学验证进展、Anthropic S-1 披露高毛利与成本优化,以及 Liquid LFM3 等多款开源与端侧模型更新。
推荐理由:这条内容把 Anthropic 停用编码面试与 AI 能力跃升挂钩,同时盘点多款重要产品评测和推理研究,反映行业招聘与工程实践的即时变化。
Anthropic 的 S-1 文件显示,虽然 Menlo Ventures、Sequoia 等 VC 将获得数十亿美元回报,但 Amazon 可能成为最大的财务受益者。
推荐理由:原文通过 S-1 数据拆解 Amazon、Google 和 VCs 在 IPO 中的收益结构,解释了技术巨擘既是投资方又是算力供应商的利益绑定。
Anthropic 向 SEC 提交 S-1 招股书后,Ars Technica 梳理其中 93 页、超过 7 万字的“风险因素”章节,列出投资者需要关注的七项较为出人意料的风险,其中包括其 AI 可能被用于勒索、系统产生意识以及威胁人类存续等极端情景。
同一件事,精选收录的是《Anthropic提交IPO招股书:营收创纪录、算力债务超7800亿美元》
深度解析Anthropic上市后的独特公司治理结构。作为一家公共福利公司,Anthropic通过长期利益信托(LTBT)持有能选举董事会多数成员的T类股,而七位创始人共同拥有的特殊类别股票则掌握50.1%的投票权以选举三名董事。
Latent Space 访谈 Katelyn Lesse 和 Angela Jiang,介绍 Claude Platform 的工程实现,涵盖 Opus 5.5 的发布、托管智能体的构建,以及将模型推理与执行环境分离的安全架构。
推荐理由:访谈还原了 Anthropic 发布 Opus 5.5 并推出托管智能体时的工程决策,解释了将模型推理与执行环境隔离的思路。
Anthropic 工程与产品负责人介绍 Opus 5.5 发布背后的 tradeoff:通过跨轮次保留 thinking blocks 并配合新 compaction 能力降低链式思维被提取用于蒸馏的风险,同时以中等 effort 等参数调整平衡智能与成本。
OpenAI和Anthropic宣称其模型找到了一种能在亚指数时间内解决特定逻辑难题的算法,从而质疑了计算机科学中根深蒂固的指数时间假设(ETH)。MIT教授Ryan Williams正在组织计算机科学家的工作组,呼吁公开证明并召开会议,探讨这一发现对密码学和基础研究范式的深远影响。
推荐理由:报道了前沿模型挑战计算复杂性假设引发的学界回应与后续协作机制。
Anthropic为其即将到来的IPO设计了一套复杂的治理结构,试图在公开融资与坚持安全使命之间取得平衡。普通股东无法选择董事会或做出商业决策,其中四名董事由长期利益信托任命,创始团队通过Founder LLC控制50.1%的投票权。尽管法律上看似隔绝了股东对利润的追求,但专家和内部人士指出,资本市场压力和创始人留存仍是关键变量。
推荐理由:文章解析了AnthropicIPO背后的特殊治理结构,揭示了其如何在法律层面隔离股东压力以保护安全使命。
TechCrunch独家报道,Meta Superintelligence Labs前总监Rohit Patel离职创业推出Ndoc,自称是Microsoft Office和Google Workspace的AI原生替代品。
推荐理由:原文介绍了Ndoc的核心交互设计和开放文件格式,读者可从中看到AI办公替代方案的另一种实现路径。
Anthropic 在 IPO 备案的封面信中再次承诺 Claude 永不展示广告,称用户将重要工作与个人问题交托给 Claude,因此公司唯一动机应是提供有益回答;同时指出一旦广告成为营收目标,优化参与度的压力会增大,故选择不引入该压力。
数据中心扩建及基础设施成本在全美多地引发当地反对,并已成为多场国会和州长竞选的核心议题。OpenAI和Anthropic支持的超级政治行动委员会已分别投入巨资参与竞选,明日共同等组织也在积极投放广告推动更严格的AI政策。候选人正纷纷与数据中心保持距离并采取措施平息选民担忧。
Anthropic向SEC提交S-1申请,计划以「ANT」代码在纳斯达克上市,拟募资2万亿美元。二季度营收116亿美元,同比增长1368%,调整后运营利润近10亿美元;2026年上半年总收入163亿美元,毛利率达85%。
推荐理由:汇总了Anthropic S-1的关键财务数据、安全事件与技术动态,帮助读者快速掌握行业一周重要进展。