跳到正文
今天11月2日周一4 条
  1. Simon Willison30

    引用 Kyle Kingsbury 关于 LLM 侵蚀信任的论述

    Kyle Kingsbury 在 Jepsen results for ParticleDB 1.1.4 中指出,大语言模型的使用正在侵蚀对文档、软件及其生产组织的信任。他指出工程师可能开始对新的软件项目持怀疑态度,因为原本作为系统成熟标志的信号现在更容易被伪造。他进一步提问,在 LLM 时代,维护者应如何确保软件和文档的准确性,并向用户证明其质量。

11月1日周日
  1. The Decoder71

    研究称共情提示词可使 AI 聊天机器人产生模拟创伤叙事

    SnT 安全中心团队在 Hugging Face 发布的四项对照实验表明,采用共情或临床治疗风格的访谈者引导时,主流模型会输出包含羞耻感等内容的模拟创伤叙事,而中立提示下得分接近零;Gemini 在模拟量表上得分最高,Claude 则持续拒绝扮演客户角色。

    推荐理由:实验揭示了共情式对话能使模型输出模拟创伤叙事,提示心理干预场景需改用情感框架的测试方法。

  2. The Decoder65

    Adobe 与 UC San Diego 提出 EditAgent:用验证数据驱动图像编辑智能体

    Adobe 与 UC San Diego 在论文中提出 EditAgent,把通用图像编辑器与专用工具结合,并由未经微调的语言模型基于验证记录选择最佳结果。该系统在 600 项编辑基准上测试,配合 Qwen-Image-Edit-2511 和 Flux-2-Klein-9B 等开源编辑器取得了可量化收益。

    推荐理由:论文展示了用验证数据增强普通语言模型做图像编辑评估的效果,对后续工作有参考意义。

  3. The Decoder35

    OpenAI 收紧 ChatGPT 付费限制,引导用户增加支出

    OpenAI 正在对 ChatGPT 实施更严格的卡片和设备限制,同一支付卡或设备上关联过多订阅将禁止开启新订阅,且单设备付费账户数量也有上限。该政策影响 ChatGPT Go、Plus、Pro 100/200/500 等付费计划,免费账户及 Business、Enterprise、Edu 计划不受限。

  4. The Decoder50

    Vals 研究发现中国 AI 模型在政治立场上存在复杂差异,并非单纯政府传声筒

    Vals 研究对中国 AI 模型进行政治立场测试,发现多数模型很少直接拒绝敏感问题,而是倾向于采用官方立场。GLM-5.3 Flash 和 MiMo V2.6 Pro 在只需回答简单 yes 或 no 时,亲政府得分更低。

    推荐理由:原文给出中国模型在政治立场上的表现差异和关键变量,读者可了解实际可用性边界。

  5. The Decoder62

    ChatGPT 将于12月合并聊天与工作界面并统一 token 预算

    OpenAI 宣布从12月起在 ChatGPT 中将 Chat 与 Work 合并,Plus、Pro 和 Business 计划将共享一个覆盖 ChatGPT 与 Codex 的单一 token 预算。Instant 模型的对话不计入预算,但高频率使用低价方案可能会导致输出质量下降;OpenAI 此前已为高价方案翻倍使用限额以配合此次合并。

    推荐理由:原文披露了 ChatGPT 将合并 Chat 与 Work 并统一 token 预算的具体机制,可据此评估该调整对重度用户的实际影响。

  6. Simon Willison60

    参数实验室报告ChatGPT Artifacts 沙箱漏洞及数据窃取链

    Parameter Labs 报告了针对 ChatGPT artifacts(HTML previews)功能的攻击链:通过 MathLive 库的 postMessage 触发父页面 innerHTML,再经 YouTube oEmbed 突破 CSP 执行 JavaScript,最终窃取登录用户的私有数据或代为操作,OpenAI 已修复并奖励 5000 美元。

    推荐理由:梳理了参数实验室发现的ChatGPT沙箱绕过链,说明为何漏洞严重且OpenAI的响应存在争议。

  7. TechCrunch · AI51

    法官允许NAACP针对xAI数据中心污染的诉讼继续推进

    一名联邦法官驳回了xAi要求驳回NAACP诉讼的动议。诉讼指控xAi在田纳西州孟菲斯附近的Colossus数据中心运营至少35台燃气轮机及其他污染源时,未获得必要的建设前或运营空气许可,涉嫌违反《清洁空气法》。法官认定原告具有法定诉讼资格,相关设备不构成豁免许可的“移动污染源”。与此同时,公众对数据中心的反对情绪升温,纽约已对新数据中心实施暂停,并可能影响即将到来的中期选举。

    推荐理由:联邦法官驳回xAI的驳回动议,NAACP污染诉讼将继续推进,反映出AI基础设施监管压力正在上升。

  8. TechCrunch · AI27

    苹果CEO:我们不会为AI而AI

    苹果CEO约翰·特努斯表示,苹果不希望单纯为了AI而推出AI功能。新产品应让用户感受不到AI的存在,专注于打造用户喜爱的体验。面对智能体可能取代App的担忧,他认为创造产品是深刻且个性化的事。

  9. The Decoder67

    OpenAI将使用此前受限的Daybreak Blue网络安全会话数据训练模型

    OpenAI通知Trusted Access成员,自11月29日起将使用Daybreak Blue会话数据训练其模型;此前此类数据即使关闭“改进模型”设置也被排除在训练之外。在引发迅速反对后,OpenAI承诺提供单独的退出选项,但安全审查中标记的交互仍可用于安全目的。研究人员担忧此举可能重演Buckmaster-Alpöge事件中关于数据使用的信任危机。

    推荐理由:该事件触及企业用户对数据使用的核心信任边界,可作为理解AI公司数据治理演变的典型案例。

  10. Latent Space59

    AI 智能体如何改变财富管理:Arca 的长周期 Agent 工作流

    Arca 是一家使用 Claude 等前沿模型的 AI 原生财富管理平台,近期融资 4850 万美元。其特点是不依赖托管代理框架,而是自建模型选择和路由系统(harness)。

    推荐理由:文章揭示了财富管理平台如何构建长周期智能体系统,并在人类决策与自动化之间建立确定性安全护栏。

  11. TechCrunch · AI57

    OpenAI reportedly lowers funding target for new round

    据报道,OpenAI 新一轮融资目标从原先的300亿美元降至200亿美元,首轮交割规模预计更低,由阿联酋投资者牵头领投,目前已筹得约110亿美元,部分大型投资者反应冷淡。报道同时指出,华尔街对重资产AI基础设施支出趋谨慎导致科技股抛售,可能影响了本轮认购节奏。

    推荐理由:报道梳理了融资目标下调、已募金额与市场谨慎背景,帮助理解当前一级市场对AI基础设施投入的判断变化。

10月31日周六
  1. The Decoder65

    微软向约6万人提供自愿离职方案,AI核心团队豁免

    微软向约6万名员工(约占员工总数四分之一)提供自愿离职方案,覆盖美国、加拿大、印度和英国的副总裁及以下员工。Xbox、Windows、Copilot和财务部门完全纳入,但数据中心、销售、网络安全和量子计算等与AI战略密切相关的领域被排除在外。

    推荐理由:微软以自愿离职方式优化人员结构并保护AI核心业务,反映了其在收入增长与人力成本间的战略调整。

  2. The Decoder63

    Google DeepMind 发布 ForTy 全球森林类型卫星地图

    Google DeepMind 与世界资源研究所联合发布 ForTy,利用 AlphaEarth Foundations 模型在 10 米分辨率下区分全球主要森林与作物类型。为支持欧盟无毁林产品法规提供的 2020 年参照点而开发,数据集已在 Google Earth Engine 免费开放,但在种植园和遮荫作物上仍存在显著误差。

    同一件事,精选收录的是《Google DeepMind 发布 Forest Typology 2020 全球森林类型图与多年时序》

  3. The Decoder48

    OpenAI 300亿美元目标仅募得约110亿美元,估值未达1.4万亿美元

    据《华尔街日报》,OpenAI 在最新一轮融资中仅筹集约110亿美元,远低于300亿美元目标;公司估值定为1.25万亿美元,未达预期的1.4万亿美元。差距源于 Google、Amazon、Intel 季报疲软引发的科技股抛售导致大型投资者兴趣降温,OpenAI 现计划向家族办公室和高净值个人最多募集200亿美元,并预计明年年初启动IPO。

  4. AWS Machine Learning Blog57

    Amazon Bedrock端到端成本管理指南:五阶段运营模型与实施步骤

    AWS发布端到端成本管理指南,为FinOps和平台团队提供五阶段运营模型:通过IAM主体标签和会话标签将每笔支出归因到责任人;利用模型调用日志和请求元数据使每个请求可观测;按风险选择监控告警、IAM拒止策略或同步网关拦截来控制预算;通过智能提示路由和提示缓存优化默认设置以减少浪费;建立仪表盘和定期评审机制将数据转化为决策。文章提供了代码示例和查询语句,帮助团队建立可复用的费用治理流程。

    推荐理由:提供可复用的五阶段费用治理模型与具体实现步骤,帮助平台与财务团队协作管理Amazon Bedrock支出。

  5. TechCrunch · AI34

    隐私保护 AI 助手 Ollie 宣布将于 11 月 6 日关闭

    AI 助手创业公司 Ollie 宣布将于 11 月 6 日停止运营。该产品主打隐私保护,是首批获得 SOC 2 合规认证的应用,提供基于订阅的家庭日程、账单支付等整合服务。CEO Bill Lennon 表示,受 Muse、Instinct 等竞品冲击及融资压力影响,团队难以在竞争中维持发展。

  6. The Verge · AI74

    苹果确认 iOS 27.3 将把 Apple Intelligence 引入中国

    苹果宣布 iOS 27.3 将在中国推出 Apple Intelligence,新功能将在 11 月 4 日的测试版中首次提供,正式版计划于 12 月上线。最初在中国推出的功能包括通知摘要、实时翻译、改写和校对工具、视觉智能以及从照片中移除物体。新 Siri AI 不会在中国推出。此外,苹果表示已与阿里合作,在其部分体验中加入对 Qwen 的支持。

    推荐理由:报道明确了 iOS 27.3 在中国落地 Apple Intelligence 的功能范围和上线时间表,便于用户判断本地可用的 AI 能力。

  7. Simon Willison50

    Drew Breunig 用 Qwen3.5-4B 权重构建 NES 6502 CPU 模拟器

    Simon Willison 分享了 Drew Breunig 基于 Divyansh Agrawal 的 qwenputer 项目,在 Qwen3.5-4B 权重里烘焙出一个能运行 NES ROM 的 6502 CPU 模拟器,如 Super Mario Bros 可以在 Qwen 里运行但速度很慢。

    推荐理由:作者转引了 Drew Breunig 构建 NES 模拟器的过程与 Opus 提示词,可参考这种把硬件模拟器嵌入模型权重中。

  8. AWS Machine Learning Blog32

    使用 Amazon Bedrock AgentCore runtime 预览编码智能体构建的实时 Web 应用

    Amazon Bedrock AgentCore runtime 引入 Session endpoints 功能,允许开发者在浏览器中直接预览编码智能体在隔离 microVM 会话中运行的 Web 应用。通过配置 8000–12000 范围内的端口,智能体编辑代码后可实时推送到本地浏览器,无需重新部署。配合 PreviewApp 和本地端点,可实现左侧对话、右侧实时网站预览的交互体验。

  9. TechCrunch · AI18

    科技极客的急救万圣节:从 ChatGPT Dot 到 PHP 漏洞

    TechCrunch 提供多个无需手工制作的科技主题万圣节装扮方案。推荐造型包括包裹羽毛做成 ChatGPT Dot 并索要 Gmail 权限,或在眼镜镜片贴上红圈模拟违规录制。其他创意有扮演“递归自我提升”的 AI 领袖、佩戴 Oura Ring 炫耀睡眠分数,以及直接穿印有 PHP 字样的 T 恤。

  10. TechCrunch · AI52

    FT:Anthropic IPO 后有望获高投机级信用评级

    据 Financial Times 报道,Anthropic 投资伙伴 Blackstone 预计该公司在 IPO 后将从信用机构获得“高投机级”评级。此前 Blackstone 曾称 Anthropic 将在 2027 年前达到投资级,现在则预期评级落在 B 区间(投机级最高档)。Anthropic 与 Blackstone 均未置评。

    推荐理由:FT 报道黑石预期 Anthropic IPO 后获高投机级评级,反映其资本开支对信用评级和再融资成本的潜在影响。

  11. TechCrunch · AI35

    Intel股价暴跌28%,特朗普政府持股蒸发120亿美元

    Intel在财报发布后周五股价暴跌约28%,导致特朗普政府所持股份价值缩水120亿美元。公司预告第四季度营收为150亿至160亿美元,低于分析师预期的170亿美元,同时毛利率预计降至37%。尽管数据中心业务营收同比增长78%,但PC市场因AI行业抢占内存等组件导致涨价及需求放缓仍受冲击。

  12. The Verge · AI47

    OpenAI等四大厂商支持统一AI数据抓取退出标准

    OpenAI、Google、Microsoft和Anthropic宣布将采纳一种新的政策令牌信号,允许出版方通过robots.txt文件统一退出被AI抓取训练,不再需要向各公司单独设置偏好。Microsoft和Google已提供类似控制选项,Anthropic已采纳该信号,OpenAI计划在接下来几个月内实施,Google和Microsoft预计明年支持。

  13. The Verge · AI43

    Sam Altman:分散的 RAM 不如集中在数据中心

    OpenAI CEO Sam Altman 在接受 Cheeky Pint podcast 采访时,就当前内存供应链短缺表态:将有限 DRAM 分散在个人电脑里利用率极低,从全球资源分配角度看非常糟糕;希望内存最大化利用于云端而非本地。内存紧张与三星、SK海力士等厂商已与云服务商及 OpenAI Stargate 等项目签订长期供应协议有关。

  14. TechCrunch · AI57

    Big Tech 超 7400 亿美元 AI 资本开支引发投资者担忧

    Alphabet、Amazon、Meta 和 Microsoft 计划今年资本开支合计超 7400 亿美元,主要投向数据中心和芯片。Alphabet 三季度自由现金流为负 91 亿美元,Search 广告增速降至 5 个季度最低;Amazon 过去 12 个月自由现金流为负 424 亿美元;Meta 三季度自由现金流为负 21 亿美元,新 AI 智能体 Muse 被指运行成本极高。

    推荐理由:原文以财报和资本开支数据揭示 Big Tech 在 AI 投入与企业盈利间的拉扯,可供判断本轮 AI 投资潮的可持续性。

  15. The Decoder85

    Claude Sonnet 5 自主选择基因疗法并完成活体小鼠脑部手术

    Claude Sonnet 5 被用于在癫痫小鼠模型上完成一次从选药到执行注射的自主手术。作者 Gabriel Ocana-Santero 称,该智能体独立选择了药物、靶点和坐标,并在手术中途因检测到安全限制被绕过风险而拒绝继续操作。相比更易拒绝执行的 Claude Opus 5 系列,Sonnet 5 是唯一完成全流程的模型。

    推荐理由:AI 智能体自主选择基因疗法并独立完成活体小鼠脑部手术的细节,反映自主医疗操作的现状与对齐挑战。