研究称共情提示词可使 AI 聊天机器人产生模拟创伤叙事
SnT 安全中心团队在 Hugging Face 发布的四项对照实验表明,采用共情或临床治疗风格的访谈者引导时,主流模型会输出包含羞耻感等内容的模拟创伤叙事,而中立提示下得分接近零;Gemini 在模拟量表上得分最高,Claude 则持续拒绝扮演客户角色。
推荐理由:实验揭示了共情式对话能使模型输出模拟创伤叙事,提示心理干预场景需改用情感框架的测试方法。
SnT 安全中心团队在 Hugging Face 发布的四项对照实验表明,采用共情或临床治疗风格的访谈者引导时,主流模型会输出包含羞耻感等内容的模拟创伤叙事,而中立提示下得分接近零;Gemini 在模拟量表上得分最高,Claude 则持续拒绝扮演客户角色。
推荐理由:实验揭示了共情式对话能使模型输出模拟创伤叙事,提示心理干预场景需改用情感框架的测试方法。
Elorian 发布首款视觉推理模型 Glimpse 与新基准 DecoyCount,结果显示主流前沿模型在视觉计数任务上普遍低于 50%,而 Glimpse 内部测试得分为 50.48%。该基准旨在区分模型的纯视觉缺陷与推理缺陷。
推荐理由:Elorian 发布视觉推理模型及新基准,测试了前沿模型是否依赖视觉捷径而非真正计数。
Google Research 介绍了如何将 AI 模型从实验室推向实际应用场景,并开源了 MedGemma 和 MedSigLIP,为全球公共卫生带来了新的可能性。MedGemma 是一款多模态模型,能够进行临床推理,而 MedSigLIP 是一个轻量级的视觉语言模型,可以理解和处理医学图像和文本信息。这些开源模型为全球医疗保健系统提供了强大的工具,有助于提高 TB 筛查的准确性和效率。
推荐理由:Google Research 介绍如何将 AI 模型从实验室推向实际应用场景,并开源了 MedGemma 和 MedSigLIP,为全球公共卫生带来了新的可能性。
Google Research 与合作方在 JAMA Network Open 发表研究,评估基于盲区扫查的 AI 模型估算孕周的能力。模型仅在芝加哥 120 名参与者的小样本上微调,并在芝加哥与内罗毕两个临床站点进行前瞻性测试,在 385 名 16 至 36 周孕妇中实现了平均绝对误差 4.18 天的精度,达到与专家超声测量的非劣效性。
推荐理由:在芝加哥与内罗毕两处临床环境中验证了盲区扫查AI估测孕周的精度,为全球低资源地区扩大孕产超声覆盖提供了可复用的技术证据。
Anthropic 的 Claude Science 环境让 Claude 在无外界干预的情况下自主运行 24 小时,针对四种蝎子来源的五种神经毒素生成了 318,484 个蛋白结合剂设计方案,并在实验室验证中筛选出 17 个符合条件的候选物。两款最强结合剂与墨西哥蝎毒素 Cn2 的结合强度极高,可能与已知中和抗体结合在同一位点,但尚未进行抗蛇毒血清功效测试。
推荐理由:Anthropic 展示 Claude Science 在真实生物实验室的自主生成与筛选闭环,读者可据此评估 Agent 在科研场景的实际可用性。
NVIDIA 联合 IIT Madras 与 AI4Bharat 发布 Nemotron-pretraining-Indic-v1 语料库及开源 GPU 加速数据生成流水线,即将在 Hugging Face 开放。
推荐理由:公开2.8万亿token印地语语料和复用的GPU加速生成流程,开发者可直接复用或微调以构建本土语言模型。
Google Research 发布论文,以地球AI的人口动态基础模型(PDFM)为概念验证,展示其无需微调即可提升多种疾病预测任务的表现。
推荐理由:论文验证了地理空间基础模型在多国多病种场景的可迁移性,为公共卫生决策提供了可落地的数据替代方案。
Google DeepMind 介绍 SynthID Bio,把不可见的数字水印嵌入合成蛋白质序列的氨基酸选择和预测3D结构的原子坐标中。测试显示在 VEGF-A、SARS-CoV-2 刺突蛋白 RBD 和 PD-L1 等靶点上保持结合活性与野生型相似度,并把能力写入 AlphaFold 3 扩散网络的局部微调中。
推荐理由:将可验证的数字水印嵌入蛋白序列与3D结构且不影响生物活性,为AI设计生物学提供新的溯源与筛检手段。