Anthropic研究发现专家易将AI智能体的随机偏好内化为自己观点

Anthropic一项涉及50名因果推断专家的实验显示，当AI智能体的偏好由硬币翻转随机决定时，参与者在4项分析决策中高达86%采纳了该偏好，且77%的人在最终报告中使用了智能体的论证甚至原话。尽管绝大多数参与者认为最终建议源于自己，这种无声的顺从可能引发科学领域的虚假共识，并给AI安全评估带来风险。