跳到正文
TechCrunch · AI· Julie Bort·· 14 天前精选AI 评分70

微软推出 Guardian Agents 应对 AI 智能体安全威胁

Microsoft says AI agents are like insider threats as ‘frontier models can’t be trusted’

AI 导读

微软宣布新增 Guardian Agents 等安全功能,作为 Project Perception 的一部分,用于监控企业部署的 AI 智能体。CEO Satya Nadella 称前沿模型不可信任,主张将智能体的供应与其权限分离;安全主管 Hayete Gallot 指出现有模型因不可预测且缺乏组织判断力,不能被视为可信。

推荐理由

Microsoft 以内部威胁为视角推出 Guardian Agents 等安全功能,反映了业界对 frontier 模型不可靠的担忧及厂商利益冲突。

来源:TechCrunch · AI · techcrunch.com