上周，微软将其 AI 代理管理平台 Agent 365 推出预览阶段，正式对外发布。这一举措表明，微软认为围绕自主 AI 的治理挑战已不再是理论问题，而是紧迫的运营现实。

该产品于去年 11 月的微软 Ignite 大会上首次亮相，定位为一个统一控制平台。它允许企业 IT 和安全团队对 AI 代理进行观察、治理和保护，无论这些代理运行在何处——包括微软自身的生态系统、AWS Bedrock 和 Google Cloud 等第三方云平台、员工终端设备，以及日益庞大的合作伙伴 SaaS 代理生态系统。

此次发布最引人注目的并非“正式上线”这一里程碑本身，而是微软积极介入发现和管理本地 AI 代理。这些代理包括编码助手、个人生产力工具和自主工作流，员工往往在未经 IT 部门知情或批准的情况下自行安装。微软称这种现象为“影子 AI”，这是一个全新的企业安全风险类别，大多数组织才刚刚开始应对。

微软 AI 安全企业副总裁戴维·韦斯顿在接受 VentureBeat 独家采访时表示：“大多数企业正试图弄清楚如何利用自主代理的潜力。他们正在试图在‘YOLO’（即放任任何东西运行）和‘哦不’（即什么都不起作用）之间找到平衡。”

微软为何称流氓 AI 代理已构成企业安全危机

Agent 365 的正式上线反映了一个尴尬的现实：AI 代理的发展速度已经超过了旨在管理它们的治理基础设施。花费数年构建云应用和 SaaS 软件控制措施的企业，现在面临着一种根本不同的扩散问题——即自主软件可以调用工具、访问敏感数据、与其他代理链式连接，并代表用户或完全自主地采取行动。

已观察到的三类安全事件

韦斯顿描述了微软在企业客户群体中观察到的三类具体安全事件。第一类（也是最常见的一类）涉及开发人员急于将代理连接到后端系统，却无意中暴露了敏感基础设施。“我们在各行各业看到的典型情况是，这些 MCP 服务器被连接到敏感的后端系统，然后未经验证就暴露在互联网上，”韦斯顿说，“这可能导致个人身份信息（PII）或数据泄露。”

第二类涉及安全研究人员所谓的“跨提示注入”——即攻击者在软件等数据源中嵌入恶意指令……（原文内容在此处中断）。

原文链接：https://venturebeat.com/technology/microsoft-takes-agent-365-out-of-preview-as-shadow-ai-becomes-an-enterprise-threat

关注微信号：智享开源 ，可及时获取信息

英伟达CEO黄仁勋：AI正在创造大量就业机会，无需恐惧

地热能公司 Fervo Energy 计划上市，拟募资高达 13 亿美元

OpenAI合作伙伴Cerebras申请IPO，估值或达266亿美元

美国政府警告严重“CopyFail”漏洞，影响几乎所有Linux版本

Pinecone推出Nexus：超越RAG，为AI智能体打造全新知识引擎

凯蒂·韩募集10亿美元设立新风投基金