AI安全：连Google都在实时探索，行业面临新挑战

AI安全：从边缘到核心的转型挑战

近日，我有机会在洛杉矶一场活动中与Google Cloud首席运营官Francis de Souza进行幕后交流。在喧嚣的环境中，de Souza以大学教授般沉稳的语调，为当前AI安全时刻提供了实用建议，他预测“会有一个过渡期，之后我们将进入更好的状态”。

尽管他当时未直接提及Google，但显然即使是科技巨头也在摸索中前行。他的核心观点是，AI安全已从“附加项”变为“必需项”。他强调：“当企业踏上AI之旅时，必须采用平台化策略。安全不能事后添加，也不能完全依赖员工自行处理。”

de Souza特别警告了“影子AI”现象——员工未经组织监督使用消费级工具。他主张企业从一开始就需对平台提出安全、治理和可审计性要求：“没有数据策略和安全的AI战略，根本不存在。”

值得注意的是，他并非在推销Google Cloud单一方案。他反驳称，Google坚持多云策略，认为声称“单一云”运营的企业几乎不可能实现，因为它们依赖SaaS应用和不同云服务商的合作伙伴。因此，“企业需要跨云、跨模型保持一致的安全态势。”

攻击模式已发生根本性改变，传统防御模型因反应迟缓而失效。de Souza指出，初始入侵到攻击升级的平均时间已从8小时骤降至22秒，攻击面也远超传统网络边界：“除了常规系统，现在还有模型、训练数据管道、代理和提示词。所有这些都需要保护。”

一个被忽视的风险是，AI代理在内部系统中游走时，可能暴露长期被遗忘的数据存储库。例如，许多组织遗留着未更新的SharePoint服务器，因无人知晓而无关紧要，但代理会自动发现并暴露其数据资产。

应对之道是“以机器速度对抗机器”。de Souza提出“AI原生、全代理式防御”，即组织通过运行代理驱动防御，而非依赖人工干预：“人类可监督全代理防御，而非直接参与。”他强调这已是领导层问题，而非单纯技术问题：“这是董事会和高管团队的责任，不仅是安全团队的事。”

然而，AI防御人才严重短缺。LinkedIn首席信息安全官Lea Kissner本周告诉《纽约时报》，行业可能需要数年才能理解可持续的AI安全方式，她称之为“漏洞大流行”时代。

平台提供商自身也面临挑战。《The Register》近期报道，多名Google Cloud开发者因Gemini模型未经授权的API调用收到五位数的账单。这些案例遵循相似模式：原本用于Google Maps的API密钥（按Google指示公开部署）在Gemini扩展功能后，被攻击者利用。

Prentus首席执行官Rod Danan的账单在30分钟内飙升至$10,138，因攻击者利用其被攻破的API密钥。
Sydney开发者Isuru Fonseka醒来发现被收取约AUD $17,000，尽管他认为有$250消费上限。Google自动升级计费层级至$100,000，未明确告知用户。

Google在报道后退款，但拒绝改变自动升级政策，称优先避免服务中断而非执行用户预算。

关注微信号：智享开源 ，及时了解更新信息。

0 0