Language:Chinese VersionEnglish Version

企业技术领域正出现一道日益扩大的鸿沟,而这并非关于能力,而是关于控制。普华永道(PwC)最近确定了当今组织可能面临的最关键风险:AI采用速度与AI治理成熟度之间的差距。公司以惊人的速度部署智能AI和生成式AI系统,而它们的治理框架仍停留在AI时代之前。结果是,合规违规、数据泄露和未经授权的访问如同一枚定时炸弹,随时可能引爆。

问题的规模

采用数据讲述了一个故事。企业正在将AI智能体整合到客户服务、代码生成、文档处理、财务分析和供应链管理中。生成式AI工具已嵌入到电子邮件客户端、生产力套件和开发环境中。这项技术从试点项目到生产部署的时间创下了记录。

而治理数据则讲述了另一个截然不同的故事。根据多项行业调查,不到三分之一的组织制定了正式的AI治理政策。更少有组织实施了技术控制来执行这些政策。差距没有缩小——而是在扩大,因为采用速度超过了治理团队的响应能力。

IBM即将举办的网络研讨会”保护智能AI:弥合访问差距”突显了这一问题的一个特别危险的维度。智能AI系统——那些能够自主行动、做出决策并与外部服务交互的系统——引入了一个全新的威胁面。与传统软件不同,AI智能体的行为可能不可预测,访问它们不应接触的数据,并执行没有人类明确授权的操作。

具体风险

这些风险并非假设。它们正在生产环境中大规模发生。

通过AI智能体的数据泄露可能是最直接的关注点。当AI助手可以访问内部文档、客户记录或专有代码时,每次交互都可能成为数据外泄的潜在途径。用户可能无意中将敏感信息输入到将数据传输到外部API的AI系统中。拥有广泛权限的AI智能体可能会在不应出现的上下文中访问和显示机密信息。

未经授权的代表了另一个关键风险类别。AI智能体通常需要广泛的权限才能有效运行——访问数据库、API、文件系统和通信渠道。在许多部署中,这些权限的授予几乎没有审查,也没有遵循最小权限原则。结果是,AI系统运行的权限远超其实际需要,创造了传统安全工具未被设计用来监控的攻击面。

违规行为构成了风险三要素的最后一部分。GDPR、HIPAA和SOX等法规对数据的访问、处理和存储方式有特定要求。自主运行的AI智能体很容易违反这些要求,直到审计发现违规行为时才有人注意到。监管环境尚未赶上智能AI的发展,组织不能等待监管机构告诉他们该做什么。

实用的治理框架

好消息是,有效的AI治理不需要等待完美的解决方案。组织今天就可以实施实用的框架,显著降低风险。

首先,建立AI资产清单。你无法管理你不知道的东西。组织中部署的每个AI系统、模型和智能体都应该被编目,包括其数据访问权限、决策范围和集成点。影子AI——由个别团队采用的未经批准的工具——是一个必须解决的特别盲点。

其次,实施专为AI智能体设计的访问控制。传统的基于角色的访问控制是为人类用户设计的。AI智能体需要不同的模型——一种能够动态强制执行最小权限、监控异常访问模式并可以实时撤销权限的模型。这是IBM访问差距研究的核心主题,值得认真关注。

第三,部署能够理解AI行为的监控和审计系统。标准日志记录捕获API调用和数据库查询。AI治理需要能够检测智能体是否在预期参数外运行、访问不需要的数据或产生违反策略约束输出的监控。

第四,建立明确的问责结构。组织中的某人必须拥有AI治理的所有权——不是作为副业,而是作为主要责任。这个角色应该有权放慢或阻止不符合治理标准的AI部署,无论业务上有多大的快速发布压力。

RSAC 2026的视角

RSAC 2026的讨论强化了这一问题的紧迫性。多个会议聚焦于AI采用与安全治理的交叉点,传递了一致的信息:未来两年内会被攻破的组织,不是那些边界防御薄弱的组织,而是那些在受信任网络内运行未治理AI系统的组织。

会议还突显了一个文化挑战。安全团队通常缺乏评估AI系统的技术理解,而AI团队通常缺乏将治理融入其部署的安全思维。弥合这一差距需要跨职能协作和共同所有权,而许多组织尚未实现这一点。

底线

AI治理差距不是一个未来的问题。它是一个当前的紧急情况。组织在没有充分治理的情况下运营AI智能体的每一天,都会增加其面临数据泄露、违规行为和声誉损害的风险。技术不会放缓。治理必须加速。

By Michael Sun

Founder and Editor-in-Chief of NovVista. Software engineer with hands-on experience in cloud infrastructure, full-stack development, and DevOps. Writes about AI tools, developer workflows, server architecture, and the practical side of technology. Based in China.

Leave a Reply

Your email address will not be published. Required fields are marked *

You missed