全部文章
治理 · 风险与合规

影子 AI:已经不请自入你公司的那种智能。

此刻你的公司里正在进行一场关于人工智能的对话,而它很可能不是董事会议程上的那一场。当委员会还在讨论治理、挑选供应商、权衡风险时,一位财务分析师刚把一份业绩表格粘进公开的 AI 工具,以加快分析。一位市场人员上传了客户名单来生成细分。法务的某个人粘贴了一份敏感合同的片段,想要一份摘要。这些人没有一个是轻率的。他们只是想用手边能找到的最好工具完成工作。而他们全都刚刚把公司的数据,暴露给了公司无法控制的系统。

这件事有个名字:影子 AI。它是团队在任何中央政策之外,对人工智能的非正式、分散且不可见的采用。它不是攻击,不是恶意,也不是破坏。它是一种错位的自然结果:使用 AI 的需求,比安全使用 AI 的结构来得更早。而在没有官方、受治理的替代方案时,人们就用手边有的。影子 AI 不是行为上的偏差,而是有能力的人对组织留下的空缺,所做出的可预见反应。

影子 AI 不是行为偏差。它是有能力的人对组织留下的空缺所做出的可预见反应。

风险比乍看之下更深。当一份机密数据进入公开工具,公司就失去了对它去向的控制。没有合同保证那份数据不会被用于训练模型。没有审计轨迹能让你重建是谁发送了什么。事后也无从知道哪些敏感信息离开了边界、去了哪里。对于受监管行业的企业——银行、港口、受数据保护法约束的大型企业——这不是理论上的声誉风险,而是具体的暴露,难以梳理,且一旦发生几乎无法挽回。

许多组织的本能反应是禁止:封锁访问、发布使用政策、发一封严厉的通知。这种反应相当一致地失败,原因很简单:禁令攻击的是症状,忽略的是原因。人们使用公开 AI 工具,不是因为想绕过公司,而是因为这些工具解决了一个真实的生产力问题,而没有任何内部替代方案能解决它。拿走工具却不提供替代,不会消除需求,只会把使用推向更深的阴影——推向个人手机、私人账号,推向任何可见性之外。禁令不会减少影子 AI,只会让它更难被看见。

真正有效的路径正好相反。影子 AI 不靠禁令去对抗,而是通过设计去消除:提供一个受治理的替代方案,好到不输人们在外面寻找的那个,同时具备公司内部所需要的控制。当存在一个内部系统,让专业人员用自然语言提问并获得分析与答案,且体验与公开工具一样顺畅时,走捷径的理由就消失了。人不再离开边界,不是因为被禁止,而是因为不再需要。

差别完全在架构里。在一个受治理的系统中,个人数据在任何推理之前就被检测并脱敏,因此模型永远看不到真实的身份证号、邮箱或姓名。每一次访问都被记录在合规部门可实时查看的审计轨迹中。权限遵循公司层级,因此每个人只能触及自己有权触及的内容。而消耗按用户、按部门被监控,把数十个零散账号的隐形支出,变成一条可预测、可控制的预算科目。原本的暴露变成了记录,原本的失控变成了政策。

暴露变成记录。
失控变成政策。影子 AI 不靠禁令对抗——它通过设计被消除。

有一个值得董事会采纳的视角转换。影子 AI 通常被视为纪律问题,是要用规则和监督去纠正的东西。更有用的读法是把它当作内部的市场信号:它用具体的使用数据表明,你的团队已经认定他们需要 AI 才能工作。他们不是在等公司的许可,而是在等公司提供一条安全的路。影子 AI 是需求在供给准备好之前就已敲门。

Mars 打造 Signals,正是为了成为那份供给:一个让智能生活在企业边界之内的系统,具备零 PII、完整审计轨迹、原生单点登录,以及从根基起的数据保护合规。你的数据,你的轨道。董事会真正该问的不是如何阻止团队使用 AI——他们已经在用了。该问的是:如何把这种使用带进一个公司能控制、能审计、并称之为自己的边界之内。没有治理的智能是风险,有治理的智能是优势。

Trust · 可审计的边界

你的团队已经在用 AI。问题是在哪里用。

把这种使用带进一个公司能控制、能审计、并称之为自己的边界之内。