影子人工智能的危险:缺乏治理如何影响公司。

当时是星期四下午5点40分,玛丽娜需要在当天结束前提交价格调整方案。电子表格有3200行:客户信息、合同、利润率、协商折扣等等。如果手动分析,恐怕要花一整夜。.
网络安全 阅读时长:5分钟 作者:Skyone

被弃置一外的电子表格:影子人工智能和缺乏监管的人工智能的风险。

当时是星期四下午5点40分,玛丽娜需要在当天结束前提交价格调整方案。电子表格有3200行:客户信息、合同、利润率、协商折扣等等。如果手动分析,恐怕要花一整夜。.

她打开一个浏览器标签页,用自己的个人账户登录了一个人工智能工具,复制了整个电子表格,然后写道: “分析这些数据,并为每个客户提出调整建议。”

四分钟之内,她就找到了答案。下午六点,她交了工作,受到了经理的表扬。没有人问她是怎么做到的。.

(玛丽娜是虚构人物,其灵感来源于研究中描述的情况。)

这一切并非出于恶意。只是因为仓促行事,手头只有现成的工具,而且没有任何规则可循。但公司每个客户的利润率却失控地飙升。这个故事有个名字: 影子人工智能。

“影子人工智能”是指在未经IT和安全部门知情或批准的情况下使用人工智能工具。在 Panorama Vibe Coding Brasil的调查,50.1%的专业人士已经创建过自动化或集成,但没有正式的IT项目,不过只有26.4%(1982人中的524人)表示他们有明确且正式的规则来规定哪些数据可以输入人工智能工具。

玛丽娜是个例外吗?数据表明并非如此。

Panorama Vibe Coding Brasil研究调查了 2,440 名专业人士。

指标结果
他们没有正式的IT项目,就创建了自动化、应用程序或集成。50,1%
在所有用户中,过去 6 个月内有哪些人执行过此操作?43,1%
他们有关于人工智能数据方面的明确且正式的规则。26,4%
自发表达对泄漏问题担忧的开发者(那些开发出不止一种解决方案的开发者)27,3%

综合所有数据,问题就已暴露无遗:繁殖速度加快,而相关法规却未能跟上。还有一个关键细节:繁殖者已经感受到了风险,只是他们没有得到相应的保护。.

当规则不存在,或者存在但无人知晓时。

调查中最常见的类型是“碎片化导向” ,占样本的 42.7%(846 份回复) :技术活动丰富,但缺乏统一的标准。该群体中的创建者包括:

  • 52,1% 他们创建自动化系统;
  • 49,5% 他们开发内部整合方案;
  • 60,9% 他们没有明确的数据准则。.

即使在有规章制度的公司中,也有 33.1% 的人表示规章制度沟通不畅。.

为什么禁令解决不了任何问题

如果玛丽娜的经理禁止使用人工智能,她要么会在周五晚些时候提交提案,要么会使用手机。导致她使用人工智能的问题依然存在。这份报告总结了其中的两难困境: 合规性必须优先于自由实验,但又不能扼杀实验。

如果玛丽娜的星期四有所不同呢?

想象一下同样的场景,下午 5 点 40 分,同样的电子表格。不同的是,玛丽娜打开的不是个人账户,而是公司的统一人工智能门户。.

她提出同样的请求,四分钟后就收到了回复。但在此背后,三件事在她无需思考的情况下发生了:

  1. 敏感名称和值 在到达公有云中的模型之前会被匿名化。
  2. 请求已被监控,命令已被记录。
  3. 访问权限受到控制:公司决定允许使用哪些型号。

这就是企业级人工智能网关的作用,也是即将推出的Skyone Astro 的设计初衷:提供一个统一的门户,用于访问多个 LLM(生命周期管理平台),例如 OpenAI、Gemini 等,并具备监控、敏感数据匿名化 (DLP) 和命令日志记录功能。Marina 继续快速推进项目,公司也保持着控制权。

从规则到实践:Skyone 如何提供帮助

学习挑战鉴于天一解决方案
敏感数据不受规则约束26.4% 的人有规则Skyone Astro:具备DLP、监控和日志记录功能的AI网关。
非标准集成和自动化60.9% 的人缺乏数据指南(分散群体)Skyone Studio:iPaaS、Lakehouse 和编排,以及来自源头的治理。
无人知晓或执行的规则。33.1%的人认为规则沟通不畅。Skyone Builders:实用的教育,教你如何在规则范围内进行建造。

现在开始亮红绿灯

在相关工具可用之前,一份简明规则可以提供帮助:

颜色数据类型指导
🟢公开信息或已匿名化的信息可用于经批准的工具。
🟡不识别客户或个人的内部数据。仅在经批准的企业工具中
🔴个人数据、合同、利润率、凭证、源代码切勿在未加防护的情况下使用户外工具。

常见问题解答

什么是影子人工智能?
它指的是员工未经IT和安全部门批准或不知情的情况下使用人工智能工具。

有哪些风险?
企业和个人数据泄露、可追溯性丧失、不遵守巴西通用数据保护法 (LGPD) 以及在没有所有者的情况下实现自动化。

Skyone Astro是什么?
它是Skyone的企业级AI网关:一个用于访问多个LLM的单一门户,具备请求监控、敏感数据匿名化(DLP)和命令日志记录功能。该产品目前处于发布阶段。

AI网关和使用策略有什么区别?
策略规定了哪些操作可以做,哪些操作不可以做。而网关则在整个过程中提供保护,即使有人忘记了规则。

时间恢复至周四下午5:40

贵公司的 Marina 无需时刻保持警惕,因为系统本身就能提供这种保障。全景图的结尾句总结得很好: 编码氛围已经形成。现在是时候进行管理了。

如果你本周只能做一件事,那就把交通灯系统分享给你的团队。如果你想了解全貌, 可以下载 Panorama Vibe Coding Brasil 或 了解 Skyone 的人工智能和数据解决方案。

天空一号
作者: Skyone

开始变革你的公司。

测试平台或安排与我们的专家进行对话,了解 Skyone 如何加速您的数字化战略。.

订阅我们的新闻简报

随时关注Skyone的最新内容。

与销售人员交谈

有疑问?请咨询专家,获取关于平台的所有疑问解答。.