
生成式AI的狂热之后,企业界迎来了一波“宿醉”。
麦肯锡的调查显示,超过50%已部署AI的组织遭遇过负面事件。Gartner更是列出了一长串“隐形炸弹”:幻觉、影子AI、技术债、数据主权……
伴随而来的是全球监管的收紧,欧盟《AI法案》只是冰山一角。在这个背景下,很多企业高管产生了畏难情绪:“既然风险这么大,不如先等等?”
制造业巨头RS的研究显示,工业领域仅有 34%的高管将AI列为优先事项,背后正是“谨慎”二字在作祟。
最新的行业洞察告诉我们:这种“因噎废食”的策略可能大错特错。真正的数字领袖正在通过“拥抱合规”来加速创新。
💡 读完本文,你将获得关于AI治理与创新关系的3大核心洞察。
英国救助儿童会(Save the Children UK)的首席数据官Shruti Sharma提出了一个精彩的比喻:治理不必是厚厚的文件,只需要画清楚“边界”。
传统误区:治理 = 官僚主义 = 审批流 = 慢。
现代视角:治理 = 沙盒环境 = 明确红线 = 安全地快。
睿信顾问解读:
想象你在开赛车。如果没有护栏(合规边界),你敢在悬崖边全速过弯吗?不敢。 正是因为有了坚固的护栏,你才知道哪里是安全的赛道,从而敢于把油门踩到底。清晰的合规边界,实际上赋予了员工在安全区内大胆试错的信心。
英国道路救援巨头RAC的做法值得借鉴:他们成立了AI治理委员会,将信息安全、法务、业务专家拉到一张桌子上。
如果你把治理只看作是IT部门的事,那就注定失败。
业务部门:想跑得快。
法务部门:想刹住车。
IT部门:夹在中间。
破局之道:只有当法务和业务在同一个委员会里“对垒”,才能在“机会”与“风险”的长光谱中找到平衡点。正如养老金监管局的Paul Neville所言:“此刻的风险,可能就是明天的机会。”
这是最令人兴奋的趋势:用AI来治理AI。
联想全球CIO Art Hu指出,生成式AI的一大强项就是处理海量非结构化数据,这恰恰是合规审查的痛点。
实战案例:The Heico Companies这家工业集团面临全球各地的安全法规,靠人脑根本记不住。
痛点:事故报告堆积如山,无法提炼风险。
AI解法:部署AI助手自动抽取事故报告中的关键信息。
成果:工伤赔偿费用砍掉了 60%,高管只需动动手指就能看到风险热点。
睿信顾问解读:
这是一个思维的跃迁。治理不再是增加人手去填表,而是引入AI工具来自动化风险识别。当AI成为你的“风控官”,由于数据处理能力的指数级提升,你的风控水平将第一次跑在风险前面。
面对监管浪潮,我们建议采取以下行动:
建立跨职能的AI治理委员会:不要让CIO或法务总监单独背锅。让COO(首席运营官)挂帅,确保“油门”和“刹车”的控制权在业务侧。
实施“分级治理”:不要搞“一刀切”。对于高风险场景(如医疗诊断、金融信贷),合规动作拉满;对于低风险场景(如内部文档总结),给予更宽松的沙盒环境。
投资“监管科技”(RegTech):寻找能自动化处理合规文档、监控模型漂移的AI工具。把宝贵的人力从“查违规”中释放出来,投入到“定策略”中去。
治理与创新,从来不是一枚硬币的正反面,而是双螺旋结构。
当规则被清晰定义,当工具被正确使用,合规就不再是创新的绊脚石,而是通向未来的铺路石。
别被监管吓倒,请带上你的“护栏”,全速起跑。
原文:在人工智能时代,既要治理又要创新的诀窍
治理常被视为创新的绊脚石,但合规却能为新兴技术探索指明方向,而人工智能正是破局的关键。
图源:Rob Schultz / Shutterstock
除了被广泛宣传的种种好处,生成式AI也给企业和客户带来了新的风险。麦肯锡的调查显示,超过半数已部署AI的组织至少遭遇过一次负面事件,其中近三成受访者提到的问题源于AI的不准确。
“幻觉”并非生成式AI落地的唯一难题。除了常被提及的业务价值、安全与数据就绪度,Gartner指出企业还可能忽视“盲区”:影子AI、技术债、技能退化、数据主权、互操作性障碍以及供应商锁定。
不准确、数据泄露等多重风险,促使全球监管机构加速收紧法规,确保企业在严格框架内运行、客户得到保护。最受瞩目的当属欧盟《AI法案》——这部基于风险分级的综合立法,只是快速演变的监管版图中的一块。Bird & Bird(鸿鹄律师事务所)开发的“AI地平线追踪器”分析了22个司法辖区,从完全无规制到刚性材料要求,呈现了各地迥异的治理光谱。
在此背景下,负责引领AI项目的数字领袖们仿佛置身“雷区”。监管之紧,甚至让部分企业质疑:试水AI是否得不偿失。
制造业专业公司RS的研究即是一例:工业领域仅34%的高管把AI/ML列为优先事项。该公司创新副总裁Mike Bray(迈克·布雷)指出,结论背后只是“谨慎”二字。
然而,治理虽看似阻碍,合规却恰如“护栏”,为 AI 探索划出安全车道。更有专家认为,部署 AI 本身就能帮助 CIO 及其业务伙伴更好地管控风险。
一、治理真的是创新的拦路虎吗?
英国道路救援巨头RAC 的数据与洞察负责人Ian Ruffle(伊恩·拉弗尔)坦言,数字领袖必须正面迎合规要求。公司内部设有一个AI治理委员会,把信息安全及各业务条线的专家拉到一起,确保“火力”集中在正确方向。
“你得摸着石头过河,”他说,“我们不想当一家被 AI 吓倒的企业,必须拥抱它的潜力。”Ruffle(拉弗尔)总结,数据驱动探索的最大教训是:有效治理靠“团战”。大家并肩作战,让法规成为 AI 落地的指南针,而不是紧箍咒。
他强调:“成功的关键在于建立对的人脉,且绝不把问题往地毯下扫,当你以领导者身份审视一项新技术时,第一反应应是拉来相应的治理角色,审视你要做的事、处理数据的方式。变更流程必须被严密监控,才不会一脚踩空。”
RS的Bray(布雷)也持相同观点:治理应成为 AI 实施的“导航仪”。他说,RS与其他企业一样,要在机会与风险交织的窄路上穿行;正视这种交织,就意味着必须用强治理确保AI惠及客户、供应商和内部团队,同时把风险压到最低。
他说:“我们的体会是,只有把治理、安全与合规的底座打牢,才能用好AI;在决定‘要不要上AI’之前,先弄清楚要解决的问题或捕捉的机会到底是什么,而不是被技术牵着鼻子走。”
Hottinger Brüel & Kjær 数字未来总监Charlotte Bemand(夏洛特·贝曼)在 10 月伦敦 DTX 2025 大会上提醒:创新时代的治理并非一成不变,而是一场动态平衡。聪明的领导者会让“护栏”与组织成熟度精准匹配,而非生搬硬套。
“我们面对的市场有的高度监管、极度敏感,合规动作必须拉满;也有的市场和客户要求我们快速创新、敏捷响应。我们得在两头之间找到平衡。”
二、合规,其实是探索的入口
Save the Children UK(英国救助儿童会)首席数据与AI官Shruti Sharma(施鲁蒂·夏尔马)在同场活动上指出,关键要拿捏好“打地基”与“鼓励创新”之间的分寸。
她说,治理常被贴上坏标签:一提合规,就联想到官僚主义和一摞摞文件。但在她看来,治理不必是百页巨册,也不必让员工反复翻政策。最有效的办法,是先把“边界”画清楚。
她补充:“除了嵌入角色权限,我们还给大家提供沙盒环境去折腾,但同时给出清晰红线,对我而言,清晰就是边界和定义到位。员工知道能走多远,就能在安全范围内大胆试错。”
一句话:当治理被“织”进创新流程,而不是被视为额外关卡,组织就能把合规当成安全且高效的 AI 探索框架。
The Pensions Regulator(英国养老金监管局)数字、数据与技术总监 Paul Neville (保罗·内维尔)认为,这种“一体两面”的现实会让不少专业人士意外。“人们总把风险和机会说成两件事,其实它们是一条长光谱,”他说,“此刻的风险,可能就是明天的机会;眼下的机会,也可能藏着风险。”
Neville(内维尔)最近与一位未透露姓名的 CEO 交谈,对方深陷当下难题,根本想象不到借助自动化和 AI 把事“换个做法”的未来。他叹道:“他们眼里只有风险,结果寸步难行,这挺可惜。”
破局之道,在于拥有“看见不同”的愿景。Neville(内维尔)说,最出色的领导者会描绘更好的明天,同时把潜在风险摆到台面,再给出应对机制。为了勾勒这一愿景,他和同事成立了AI咨询委员会。
他介绍:“委员会由内外部成员共同组成,但由COO而非我亲自担任主席,确保独立,它能帮我们‘踢轮胎’,从伦理角度审视项目,既拷问机会,也拷问治理,让创新与合规同台对垒。”
三、用AI来管风险
科技巨头联想全球CIO Art Hu (胡贯中)指出,治理与 AI 的平衡没有万能公式,行业、企业各异,答案也不同;但有一条可行路径——让 AI 自己上阵“管”风险。Hu(胡)认为,把 AI 当战术性投入,将为负责治理的 CIO 带来实打实的回报。
“生成式 AI 的一大强项,是能比人类翻更多源头,给出有依据的行动建议,”他说,“方法对了,AI 工具就能让你的风险评估、缓释和管理更上一层楼。”
制造业、建筑业与工业服务联合体The Heico Companies 的环境健康安全副总裁 Dave Roberts (戴夫·罗伯茨)就是活生生的例子。他要帮集团在各大工地降风险、防重大事故,同时满足各地监管要求;迎面而来的,是越堆越高的规章。
他说:“我天天跟法规打交道,而且它们只增不减,所以任何能把世界简化、帮我穿破法规丛林的工具,都可能派上大用场。”
于是他把目光投向AI。Roberts(罗伯茨)意识到,Heico 亟需一套系统,把全球风险管理的“人力沼泽”抽干。他扫遍 IT 市场,最终锁定 Benchmark Gensuite 的 PSI AI Advisor——这套 AI 能从事故报告里自动抽取、归纳关键信息,正好击中 Heico 长期“管不住大风险”的痛点。
借助AI 助手的洞察,Heico 各厂区工伤事件显著下降,赔偿费用砍了 60%。Roberts 说,这份成绩单彻底改写了领导层对“AI=风险”的刻板印象。
“高管们最怕‘出大事’,这项技术直接带你抓到要害,”Roberts(罗伯茨)表示,“成果让我们赢得信任,领导如今动动手指就能看见哪儿风险最大。”
作者:Mark Samuels(马克·塞缪尔斯)
Mark(马克)是一位商业作家与编辑,对大型企业如何采用和应用技术拥有深厚经验。他的洞见源于高级编辑职位、调查性新闻以及研究生阶段的学术研究。曾在《Computing》《Computing Business》与《CIO Connect》担任编辑,Mark 于 2014 年转为全职自由撰稿人,迄今已为《卫报》、经济学人智库、ZDNET、《Computer Weekly》、ITPro、Diginomica、VentureBeat 与 engineering.com 等多家媒体供稿。Mark 拥有谢菲尔德大学博士学位,以及伯明翰大学地理学硕士和本科学位。
译者:小知