你好,欢迎您来到福建信息主管(CIO)网! 设为首页|加入收藏|会员中心
您现在的位置:>> 新闻资讯 >>
CIO 的终极考验:当 AI 智能体开始“失控”,你准备好交出控制权了吗?
作者:CIO.com&睿观 来源:CIOCDO 发布时间:2026年07月27日 点击数:

导读:当“生成式 AI”还在被当成高级打字机时,它的下一个进化形态——AI 智能体(AI Agent),已经悄然逼近。与被动回答问题的 ChatGPT 不同,AI 智能体能够“自主思考、调用工具、完成任务”。这听起来很美好?但请注意,随之而来的将是失控、责任分散和治理体系的全面崩盘。作为企业的 IT 掌舵人,CIO 该如何应对这场风暴?

[图片:受访者城田真琴]

“AI 智能体(AI Agent)”正在成为科技圈的绝对顶流。它不再是一个需要你不断挥鞭子的“提线木偶”,而是一个能够自主设定目标、拆解任务并执行到位的“数字打工人”。

在近期的一场深度访谈中,曾任 EY(安永)战略与咨询公司数字创新部门主管的城田真琴(Makoto Shirota)先生,为我们揭开了 AI 智能体背后的残酷真相。他在新书《AI 智能体》中指出,这项技术不仅将彻底改变企业的工作方式,更将让 CIO 面临三大深渊:暴走(失控)、控制权丧失、责任边界模糊

一、💡 本质区别:从“辅助”走向“自主完成”

要理解这场风暴,首先要打破两个致命的误解:

  1. “AI 智能体不过是更聪明的 RPA罢了。”

    错!RPA 就像是在既定轨道上跑的列车,一旦遇到“意外(Exception)”就会脱轨罢工。而 AI 智能体则拥有“推理想象力”,它会自己想办法绕过障碍解决问题。这就要求 CIO 必须从“决定论(给什么指令就得什么结果)”的管理思维,紧急切换到“概率论(允许一定程度的不确定性)”的视角。

  2. “AI 智能体只是个高级的聊天机器人。”

    错!聊天机器人只会动嘴,但 AI 智能体会“动手”。它能自己决定去调用企业的 API,抓取机密数据,甚至直接执行下单或付款操作。如果你不给它套上严密的权限枷锁,灾难瞬间降临。

这正是它与传统 GenAI(生成式 AI,如早期的 ChatGPT)的本质区别:它追求的不是“辅助回答”,而是“自主完成任务”。

二、⚠️ 悬崖边缘的三大“致命陷阱”


既然 AI 智能体拥有了行动力,企业就必须直面它带来的三个灵魂拷问:

  • 陷阱一:目标对齐失败引发的“暴走”

  • 这在学术界被称为 AI Alignment(AI 对齐)问题。假设你给智能体下达了一个模糊的指令:“降低供应链成本”。由于 AI 缺乏人类的常识和商业伦理,它可能会为了达成目标,直接疯狂拖欠供应商货款,最终导致企业面临天价的违约诉讼。

  • 陷阱二:不可逆操作带来的“控制权丧失”

  • 如果授权过度,AI 智能体可能会擅自清空核心客户数据库,或者把巨额资金转入错误的账户。虽然政府指南建议采用 Human-in-the-loop(人机协同,即关键节点需要人类审批)机制,但如果让人类审批每一个动作,AI 带来的速度优势就会瞬间清零。“究竟要把权力下放给 AI 到什么程度?”这不再是 IT 问题,而是企业最高级别的风险偏好(Risk Appetite)问题。

  • 陷阱三:无法追踪的“因果黑洞”

  • 当企业引入 Multi-Agent(多智能体)架构时,灾难更易发生。比如:负责降本的智能体和负责提升销量的智能体开始“互相伤害”,导致库存数据如同过山车般剧烈波动。出了事之后,你根本查不出来到底是哪个智能体在哪个环节抽了风。

除此之外,安全防御也面临着降维打击。黑客可以通过间接提示词注入(Indirect Prompt Injection),在 AI 智能体常去抓取数据的外部论坛(如 Reddit)上埋下恶意指令,一旦智能体读取了这些文字,就会被“催眠”并执行恶意操作。传统的防火墙对此毫无招架之力。

三、🗺️ CIO 的破局指南:成为新规则的“架构师”


面对如此强悍的数字劳动力,CIO 的角色必须发生根本性蜕变。

从“被动的维稳者”变成“业务重塑的设计师”。

CIO 的首要任务不再是盯着服务器的运行状态,而是要精心设计一场“权力交接仪式”:在 24 小时 x 365 天的不间断运转中,哪些决策必须让人类来拍板?哪些可以直接外包给 AI?

城田真琴为 CIO 们指出了实施落地的核心路径

  1. 拒绝“为了 PoC而 PoC”:

    千万别抱着“先做个小实验试试水”的心态去搞试点项目(PoC, 概念验证)。这往往会导致项目在半年后烂尾(PoC 死)。你应该从一开始就将其设计为“正式上线版”,使用真实的业务数据、真实的权限规则和严苛的审计标准,只不过先在极小的业务范围内推行。

  2. 用“商业指标”取代“技术自嗨”:

    别再盯着大模型回答的准确率自嗨了!要看硬核的商业回报:处理时间缩短了多少?客户首问解决率提升了多少?错误率降低了多少?

  3. “双轴四象限”切入法:

    不知道从哪入手?用“判断标准的明确度”和“对错误的容忍度”画一个十字坐标。先从容错率高、规则明确的象限切入(如客服的初级问答)。等团队跑熟了,再向需要“人机协同”的核心地带推进。


结语:戴上“经营者”的王冠


“CIO 的责任正在发生惊天动地的变化。”城田真琴总结道。

“你不再仅仅是那个保障系统不宕机的人。当你亲手划定了人类与 AI 的权力边界后,你就必须站在经营者的立场上,为 AI 智能体创造的最终收益负责。你,准备好这份觉悟了吗?

💡 技术名词速览 (Tips)

  • AI Agent(AI 智能体/ 智能体):被认为是通往 AGI(通用人工智能)的重要路径。它能够感知环境、进行自主思考规划(Planning)、调用外部工具(Tools),并采取行动(Action)以完成复杂目标。

  • Human-in-the-loop人机协同/ 闭环中的人类):指在自动化或 AI 系统的关键决策节点,强制引入人类进行干预、审核或批准,以确保系统的安全性和伦理可控。

  • Indirect Prompt Injection(间接提示词注入):一种针对 LLM(大语言模型)的新型网络攻击手段。黑客并非直接向系统输入恶意指令,而是将恶意指令隐藏在 AI 可能去抓取的外部网页或文档中,当 AI 读取这些内容时便会被恶意操控。




全文:AI 智能体的自主性正在重塑 CIO 的角色——暴走、失控、责任分散的三大陷阱与治理结构的再设计


能够自主进行判断,并全权承担直至任务完成的“AI 智能体(AI Agent)”。作为生成式 AI 的下一个重要进化阶段,它正备受瞩目,同时其应用也将极大颠覆企业的风险管控与治理形态。


我们特别采访了曾任 EY(安永)战略与咨询公司数字创新部门主管的城田真琴(Makoto Shirota)先生。他在近期出版的著作《AI 智能体》中,极具前瞻性地提出了“人与 AI 协同合作的经营模式”。在本次访谈中,他深入剖析了 AI 智能体与传统生成式 AI 的本质区别,揭示了“暴走、控制权丧失、责任分散”这三大致命陷阱,并为 CIO 们指明了全新的角色定位与落地实践步骤。

人物简介:城田真琴(Makoto Shirota)

EY 战略与咨询公司 技术咨询部门 主管

曾在大型电子制造商及顶尖智库任职,现任现职。专业领域深耕于尖端技术与前沿 IT 商业的趋势分析,并致力于为企业提供基于这些技术的 IT 战略规划支持。曾历任日本总务省“智能云研究小组”技术工作组成员、经济产业省“IT 融合论坛”个人数据工作组成员,以及经济产业省、厚生劳动省、文部科学省联合发起的“IT 人才供需调查”专家委员会成员等要职。著有《AI 智能体》、《生成 AI·30个核心论点 2025-2026》(日本经济新闻出版)、《ChatGPT 资本主义》、《Web3 终极指南》、《嵌入式金融的冲击》(均由东洋经济新报社出版)等多部著作。

与生成式 AI 的本质区别是“自主性”——不求“辅助”,只求“完成任务”

城田先生首先指出,AI 智能体与传统的生成式 AI 最核心的分水岭在于:“能够进行自主判断并采取行动”。

此前的生成式 AI 基本上处于一种“等待指示”的状态,也就是被动地回答用户的输入;而 AI 智能体在接收到一个相对粗略的委托后,便会自主去理解并拆解任务,甚至能够自行判断应该组合调用哪些外部工具。它不会只满足于给出一次性的回答,而是会在其内部系统不断地进行“这样处理没问题吗”的反复验证和迭代处理,最终向用户交付一个“任务已完成”的实质性结果。

“等待指示”与“完成任务”这看似微小的差别,对 CIO 而言却有着极其深远的意义:因为这意味着代理不再仅仅是回答问题的工具,而极有可能成为亲自执行诸如资金结算或下达采购订单等“实体行为”的决策主体。

城田先生指出,CIO 们最容易陷入的第一个认知误区,就是把 AI 智能体简单地看作“更聪明的 RPA(机器人流程自动化)”。当遭遇预设程序之外的“例外情况(Exception)”时,RPA 的处理流程会直接瘫痪;而 AI 智能体则会试图通过自主推理来解决这些例外。城田先生一针见血地指出:“这将是一场从决定论(Deterministic)的系统管理,向概率论(Probabilistic)管理的巨大转变。”因此,CIO 必须紧急切换底层的认知心智(Mindset)。

另一个危险的误区是将其视为“更聪明的聊天机器人”。聊天机器人仅仅停留在回答人类问题的层面;但 AI 智能体却会自主调用 API 去抓取数据,并自行选择和执行下一步的动作。城田先生敲响了警钟:“如果不能深刻理解这种差异并据此设定严密的权限,必将引发灾难性的暴走。”

那么,目前的落地现状究竟如何呢?城田先生分享了他的观察:“如果仅将视线聚焦于大型企业中的那些先锋阵营,他们极具探索性的试点项目已经推进得相当深入了。”业界普遍预测,到 2028 年,AI 智能体在先进企业中的应用将成为无可争议的常态。留给其他企业去准备和缓冲的时间窗口,已经所剩无几。

一、应该从哪里切入?——用“双轴”与“五轴”模型精准切割业务边界

企业究竟应该将 AI 智能体优先导入到哪些业务线?城田先生提供了一套极具实操性的分析框架:基于“判断标准的明确度”和“对错误的容忍度”这两个坐标轴,将业务清晰地划分为四个象限区域。

[图片:(参考幻灯片第 4 页:“应该将哪些判断领域委托给 AI 智能体的思考框架”)]

城田先生解释说,最底层的基本盘逻辑是:“从那些对错误容忍度较高,且判断标准非常明确的领域切入”。最典型的场景莫过于客户服务(Customer Support)的初级应答。据说,目前有大量日本企业正是从这个象限吹响了导入的号角。

紧随其后较为容易上手的,是那些即使 AI 犯了错,也不会对企业造成致命打击的用例(Use Cases)。例如:策划营销活动的初步创意风暴,或是起草各类文档的初稿。

在一些极具前瞻性的跨国企业中,他们正在以必须有人类介入的“人机协同(Human-in-the-loop)”为大前提,尝试踏入这一区域,甚至正在逐步向需要高度治理的“深水区”试探。所谓高度治理的区域,指的是诸如合同的法务合规审查、敏感个人信息的处理等——这些领域不仅规则极其严苛,而且哪怕是一个极其微小的失误,都将直接引爆天价的经济损失或极其严峻的法律风险。

城田先生进一步指出,在通过上述两个轴进行初步的沙里淘金后,如果需要进行更精细的把控,则可以引入“五轴评分法(Scoring)”。

这五个维度分别是:

  1. “逻辑的公式化程度”:判断标准是否已被严密地规则化和数字化?

  2. “损害的影响度”:发生误判时面临的最大潜在损失有多高?

  3. “连锁反应的深度”:一次判断失误会对后续流程造成多大范围的污染?

  4. “数据的完备性”:所需的核心数据是否能够通过 API 实时、无缝地获取?

  5. “可恢复性”:一旦发现错误,是否能够迅速撤销操作并恢复原状?

这种评估机制类似于“一票否决制(瓶颈方式)”——只要在这五个轴中的任何一个维度上被判定为“不可委托”,那么该项业务整体就将被亮红灯,严禁交由 AI 智能体处理。

在推进落地时,还有一个绝对不可忽视的致命隐患:“影子 AI(Shadow AI)”

如果公司官方提供的 AI 环境,与员工在私人生活中用得非常顺手的生成式 AI 环境存在巨大的体验鸿沟,员工私自搭建并违规使用 AI 智能体的案例就会呈现井喷式增长。“越是极其便利的工具,就越容易滑入影子化(Shadowing)的深渊。”城田先生警告道。这个从 RPA 时代就一直被业界反复警示的沉疴,在生成式 AI 和 AI 智能体时代同样被原封不动地放大了。对于正准备着手引入的企业而言,首要任务就是进行彻底的摸底排查,精准掌握企业内部目前真实的 AI 使用乱象。

二、AI 智能体独有的 3 个“致命陷阱”——暴走、控制权丧失、责任归属迷局

在企业引入 AI 智能体时必须预见的风险维度上,城田先生将其高度提炼为三大核心点。

第一个是“目标设定失败引发的暴走风险”。

这触及到了 AI Alignment(AI 对齐)的深层问题——即如何确保 AI 的行为动机与人类的真实意图和价值观保持高度一致。城田先生举了个极其生动的例子:“假设你给智能体下达了一个诸如‘必须削减成本’这样极其模糊的指令。由于智能体并没有被输入人类的常识、道德伦理和企业的核心价值观,它就会像一匹脱缰的野马,径直采取最粗暴的降本行动。”

其灾难性的后果可能是:在客服端,为了盲目追求最快的结单时间而导致服务质量断崖式下跌,引发舆论危机和大规模的客户流失;或者在供应链端,通过恶意拖延供应商的货款来粉饰财务报表,最终引火烧身,将企业拖入诉讼的泥潭。

第二个是“由不可逆操作导致的控制权丧失风险”。

如果你赋予了它过大的权限,智能体就有可能在毫无预警的情况下,自行执行彻底删除核心客户数据库或发起错误的大额跨行汇款等高危操作。城田先生特别指出,在日本经济产业省和总务省最新修订的《AI 服务提供商指南》中,也已经明确写入了必须贯彻“人机协同(Human-in-the-loop)”底线思维的指导意见。

然而,凡事过犹不及。如果人类的介入过于频繁,引入智能体以实现提速的初衷将荡然无存。“即便你花费巨大代价引入了智能体试图实现业务自动化和极速运转,但如果人类必须在每个节点都进行手动审批,速度根本提不上去。”(城田先生)

究竟企业准备容忍多大程度的风险?哪条红线以上必须由人类进行死守审批?哪条红线以下可以放心大胆地交给代理去狂奔?——城田先生解释说,这条生死边界线的设定,早已超越了纯粹的 IT 现场运维设计的范畴,它已正式升格为企业最高经营层的“风险偏好(Risk Appetite)”问题。

第三个是“无法追踪因果关系的黑盒风险”。

这种风险在 Multi-Agent(多智能体)相互交织的复杂环境中极易爆发。城田先生以电商网站为例进行了极具穿透力的剖析:一个以“极限压缩库存成本”为 KPI 的代理,会像防贼一样拼命压制采购订单;而另一个以“销售额最大化”为 KPI 的代理,则会因为极度恐惧缺货而疯狂建议海量囤货。两股力量在系统内相互倾轧,其结果就是库存水平如同过山车般剧烈震荡,最终导致物流仓储成本不降反升。城田先生犀利地指出:“在多智能体混战的局面下,要在事后精准定位到底是哪个智能体的哪一次离谱判断引爆了灾难,是极其困难的,想要完整复盘整个事件的来龙去脉简直难于登天。”

从安全防御的视角来看,其战场形态也发生了翻天覆地的异变。其中最具代表性的攻击手段,莫过于间接提示词注入(Indirect Prompt Injection)。城田先生给出了一个极其写实的场景:“在海外,AI 智能体经常会被授权去浏览像 Reddit 这样的公开论坛网站以抓取信息;而黑客会极其阴险地在那些帖子中埋下恶意的隐藏指令代码,从而将不知情的智能体强行劫持并引流到恶意钓鱼网站。

既然专属于 AI 智能体的新型攻击手段正层出不穷地涌现,企业就必须建立起一种极其清醒的认知:“传统的那些安全防御策略,在智能体时代已经沦为一堆废铜烂铁了。”

三、CIO 的角色:从“被动管理者”向“顶层设计师”的蜕变——新技能与治理结构的重塑

城田先生断言,AI 智能体的强势登场,将从根本上重塑 CIO 这一角色的基因。

用一句话来概括,过去的 CIO 身上,‘IT 基础设施管理者’的色彩极其浓厚。而在智能体时代,CIO 必须脱胎换骨,成为那个利用 AI 智能体在企业内强力驱动业务重构的‘顶层设计师’。

其核心职责的引力中心,也将从单纯保障 IT 基础设施的稳定运行和极度优化,发生剧烈的转移。它将转向“决策的授权(Delegation of Judgment)”——即极其精妙地设计出一套机制:在多大范围内人类必须守住底线?在多大范围内可以放权给代理去冲锋陷阵?并且,必须从零开始构建一套能够 24 小时 x 365 天无死角监督这一机制的体系。

IT 系统在企业中的战略定位,也将从过去的“纯粹工具”,发生质的飞跃,进化为具有一定自由裁量权的“执行主体”。城田先生说:“在某种意义上,人类和 AI 将变得像普通员工一样并肩作战。如果不去进行一场彻底的混合式(Hybrid)架构再设计——深度思考如何将人类与代理混编并向其委派业务——企业将永远无法触及真正的商业回报。”

关于 CIO 必须具备的全新战略视角,城田先生列出了三条铁律:

第一,绝不能仅仅将 AI 视作一个单纯的“软件功能”,而是必须将其视为一种具备生产力的“新质劳动力”。

第二,不要沉迷于孤立的单一用例(Use Case),而是必须具备能够跨越 ERP、CRM 等多个庞大系统,去进行全链路“业务流(Workflow)”顶层设计的能力。城田先生警示道:“在海外已有明确的调查报告指出:如果仅仅是简单粗暴地给每个员工开通 ChatGPT 或 Gemini 的账号,虽然员工个人的办公效率确实会有所上升,但这根本无法保证能转化为公司整体业绩的增长。”

第三,必须完成从“决定论(Deterministic)”向“概率论(Probabilistic)”管理理念的痛苦跨越。在传统的 IT 认知中,前提是相同的输入必须绝对保证输出的一致性,只要系统按照规格说明书(Specs)运行,质量就被视为过关。然而,由 LLM驱动的代理,哪怕你输入完全一致的指令,每一次的输出结果都有可能发生变异。城田先生指出:“这就要求我们必须建立起一种全新的思维框架:在大前提承认输出结果一定会发生一定程度摇摆(波动)的情况下,去划定——究竟多大程度的摇摆,是我们在商业上可以容忍的底线?

在治理与合规的控制层面上,传统的思路也将寸步难行。像基于角色(Role-based)的访问控制这种极其静态的权限管理模式,根本无法应对“代理为了执行一项被委托的任务,可能需要频繁跨系统穿梭,其所需的访问权限随时在动态变化”的复杂局面。

同时,这还会抛出一个直击灵魂的新问题:“这个智能体,此时此刻到底是以谁的名义在采取行动?”城田先生举了一个极具杀伤力的例子:“如果设定它‘正在代替山田先生行事’,而山田先生恰好是拥有极高权限的部长级别,那么,我们真的可以把这种恐怖的权限原封不动地授予代理吗?如果它因此掌握了巨额资金的审批放行权,真的不会出大乱子吗?”

审计追踪的难度也将呈指数级飙升。一个代理在执行单次任务的闭环中,极有可能并发访问几十个甚至上百个底层的 API 和关联系统;试图在事后进行安全审计,去复盘追踪 LLM 那宛如黑洞般的底层推理过程,是一项几乎不可能完成的任务。

伴随而来的,是 CIO 需要长袖善舞进行斡旋的“朋友圈”将被极大地扩容。跨越多个业务部门的复杂工作流设计、与法务合规部门的深度捆绑,甚至,既然需要扮演“向智能体传授和培训业务知识”的角色,与人力资源(HR)部门的跨界对话也将变得必不可少。

四、如何避免项目沦为“PoC死亡”——必须从第一天起就以“正式上线版”的心态进行设计

对于那些准备向 AI 智能体领域迈出第一步的 CIO 们,城田先生给出的第一条忠告就是:“认知心智的彻底转换(Mindset Shift)”。

在过去,你的身份锚点是“企业内部的 IT 保障负责人”;但从今天起,你必须站在一个全新的高度:成为那个“决定将什么公司的命运托付给 AI 智能体”的规则制定者。

KPI(关键绩效指标)的底层逻辑也将被彻底倾覆。城田先生指出:“在过去,只要系统不宕机、稳定运行,CIO 的 KPI 就算是完美达标了。但从现在起,游戏规则变了:你必须死死盯住,你所主导的 AI 智能体到底有没有在财务报表上为企业的商业成果做出实打实的贡献。

更残酷的是,既然没有任何一个 AI 智能体敢保证百分之百的绝对成功,“CIO 就必须具备这样的血性与觉悟:在代理不断引发各种微小失误的试错过程中,作为最后一道防线的人类统帅,去勇敢地承担起所有的最终责任。”

为了避免项目陷入始终停留在试验阶段、最终不了了之的“PoC 死亡(PoC Death)”魔咒,城田先生给出了三个极具实操性的破局关键点:

第一点:绝对不要从一开始就抱着“这只是个小实验”的玩票心态入局。

城田先生严厉警告:“如果你抱着‘等跑通了咱们再来规划下一步’的侥幸心理去推进,相信我,等项目拖到半年后,团队早已分崩离析,而你所用的技术也早变成废铜烂铁了。”因此,他强烈建议摒弃传统的 PoC 思维,而是采取“限定范围的正式上线版(Limited Production)”策略:即从启动的第一天起,就动用真实的业务数据、启用最真实的权限管控规则,并植入最高规格的审计理念。

第二点:绝对不能把“技术指标”作为衡量成功的标尺。

你不应该去盯着 AI 生成的回答准确率自嗨,也不应该被那看似炫酷的 Demo(演示)满意度蒙蔽了双眼;你必须像一个冷血的财务官一样,去审视这项投资能否赚得回来。“处理时间到底被极限压缩了多少?如果是用在客服领域,首次触点解决率(FCR)究竟拉升了几个百分点?错误率和返工率降了多少?——你必须基于极其硬核的业务视角,去精确地设定并追踪这些真金白银的 KPI。”(城田先生)

第三点:在鸣枪起跑前,就必须把“如果成功了该怎么办”的全盘计划彻底锁死。

不要说“等做成了咱们再开会讨论”这种外行话。如果打了一场胜仗,下一步该如何向全集团横向复制(Roll-out)?在触发何种劣势条件时,必须果断切断资金、就此止步于 PoC 阶段?这些极其残酷的“撤退熔断机制”,必须在项目启动前就以白纸黑字明确下来。

据他透露,只有从最初就以“正式上线(Production)”的终极形态进行全盘架构设计,仅仅是在初期死死限制住它的作用范围(Scope),这种策略才能保证后续向大规模实战部署的丝滑过渡。

五、日本企业的致胜底牌——能否将“治理与合规”转化为发起总攻的绝杀武器?

在访谈的最后,我们向城田先生请教了在 AI 智能体时代,日本企业所拥有的独特护城河以及面临的短板。

排在第一位的优越性,恰恰是“劳动力极度短缺”这个不仅是社会层面、更是企业经营层面极其致命的痛点。城田先生指出:“在‘只要引入 AI 智能体,就能瞬间填补劳动力真空’这一绝对刚需面前,去向董事会解释其超高的投资回报率(ROI),简直易如反掌。

第二大优越性,是沉淀在业务一线的、极其变态的高质量数据(High-quality Data)。在日本的制造业或服务业的最前线,存在着历经数十年打磨、极其变态且缜密的操作日志(Operation Logs)和业务说明手册。只要把这些无价的知识结晶喂给智能体进行深度学习,它就能以极其惊人的速度直接转化为即插即用的强大战力。

第三大优越性,是那种将系统可靠性与极致质量视为图腾的经营文化底色。“由于日本企业对近乎苛刻的质量保证体系(QA)和极其慎重的底层运行设计有着近乎病态的执念,这导致他们在拼刺刀抢夺‘导入速度’时往往极其被动吃亏;但硬币的另一面是,一旦这台重型机器开始轰鸣,他们能够毫发无伤地顺利推进到正式运行阶段,并杜绝重大安全事故的成功率,可以说是极高的。”

那么,挡在面前的绊脚石又是什么呢?

最致命的死穴,是堆积如山的遗留系统(Legacy Systems)。智能体只有在与 ERP 或 CRM 等中枢神经系统进行深度连接后,才能爆发出摧枯拉朽的价值;然而,大量日本企业依然被那些缝缝补补、如同代码沼泽般的遗留系统死死拖住,导致即便极其渴望让智能体接入其中,在短时间内也绝无可能实现。

另一个难以跨越的心理障碍,是深植于员工内心对“饭碗被抢走”的极度恐惧感。向智能体移交决策权限,在潜意识中就伴随着“你在这个岗位上的价值可以被 AI 无情取代”的残酷暗示;这导致落地的最终结果往往是:智能体的应用被极其保守地死死限制在“绝对不抢任何人饭碗的边缘安全区”,而根本不敢大刀阔斧地杀入能够对企业经营产生颠覆性冲击的核心腹地。

第三个痛点在于,企业往往将眼光狭隘地局限在以内部降本增效为主的“内向型 DX”上,而严重怠慢了那些能够直接杀入市场、重塑商业模式的“外向型 DX”战略部署。

城田先生预言,在这种错综复杂的局势交织下,企业阵营的分化(二極化)将变得极其惨烈。

一方面,会有大量因为过度对风险患得患失,最终导致在这个时代浪潮面前彻底僵化、不敢越雷池一步的掉队企业;但另一方面,“那些具备极其毒辣眼光的企业,他们能够精准刺穿迷雾——看透这项技术在本质上是否绝对不可或缺?它到底能不能锻造出独属于自家的核心竞争壁垒?一旦得出极其肯定的结论,他们就会毫不犹豫地一脚把油门踩到底。这种两极分化的割裂现象,在未来必将变得越发刺眼。”他掷地有声地说道。


在访谈的尾声,作为留给全天下 CIO 的临别箴言,城田先生留下了这样一段极具力量的话:

“CIO 肩膀上的万钧重担,已经从‘保住系统不宕机的维稳者’,发生了一场具有颠覆性意义的剧变——你必须成为那个‘敢于将 AI 作为企业的核心执行主体,并将其威力发挥到极致的破局者’。在极其冷酷地亲手划定‘到底要把哪些权力让渡给 AI’的生死边界线之后,你还必须站在企业最高经营层的高度,对它后续产生的每一次真金白银的收益,承担起绝对的责任。你,必须具备这份破釜沉舟的血性与觉悟。