你好,欢迎您来到福建信息主管(CIO)网! 设为首页|加入收藏|会员中心
您现在的位置:>> 新闻资讯 >>
CIO如何跨越AI信任鸿沟
作者:CIO.com&睿观 来源:CIOCDO 发布时间:2026年11月03日 点击数:

导语:CEO对AI的态度像过山车——从无视到FOMO,从遍地Copilot到收紧预算,从狂飙实验到"词元经济学"。如今,当智能体失控、AI事故频发、责任归属悬而未决,信任又成了新的关键词。而CIO,正站在这一切的风口浪尖——成了AI出问题时第一个被问责的人。

对AI的信任正迅速成为CEO(首席执行官)和公司董事会的核心关切。建立这份信任,是CIO(首席信息官)的责任。




图源:PeopleImages.com - Yuri A / Shutterstock

如果你和大多数CIO一样,那么你的CEO对AI的看法和战略展望,在过去短短两年多里可能已经几经转变,有时甚至前后矛盾。最初的怀疑或无视,可能已经让位于彻头彻尾的FOMO(错失恐惧症)。要求人人手上都有Copilot(AI副驾驶)的呼声,可能随着账单堆积和价值质疑而有所回落。疯狂的实验转向了定向用例。随着“词元榨取”和“词元经济学”成为业内常用说法,推动AI广泛落地的压力也有所减弱。

如今,随着前沿实验室展示出“智能体失配”可能导致的后果、AI事故登上新闻头条,以及损害赔偿责任问题悬而未决,对AI——以及对CIO AI战略——的信任,(又一次)成了CEO的核心关切。

作为给公司设定AI航向的高管,CIO被期望让每一个AI项目都产生回报,为所有利益相关者注入对AI的信任,并保证不会发生任何意料之外的不幸事件。因此,风险极高,CIO已经要为任何AI失误承担责任,而据IDC称,随着诉讼、罚款和AI事件到2030年持续增加,CIO未来还面临被解雇的风险。

CIO应对这一时刻的唯一途径,是建立治理、安全、数据质量、AI模型质量标准,以及业务ROI(投资回报率)指标,并具备一套明确的机制,一旦AI系统产生风险即可将其关停。

在CEO被要求拿出AI成果的当下,做到这一切需要时间和资金。这还需要清晰而有力地解释:为什么所有这些步骤都是必要的,这些步骤如何融入公司整体AI战略,可以设置哪些检查点来确保业务指标和投资回报目标得以实现,以及企业风险管理计划应当如何覆盖AI相关事项。

以下是CIO为建立公司AI实施信任而应采取的关键步骤。

一、项目启动前,要求高质量数据、高质量AI模型和业务相关指标

迄今为止,许多组织都在“沙盒”模式下运行AI项目。他们尝试不同的AI模型和算法,却没有对数据和指标给予同等关注。对此,最常被引用的证据来自麻省理工学院2025年AI调查——该调查发现,企业已为生成式AI投入近400亿美元,而其中95%的项目报告称未产生投资回报。

今年,AI的蜜月期已经显现出结束的迹象。CEO不仅期望看到成果,还期望看到投资回报。这一呼声在2027年只会更加响亮。而取得成果的唯一途径,是确保AI项目使用高质量数据、AI模型的开发和维护达到最高质量标准,并且建立起与具体业务用例和成果挂钩的清晰投资回报指标。

CIO必须先发制人,带头设定AI文化和工作标准。只有做到这一点,信任才会逐步建立。

二、运行紧凑、可控的项目

近期涉及OpenAI、Anthropic和Google的事件已经展示了,当AI失控时会出什么问题。没有哪个企业CIO希望这种事发生在自己的任期内。

为避免这一点,AI项目应当以有限的知识领域和功能范围进行构建,限定在其运行环境内(例如,呼叫中心支持)。这些AI项目一开始不应试图做太多事情。随着对AI及其成果的信心增强,可以逐步扩大范围。

对AI自主智能体采取缓慢、基于验证的推进方式,对于确保利益相关者信任至关重要。

三、配备AI紧急关停开关

如果一个AI项目出了问题,你有办法将其关闭并减轻任何损害吗?

如何关闭AI系统,应当是任何AI项目计划中最先定义的任务之一。同样重要的是再往前走一步——将企业中每一个AI系统的关闭和恢复步骤纳入企业灾难恢复与风险管理计划。

四、考虑聘请审计机构监控AI安全、治理和合规

企业中总有一些部门——销售、营销、工程——想要跳过治理,直接运行AI系统。在强调研发的公司里,董事会和CEO甚至可能有一些抵触,因为他们想避免“繁文缛节”和进度放缓。

无论企业文化如何,倡导系统安全、合规和治理以确保AI安全和风险管理的责任,都将落在CIO肩上。CIO可以通过聘请外部审计公司来监控AI系统的安全性、治理和合规性,定期向董事会报告并指出任何必须纠正的违规行为,从而绕开这一困境。

五、选择正确的供应商

提供AI系统或服务的供应商,必须对AI质量有着与贵公司同等水平的承诺。对AI供应商的审查不仅应包括其产品和使用的数据,还应包括其支持、安全、治理、合规的实力,以及从灾难中恢复的能力。

结语

Harris/Dataiku今年早些时候对900名CEO进行了调查,80%的人表示,如果到2026年底还不能交付AI成果,他们的职位就岌岌可危。此外,57%的人认为“AI可解释性不足可能引发客户信任或品牌信誉危机”。

对AI的信任已成为CEO及其董事会的重大议题。确保AI信任,应当被放在CIO AI待办清单的首位。



💡 技术名词速览(Tips)

  • AI信任鸿沟(AI Trust Gap)

    指企业对AI技术的期望与对其可靠性、安全性和可解释性的信任之间存在的落差。随着AI事故增多和责任问题凸显,信任鸿沟正成为制约AI规模化落地的核心障碍。

  • 词元榨取(Tokenmaxxing)

    指企业或个人为了最大化AI使用量而过度消耗词元(token)的现象,通常以牺牲实际价值为代价。这是AI蜜月期结束后被反思的负面现象之一。

  • 词元经济学(Tokenomics)

    指围绕AI词元消耗的成本经济学。随着AI使用量增长,词元成本可能迅速失控,词元经济学成为CIO管理AI预算和ROI的重要考量。

  • 智能体对齐失败(Agent Misalignment)

    指AI智能体的行为与人类意图或预期目标不一致的现象。这可能导致AI采取意外的、甚至有害的行动,是AI安全研究和治理的核心议题之一。

  • AI关闭阀门(AI Shut Down Valve / Kill Switch)

    指能够快速关闭AI系统以防止损害扩大的机制。类似于工业系统中的紧急停止按钮,是AI风险管理和安全治理的关键组成部分。

  • FOMO

    "Fear of Missing Out"的缩写,意为"错失恐惧症"。在AI语境下,指企业和高管因担心落后于竞争对手而仓促上马AI项目的心态,往往导致盲目投资和缺乏规划。


作者:Mary Shacklett(玛丽·沙克尔特)

Mary Shacklett(玛丽·沙克尔特)是一名自由撰稿人,也是环球数据公司的总裁,这是一家技术分析、市场研究和咨询公司