导语:CEO对AI的态度像过山车——从无视到FOMO,从遍地Copilot到收紧预算,从狂飙实验到"词元经济学"。如今,当智能体失控、AI事故频发、责任归属悬而未决,信任又成了新的关键词。而CIO,正站在这一切的风口浪尖——成了AI出问题时第一个被问责的人。
对AI的信任正迅速成为CEO(首席执行官)和公司董事会的核心关切。建立这份信任,是CIO(首席信息官)的责任。

图源:PeopleImages.com - Yuri A / Shutterstock
如果你和大多数CIO一样,那么你的CEO对AI的看法和战略展望,在过去短短两年多里可能已经几经转变,有时甚至前后矛盾。最初的怀疑或无视,可能已经让位于彻头彻尾的FOMO(错失恐惧症)。要求人人手上都有Copilot(AI副驾驶)的呼声,可能随着账单堆积和价值质疑而有所回落。疯狂的实验转向了定向用例。随着“词元榨取”和“词元经济学”成为业内常用说法,推动AI广泛落地的压力也有所减弱。
如今,随着前沿实验室展示出“智能体失配”可能导致的后果、AI事故登上新闻头条,以及损害赔偿责任问题悬而未决,对AI——以及对CIO AI战略——的信任,(又一次)成了CEO的核心关切。
作为给公司设定AI航向的高管,CIO被期望让每一个AI项目都产生回报,为所有利益相关者注入对AI的信任,并保证不会发生任何意料之外的不幸事件。因此,风险极高,CIO已经要为任何AI失误承担责任,而据IDC称,随着诉讼、罚款和AI事件到2030年持续增加,CIO未来还面临被解雇的风险。
CIO应对这一时刻的唯一途径,是建立治理、安全、数据质量、AI模型质量标准,以及业务ROI(投资回报率)指标,并具备一套明确的机制,一旦AI系统产生风险即可将其关停。
在CEO被要求拿出AI成果的当下,做到这一切需要时间和资金。这还需要清晰而有力地解释:为什么所有这些步骤都是必要的,这些步骤如何融入公司整体AI战略,可以设置哪些检查点来确保业务指标和投资回报目标得以实现,以及企业风险管理计划应当如何覆盖AI相关事项。
以下是CIO为建立公司AI实施信任而应采取的关键步骤。
一、项目启动前,要求高质量数据、高质量AI模型和业务相关指标
迄今为止,许多组织都在“沙盒”模式下运行AI项目。他们尝试不同的AI模型和算法,却没有对数据和指标给予同等关注。对此,最常被引用的证据来自麻省理工学院2025年AI调查——该调查发现,企业已为生成式AI投入近400亿美元,而其中95%的项目报告称未产生投资回报。
今年,AI的蜜月期已经显现出结束的迹象。CEO不仅期望看到成果,还期望看到投资回报。这一呼声在2027年只会更加响亮。而取得成果的唯一途径,是确保AI项目使用高质量数据、AI模型的开发和维护达到最高质量标准,并且建立起与具体业务用例和成果挂钩的清晰投资回报指标。
CIO必须先发制人,带头设定AI文化和工作标准。只有做到这一点,信任才会逐步建立。
二、运行紧凑、可控的项目
近期涉及OpenAI、Anthropic和Google的事件已经展示了,当AI失控时会出什么问题。没有哪个企业CIO希望这种事发生在自己的任期内。
为避免这一点,AI项目应当以有限的知识领域和功能范围进行构建,限定在其运行环境内(例如,呼叫中心支持)。这些AI项目一开始不应试图做太多事情。随着对AI及其成果的信心增强,可以逐步扩大范围。
对AI自主智能体采取缓慢、基于验证的推进方式,对于确保利益相关者信任至关重要。
三、配备AI紧急关停开关
如果一个AI项目出了问题,你有办法将其关闭并减轻任何损害吗?
如何关闭AI系统,应当是任何AI项目计划中最先定义的任务之一。同样重要的是再往前走一步——将企业中每一个AI系统的关闭和恢复步骤纳入企业灾难恢复与风险管理计划。
四、考虑聘请审计机构监控AI安全、治理和合规
企业中总有一些部门——销售、营销、工程——想要跳过治理,直接运行AI系统。在强调研发的公司里,董事会和CEO甚至可能有一些抵触,因为他们想避免“繁文缛节”和进度放缓。
无论企业文化如何,倡导系统安全、合规和治理以确保AI安全和风险管理的责任,都将落在CIO肩上。CIO可以通过聘请外部审计公司来监控AI系统的安全性、治理和合规性,定期向董事会报告并指出任何必须纠正的违规行为,从而绕开这一困境。
五、选择正确的供应商
提供AI系统或服务的供应商,必须对AI质量有着与贵公司同等水平的承诺。对AI供应商的审查不仅应包括其产品和使用的数据,还应包括其支持、安全、治理、合规的实力,以及从灾难中恢复的能力。
结语
Harris/Dataiku今年早些时候对900名CEO进行了调查,80%的人表示,如果到2026年底还不能交付AI成果,他们的职位就岌岌可危。此外,57%的人认为“AI可解释性不足可能引发客户信任或品牌信誉危机”。
对AI的信任已成为CEO及其董事会的重大议题。确保AI信任,应当被放在CIO AI待办清单的首位。
💡 技术名词速览(Tips)
AI信任鸿沟(AI Trust Gap)
指企业对AI技术的期望与对其可靠性、安全性和可解释性的信任之间存在的落差。随着AI事故增多和责任问题凸显,信任鸿沟正成为制约AI规模化落地的核心障碍。
词元榨取(Tokenmaxxing)
指企业或个人为了最大化AI使用量而过度消耗词元(token)的现象,通常以牺牲实际价值为代价。这是AI蜜月期结束后被反思的负面现象之一。
词元经济学(Tokenomics)
指围绕AI词元消耗的成本经济学。随着AI使用量增长,词元成本可能迅速失控,词元经济学成为CIO管理AI预算和ROI的重要考量。
智能体对齐失败(Agent Misalignment)
指AI智能体的行为与人类意图或预期目标不一致的现象。这可能导致AI采取意外的、甚至有害的行动,是AI安全研究和治理的核心议题之一。
AI关闭阀门(AI Shut Down Valve / Kill Switch)
指能够快速关闭AI系统以防止损害扩大的机制。类似于工业系统中的紧急停止按钮,是AI风险管理和安全治理的关键组成部分。
FOMO
"Fear of Missing Out"的缩写,意为"错失恐惧症"。在AI语境下,指企业和高管因担心落后于竞争对手而仓促上马AI项目的心态,往往导致盲目投资和缺乏规划。
作者:Mary Shacklett(玛丽·沙克尔特)
Mary Shacklett(玛丽·沙克尔特)是一名自由撰稿人,也是环球数据公司的总裁,这是一家技术分析、市场研究和咨询公司