你好,欢迎您来到福建信息主管(CIO)网! 设为首页|加入收藏|会员中心
您现在的位置:>> 新闻资讯 >>
烧光AI预算的7种必然方式
作者:CIO.com&睿观 来源: 发布时间:2026年11月06日 点击数:


导语:成果、治理、变革管理——这些只是IT领导者在部署AI时克扣投入的战略与战术要素中的一小部分,而代价可能极为惨重。当人人都在用AI、智能体接下越来越昂贵的任务,预算超支不再是会不会的问题,而是哪一天爆的问题。

成果、治理、变革管理——这些只是IT领导者在部署AI时投入重视不足的战略与战术要素中的一小部分,而这会让企业付出极为高昂的代价。




图源:Jp Valery / Unsplash

CIO向来感受到快速部署新兴技术的压力。部署过程中充满挑战,包括计算和衡量前期投资成本。部署太快,等热潮退去,许多IT部门就会留下一套成本高昂的架构要维护,以及安全漏洞和运营问题。

同样的趋势正在AI领域上演。许多CIO采购了企业级AI模型许可,赋能员工尝试语言模型并开发AI智能体。另一些则要求DevOps团队加速AI代码生成和vibe coding(氛围式编码)。从快速实验到将更多AI能力部署到生产环境的转变,可能让CIO留下不断累积的AI债务和AI云财务运营缺口。

CIO的短期担忧是,在按用量计费的AI定价模式下管理预算。尽管AI词元成本在下降,但使用AI的员工越来越多,智能体也被赋予更具挑战性、更昂贵的任务。以下是IT领导者常犯的、导致AI预算爆掉的7个错误。

一、制定AI战略时没有可衡量的业务成果

大多数CIO和CAIO(首席AI官)都认识到,需要制定聚焦于AI能提供持久业务价值领域的AI战略。但许多人未能量化目标业务成果,导致员工将AI落地采纳指标当作首要目标。

“花在一个从未证明其价值的试点上的每一个词元,都是领导者无法收回的金钱,也是损失的机会成本——这更多是治理失败,而非技术失败,”Verint CTO Rob Scudiere(罗布·斯库迪尔)表示,“每一个智能体和工作流都必须通过展示实现预期业务成果的结果来赢得预算,否则就失去预算。”

Netbox Labs CEO兼联合创始人Kris Beevers(克里斯·比弗斯)表示,应使用现有业务指标来看看采用AI的领域是否在更快地改善它们。“如果采纳率在攀升,但成果没有同步提升,那就是一个相当明确的信号,该重新思考你的支出方向了,”Beevers(比弗斯)说。

建议:实验阶段可能难以确定财务影响,但员工应在将AI智能体推进到开发和部署阶段之前设定财务目标。

二、实验时没有AI治理

当少数试点AI智能体迅速扩展到数千个在生产环境中运行时,CIO可能会发现自己手上一团糟。AI治理的大部分工作聚焦于确定所有者、设置数据访问规则、定义目标业务成果和建立准确性指南。CIO还必须教育员工了解潜在成本因素,包括模型选择和平台标准化。

“滞后的AI治理往往被视作合规风险,但它同样是预算问题,”Concentrix智能体系统负责人Guy Bourgault(居伊·布尔戈)表示,“组织越晚明确归属权责、标准与管控规则,就会把越多资金耗费在低效工作上,而非业务推进上。”

Newgen全球产品与AI负责人Varun Goswami(瓦伦·戈斯瓦米)表示,AI预算浪费在分散的试点、重复的集成和默默运行却从未证明价值的智能体上。“在一个受治理的平台上构建,而不是十几个并行的技术栈;复用模板和连接器,而不是为每个用例逐个定制开发;让模型匹配任务,而不是把所有东西都路由到最昂贵的基础模型,”Goswami(戈斯瓦米)建议道。

数据质量是第三个隐忧。Collibra和Harris Poll的调查显示,96%的IT领导者表示项目失败几乎总能追溯到糟糕的数据基础,51%的人报告称大量员工工时被用于手动修正自主AI智能体的输出。CIO应当设定数据质量指标并建立数据产品,以构建可信的AI上下文层。

建议:CIO应当每月更新并传达其AI治理政策,因为AI成本、能力、合规和安全考量都在快速演进。

三、词元经济学只关注模型成本,不关注业务价值

围绕AI词元经济学(tokenomics)的讨论,大多聚焦于使用不同AI模型的成本。但FinOps基金会将词元经济学定义为“研究词元的生产、分配和消费如何在组织内产生业务成果和AI价值”。

由于许多组织使用多个模型、带AI智能体的SaaS(软件即服务),以及内部开发的AI智能体,CIO应当与CFO(首席财务官)合作衡量总体影响,包括AI的直接词元成本、员工投入、持续推理成本和交付的价值。

“当企业过于狭隘地关注词元消耗时,很快就会在AI上超支,而出发点永远应该是业务成果,”UKG CIO Prakash Kota(普拉卡什·科塔)表示,“我用‘三个T’法则:这项工作是否需要人才来做判断或提供专业知识,现有工具能否高效解决,还是词元能创造足够价值来证明投资合理?”

CIO随后应在员工、部门和工作流三个层面设定AI预算。每个群体的预算都应根据成果定期审查和调整。这种纪律促进了关于何时以及如何使用AI能力的明智财务决策,并能推动自上而下的文化变革。

“同样的词元,可以用在熟练工程师更快交付产品上,也可以用在非专业人士生成10个版本的同一份幻灯片上,”OneStream CEO兼联合创始人Tom Shea(汤姆·谢伊)表示,“两种情况下预算中的项目看起来一模一样,真正的词元效率需要治理来确保这些词元是在赋能专家加速产出,而非引发大规模成本失控。”

建议:过早设定AI预算可能会挫伤员工学习和实验AI的热情。基于成熟度曲线建立财务目标,先鼓励实验,再在AI智能体部署到生产环境时推行财务纪律。

四、开发AI智能体时没有标准

CIO应当向使用AI代码生成器的DevOps团队传达这两个成本考量。

首先,Stack Overflow 2026年开发者调查显示,73%的开发者每天使用AI编程助手和智能体,但开发者在塑造提示词和选择模型时更看重质量(75%)而非成本(38%)。CIO应当制定平衡成本与质量取舍的指南,建立DevOps不可妥协准则,并在部署流水线中要求代码分析。

“编码不再是瓶颈,瓶颈已经转移到我们如何确保代码的正确性,”思科网络与协作业务高级副总裁兼总经理Anurag Dhingra(阿努拉格·丁格拉)表示。“人类根本不可能审查AI编写的每一行代码。”

问题在于,Sonar的代码状态开发者调查显示,96%的开发者并不完全信任AI生成的代码,48%的人在提交前总会检查他们的AI辅助代码。由于大型组织可能使用多个AI代码生成工具,他们需要对质量、成本和开发者满意度进行基准测试。

“团队需要清晰的护栏和工程标准,尤其是当AI智能体加速开发并可能引入代价高昂的返工之时,”Sonar CTO Andrea Malagodi(安德烈亚·马拉戈迪)表示,“从你的一个或多个供应商聚合实时数据,让你能够看到每个PR(拉取请求)的成本,是一种很好的治理机制。”

建议:尽管AI代码生成是一项非凡的突破,但它也带来了CIO应当追踪的新成本和质量考量。

五、所有AI需求都用前沿模型

另一个成本考量出现在组织部署数百个AI智能体、并为开发者提供多个AI模型可供选择之时。开发者可能基于偏好而非性能和成本考量来选择模型。

Databricks AI副总裁Craig Wiley(克雷格·怀利)表示,77%的公司如今同时管理多个模型家族,因为最适合某项任务的模型很少也是最适合另一项任务的。“这种灵活性的代价是管理不断变化的价格、分散的供应商,以及对预算实际去向零可见性。解决办法是实时预算和智能路由,自动将查询发送到最具成本效益的模型,”Wiley(怀利)说。

建议:Teradata首席数据与AI官兼CIO Josh Fecteau(乔希·费克托)表示,前沿模型很昂贵,并非每项任务都需要。“用更便宜的小语言模型、定制模型和行业专用模型来丰富你的模型策略,“Fecteau(费克托)建议。

六、部署AI智能体时不监控成本飙升和低效问题

AI智能体的一个关键挑战是其可变成本,尤其是当它们被赋予复杂程度各异的任务时。虽然一些AI供应商正在转向基于成果的定价模式,但许多仍使用固定词元数量的许可模式,外加超额部分按用量计费。这意味着CIO必须监控成本、设定AI可观测性标准,并定义处理AI智能体性能差异的规则。

“我在电话行业干了25年,那里每分钟都有价格,而自主AI是我见过的第一个像电话一样计费、却像软件许可一样做预算的软件,”Columbus AI战略高管CJ Combs(CJ·库姆斯)表示,“一旦智能体能循环运行,AI成本就不再可预测——因为它不断拉取上下文、重试、调用工具,方式是没有人预算过的。”

专家建议审查几类实施成本低效问题。NinjaTech AI创始人、CEO兼CPO Babak Pahlavan(巴巴克·帕赫拉万)表示,AI智能体处理时长是一个简单的指标。“一个运行数小时任务的自主智能体可以在一个下午烧掉一个月的配额,每一次工具调用、每一次重试、每一次重新读取上下文都会产生计费开销,”Pahlavan(帕赫拉万)说。

其他成本因素需要专家审查AI智能体的决策日志来确定优化方向。Jedify CTO兼联合创始人Adi Elimelech(阿迪·埃利梅莱赫)表示:“如果每次查询都把整个数据库 schema(结构)拉回LLM(大语言模型),词元成本会随着你的环境规模而非问题复杂度增长。成本还会叠加放大,因为模型往往第一次就做不对,还要再循环一轮往返才能得到正确答案。”

建议:CIO将需要完善多项AgenticOps(智能体运维)和站点可靠性工程实践,以监控AI智能体并应对成本、安全、质量、性能和其他类型的事件。

七、构建智能体时没有变革管理计划

部署AI智能体的最大缺口之一是,部署只是变革管理流程中的一步。AI治理要求确定智能体所有者——他们对决策负责、对成果负责。这些所有者还应当牵头推动底层的变革管理流程。

“最大的AI成本超支很少来自技术,”BMC Software数字业务自动化高级副总裁兼总经理Abhijit Kakhandiki(阿比吉特·卡坎迪基)表示,“它们来自组织在没有重新设计流程、所有权模式和治理的情况下部署AI。”

变革过程的一部分要求明确人在回路相关职责,负责审查智能体给出的建议。审查过程建立信任,并让所有者能够对低风险、高体量、可信赖的建议切换到自主决策模式。

“这不会是一个二元开关——从第一天起你就信任AI智能体自主运行任务,”Workday首席AI官Joel Hellermark(约埃尔·赫勒马克)表示,“渐进地,它们会赢得自主运行那些工作流的权利。如果这是你第五十次批准下属一笔50美元以下、看起来完全符合政策的费用报销,你就可以信任智能体替你运行了。”

建议:提高采纳率不是最终目标,但它是交付业务价值的关键一步。衡量采纳的指标包括AI响应质量、信任分数、重复使用率和为采用者交付的价值。

一条简单的法则是:你无法管理你不衡量的东西。CIO应当设定预算、追踪成本、衡量成果——尤其是随着更多智能体进入生产环境。




💡 技术名词速览(Tips)

  • AI债务(AI Debt)

    :类似于技术债务,指企业在快速推进AI项目时,因缺乏标准、治理和架构规划而累积的长期问题,包括低效的模型使用、重复的集成、不可维护的智能体等,最终会增加运营成本和风险。

  • 词元经济学(Tokenomics)

    :研究AI词元的生产、分配和消费如何在组织内产生业务成果和AI价值的学科。它不仅仅是计算模型成本,更是将词元消耗与业务价值相关联,是AI财务运营的核心概念。

  • AI财务运营(AI FinOps)

    :将FinOps(云财务运营)的理念应用于AI领域的管理实践,旨在通过成本可见性、预算管理和价值衡量,确保AI投资的经济效益和业务回报。

  • 即兴原型开发(Vibe Coding)

    :指开发者借助AI编程助手,以高度直觉化、迭代化的方式快速构建应用原型的开发模式。其特点是速度快但可能缺乏质量管控,容易产生技术和AI债务。

  • AgenticOps(智能体运维)

    :指对AI智能体进行全生命周期运维管理的实践体系,涵盖成本监控、性能追踪、安全管控、质量保障和事件响应等多个维度,是AI进入生产环境后的必备能力。

  • 上下文层(Context Layer)

    :位于AI模型与业务数据之间的一层架构,负责为AI提供高质量、可信赖的上下文信息,包括知识图谱、语义层和数据产品等,是提升AI准确性和可靠性的关键基础设施。


#人工智能   #IT管理   #预算编制   #IT运维   #IT战略   #IT领导力

作者:Isaac Sacolick(艾萨克·萨科利克)

Isaac Sacolick(艾萨克·萨科利克),数字化转型学习公司StarCIO的总裁,指导领导者采用所需的实践,以领导其组织的转型变革。他是《Digital Trailblazer(数字开拓者)》和亚马逊畅销书《Driving Digital(驱动数字)》的作者,讲述了敏捷规划、开发、数据科学、产品管理和其他数字化转型最佳实践。Sacolik是公认的顶级社交首席信息官,也是数字转型的影响者,在InfoWorld、CIO.com、他的博客social、Agile和transformation以及其他网站上发表了900多篇文章。本文中表达的观点是Isaac Sacolick(艾萨克·萨科利克)的观点,不一定代表IDG通信公司,其母公司,子公司或附属的公司的观点。