你好,欢迎您来到福建信息主管(CIO)网! 设为首页|加入收藏|会员中心
您现在的位置:>> 新闻资讯 >>
生成式人工智能陷入幻灭
作者:CIO.com 来源:CIOCDO 发布时间:2025年09月01日 点击数:

结果不一致、产生幻觉以及缺乏能够容忍不准确结果的用例,已使生成式AI(人工智能)陷入炒作热度下降的周期。

图源:Rob Schultz / Shutterstock

专家表示,企业对生成式AI的兴奋劲儿已过,若要重拾热情,或许需要更好的用例和更准确的结果。目前,这项技术正深陷Gartner Hype Cycle技术成熟度曲线)中令人担忧的“trough of disillusionment/幻灭低谷期”。

Gartner(高德纳)的高级主管分析师Birgi Tamersoy(比尔吉·塔默索伊)称,尽管生成式AI对企业仍具巨大潜力,但随着各组织在其稳健性和可靠性方面遇到问题,一些期望已经降低。他补充说,对生成式AI的炒作淡化了要从中获益所需付出的大量工作。

他表示:“现实可能并非如我们听到的有关生成式AI的传言那样,即投入数据,一切就能神奇地自动实现。在性能、稳健性和可靠性方面,需要进行适当的尽职调查。”

Tamersoy(塔默索伊)称,生成式AI产生幻觉和结果不一致是导致期望降低的主要问题。因此,一些IT领导者难以找到足够能容忍不准确结果的用例。与此同时,AI试点项目的失败率一直很高。

Tamersoy(塔默索伊)指出:“AI系统难免会出错。在构建解决方案时,围绕它所采取的提高稳健性和可靠性的措施,对成败有着巨大影响。这需要对这些技术进行更深入的评估。”

Tamersoy(塔默索伊)补充道,随着生成式AI处理更复杂的问题,成本和能源需求也已成为企业的主要考量因素。他说,在某些情况下,能源成本可能高达数百万美元,企业有时需要权衡成本是否与收益相符。

一、需要更好的结果

其他人工智能专家指出,可靠性不足是期望降温的一个重要原因。基于AI的视频平台Doitong的首席执行官Dmitry Mishunin(德米特里·米舒宁)表示,生成式AI常常让用户缺乏确定性。

他说:“如今,生成式AI就像一场神秘盒子游戏。你可能得到一件杰作,也可能得到毫无用处的东西。而且,即使你得到了一件杰作,也无法保证下次及以后也同样不会得到无用的内容。”

Mishunin(米舒宁)还认为基于使用情况的定价是一个阻碍。尽管生成式AI免费使用也仍会出现失败情况,但某些收费模式会加速实验阶段的结束。他说:“一旦这些服务开始根据结果而非尝试次数向我们收费,这个行业将会腾飞。”

Gartner估计,生成式AI需要两到五年时间才能走出幻灭低谷期,沿着“slope of enlightenment/爬升光明期”攀升至技术成熟度曲线中的“plateau of productivity/实质生产高原期”阶段。Gartner认为,这项技术在去年达到了过高期望的顶峰,而那时首席信息官们正从尝试阶段转向注重实际应用。

二、对智能体缺乏信任

另一个被大肆炒作的AI技术——AI智能体,目前正处于技术成熟度曲线中的peak of inflated expectations/期望膨胀期阶段;与生成式AI一样,它很快也将走向幻灭。GartnerTamersoy(塔默索伊)称,对智能体缺乏信任最终会降低人们对它过度膨胀的热情,这与人们对生成式AI结果缺乏信任的担忧相呼应。

他说:“你无法自动化你不信任的东西,目前许多AI智能体都是基于LLM(大语言模型)的,这意味着它们的‘大脑’是生成式AI模型,这同样存在不确定性和可靠性方面的担忧。如果你想完全自动化某件事,就必须非常信任它。”

基于AI的企业搜索供应商Lucidworks的首席执行官Mike Sinoway(迈克·西诺韦)表示,对生成式AI缺乏信任的部分原因在于对智能体存在疑虑。该公司的《2025 State of Generative AI report/2025年生成式AI现状报告》发现,只有6%的电子商务公司部分或完全部署了一种智能体AI解决方案,三分之二的公司缺乏使AI智能体有效发挥作用的基础设施。

他说:对生成式AI的信心下降,是因为围绕AI智能体(生成式AI最有前途的应用)的期望出现了偏差。领导者们急于部署智能体解决方案,有点操之过急。”

Sinoway(西诺韦)称,但随着AI编排和智能体协调技术的发展,它们最终将释放生成式AI的潜力。他说:“未来的突破不会来自单个智能体单独运作,而是来自能将任务分配给最具成本效益模型的编排系统。”

在等待新突破的同时,Tamersoy(塔默索伊)建议首席信息官们今后更全面地评估和测试生成式AI工具,以确定最适合其组织的工具。此外,一些组织目前正在同时使用多种AI技术,以减轻单独使用每种工具时固有的弱点。

Gartner人工智能炒作周期的第一阶段“技术萌芽期”中,有一种人工智能技术是Composite AI(复合人工智能),它结合了多种人工智能技术,如计算机视觉、机器学习和智能体等,来解决业务问题。Tamersoy(塔默索伊)认为Composite AI是最有前途的新兴AI技术之一,因为它有潜力解决单一AI工具在可靠性等方面的问题。

他说:Composite AI认可每种技术都有其自身的局限性和优势这一事实。要构建一个成功的解决方案,可能需要结合多种技术,以便它们尽可能地弥补彼此的局限性。

与此同时,战略投资组合管理公司Planview的首席数据科学家Richard Sonnenblick(理查德·索南布利克)表示,需要进行更多的模型评估。

与此同时,需要进行更多的模型评估,战略组合管理公司Planview的首席数据科学家RichardSonnenblick说道。

他说:“我们短期内高估了AI的潜力,因为我们没有模型评估的标准,而且会对话的计算机带来的新鲜感吸引或迷惑了我们。但我们绝对没有高估大语言模型在中期和长期的影响力。”

三、潜力犹存

Sonnenblick(索南布利克)预测,有了更好的评估框架、不断改进的推理模型以及精心整理的数据,生成式AI将带来巨大的效率提升。

他补充道:“信心缺失在很大程度上是因为我们最初使用ChatGPT时的美妙体验,与频繁出现幻觉以及难以将这些模型用于商业目的的现实之间存在差距。话虽如此,勇于冒险和快速试错值得提倡。即使每100个生成式AI项目中只有一个能产生价值,但随着时间推移,这些价值足以证明整体投资是合理的。”

GartnerTamersoy(塔默索伊)也认同生成式AI及相关技术的潜力仍然巨大。他说:“这些技术有很多用途。它们能带来很多价值,但各组织需要进行适当的尽职调查,以确保其解决方案能高效运行并带来商业价值。”

作者:Grant Gross格兰特·格罗斯

Grant Gross格兰特·格罗斯CIO的资深撰稿人,是一名长期的科技记者。他曾担任华盛顿记者,后来担任IDG新闻服务的高级编辑。在他职业生涯的早期,他曾担任Linux.com的总编辑和科技职业网站Techies.com的新闻编辑。在遥远的过去,他曾在明尼苏达州和达科他州的报纸担任记者和编辑。

译者:宝蓝


睿观:

由于在现实应用中暴露出结果不一致、频繁产生幻觉以及缺乏能够容忍不准确结果的用例等核心问题,企业对生成式AI(人工智能)的狂热兴奋期已过,该技术正进入Gartner(高德纳)技术成熟度曲线中必然的“幻灭低谷期”。这种期望降温同样影响着被过度炒作的AI智能体,其根本原因在于对基于大语言模型(LLM)的AI系统缺乏信任,因为“你无法自动化你不信任的东西”。因此,要走出幻灭期并最终实现生产力,AI产业需要在未来2-5年内,通过更优的模型评估框架更好的AI编排技术以及发展如“复合AI”(结合多种AI技术以弥补单一技术缺陷)等新路径,来系统性地提升其可靠性与稳健性。对CIO(首席信息官)而言,这意味着需要进行更深入的尽职调查,并坚持“快速试错”,在大量实验中寻找真正能创造价值的应用。

金句

从“期望膨胀的山峰”滑入“幻灭的低谷”,是每一项颠覆性技术的成年礼。