由于担心成本和数据隐私问题,一旦人工智能工作负载稳定下来且实验阶段结束,IT领导者们越来越认为,对于人工智能而言,私有云或本地部署是更好的选择。
图源:Rob Schultz / Shutterstock
CIO已经开始重新思考他们在人工智能及其他工作负载方面对公共云的依赖,对私有云和本地部署环境重新燃起的兴趣正在加速升温。
数据可观测性公司Prove AI的首席技术官Greg Whalen(格雷格·惠伦)表示,虽然公共云为人工智能实验提供了灵活调配大量GPUs(图形处理器)的能力,但随着人工智能战略的成熟,以及逐渐转向可预测的人工智能工作负载,CIO们开始将目光投向私有云或本地部署环境,以控制开支并保护数据隐私。
ProveAI最近对美国和加拿大的1000名企业领导者进行的一项调查显示,其中67%的人计划在未来12个月内将一些人工智能数据迁移到非云环境中。除了成本可预测性和数据隐私问题外,调查还显示,迁移的其他主要原因是安全问题以及与SaaS(软件即服务)环境的云集成挑战。
Whalen(惠伦)表示,对于运行稳定人工智能工作负载的组织来说,与其在公共云中租用时间,不如购买几块GPU或在私有云提供商处安装几块,这样可以节省资金。他认为,如果IT领导者能够准确估算需求,内部GPU将得到充分利用,几乎没有闲置时间。
他说:“如果你真的在进行微调,或者甚至只是想定制一个RAG(检索增强生成)模型,你可能需要连续几个小时使用图形处理器进行计算。即使在实际评估模型、运行模型时,你的工作负载也不会有太大波动。”
Whalen(惠伦)表示,他没有看到太多组织因使用不足而运行自己的GPU。
他补充道:“如果有人说,‘你有一块图形处理器,但可能只有 10% 的时间会用到它’,以我们的经验来看,情况并非如此。你总会找到事情让它去做,而且大多数工作负载通常是训练,这是非常连续的。它是在可预测的时间段内运行的任务。”
一、私有云支出增长
尽管ProveAI的调查显示了对本地计算的兴趣,但另一项调查表明,即使公共云支出也在以较低速度增长,私有云支出仍有显著增长。
这项由网络和安全提供商GTTCommunications开展的调查显示,2024年至2025年间,计划在公共云上花费超过1000万美元的组织数量增长了12%。
然而,调查显示,计划在私有云服务上支出超过1000万美元的受访者比例增长更为迅速,从2023年的36%增长到2024年的43%,再到2025年的54%。这一增长速度是公共云大额支出者的两倍。
GTT发现,现在超过一半的人工智能工作负载分布在私有云和本地部署环境的组合中,安全性、合规性以及人工智能工作负载的特定需求是寻求公共云替代方案的主要原因。
GTT的战略和技术采用副总裁Bastien Aerni(巴斯蒂安·阿尔尼)表示,监管和合规方面的担忧是推动企业转向私有云或本地部署解决方案的重要因素。他补充说,许多公司正在将敏感工作负载转移到私有云,作为更广泛的多云和混合云战略的一部分,以支持智能体人工智能和其他复杂的人工智能计划。
Aerni(阿尔尼)说:“大多数时候,人工智能会涉及机密数据或业务关键数据。因此,关于架构的思考以及哪些工作负载应该是公共的、哪些应该是私有的,甚至是否应该在本地部署,正成为一个真正需要考虑的问题。”
他说,公共云仍然为人工智能项目提供了最大的可扩展性,近年来,CIO们被公共云提供的众多额外功能所说服。
Aerni(阿尔尼)补充道:“比如说,大约五年前,我在与一些CIO交谈时,他们提到‘公共云有这么多功能,这么多工具’。现在当我再次进行同样的交谈时,他们说‘实际上,我现在并没有经常使用那些工具’。他们现在都在寻求稳定性和可预测性。”
二、小规模撤离
其他云计算和人工智能专家认为,不会出现大规模从公共云撤离的情况,由于人工智能对计算的高需求,公共云仍在持续增长。云咨询公司Zoi North America的董事总经理Danilo Kirschner(达尼洛·基尔施纳)表示,很大一部分企业仍在使用混合云模式。
他说,数据回迁现象确实存在,但企业并没有完全抛弃公共云。
Kirschne(基尔施纳)称:“矛盾很明显:人工智能工作负载一方面推动了云服务的大规模增长,另一方面又促使企业有选择性地将数据回迁。这是因为市场扩张速度极快,能够同时容纳多种部署模式。我们现在看到的是,企业从那种‘一切都搬到云端’的简单策略,逐渐发展为根据工作负载做出明智决策。”
IT人员咨询公司C4 Technology Services的首席人工智能官Zac Engler(扎克·恩格勒)也看到了同样的趋势。
他说:“我们并没有看到大规模从云端撤离的现象。更像是企业正悄悄带着最有价值的人工智能工作负载从‘侧门’溜走。”
他补充道,对数据的信任、成本以及控制权问题,重新成为董事会的重要议题,并影响着有关人工智能工作负载运行地点和数据存储位置的决策。
Engler(恩格勒)说:“公共云在实验阶段、快速扩展规模以及在董事会演示中给人留下深刻印象方面,仍然表现出色。但涉及专有数据、合规性问题,或者不想无谓烧钱时,本地部署和私有云方案就更有意义得多。”
作者:Grant Gross(格兰特·格罗斯)
Grant Gross(格兰特·格罗斯)是CIO的资深撰稿人,是一名长期的科技记者。他曾担任华盛顿记者,后来担任IDG新闻服务的高级编辑。在他职业生涯的早期,他曾担任Linux.com的总编辑和科技职业网站Techies.com的新闻编辑。在遥远的过去,他曾在明尼苏达州和达科他州的报纸担任记者和编辑。
译者:宝蓝
睿观:
【核心趋势:从公有云“悄然回迁”】随着AI实验阶段结束,工作负载趋于稳定和可预测,企业对公有云在成本、数据隐私和安全方面的担忧日益加剧。因此,一股新的趋势正在形成:IT领导者们正加速将部分AI工作负载和数据从公有云迁移至私有云或本地部署环境。调查数据显示,计划在私有云上进行大额投资的企业比例正以公有云两倍的速度增长,超过一半的AI工作负载现已分布在私有云和本地部署的组合中 。
【策略演变:非大规模撤离,而是明智决策】这并非一场从公有云的大规模撤离,而是一种更成熟、更明智的策略演变,专家称之为针对高价值工作负载的“悄然回迁”。企业正从过去“一切上云”的简单策略,转向根据工作负载的性质做出具体决策 。公有云因其灵活性和可扩展性,依然是进行AI实验、快速扩展和展示成果的理想场所。然而,当涉及到核心专有数据、严格的合规要求以及可预测的、持续运行的工作负载时,私有云或本地部署因其更高的成本效益和数据控制权而变得更具吸引力 。
【未来展望:成熟的混合云模式】最终,AI的部署正朝着一个成熟的混合云模式发展,即企业根据不同需求,战略性地在不同环境中分配工作负载 。对CIO而言,挑战在于重新思考云战略,建立能够平衡创新、成本与风险的治理框架。成功的关键在于,将云架构的选择与具体的业务目标、成本可预测性和安全合规要求紧密结合,从而真正驾驭多云环境的复杂性,释放AI的全部价值。
金句:AI的云旅程正从“上云”的狂热,转向“用云”的智慧;公有云是实验场,而私有云与本地部署,正成为核心价值的“保险箱”。