麦肯锡九项行动的核心是：在战略上，需明确AI立场并识别高价值用例；在技术与数据上，需升级企业与数据架构以支持多模型编排；在组织与人才上，需重塑IT职能、建立集中的AI平台团队并进行定制化的技能提升；最后，在风险上，需建立新的治理与缓解措施。
几乎每一天，媒体上都会出现一些与生成式AI相关的、足以颠覆商业的进展。这种兴奋是理所应当的——麦肯锡的研究估计，生成式AI每年可能增加相当于2.6万亿至4.4万亿美元的价值。
CIO（首席信息官）和CTO（首席技术官）在捕获这一价值方面扮演着关键角色，但值得记住的是，我们以前也看过这部电影。新技术不断涌现——互联网、移动设备、社交媒体——引发了一场试验和试点的混战，尽管重大的商业价值往往更难获得。从那些发展中学到的许多教训仍然适用，尤其是在如何超越试点阶段以达到规模化方面。对于CIO和CTO来说，生成式AI的热潮提供了一个独特的机会，可以应用这些教训来指导高管层，将生成式AI的承诺转化为企业的可持续价值。
通过与数十位技术领导者的对话，以及对50多家公司（包括我们自己）的生成式AI项目的分析，我们确定了所有技术领导者可以采取的九项行动，以创造价值、编排技术和数据、规模化解决方案并管理生成式AI的风险：
迅速行动，确定公司对采纳生成式AI的立场，并制定面向员工的实用沟通方式和适当的访问权限。
重塑业务，识别通过提高生产力、增长和新商业模式来构建价值的用例。发展一种能够估算生成式AI真实成本和回报的“金融AI”（FinAI）能力。
重塑技术职能，专注于在软件开发中快速构建生成式AI能力，加速减少技术债务，并大幅减少IT运营中的手动工作。
利用现有服务或调整开源生成式AI模型来发展专有能力（构建和运营自己的生成式AI模型至少在短期内可能耗资数千万至数亿美元）。
升级您的企业技术架构，以集成和管理生成式AI模型，并编排它们如何相互协作以及与现有的AI和机器学习（ML）模型、应用程序和数据源协同工作。
开发一个数据架构，以通过处理结构化和非结构化数据源来支持对高质量数据的访问。
创建一个集中的、跨职能的生成式AI平台团队，按需为产品和应用团队提供经批准的模型。
投资于关键角色的技能提升——软件开发人员、数据工程师、MLOps工程师和安全专家——以及更广泛的非技术员工。但您需要根据角色和熟练程度定制培训项目，因为生成式AI的影响各不相同。
评估新的风险格局并建立持续的缓解实践，以应对模型、数据和策略方面的问题。
1. 确定公司对采纳生成式AI的立场
随着生成式AI的使用日益广泛，我们看到CIO和CTO通过阻止员工访问公开可用的应用程序来限制风险。这样做，这些公司可能会错失创新机会，一些员工甚至认为这些举动限制了他们培养重要新技能的能力。
相反，CIO和CTO应与风险负责人合作，在风险缓解的实际需求与在业务中培养生成式AI技能的重要性之间取得平衡。这需要通过就业务能够接受的风险水平以及生成式AI如何融入业务整体战略达成共识，来确立公司对生成式AI的立场。这一步使业务能够迅速确定全公司范围的政策和指导方针。
一旦政策明确定义，领导者应将其传达给业务部门，由CIO和CTO为组织提供适当的访问权限和用户友好的指导方针。一些公司已经推出了关于生成式AI的全公司范围的通讯，为特定用户群体提供了广泛的生成式AI访问权限，创建了在用户将内部数据输入模型时发出警告的弹出窗口，并建立了一个在用户每次访问公开可用的生成式AI服务时出现的指导方针页面。
2. 识别通过提高生产力、增长和新商业模式来构建价值的用例
CIO和CTO应该是我们已在许多公司看到的“死于用例”狂热的解药。他们最有帮助的方式是与CEO、CFO和其他业务领导者合作，思考生成式AI如何挑战现有商业模式，开启新模式的大门，并创造新的价值来源。凭借对技术可能性的深刻理解，CIO和CTO应识别整个公司中可以从生成式AI中受益的最有价值的机会和问题——以及那些不能的。在某些情况下，生成式AI并不是最佳选择。
例如，麦肯锡的研究表明，生成式AI可以将某些营销用例的生产力提升约10%（例如，通过分析非结构化和抽象数据以了解客户偏好），并将客户支持的生产力提升高达40%（例如，通过智能机器人）。CIO和CTO在就如何最好地按领域（如客户旅程或业务流程）或用例类型（如创意内容创作或虚拟代理）对用例进行聚类，以使生成式AI产生最大价值方面，可以提供特别有帮助的见解。识别机会并非最具战略性的任务——市面上有很多生成式AI用例——但考虑到人才和能力的初步限制，CIO和CTO将需要提供可行性和资源估算，以帮助业务部门确定生成式AI的优先顺序。
提供这种级别的建议，要求技术领导者与业务部门合作，发展一种FinAI能力，以估算生成式AI项目的真实成本和回报。成本计算可能特别复杂，因为单位经济学必须考虑多个模型和供应商的成本、模型间的交互（一个查询可能需要多个模型的输入，每个模型都有自己的费用）、持续的使用费以及人工监督成本。
3. 重塑技术职能
生成式AI有潜力彻底改变技术职能的工作方式。CIO和CTO需要全面审视生成式AI对技术所有领域的潜在影响，但迅速采取行动以积累经验和专业知识非常重要。他们可以集中精力于三个初始领域：
软件开发：麦肯锡的研究表明，生成式AI编码支持可以帮助软件工程师开发代码的速度提高35%至45%，重构代码的速度提高20%至30%，执行代码文档工作的速度提高45%至50%。生成式AI还可以自动化测试过程并模拟边缘案例，使团队能够在发布前开发出更具韧性的软件，并加速新开发人员的入职过程（例如，通过向生成式AI提问关于代码库的问题）。要获得这些好处，将需要大量的培训（详见行动8）以及通过DevSecOps实践自动化集成和部署管道，以管理代码量激增。
技术债务：技术债务可能占到技术预算的20%至40%，并显著减慢开发速度。CIO和CTO应审视他们的技术债务资产负债表，以确定生成式AI的能力，如代码重构、代码翻译和自动测试用例生成，如何能加速减少技术债务。
IT运营（ITOps）：CIO和CTO将需要审视他们的ITOps生产力工作，以确定生成式AI如何能加速流程。生成式AI的能力在自动化诸如通过自助服务代理进行密码重置、状态请求或基本诊断等任务方面特别有帮助；通过改进路由加速分类和解决；浮现有用上下文，如主题或优先级，并生成建议的响应；通过分析大量日志流来提高可观测性，以识别真正需要关注的事件；以及开发文档，如标准操作程序、事件事后分析报告或性能报告。
4. 利用现有服务或调整开源生成式AI模型
在发展生成式AI能力方面，存在着经典的“租用、购买或构建”决策的变体。基本规则仍然适用：公司应在能够为业务创造专有优势的地方投资生成式AI能力，并为那些更像商品的能力访问现有服务。
CIO和CTO可以从三个原型来思考这些选项的影响：
使用者（Taker）——通过聊天界面或API使用公开可用的模型，几乎没有或没有定制。好的例子包括用于生成代码的现成解决方案（如GitHub Copilot）或协助设计师进行图像生成和编辑的解决方案（如Adobe Firefly）。就工程和基础设施需求而言，这是最简单的原型，通常也是最快上手的。这些模型本质上是商品，依赖于以提示的形式向公共模型提供数据。
塑造者（Shaper）——将模型与内部数据和系统集成，以生成更定制化的结果。一个例子是通过将生成式AI工具连接到客户关系管理（CRM）和财务系统，以整合客户之前的销售和互动历史，从而支持销售交易的模型。另一个例子是用公司内部文件和聊天记录对模型进行微调，以充当客户支持代理的助手。对于希望规模化生成式AI能力、发展更多专有能力或满足更高安全或合规需求的公司来说，“塑造者”原型是合适的。
在此原型中，有两种常见的数据与生成式AI模型集成方法。一种是“将模型带到数据所在地”，即模型托管在组织的内部设施上，无论是在本地还是在云环境中。例如，Cohere在其客户的云基础设施上部署基础模型，减少了数据传输的需要。另一种方法是“将数据带到模型所在地”，即组织可以聚合其数据并在云基础设施上部署一个大型模型的副本。两种方法都实现了提供对基础模型访问的目标，选择哪种将取决于组织的工作负载足迹。
创造者（Maker）——构建一个基础模型以解决离散的业务案例。构建一个基础模型是昂贵且复杂的，需要海量数据、深厚的专业知识和巨大的计算能力。这个选项需要一次性的大量投资——数千万甚至数亿美元——来构建模型并进行训练。成本取决于多种因素，如训练基础设施、模型架构选择、模型参数数量、数据大小和专家资源。
每个原型都有其自身的成本，技术领导者需要考虑（图表1）。虽然新的发展，如高效的模型训练方法和GPU计算成本随时间的降低，正在推动成本下降，但“创造者”原型固有的复杂性意味着短期内很少有组织会采纳它。相反，大多数将转向“使用者”和“塑造者”的某种组合，以快速访问商品化服务，并在基础模型之上构建专有能力。
图表1
（睿观：相比2023年7月的麦肯锡研究，2025年7月的国内技术栈性能和价格更优）
5. 升级您的企业技术架构以集成和管理生成式AI模型
组织将使用许多大小、复杂性和能力各异的生成式AI模型。为了产生价值，这些模型需要能够相互协作，并与企业的现有系统或应用程序协同工作。因此，为生成式AI构建一个独立的技术栈所带来的复杂性，远比它解决的问题要多。例如，我们可以看一个消费者在一家旅游公司向客户服务查询以解决预订问题的情况（图表2）。在与客户互动时，生成式AI模型需要访问多个应用程序和数据源。
图表2
对于“使用者”原型，这种级别的协调并非必要。但对于希望作为“塑造者”或“创造者”规模化应用生成式AI优势的公司来说，CIO和CTO需要升级他们的技术架构。主要目标是将生成式AI模型集成到内部系统和企业应用程序中，并构建通往各种数据源的管道。最终，是企业技术架构的成熟度，使其能够集成和规模化其生成式AI能力。
最近在集成和编排框架（如LangChain和LlamaIndex）方面的进展，已显著减少了将不同生成式AI模型与其他应用程序和数据源连接所需的工作量。一些集成模式也正在出现，包括那些使模型能够在响应用户查询时调用API的模式——例如，GPT-4可以调用函数——以及作为用户查询的一部分，从外部数据集提供上下文数据，这种技术被称为检索增强生成（RAG）。技术领导者将需要为他们的组织定义参考架构和标准集成模式（如标准的API格式和参数，用于识别用户和调用API的模型）。
要有效地集成生成式AI，需要将五个关键元素纳入技术架构（图表3）：
上下文管理和缓存，以便从企业数据源向模型提供相关信息。在正确的时间访问相关数据是模型理解上下文并产生引人注目输出的关键。缓存存储对常见问题的结果，以实现更快、更便宜的响应。
策略管理，以确保对企业数据资产的适当访问。这种控制确保了包含员工薪酬细节的人力资源生成式AI模型，例如，不能被组织的其他部分访问。
模型中心，包含经过训练和批准的模型，可以按需提供，并作为模型检查点、权重和参数的存储库。
提示词库，包含为生成式AI模型优化的指令，包括随着模型更新而进行的提示词版本控制。
MLOps平台，包括升级的MLOps能力，以应对生成式AI模型的复杂性。例如，MLOps管道将需要包含用于衡量特定任务性能的工具，例如衡量模型检索正确知识的能力。
图表3
在演进架构时，CIO和CTO将需要在快速增长的生成式AI提供商和工具生态系统中导航。云提供商提供对规模化硬件和基础模型的广泛访问，以及不断增多的服务。与此同时，MLOps和模型中心提供商提供工具、技术和实践，以调整基础模型并将其部署到生产中，而其他公司则提供直接由用户访问的、构建在基础模型之上以执行特定任务的应用程序。CIO和CTO将需要评估如何组装和集成这些不同的能力，以部署和运营生成式AI模型。
6. 开发一个数据架构以支持对高质量数据的访问
企业从生成式AI模型中产生和规模化价值（包括降低成本和改善数据与知识保护）的能力，将取决于它如何很好地利用自己的数据。创造这种优势依赖于一个将生成式AI模型连接到内部数据源的数据架构，这些数据源提供上下文或帮助微调模型以创造更相关的输出。
在此背景下，CIO、CTO和首席数据官需要密切合作，完成以下工作：
分类和组织数据，以便生成式AI模型可以使用。技术领导者将需要开发一个全面的数据架构，涵盖结构化和非结构化数据源。这需要制定标准和指导方针来优化数据以供生成式AI使用——例如，通过用合成样本增强训练数据以提高多样性和规模；将媒体类型转换为标准化的数据格式；添加元数据以提高可追溯性和数据质量；以及更新数据。
确保现有基础设施或云服务能够支持存储和处理生成式AI应用所需的大量数据。
优先发展数据管道，将生成式AI模型连接到提供“上下文理解”的相关数据源。新兴的方法包括使用向量数据库来存储和检索嵌入（特殊格式的知识）作为生成式AI模型的输入，以及情境学习方法，如“少样本提示”（few shot prompting），即向模型提供好答案的示例。
7. 创建一个集中的、跨职能的生成式AI平台团队
大多数技术组织正在向产品与平台运营模式转型。CIO和CTO需要将生成式AI能力集成到这个运营模式中，以在现有基础设施上构建，并帮助快速规模化生成式AI的采纳。第一步是建立一个生成式AI平台团队，其核心重点是开发和维护一个平台服务，在该服务中，经批准的生成式AI模型可以按需提供给产品和应用团队使用。平台团队还定义了生成式AI模型如何与内部系统、企业应用程序和工具集成的协议，并开发和实施标准化方法来管理风险，例如负责任的AI框架。
CIO和CTO需要确保平台团队配备了具备正确技能的人员。这个团队需要一位担任总经理的高级技术领导者。关键角色包括：软件工程师，将生成式AI模型集成到现有系统、应用程序和工具中；数据工程师，构建将模型连接到各种记录系统和数据源的管道；数据科学家，选择模型和设计提示词；MLOps工程师，管理多个模型和模型版本的部署与监控；ML工程师，用新的数据源微调模型；以及风险专家，管理诸如数据泄露、访问控制、输出准确性和偏见等安全问题。平台团队的确切构成将取决于整个企业所服务的用例。在某些情况下，例如创建一个面向客户的聊天机器人，将需要强大的产品管理和用户体验（UX）资源。
实际上，平台团队最初将需要在一个狭窄的优先用例集上工作，随着他们构建可重用能力并了解什么最有效，逐渐扩大工作范围。技术领导者应与业务负责人密切合作，评估哪些业务案例值得资助和支持。
8. 根据角色和熟练程度定制技能提升项目
生成式AI有潜力极大地提升员工的生产力并增强他们的能力。但根据角色和技能水平，收益的分布是不均的，这要求领导者重新思考如何培养人们实际需要的技能。
例如，我们最新的实证研究使用生成式AI工具GitHub Copilot，帮助软件工程师编写代码的速度提高了35%至45%。然而，收益各不相同。高技能开发人员的收益高达50%至80%，而初级开发人员的速度则下降了7%至10%。这是因为生成式AI工具的输出需要工程师进行批判、验证和改进代码，而经验不足的软件工程师难以做到。相反，在一项研究中，在技术性较低的角色，如客户服务中，生成式AI显著帮助了低技能员工，生产力提高了14%，员工流失率也下降了。
这些差异凸显了技术领导者与首席人力资源官（CHRO）合作，重新思考他们的人才管理战略以构建未来劳动力的必要性。招聘一批顶尖的生成式AI核心人才将很重要，并且，鉴于该人才日益稀缺和战略重要性，技术领导者应建立保留机制，如具有竞争力的薪水和参与重要业务战略工作的机会。
然而，技术领导者不能止步于招聘。因为几乎每一个现有角色都会受到生成式AI的影响，一个关键的重点应该是根据角色、熟练程度和业务目标所需的技能，对人员进行技能提升。让我们以软件开发人员为例。对新手的培训需要强调加速他们成为顶尖代码审查者的路径，而不仅仅是代码生成者。类似于写作和编辑的区别，代码审查需要不同的技能集。软件工程师将需要理解好的代码是什么样的；审查由生成式AI创建的代码的功能性、复杂性、质量和可读性；并扫描漏洞，同时确保他们自己不在代码中引入质量或安全问题。此外，软件开发人员将需要学习在编码时以不同的方式思考，通过更好地理解用户意图，以便他们可以创建帮助生成式AI工具提供更好答案的提示词和定义上下文数据。
除了培训技术人才，CIO和CTO在培养非技术人才的生成式AI技能方面也可以发挥重要作用。除了理解如何使用生成式AI工具完成诸如邮件生成和任务管理等基本任务外，整个业务部门的人员将需要熟练使用一系列能力来提高性能和产出。CIO和CTO可以调整学院模式来提供这种培训和相应的认证。
经验不足的工程师价值下降，应加速从经典的人才金字塔结构（大多数人在初级水平）向更像钻石的结构转变，即技术劳动力的主体由经验丰富的人员组成。实际上，这将意味着尽快培养初级员工的技能，同时减少致力于低复杂度手动任务（如编写单元测试）的角色。
9. 评估新的风险格局并建立持续的缓解实践
生成式AI带来了一系列新的道德问题和风险，包括“幻觉”，即生成式AI模型基于最高概率响应而呈现不正确的回答；意外泄露机密的个人身份信息；模型使用的大数据集中固有的偏见；以及与知识产权（IP）相关的高度不确定性。CIO和CTO将需要精通道德、人道主义和合规问题，不仅要遵守法律条文（各国法律各不相同），还要遵守负责任地管理其业务声誉的精神。
应对这一新格局需要对网络实践进行重大审查，并更新软件开发流程，以便在模型开发开始前评估风险并确定缓解措施，这既能减少问题，又能确保流程不被减慢。经过验证的针对幻觉的风险缓解措施可以包括：在模型生成响应时调整其创造力水平（称为“温度”）；用相关的内部数据增强模型以提供更多上下文；使用对可生成内容施加护栏的库；使用“审核”模型来检查输出；以及添加明确的免责声明。早期的生成式AI用例应专注于错误成本低的领域，以使组织能够处理不可避免的挫折并吸取教案。
为了保护数据隐私，建立和执行敏感数据标记协议、在不同领域（如人力资源薪酬数据）设置数据访问控制、在数据被外部使用时添加额外保护，以及包含隐私保障措施将至关重要。例如，为减轻访问控制风险，一些组织建立了一个策略管理层，一旦向模型给出提示，就按角色限制访问。为减轻知识产权风险，CIO和CTO应坚持要求基础模型的提供商对其使用的数据集的IP（数据源、许可和所有权）保持透明。
生成式AI有望成为我们见过的增长最快的技术类别之一。技术领导者在定义和塑造生成式AI战略方面，不能有不必要的拖延。虽然这个领域将继续快速发展，但这九项行动可以帮助CIO和CTO负责任地、有效地在规模化应用中驾驭生成式AI的力量。
睿观：
【核心挑战】
为避免重蹈以往技术浪潮（如互联网、移动）中“试验混战多，规模化价值少”的覆辙，CIO（首席信息官）和CTO（首席技术官）必须为生成式AI（GenAI）的采纳提供关键的战略引导。
【九步剧本】
麦肯锡为此提出了一个包含九项行动的综合性“剧本”。其核心是：在战略上，需明确AI立场并识别高价值用例；在技术与数据上，需升级企业与数据架构以支持多模型编排；在组织与人才上，需重塑IT职能、建立集中的AI平台团队并进行定制化的技能提升；最后，在风险上，需建立新的治理与缓解措施。
【结论】
因此，成功驾驭生成式AI并非单一的技术挑战，而是一项涉及战略、技术、组织和风险管理的系统工程。CIO/CTO必须运用这一整体框架，将AI的承诺，转化为企业可持续的、规模化的竞争优势。
成功的AI转型，需要的不是零敲碎打的“实验游击战”，而是一场涵盖战略、技术、组织和风控的“一体化总体战”。
