据麦肯锡称，只有15% 的公司表示生成式人工智能正在带来有意义的盈利影响。更典型的经验是在经典的“技术寻找解决方案”陷阱中进行实验。
CIO站在将人工智能的巨大潜力转化为实际价值创造的最前线。为此，他们可以选择以下三种方法之一。“获取者”使用第三方供应商提供的现成的、由人工智能驱动的软件。“制造者”创建自己的 LLM。然后，介于两者之间的是“塑造者”，他们将外部模型集成到现有系统中以创建定制用途。对于许多公司来说，成为塑造者是最合适的选择，因为它比构建基础模型更便宜、更简单，而且比购买现成的更有用。下图专门解释了三者的关系：
【睿观：这张图片展示了不同类型人工智能应用的预估总拥有成本（Estimated total cost of ownership），分为三个典型案例：Taker、Shaper 和 Maker。下面是对图片内容的逐项解释：
Taker（采用者）：
示例用例：为软件开发人员提供的现成编码助手（Off-the-shelf coding assistant for software developers）。
预估总拥有成本：一次性成本大约在50万到200万美元之间。这包括一个由6人组成的团队工作3到4个月的集成成本。
年度持续成本：每个1000日活跃用户大约20万美元的模型推理成本。
Shaper（塑造者）：
示例用例：通用型客户服务聊天机器人，仅包含提示工程和文本聊天（General-purpose customer service chatbot with prompt engineering only and text chat only）。
预估总拥有成本：大约200万美元，用于在第三方模型API之上构建插件层。这包括一个由8人组成的团队工作9个月。
年度持续成本：假设每天有1000次客户聊天，每次聊天使用10000个令牌，则每年大约20万美元。
插件层维护：根据开发成本的10%，每年最高可达20万美元。
Maker（制造者）：
图片中没有提供具体的Maker示例用例或成本估算。
备注：
通过工程优化，生成性人工智能的经济性正在迅速发展，这些是基于2023年中期的总拥有成本（包括资源、模型训练等）的高层次估计。
解释：
Taker 类型的AI应用可能涉及购买现成的工具或服务，成本相对较低，但可能需要一定的集成工作。
Shaper 类型的AI应用可能需要更多的定制开发，因此成本更高，包括开发插件层和维护工作。
这些成本估算提供了一个关于不同AI应用类型可能涉及的财务投入的高层次视角。
由于生成性AI技术正在迅速发展，这些估算可能会随着时间和技术进步而变化。
建议：
在考虑投资AI应用时，组织应该评估一次性成本和持续成本，并考虑技术发展可能带来的成本变化。
组织应该密切关注技术进步，以便及时调整其AI策略和预算。
考虑到成本和效益，组织可能需要权衡不同AI应用类型的投资回报率。】
那么，Shaper（塑造者）需要做些什么才能摆脱飞行员的困境，并成功扩大人工智能的规模呢？本文介绍的三个原则至关重要。
【睿观：为什么将塑造者在人工智能 (AI) 规模化方面面临的挑战称为“飞行员的困境”？
飞行员的困境：通常指在两种同样糟糕的选择之间进行艰难抉择的情景。这个术语源自航空领域，指的是飞行员在飞机失速时必须立即采取行动以避免撞击地面。
在AI 规模化方面，塑造者面临着类似的困境。他们需要在两种选择之间进行权衡：
1.构建自己的LLM： 这种方法可以提供最大的控制和灵活性，但它也需要大量的资源和专业知识。
2.使用第三方供应商提供的预构建LLM： 这种方法可以更快速、更便宜地实施 AI，但它也意味着放弃对模型的某些控制和定制能力。
这两种选择都存在潜在的风险和收益。构建自己的LLM 可能会非常昂贵且耗时，而且最终可能无法成功。另一方面，使用第三方供应商的 LLM 可能会限制塑造者满足其特定需求的能力，并可能导致数据隐私和安全问题。
因此，塑造者面临着飞行员的困境，因为他们必须在两种都有潜在缺点的选择之间进行艰难的权衡。以下是一些塑造者可以用来克服飞行员困境的策略：
1.仔细评估他们的需求：塑造者应该首先明确他们需要AI 来实现哪些目标。这将有助于他们确定哪种方法最适合他们的需求。
2.探索混合方法：塑造者可以考虑结合构建自己的LLM 和使用第三方供应商的 LLM 的方法。例如，他们可以构建自己的 LLM 以满足其特定需求，但可以使用第三方供应商的 LLM 进行更通用的任务。
3.与其他塑造者合作：塑造者可以通过共享资源和专业知识来共同努力克服挑战。
4.投资于AI 教育和培训：塑造者需要确保他们拥有必要的技能和知识来成功实施 AI。
通过仔细的规划和执行，塑造者可以克服飞行员的困境，并成功扩大人工智能的规模。
附加说明
重要的是要注意，塑造者并非唯一面临飞行员困境的群体。其他组织，例如“获取者”和“制造者”，也面临着类似的挑战。
AI领域发展迅速，因此塑造者需要不断学习和适应新的技术和趋势。
最终，成功的关键在于找到适合组织具体需求和目标的AI 战略。】
一、设定优先事项
在成功的技术转型中，行动与解决业务问题密切相关。这就是为什么CIO 需要与业务部门负责人合作，设定优先事项，然后使这些选择发挥作用。原则是确定人工智能推动战略发展的用例，这可能需要关闭失败的试点项目，并加倍投入有希望的项目。可负担性也必须是这项分析的一部分。由于人工智能仍然很新，成本可能会膨胀，从而难以扩大规模。要记住的一条规则是，在构建人工智能应用程序上每花费 1 美元，就需要大约 3 美元用于变更管理，包括培训人员和积极跟踪性能。
抵制直接放弃技术人员的诱惑也很重要。这可能会导致多个平台（有时是重叠的），这既耗费金钱又耗费时间。更好的方法是构建基础设施和应用程序，以便可以相对轻松地切换提供商或模型。
二、不要将人工智能视为一项技术计划
新一代人工智能是一项团队运动，而首席信息官是主教练。要产生真正的影响，新一代人工智能必须脱离 IT 职能，融入业务，这意味着将技术与产品、风险、法律和其他部门整合在一起。这个跨职能团队的一个重要重点是制定并实施支持规模化的协议和标准。发展这样的团队有不同的方法，而首席信息官将对其组成和任务有很大的发言权。一些公司已经开始设立卓越中心，而另一些公司则选择设立独立的战略和交付部门。重要的是，团队合作良好，知道自己想要实现什么，并在过程中定期检查。首席信息官需要确保团队是价值的创造者，而不仅仅是工作的管理者。
要牢记的原则是，重点不是创建不同的部分，而是确保它们协同工作。每个用例都需要能够访问多个模型、矢量数据库、提示库和应用程序。这意味着公司必须管理各种来源，例如云端、现场、供应商或组合中的应用程序或数据库，同时确保与现有协议（包括访问权限）的弹性和一致性。
三、重复使用和调整现有技术
如果没有准确的数据和将模型连接到内部数据源的架构，就不可能实现高性能的新一代人工智能解决方案。例如，对内容源的重要性进行分级很重要，这样模型才能了解哪些内容源应该被赋予更大的权重。然而，公司往往追求完美，而他们需要做的是确定哪些数据最重要，然后投入资金进行管理。大型数据程序是走向缓慢死亡的最可靠途径。相反，应该专注于为高优先级用例带来价值的数据域。不要解决所有问题。例如，“有针对性的标签”足以为新一代人工智能查询提供高质量的答案。
对于代码而言，可能也没有必要重新发明轮子，只要确保它能顺利运转就行了。与其为每个用例编写代码，不如寻找可以服务于许多不同用例的解决方案。根据麦肯锡最新的人工智能现状调查，新一代人工智能高绩效者这样做的可能性几乎是前者的三倍。可重复使用的代码可以将新一代人工智能用例的开发速度提高 50%。为了实现这一点，首席信息官需要带头识别用例中常见的功能，然后构建合适的工具。
事实证明，挖掘新一代人工智能的潜力比想象的要困难得多。很明显，整合它可能需要重新规划从运营模式到技术和数据系统的一切。为了让新一代人工智能创造价值并激发人们的兴趣，首席信息官需要站出来，了解自己的位置。他们将负责组建团队、利用资产并指导战略思维，以确保或阻碍新一代人工智能在未来的地位。
麦肯锡公司（McKinsey & Company）：大多数公司将转向 Taker 和 Shaper 的某种组合，以快速获得商品服务，并在基础模型之上构建专有能力。然而，最有价值的 gen AI 倡议通常依赖于 Shaper 方法。
1.有关三种方法的更多信息，请参见“技术与生成性 AI 的代际时刻：CIO 和 CTO 指南”，麦肯锡，2023年7月11日。
2.从 gen AI 的蜜月期过渡：CIO 从试点到规模化的七个残酷真相
3.在成本失控之前控制住它们。模型只占 gen AI 应用总成本的大约15%。了解成本藏在哪里，并应用正确的工具和能力来控制它们。
4.驯服工具和技术的扩散。基础设施、LLMs 和工具的扩散使得规模化推出变得不可行。缩减到那些最有利于业务的能力，并利用可用的云服务（同时保持你的灵活性）。
5.创建能够创造价值而不仅仅是模型的团队。要实现规模化，需要一个具有广泛技能的团队，不仅要构建模型，还要确保它们安全、可靠地产生应有的价值。
6.选择正确的数据，而不是完美的数据。确定哪些数据最重要并长期投资其管理，对快速规模化有重大影响。
7.重用它，否则就会失去它。可重用代码可以将生成性 AI 用例的开发速度提高 30% 到 50%。
8.消除噪音，专注于信号 尽管许多商业领袖承认需要超越试点和实验，但这并不总是反映在实际发生的事情上。即使 gen AI 的采用增加，其对实际底线影响的例子仍然很少。在我们最新的 AI 调查中，只有15%的公司表示他们看到 gen AI 的使用对他们公司的 EBIT 有实质性影响。
加剧这个问题的是，领导者从他们的实验中得出了误导性的教训。他们试图将本质上是聊天界面试点的东西转移到应用中——典型的“技术寻找解决方案”陷阱。或者一个试点可能被认为是“成功的”，但它并没有应用到业务的重要部分。
未能规模化的原因有很多，但最重要的原因是资源和高管关注过于分散在数十个正在进行的 gen AI 计划中。这不是一个新发展。我们在其他技术出现时也看到了类似的模式，从云到高级分析。然而，这些创新的教训却没有坚持下去。……
CIOCDO：知道您爱学习，反正一次也读不完，可发邮件预约7月15日下午，福建CIO网在线AI应用研讨交流《生成式人工智能的蜜月期已过：CIO 从试点到规模化的七个残酷真相》：admin@fjcio.org
