以下文章来源于CIOCDO ，作者CIO.com&睿信咨询

【睿观：本文讨论了生成式人工智能对公司IT战略的影响，以及在这个新时代领导层应如何适应和管理这种技术的应用。文章强调生成式AI能够提高工程敏捷性，并可能推动IT行业进行大规模创新，但同时也可能带来前所未有的技术债务。Red Monk的分析师Stephen O’Grady和其他行业专家，如Salesforce的Juan Perez和Walgreens的Neal Sample等，都对生成式AI技术的利弊进行了探讨。

文章指出，生成式AI加速了代码的生产，这可能增加了技术债务的积累，因此，公司领导层需要密切监督AI的应用，以确保代码质量并减轻潜在的技术债务。这要求进行适当的治理、安全控制、维护和支持，以及生命周期管理。同时也需选择正确的模型和基础数据，让AI成为支持企业发展的有力工具。

为了保持软件质量并减少技术债务，文章建议采用应用程序测试和其他质量措施，并进行深思熟虑的决策，以确保AI技术能够被有效使用且不产生超出管理能力的负债。此外，政府监管和公司治理对于负责任地应用人工智能至关重要。

最后，文章提到了对人工智能潜在风险的警惕，如数据隐私和安全、算法偏见、工作岗位流失等问题。它呼吁采取多种方法应对产生的各种担忧。这包括确保使用的数据高质量、进行代码测试、适度地启动新技术，以及制定有关人工智能的企业治理和监管政策。】

生成式人工智能正在为全公司范围内的大规模创新敞开大门。但在这个新时代，领导层必须仔细监督其应用，以保持代码质量并减轻技术债务。

图源：GROUND PICTURE（图片上传者，可以译为用户GROUND PICTURE，或者GROUND PICTURE） / SHUTTERSTOCK

在其起步阶段，生成式人工智能已经在改变组织并深刻地影响其IT战略。但是，尽管大型语言模型（LLM）加速了工程的敏捷性，但它们也为前所未有的技术债务积累打开了闸门。分析师公司Red Monk（开源分析公司）的首席分析师兼联合创始人Stephen O'Grady（斯蒂芬·奥格雷迪）表示：“生成系统可能会加速生成代码的数量，因此仅在此基础上，技术债务就会增加。”

但Salesforce（创建于1999年3月的一家客户关系管理/CRM 软件服务提供商，总部设于美国旧金山，可提供随需应用的客户关系管理平台）执行副总裁兼首席信息官Juan Perez（胡安·佩雷斯）补充道，这不应阻止首席信息官探索和实施人工智能。他认为人工智能只是另一个需要适当治理、安全控制、维护和支持以及全生命周期管理的应用程序。他说，由于人工智能产品的数量正在增加，选择最合适的模型和基础数据对于支持人工智能之旅至关重要。

如果实施得当，生成式人工智能就可以用更低的成本生产更高质量的产品。Walgreens Boots Alliance（沃博联，美国保健、药店和零售业务一体化的企业。是美国最大的零售药店、健康和日常生活目的地之一。此外，该公司还是世界上最大的处方药及许多其他健康和福利产品的采购商之一。）的首席信息官Neal Sample（尼尔·桑普）表示：“这不是人工智能是否会对整体业务产生积极影响的问题，而是影响程度和速度的问题。”同时，他指出，要实现负责任的人工智能发展，政府监管和公司治理都是必要的。

一、生成式人工智能：IT战略的核心

机器学习模型有潜力解锁更快速的IT迭代。代码测试平台Sonar（SonarQube，是一个开源平台，用于管理源代码的质量。Sonar 不只是一个质量数据报告工具，更是代码质量管理平台。支持的语言包括：Java、PHP、C#、C、Cobol、PL/SQL、Flex 等。）的首席信息官Andrea Malagodi（安德烈·马尔格拉蒂）表示，他们至少可以将日常的重复任务自动化，释放软件开发人员的带宽，专注于更有创造性、更高级别的操作。他说：“投资于生成式人工智能工具来支持这些团队，是对他们的成长、生产力和总体满意度的投资。”

Palo Alto Networks（派拓网络。网络安全公司。致力于为企业、服务提供商和政府实体提供网络安全解决方案。）首席信息官Meerah Rajavel（梅拉·拉贾威尔）补充道，生成式人工智能将显著增加开发，尤其是Java、Python和C++等成熟编程语言的代码生成。但它的力量并不止于此。她认为人工智能有助于将代码测试向左转移，以帮助在软件开发周期的早期进行单元测试、调试和识别错误配置。她说：“作为首席信息官，为我们的开发人员提供成功的最佳工具是工作的关键组成部分，人工智能无疑会提高效率。”

人工智能还能显著推进跨部门的业务。对于无代码自动化平台公司Workato（是一家专注于云端应用集成的公司，致力于研发云端应用程序互联的解决方案，通过连接不同的SaaS端应用程序和API，消除应用程序之间的跳转来达到简化工作流程的目的。）的首席信息官Carter Busse（卡特·巴斯）来说，人工智能是其公司今年IT战略的中心。但它的优点超越了IT领域，还有助于客户支持、提高生产力和推动跨团队创新等领域。他表示：“首席信息官们的任务是帮助业务高效发展，而人工智能是我们实现未来发展的方式。”

因此，代码生成并不是唯一一个从最新的人工智能浪潮中受益的领域。据基于云计算的数据仓库公司Snowflake（是一家国外的SaaS公司，主要提供数据仓库和分析解决方案，为企业提供了一站式数据解决方案。）的首席信息官Sunny Bedi（桑尼·贝迪）表示，员工的工作效率将受到最大影响。他预见到，在未来，所有员工都将与辅助人工智能密切合作，协助采取行动，如为新员工提供个性化的入职体验、协调内部沟通和创新想法原型。他补充说，通过利用LLM的开箱即用功能，企业还可以减少对搜索、文档提取、内容创建和审查以及聊天机器人等操作的第三方依赖。

二、人工智能如何生成技术债务

IT债务生成的最大决定因素并不是生成式人工智能模型本身——而是它们在实践中的应用方式。Sample（桑普）表示：“人工智能在组织中的实施地点和方式需要仔细考虑，以避免未来产生技术债务。”他补充道，将人工智能模型应用于现有技术生态系统时，积累债务的风险更高，例如在使用旧堆栈的同时修改连接和集成生成式人工智能模型。

另一方面，如果使用得当，生成式人工智能可以通过重写遗留应用程序和自动化积压的任务来帮助消除旧的技术债务。也就是说，如果没有合适的云环境和战略，首席信息官不应该抢先一步。企业管理软件套件OnBase（企业内容管理/ECM解决方案。是当今市场上最灵活和最全面的ECM产品之一。使用户能够随着需求变化和业务发展而扩展其解决方案。不仅是为部门量身定制的，对企业来说也是全面的。）的开发商Hyland（是一家提供内容服务平台和解决方案的软件公司，其数字化档案软件可以帮助组织将纸质档案转换为电子格式，并提供高级搜索、审计和合规功能。）的首席信息官Steve Watt（史蒂夫·瓦特）表示：“如果组织过早地实施生成式人工智能，现有的技术债务可能会继续增长，或者在某些情况下变得长期存在。”因此，他建议制定一个计划来解决现有的技术债务，这样人工智能驱动的新举措就不会崩溃。

起初，公司可能会在试验人工智能和LLM的同时增加IT债务。但Busse（巴斯）赞同，从长远来看，LLM会减少这种情况，但这取决于人工智能对不断变化的需求做出动态响应的能力。他说：“将人工智能嵌入到您的业务流程中，您将能够更快地适应流程变化，从而减少技术债务。”

三、评估人工智能代码的质量

最近，人们对人工智能生成代码的质量提出了质疑，其中一份报告强调了自人工智能助手出现以来，代码流失率和代码重用率的上升。根据Red Monk的O'Grady（奥格雷迪）的说法，人工智能生成的代码的质量将取决于许多因素，包括部署的模型、手头的用例和开发人员的技能集等。他说：“像人类开发人员一样，人工系统也会继续输出有缺陷的代码。”

例如，Sonar的Malagodi（马尔格拉蒂）引用了微软研究院最近的一项研究，该研究评估了22个模型，发现它们在进行基准测试时通常会出现问题，这暗示了训练设置中的盲点。该报告解释说，虽然人工助手可以生成功能性代码，但它们并不总是超越功能正确性来考虑其他上下文，如效率、安全性和可维护性，更不用说遵守代码约定了。

Malagodi（马尔格拉蒂）的结论是还有很大的改进空间。他说：“虽然生成式人工智能可以更快地生成更多的代码行，但如果它的质量不好，它可能会成为一个耗时的麻烦”他敦促首席信息官们采取必要的步骤，以确保人工智能生成的代码是干净的。“这意味着它是一致的、有意义的、可适应性强的和负责任的，从而生成安全、可维护、可靠和可访问的软件。”

这些模型根源上的质量问题可能会对代码输出产生不利影响。云技术智能平台Snow Software（技术情报领域的全球领导者。是唯一一个统一的云原生平台，可为IT环境提供可操作的见解。将SaaS管理、软件资产管理和云成本管理结合在一起，可以优化IT支出，控制成本，降低风险，并推动所有技术的价值。）的首席信息官Alastair Pooley（阿拉斯泰尔·普利）表示，虽然生成式人工智能有产生卓越技术工件的潜力，但数据质量、模型架构和训练程序都可能导致较差的结果。他说：“训练不足的模型或不可预见的边缘案例可能会导致输出质量下降，带来运营风险并损害系统可靠性。”所有这些都需要对产出和质量进行持续的审查和验证。

Palo Alto Networks的Rajavel（拉贾威尔）补充说，人工智能就像任何其他工具一样，结果取决于您使用哪个工具以及如何使用。对她来说，如果没有适当的人工智能治理，您选择的模型可能会产生不符合产品架构和预期结果的低质量工件。她补充道，另一个重要因素是您为手头的工作选择了哪种人工智能，因为没有一种模式是一刀切的。

四、潜在的人工智能风险清单

除了IT债务和代码质量之外，在部署生成式人工智能时，还有一系列潜在的不利后果需要考虑。Pooley（普利）说：“这些可能涉及数据隐私和安全、算法偏见、工作岗位流失以及人工智能生成内容的道德困境。”

一种可能性是黑客可能如何利用生成式人工智能来作恶。Rajavel（拉贾威尔）指出，网络犯罪分子已经在利用这项技术进行大规模的攻击，因为它能够发起令人信服的网络钓鱼活动并传播虚假信息。攻击者还可能针对生成式人工智能工具和模型本身，导致数据泄露或输出有害信息。

“生成式人工智能系统有可能会加速并支持攻击者，”O'Grady（奥格雷迪）补充道，“然而，可以说，许多企业最担心的是从封闭的供应商系统中泄露私人数据。”

这些技术可以产生非常令人信服的结果，可能充斥不准确之处。除了模型中的错误之外，还需要考虑成本影响，而且很容易在不知情或不必要的情况下在生成式人工智能上花费大量资金，无论是因为使用了错误的模型，忽视消费成本，还是没能有效地使用它们。

“人工智能并非没有风险，”Perez（佩雷斯）说，“它需要从头开始，由人类控制各个领域，以确保任何人都能信任它的结果——从最基本的用户到最有经验的工程师。”Perez（佩雷斯）面临的另一个悬而未决的问题是人工智能开发和维护的所有权，因为这也给IT团队带来了跟上创新需求的压力，因为许多IT工作者缺乏时间来实施和培训人工智能模型和算法。

五、房间里的大象（潜在问题）是：就业

还有一个结果在主流媒体上引起了轰动：人工智能取代了人类劳动力。但人工智能将如何影响IT群体的就业，还有待确定。“目前，对就业的影响很难预测，所以这是一个潜在的问题，”O'Grady（奥格雷迪）说。

虽然在这场辩论无疑众说纷纭，但Walgreens的Sample（桑普）并不认为人工智能对人类构成生存威胁。相反，他对生成式人工智能能够改善员工生活的潜力持乐观态度。“glass-half-empty（消极思维。对半杯水看做水杯一半是空的，常用来表示看待事物或形势时看到更多坏的一面的倾向。）的观点是，人工智能会影响很多工作，但glass-half-full（积极思维。对半杯水看做水杯一半是半满的，常用来表乐观的人，对生活抱有积极态度。）的观点是，它会让人类做得更好。”他说，“最终，我认为人工智将使人们不必做重复的任务，这些任务可以自动化，并使他们能够专注于更高级别的工作。”

六、如何缓解人们对人工智能的忧虑

要应对人工智能提出的大量担忧，将采取多种方法。对Perez（佩雷斯）来说，生成式人工智能的质量取决于这些模型摄取的数据。“如果您想要高质量、可信的人工智能，您就需要高质量、可靠的数据。”他说。然而，问题是数据经常充斥着错误，需要工具来集成不同来源的不同格式的非结构化数据。他还强调超越“human in the loop（人在回环/人在回圈/人机回圈等。具体来说就是设计某种机制让机器/算法和人互动协作来更好的处理某件事情。针对智能产品的设计而言，这个概念被引入所要解决的问题就是在算法准确率跟用户要求还有不小差距的情况下，将人引入到这个循环中，让人去处理算法拿不准的问题，通过修正、提供反馈、输入更多知识来弥补或改进算法，共同完成任务。在这个互动过程中让人和机器发挥各自的优势，相互增强。）”的方法，让人类更多主导。他补充道：“我认为人工智能是个值得信赖的顾问，但不应该是唯一的决策者。”

为了保证软件质量，还需要进行严格的测试，以检查人工智能生成的代码是否准确无错误。为此，Malagodi（马尔格拉蒂）鼓励公司采用一种“边编码边清理”的方法，包括静态分析和单元测试，以确保进行适当的质量检查。他说：“当开发人员专注于干净的代码最佳实践时，他们可以确信他们的代码和软件是安全、可维护、可靠和可访问的。”

Bedi（贝迪）补充道，与任何新技术一样，最初的热情需要适度谨慎。因此，IT领导者应该考虑有效使用人工智能助手的步骤，如可观察性工具，这些工具能够检测架构漂移，并支持为应用程序需求做准备。

七、围绕人工智能的采用应用治理

Pooley（普利）说：“生成式人工智能代表了一个技术进步的新时代，如果管理得当，就有可能带来实质性的好处。”然而，他建议首席信息官们在创新和风险之间取得平衡。必须特别应用控制和指导方针，通过不受控制地使用这些工具来限制数据暴露。他补充说：“就像许多技术机会一样，如果出现问题，首席信息官会发现自己有责任。”

对于Sample（桑普）来说，监管机构有责任充分应对人工智能对社会构成的风险。例如，他引用了拜登政府最近的一项行政命令，该命令旨在建立新的人工智能安全保障标准。另一个方面是率先制定企业指导方针来管理这种快节奏的技术。例如，Walgreens已经开始了围绕人工智能定义治理框架的旅程，其中包括公平、透明、安全和可解释性等因素，他补充。

Workato的Busse（巴斯）同样主张在人工智能之后制定优先考虑安全和治理的内部指令。他建议对员工进行培训，制定内部行动手册，并实施人工智能实验的审批流程。Pooley（普利）指出，许多公司已经建立了人工智能工作组，以帮助应对风险和利用生成式人工智能的优势。一些有安全意识的组织正在采取更严格的措施。O'Grady（奥格雷迪）补充说，为了防止泄露，许多买家优先考虑内部系统。

Perez（佩雷斯）说：“首席信息官应该领导团队，确保他们的团队拥有正确的培训和技能来识别、构建、实施和使用生成式人工智能，从而使组织受益。”他描述了在Salesforce，产品和工程团队如何在人工智能输入和输出之间实现信任层，以最大限度地减少使用这项强大技术带来的风险。

也就是说，想要使用人工智能与管理它一样重要。Hyland的Watt（瓦特）说：“组织急于实施人工智能，却不清楚它能做什么，以及它将如何惠及他们的业务。”人工智能不会解决所有问题。因此他说，了解这项技术能够解决和不能解决的问题，对于了解如何最大限度地利用它至关重要。

八、对业务产生积极影响

有了适当的检查，生成式人工智能将在无数领域催生更大的敏捷性，首席信息官预计它将被用来实现有形的业务成果，如用户体验。“生成式人工智能将使公司能够为客户创造曾经觉得不可能的体验。”Perez（佩雷斯）说，“人工智能不再只是小众团队的工具。每个人都有机会使用它来提高生产力和效率。”

但是用户体验的好处并没有仅限外部客户。Rajavel（拉贾威尔）补充道，内部员工体验也将受益。她预测，经过内部数据培训的人工智能辅助可以将IT入门请求减少一半，内部员工只需立即查找公司内部页面找答案。

Sample（桑普）说，Walgreens还在通过使用生成式人工智能驱动的语音助手、聊天机器人和短信来改善客户体验。通过减少通话量和提高客户满意度，团队成员可以更好地关注店内客户。此外，该公司还部署了生成式人工智能来优化店内运营，如供应链、占地面积和库存管理，帮助领导者就业务的顶部和底部做出决策。但保持警惕是关键。

“与之前所有的技术浪潮一样，人工智能也可能将伴随着重大的负面影响和附带损害。”O'Grady（奥格雷迪）说，“总的来说，它将加速发展，增强人类能力，同时大幅扩大问题的范畴。”

作者：Bill Doerrfeld（比尔·多菲尔德）

Bill（比尔）是一名专门研究企业云软件领域最先进技术的技术记者。他也是北欧（一个面向API从业者的知识中心）的主编，并为DevOps.com、Cloud Native Now（前身为Container Journal）和Acceleration Economy撰稿。

译者：宝蓝  审核：@lex