虽然还没有人知道如何阻止人工智能功耗的指数级增长,但一些IT领导者已经找到了减轻其对可持续发展计划的影响的方法。
图源: SHUTTERSTOCK
【睿观:通过优化资源利用率、优先考虑高价值用例以及透明的供应商报告,企业CIO可以有效减轻生成式人工智能对可持续发展计划的影响。尽管挑战依然存在,但这些方法为IT领导者提供了可行的解决方案,有助于在实现人工智能益处的同时,减少其环境影响。
使用大型提供商优化利用率
IT部门可以通过共享按需人工智能推理环境的提供商来使用人工智能,从而提高公共云服务的利用率,降低组织的整体碳足迹。
向供应商询问其模型训练过程和推理过程的详细报告,确保了解所有上游的环境影响。
使用最合适的模型
在构建人工智能应用时,针对不同的服务步骤选择最合适的模型。较小的模型不仅在训练阶段消耗更少的电力,而且在推理阶段也更加节能。
推广这一思路,确保团队在构建其他解决方案时也能优先选择资源高效的模型。
确定用例的优先级
平衡地看待和优先考虑用例,确保人工智能的应用能够真正抵消其碳足迹。对于那些对企业有重大收益的用例,优先考虑其使用人工智能。
针对每个用例,制定明确的指导方针,衡量人工智能工具的碳足迹,并将其与潜在收益进行比较。
供应商的碳足迹报告
向供应商询问其服务对上游全面影响的报告,了解其训练过程、有效期及客户体量等信息。
建立透明的供应商报告机制,确保企业能够获取准确的碳足迹数据。
Klarna的生成式人工智能应用
Klarna在其内部项目和销售产品中广泛应用生成式人工智能,开发了人工智能治理,包括使用指导方针。
其新推出的人工智能助手在短时间内成功接收了超过三分之二的客户服务聊天请求,相当于约700人的工作量。
Rackspace Technology的观点
尽管人工智能的电力消耗呈指数级增长,但其潜在的益处,例如提高能源利用效率和减少出差需求,可能抵消其碳足迹。
Kuehne+Nagel的Scope 3报告
在推进人工智能应用的过程中,IT领导者需要将其影响纳入Scope 3报告中,并寻找减轻其可持续发展计划影响的方法。】
去年,随着许多首席信息官开始进行第一轮Scope 3(范围三,碳排放范围。其他间接排放,指企业或组织除直接和间接排放之外的所有其他间接碳排放。Scope 3排放通常是由企业的价值链中的其他环节产生的,这包括供应链、运输、产品生命周期等。)报告,生成式人工智能几乎进入了每个办公室。有时它是正大光明进来的,但在大多数情况下,它会悄悄地渗透进来,因为知识型员工会尝试用它来写文件和电子邮件,而不一定广而告之自己在这么做。
在许多组织中,用例已经停止了,但一些IT部门现在正在批准——甚至鼓励——在编码等方面使用生成式人工智能。尽管如此,其他组织仍希望其软件供应商提供包括生成式人工智能组件在内的升级。然后是瑞典金融科技公司Klarna(是一家位于瑞典的电子商务信用支付服务公司,2005年成立至今为全球17个国家、20万商家超过8500万的消费者提供了支付解决方案,包括直接付款、先买后付和分期付款等计划。拥有H&M、Adidas、宜家、Expedia集团、ASOS、Pelotan、Nike、丝芙兰等知名合作商户,并于2019年新增了75000多名新合作商。2020年3月,蚂蚁金服对Klarna进行了股权投资,进一步推动了其全球化的步伐。)等公司,该公司不仅在一系列内部项目中,而且在其销售的产品中集成了生成式人工智能,并开发了人工智能治理,包括如何在项目中使用人工智能的指导方针。
自2022年11月ChatGPT(是人工智能技术驱动的自然语言处理工具,它能够通过理解和学习人类的语言来进行对话,还能根据聊天的上下文进行互动,真正像人类一样来聊天交流,甚至能完成撰写邮件、视频脚本、文案、翻译、代码,写论文等任务)推出以来,Klarna一直在大力研究人工智能,公司内部的普遍感觉是,生成式人工智能可以帮助组织中的几乎每个人变得更有效率,无论他们的技能水平或角色如何。“整个公司在生产和开发方面的大约100项举措,我们可能会在这些举措中使用生成式人工智能。”Klarna的高级工程总监Martin Elwin(马丁·埃尔温)表示,“不仅是工程师在这么做,从金融、法律、营销到其他所有人都在做。”
图源:MARTIN ELWIN, KLARNA
几周前,Klarna宣布了一个人工智能助手,可以在几乎没有或根本没有人工支持的情况下回答用户问题。它的软件帮助消费者从最相关的商家那里找到他们想买的东西,并协助支付和售后支持。根据Klarna通信主管Daniel Greaves(丹尼尔·格里夫斯)的说法,新的生成式人工智能立即获得了成功。他说:“在推出后的大约四周内,该人工智能助手已经接收了我们超过三分之二的客户服务聊天请求,并完成了相当于大约700人的工作。”
但人工智能的这些和其他用途,尽管听起来很有益,却令人侧目。“从表面上看,正如今天所存在的那样,人工智能和可持续发展背道而驰。”Rackspace technology(是一家领先的端到端多云技术服务公司。该公司跨所有主要技术平台设计,构建和运营客户的云环境,无论技术堆栈或部署模型如何。该公司与客户在其云计算旅程的每个阶段进行合作,从而使他们能够现代化应用程序,构建新产品并采用创新技术。)的人工智能、技术和可持续发展总裁Srini Koushik(斯利尼·古希克)说:“论是训练大型语言模型还是运行推理,人工智能都会消耗大量电力。而这只是一个开始。电力消耗呈指数级增长。”
然而,Koushik(古希克)和许多其他的技术人员认为,人工智能的好处远远超过其不断增长的碳足迹,而加密货币等其他能源匮乏的应用可能并非如此。人工智能有望帮助研究人员发现更高效的能源,如核聚变,通过增强功率分配优化当前能源的利用,并通过分析气候模式来衡量二氧化碳排放的影响。“人工智能将使人类受益,”他说,“从我自己企业的角度来看,如果人工智能的好处之一是让我不再需要派人从纽约出差至伦敦,那么我已经抵消了这一碳消耗。”
图源:SRINI KOUSHIK, RACKSPACE
无论人工智能是否兑现长期兑现其承诺,首席信息官们现在都需要将人工智能的影响纳入其Scope 3报告中,而这一点很快就变得非常复杂。例如,如果你用他人训练的模型进行推理,你应该报告你在二氧化碳影响中所占的份额。提供商可能会告诉你培训的总体成本,但没有人知道如何在模型的整个生命周期中向所有用户分摊该成本。
瑞士全球运输和物流公司Kuehne+Nagel(德迅公司。发祥地为德国,本部设在瑞士的Schindellegi,是全球最大的货运代理公司之一,世界上最大的无船经营的公共承运人。1890年,August Kuehne和Friedrich Nagel在德国不来梅开始经营货运代理和调配业务,主要经营羊毛和联合运输。由于在德国发展迅速,业务很快扩展到整个欧洲、美洲并朝着亚洲和非洲发展。)的首席数字办公室兼高级副总裁Niklas Sundberg(尼克拉斯·桑德伯格)表示:“这些都还不清楚,因为Scope 3报告是新鲜事,生成式人工智能也是新的。”Sundberg(桑德伯格)对Scope 3报告的了解与其他人一样多,并在他为技术领导者的著作Sustainable IT playbook/《可持续IT行动手册》一书中涵盖了这个主题。
尽管存在歧义,IT领导者仍在推进人工智能。在此过程中,一些人发现了三件事,可以减轻对自己可持续发展计划的影响。他们在这此分享:
一、使用大型提供商优化利用率
Elwin(埃尔温)说:“我们已经是人工智能的高级用户,我们建议通过共享按需人工智能推理环境的提供商使用人工智能,尤其是推理。”这是有道理的,因为使用公共云服务的人越多,使用率就越高。在运行耗电型人工智能应用程序时,资源利用率的提高可能会对组织的整体碳足迹产生影响。
首席信息官可以更进一步,向供应商询问一系列问题,从他们如何训练模型以及如何进行推理开始。总部位于英国的Verne(是一家位于冰岛雷克雅未克与英国的领先服务器主机商。他们提供高性能的云计算和数据中心解决方案,客户包括金融、科技和能源行业等。他们的数据中心基于100%可再生能源,并且使用冷却技术来最大程度地提高能源效率。)公司首席技术官Tate Cantrell(泰特·坎特雷尔)表示:“如果你只购买推理服务,问问他们如何解释所有上游的影响,”这家公司为企业和超大型企业提供数据中心解决方案。“推理输出只需要一瞬间。但是,神经网络内部的权重之所以是现在的样子,唯一的原因是因为需要大量的训练——可能需要一到两个月的训练,耗能大约100到400兆瓦——才能使基础设施变成现在的样子。那么,你应该为此支付多少费用呢?”
图源:TATE CANTRELL, VERNE
Cantrell(坎特雷尔)敦促首席信息官们向供应商询问他们自己的报告。“他们是否从可持续性的角度公开报道其服务对上游的全面影响?培训过程有多长时间,有效期有多长,有多少客户的体量受到了影响”
据Sundberg(桑德伯格)说,一个理想的解决方案是让人工智能模型告诉你它自己的碳足迹。他说:“你应该能够问Copilot(是微软在Windows 11中加入的AI助手,该AI助手是一个集成了在操作系统中的侧边栏工具,可以帮助用户完成各种任务。)或ChatGPT最后一次查询的碳足迹是多少,”他说,“据我所知,目前没有任何工具能给你这个问题的答案。”
当Klarna构建他们的人工智能助手时,他们并不是只使用一个人工智能模型来做任何事情。相反,他们经历了一个过程,在这个过程中,他们评估了服务的每一个步骤,以确定每个部分真正需要什么。“我们努力做到资源高效。”Elwin(埃尔温)说,“我们确保使用尽可能小的模型,以提供完成给定步骤所需的能力。”
Klarna通过发布指导方针来推广这一想法,以确保团队在构建其他解决方案时也能这样思考。一个步骤可能需要一个全面的模型,如GPT-4,而服务的另一部分则可以与GPT-35 Turbo等较轻的模型配合使用。
较小的模型不仅在训练阶段需要较少的电力,而且可以用于推理。最终,企业将不得不衡量能源消耗——这可能是在每个查询的基础上进行的,而较小的模型做得更好。“在保险环境中,你不需要GPT-4来进行索赔裁决。”Koushik(古希克)说,“你需要一些更小的、更能训练特定领域数据的模型,它在回答领域内的问题时将比使用GPT-4更准确。”
Sundberg(桑德伯格)说,尽管大公司已经在机器学习方面工作了很长一段时间,但他们的模型不如大型开源模型复杂。“但他们在解决定价和预测客户流失等非常具体的企业问题方面做得更好。”
首席信息官可以平衡地看待用例并对其进行优先级排序。“大多数人不需要Copilot,”Koushik(古希克)说,“能够优化电子邮件的好处并不能证明其订阅成本和相应的二氧化碳排放量是合理的。另一方面,我们的法律部门确实从Copilot中受益,这抵消了成本,所以我们向他们推荐使用它。”
图源:NIKLAS SUNDBERG, KUEHNE+NAGEL
优先考虑用例意味着IT领导者将不得不告诉一些用户,人工智能不是他们问题的合适解决方案。避免激怒他人的最好方法是尽早制定明确的指导方针。首先,要找到测量人工智能工具的碳足迹的方法,然后针对每个用例,将其与潜在收益进行比较。“对于首席信息官来说,制定特定应用程序的二氧化碳排放指标很重要。”Sundberg(桑德伯格)说:“这让他们能够权衡成本和收益。如果你自己无法找出碳足迹是多少,可以试着询问你的软件供应商。”
但更具有挑战性的是,供应商并不总是坦诚他们所知道的东西。“虽然生成式人工智能可以释放出许多可持续发展的机会,但也有黑暗面没有被讨论——自然供应商更没有讨论,”Sundberg(桑德伯格)说:“他他们过于专注于在自己的领域争抢顶级供应商地位的竞争。”
作者:Pat Brans(帕特·布兰斯)
Pat Brans(帕特·布兰斯)是Grenoble Ècole de Management/格勒诺布尔管理学院的一名高级教授,也是《Master the Moment: Fifty CEOs Teach You the Secrets of Time Management/掌握时刻:50位ceo教你时间管理的秘密》一书的作者。Brans(布兰斯)是公认的技术和生产力专家,曾在Computer Sciences Corporation/计算机科学公司、惠普和Sybase/赛贝斯担任高级职位。他的大部分企业经验都集中在应用技术来提高劳动力的效率上。现在,他通过写作和教学,把同样的想法带给了更多的观众。
译者:宝蓝 @lex