聊天机器人、内容摘要和软件开发支持是项目已经进展顺利的领域,并推动了更多的应用。分析师指出,生成式AI的一个优势在于,同一个模型经过一些调整,可以在多种应用中重复使用。不过,这项技术还有一个常常被忽视的好处:它能拉近IT和业务之间的距离。
【睿观:生成式人工智能为意大利CIO们创造价值的方式有哪些?
1.推动项目进展和应用
生成式AI在聊天机器人、内容摘要和软件开发支持领域取得显著进展。
其多功能性使得一个模型经过调整可以在多种应用中重复使用(如外部客服机器人转为内部差旅报销助手)
拉近IT与业务的距离,推动更多应用的开发。
2.商业模式创新
生成式AI不仅提供有用的应用,还能创造新的商业模式。
电信领域通过应用生成式AI恢复竞争力,年增值潜力巨大。
具体应用包括客户互动总结、市场营销、个性化信息创建、合同分析和招聘自动化等。
3.编码支持
Maffei通过生成式AI提高编程效率,缩短项目时间,体验积极。
使用OpenAI的ChatGPT、微软的Copilot和谷歌的Gemini提高了编码效率。
生成式AI帮助他更快速地掌握新编程语言,显著减少了编码时间。
4.服务优化
Maffei计划利用生成式AI开发24/7客户支持聊天机器人,提升服务响应速度和质量。
Alpitour World利用生成式AI进行旅游活动信息编辑和客户服务,开发了内部聊天机器人AlpiGPT。
5.系统选择与多模型发展
封闭系统提供高稳定性和响应速度,适合现阶段需求。
开放系统则灵活且成本低,未来可能会在生产和对外项目中采用多模型策略。
6.规范与治理
MLOps和LLMOps是生成式AI项目成功的关键,有助于算法治理。
需要CISO的支持确保生成式AI项目伴随风险研究和KPI设定。
7.拉近IT与业务距离
标准化产品加速创新,避免所有工作在内部完成。
生成式AI项目成功与理解业务需求密切相关,有助于共同创造价值。
生成式AI简化原型设计,提高了IT与业务的合作效率。
通过这些方式,意大利CIO们正在利用生成式AI创造价值,推动企业数字化转型和业务创新。】
ChatGPT在人工智能的演变和采用上成为了标志性事件。一些意大利的CIO观察到了OpenAI的聊天机器人热潮,怀疑其到底是噱头还是有真实的机会。另一些则把生成式人工智能(Gen AI)视为一项独特的技术,可以推动他们的人工智能项目向前迈进。
意大利最大旅游公司之一Alpitour World便是一个例子,其生成式AI项目基于之前对人工智能的采用。首批应用之一是“一个新的会话助手概念,催生了AlpiGPT,一个基于生成式AI的企业内部数据搜索引擎”,Alpitour World的首席信息与技术官Francesco Ciuccarelli如此描述道。
根据Forrester对2024年的预测,今年60%的怀疑论者将克服他们的疑虑,并因会话助手以及内容翻译和总结的应用而欣赏生成式AI。而另一个正受到CIO们欢迎的应用是生成式人工智能用于编码,Inter-studioviaggi(专业从事学习旅行的公司)的ICT经理Alessio Maffei证实了这一点。
“起初我对生成式AI持怀疑态度,”Maffei说道。“当ChatGPT初上市场时,市场上没有其他竞争对手,我觉得这可能只是一个噱头。我尝试用它生成文本和获取信息,但当时并没有让我满意:它似乎更适合消费级而非企业环境。然而,随着需要在新平台上编程并快速获得答案的需求,我开始尝试使用生成式AI来实现这一具体目标,结果令人惊喜,我发现它非常有用。”
一、生成式AI创造新的商业模式
一些分析师认为,生成式AI是如此“不同”且革命性,不仅可以为业务提供有用的应用,还能创造新的商业模式。
例如,在电信领域,运营商多年来一直面临着利润率下降的问题,麦肯锡估计生成式人工智能可以通过在网络运营、客户服务、市场营销和销售、IT及支持功能中的应用,迅速恢复竞争力。年增值潜力可能达到1000亿美元(针对全球所有电信公司),而生产力收益在1400亿至1800亿美元之间。
一些已开发的应用包括生成式AI用于汇总客户与联络中心的语音和书面交互;在市场营销和销售方面,用于从电话中识别新的销售线索(一个电信公司的试点项目实现了超过10%的转化率);或者,为单个微细分客户创建个性化信息。
生成式AI还用于加速合同分析和策略性的谈判研究(开发该应用程序的电信公司将时间从几周缩短到几小时),在招聘方面,生成式AI帮助降低招聘过程的成本,通过自动化筛选简历并推荐候选人配置文件。
电信公司还在使用生成式AI分析网络数据;在IT方面,用于简化软件的整体生命周期,包括生成和扫描代码以在发布前发现漏洞。
二、用于编码的生成式AI
在Inter-studioviaggi的Maffei案例中,应用于软件开发的生成式人工智能成为“桥头堡”,为企业IT开辟了广泛的使用案例。在克服了对ChatGPT的初步疑虑后,Maffei测试了生成式AI在编码活动中的应用,并发现了巨大的优势。由此推动了更广泛的生成式AI项目用于公司数据库搜索,ICT经理对此期待着积极效果。
在应对新的平台编码时,Maffei通常会在Google上搜索信息,但这需要花费数小时进行研究和软件组件的工作。为了加快这一过程,Maffei同时使用了三款产品:OpenAI的ChatGPT、微软的Copilot和谷歌的Gemini,结果发现编程变得更为便捷。
不仅如此:“ChatGPT和Gemini的结果在某种程度上是对齐的,但在思想多样性上,类似于问两个开发者同一个问题:回答相似且正确,但仿佛由两位具有不同技能和培训背景的人来处理。这为我评估如何根据自己的编码方式进行操作提供了丰富的见解,使我能够以习惯的方式进行编程。”
Maffei的需求是使用现代编程语言(类似于原来的语言)创建新应用程序,但需有长期支持,并且有些元素他没有时间自学。
“通过使用AI,我能够在预定时间内发布一个新平台,因为生成式AI迅速为我提供了使用新语言编写代码的解决方案,”Maffei解释道。“在这个项目中,生成式AI将所需的编程时间减半。”
在这三款产品中,Maffei当前的评价是,Copilot效果较差,而Gemini几乎达到了ChatGPT的水平,但ChatGPT仍然是首选。迄今为止,Maffei使用的都是这些产品的基础版本,但积极的体验让他决定转向付费版本。
三、标准化产品加速创新
Maffei现在正在研究将生成式AI引入Inter-studioviaggi的一些服务。一个计划中的项目是一个聊天机器人,它可以在很难找到真人操作员的时间段或日子里回答客户问题,也可以简单地进行初步筛选并传递给真人操作员。
“我们需要每天24小时、每年365天回应客户,一个能够提供清晰和确定回答的聊天机器人,或减少与客户服务顾问对话时间的机器人将非常重要。”Maffei表示。
该项目将从在Inter-studioviaggi一些特定项目中创建和训练模型开始,因为这些项目更容易对AI进行培训:特别是短期出国留学假期,该公司已经拥有一个大型数据库。
“人工智能是我们的未来:在这个项目之后,我们将不断将人工智能引入inter-studioviaggi的其他部门和服务。例如,我正在考虑对旅行证件的控制,”Maffei指出。
【睿观:生成式AI通过标准化产品和解决方案的引入,能够显著加速创新进程。使用标准化产品,可以避免从头开始开发模型的时间和成本投入,利用现成的工具和技术快速实现功能部署。此外,通过利用大数据和已有的模型训练成果,可以更迅速地优化和调整生成式AI应用,使其更好地符合企业的具体需求。Maffei的计划体现了生成式AI在提升客户服务效率、扩展业务应用和推动企业创新方面的巨大潜力。
1.引入生成式AI服务
Inter-studioviaggi的ICT经理Alessio Maffei正致力于将生成式AI引入公司的一些服务项目。他计划开发一个全天候运行的聊天机器人,能够在无法找到真人操作员的时间段内回答客户问题,并进行初步筛选,将复杂问题传递给真人操作员。这样的系统不仅能提高客户服务的效率,还能确保客户在任何时间都能得到及时回应。
2.项目实施与模型训练
Maffei表示,该项目将从特定项目入手,特别是短期出国留学假期。这些项目的数据量大,易于对AI进行培训,能快速生成有效的AI模型。通过利用公司已有的大型数据库,可以更高效地训练生成式AI模型,从而提高其响应准确性和服务质量。
3.未来展望
Maffei强调,人工智能是公司的未来。在成功实施聊天机器人项目后,他计划将生成式AI应用扩展到Inter-studioviaggi的其他部门和服务。例如,他考虑利用生成式AI对旅行证件进行控制和管理。这种逐步扩展的策略,旨在通过生成式AI提升各业务领域的效率和服务水平,推动企业全面的数字化转型和创新。】
四、聊天机器人的演变
对于Alpitour World 来说,最早利用传统人工智能技术进行的实验可以追溯到 2018 年,这些实验是在公司内部的 IT 实验室和受保护的研究环境中进行的。2019 年,公司成立了一个名为“AI & Automation”的组织职能(隶属于 IT 部门,并配有一名专职负责人),到 2020 年,公司推出了第一个聊天机器人,并在 2021 年为一家航空公司开发了一个版本。
“然而,从2021 年开始,我们逐渐意识到这项技术的局限性,即在应对环境变化或仅仅回答新问题时,培训模型的成本高昂,”首席信息技术官 Ciuccarelli 表示。“因此,当我们看到 ChatGPT 的发布及其迅速传播时,我们立即认识到其满足我们需求的潜力,并开始在我们的实验室中进行生成式人工智能(Gen AI)的实验,主要应用在编辑旅游活动中,比如为销售渠道的询问和 Alpitour World 产品的客户服务准备信息。在这种情况下,基于预训练模型且不断演进的生成式人工智能,对于创建内容是非常有用的支持。”
感谢“AI & Automation”负责人的努力,我们还开发了另一个应用,即内部聊天机器人AlpiGPT。
“我给了同事们与我们的自动化合作伙伴Mauden 一起进行研究和实验的自由,”Ciuccarelli 说道。“我们选择了通过微软 Azure 获取的 OpenAI 的 GPT 模型,因为在当前来看,GPT 是最好的,而 Azure 已经在公司内部使用,这使得信息隔离问题获得了快速且安全的解决方案。”
这一方面简化了通过数据保护官员的流程,以确保数据保护法规的合规性,这在一个人工智能项目中是非常重要的方面。另一方面,从成本的角度来看,CIO不需要购置更多的 GPU,因为采用了 AI 即服务模式。
五、封闭系统与开放系统的选择:迈向多模型
Ciuccarelli强调了服务提供商的服务水平至关重要,因为这能够保证产品的稳定性和响应速度。
“作为CIO,我认为实现生产规模的瓶颈在于系统的可靠性,”Ciuccarelli 表示。“聊天机器人影响着 Alpitour World 的客户体验,而我们的提供商可以确保专用资源和稳定的响应时间。如果要保证性能、隐私、避免错觉以及其他服务质量参数,我认为目前选择封闭的 hyperscaler 模型更好,因为这简化了某些方面的处理,而不是选择开放模型,”Ciuccarelli 继续说道。“例如,GPT 的偏见保护是独一无二的,否则我就需要进行大量的模型训练和微调工作,这会增加成本和风险。但这并不意味着这是我未来或者所有应用类型的答案。开放世界的研究和发展正以惊人的速度向前推进,并且具有更大的透明性优势。”
事实上,Alpitour World也正在使用开放系统进行“非常具体”的生成式人工智能应用实验,包括用于编码活动的小型语言模型,或是一些专门的垂直应用,如支持内部功能的助手,这些应用可以提升生产效率并且能够在内部架构中实现隔离。
“这使得它更灵活且成本更低,”Ciuccarelli解释道。“但未来一切都在不断变化,所以我们并不排除在生产中以及对外项目中使用这些开放系统的可能。在短期内,专有系统是一种更为谨慎的选择,能够迅速投放市场,但并不排除未来采用开放模型,实际上,我设想未来的多模型就像多云一样发展。”
六、机器学习运维(MLOps) 规范
Ciuccarelli对生成式人工智能模型的更新也非常重视。根据他的说法,需要 MLOps(机器学习运维,即将机器学习应用程序的开发与实施和运维统一起来的实践)和 LLMOps(大型语言模型运维,允许高效地实施、监控和维护大型语言模型)的实践。
“它们有助于人工智能和算法的治理,”Ciuccarelli强调道。“事实上,机器学习模型,特别是生成式人工智能,由于其基于神经网络,风险较大,需要准确的提示,这是不容易理解和管理的新现象。甚至在架构中也引入了新的组件,如向量数据库或编排器。”
根据世界经济论坛的分析,治理是生成式人工智能实施的四大支柱之一,另外三个分别是人员培训、预算和团队协调,即组织架构。CIO 需要 CISO(首席信息安全官)的支持,以确保生成式人工智能的具体业务案例伴随着风险研究,并确定指导针对性解决方案的关键绩效指标(KPI)。治理还需要有适当的灵活性,即管理而不是禁止员工使用生成式人工智能产品,因为这一使用已经非常普遍。
七、生成式人工智能拉近 IT 与业务
在当前的实施以及未来规划的项目中,inter-studioviaggi的 Maffei 通过与外部专家顾问合作,在一个现成的模型上进行培训。
麦肯锡强调,避免在家中完成所有工作非常重要,相反应当评估来自初创公司或SaaS 供应商的现成选项。购买标准化产品(这也是 Alpitour World 的 CIO 当前的做法)可以加速创新;之后可以向供应商要求定制功能。
生成式人工智能的另一个特点是能够适应和重复使用已经实施的解决方案以用于不同的用例。例如,开发一个用于提升呼叫中心代理生产力的人工智能聊天机器人,可以通过进一步优化或添加数据来回答新员工的常见问题或提供 IT 支持。
Forrester指出,这项技术的另一个巨大好处是将 IT 和业务联系得比以往更紧密。生成式人工智能项目的成功——以及 CIO 的这种领导能力——与理解业务对 IT 的期望并提供能够回答这些问题的产品,密切相关,即所谓的“改变游戏规则的应用”。这些应用例如可以降低成本和时间,提高资源利用效率,共同创造价值。
Ciuccarelli证实,在 Alpitour World,所有的人工智能项目中,IT、内部研究实验室和“Automation & AI”职能一起行动,激活分布在组织内的各种 IT 节点,将技术与业务联系在一起。
“IT始终与其他职能部门保持联系:这些部门提出需求,IT 负责治理和平台设计。但生成式人工智能使得 IT 和业务之间的对话更加高效,因为它帮助共同构建应用程序,通过反馈机制使用户成为主角,”Ciuccarelli 总结道。“生成式人工智能拉近了人们与技术间的距离——我们在 ChatGPT 快速被消费者采用时看到了这一点——而 IT 在解释技术和治理问题时有了更多的切入点。像 GPT 这样的产品也简化了原型设计:对我来说,它对业务伙伴关系的影响非常正面。”