“组织在针对客户体验实施人工智能时可能犯的最大错误之一是，将效率置于道德、人性化的互动之上”。AI能够复制甚至有时超越人类的能力。但这些技术必须遵循的道德原则是什么，人们在实践中又是如何应用它们呢？以确保AI技术能够安全、可靠、公平地服务于人类。

图源：Shutterstock

我们都有过这样的经历。你的笔记本电脑坏了，你错过了航班，或者你需要打电话给保险公司。你希望通过快速交谈解决问题，但相反，你遇到的是一个没有同情心的空洞声音，给出照本宣科的问题和答案，让你在一个又一个的选项列表中选择，让你比开始时更加沮丧。

在这样破碎的客户体验之后，你开始提出更难的问题，比如这种技术中可能嵌入了哪些偏见，它是如何处理我的数据的，它多久被审计一次以确保公平和透明，它真的能被教导以道德的方式行事吗？

随着人工智能在客户服务中扮演更大的角色，这些问题变得越来越紧迫——首席信息官和其他高管也很清楚这一点。参与CX Network（是客户体验行业中最知名的公司之一，成立于2012年，旨在支持专业人士缩小客户期望和实际体验之间的差距。该公司通过提供广泛的有洞察力的报告和视频，以及吸引人的播客、网络研讨会和新闻，来推动企业的领导力，从而彻底改变客户服务行业。CX Network纳入了营销、数字、洞察力、服务和客户体验领域的全球决策者，通过激发创新和项目突破，确定行业方向。该平台主持认证的网络研讨会和播客，向最相关的观众群转达当前的行业标准。此外，CX Network关于客户体验的视频和报告帮助营销人员优化他们的CX战略并实现特定的业务目标。）的Global State of CX 2024/《2024年全球客户体验状况》调查的来自世界各地的三分之二的客户体验从业者、服务领导者、分析师和顾问都同意或强烈同意他们越来越关注人工智能的道德使用及其未来发展。

除此之外，38%的人认为透明度是客户今天最关心的问题之一，而55%的人强烈认为数据隐私和安全是客户的主要关注点。

人工智能正在迅速改变客户服务，它不再仅仅是模仿人类的互动，而是关于创造公平且感觉自然的体验。Royal Holloway, University of London（伦敦大学皇家霍洛威学院，‌是一所位于英国大伦敦地区萨里郡艾格镇的公立综合性大学，简称“皇家霍洛威”或“RHUL”。该学院成立于1886年，维多利亚女王亲自授予其皇家特许状并主持了开校典礼。1900年，皇家霍洛威学院加入伦敦大学，成为独立组成学院之一，专门进行科学教学与研究的五所院校之一。）的数字营销高级讲师、数字组织和与社会研究中心主任Nisreen Ameen（尼斯林·阿明）说：“组织在针对客户体验实施人工智能时可能犯的最大错误之一是，将效率置于道德、人性化的互动之上。”

印度Mudra Institute of Communications（MICA，‌是位于印度艾哈迈达巴德的一所著名教育机构，专注于营销和传播领域的教育和研究。MICA成立于1991年，被印度经济时报评为“最好的教育品牌”，并且在战略营销和传播领域享有极高的国际声誉，是全球排名前20的营销学院之一。该机构不仅在印度国内，而且在国际上都有着广泛的影响力，是印度乃至全球营销教育的重要基地之一。）的AGK营销主席教授Varsha Jain（瓦尔莎·贾恩）对此表示赞同。“人类必须驱动人工智能，而人工智能不应该驱动人类，”她补充道。

对于负责增强客户体验的CIO和其他高管来说，真正的挑战在于教导AI更加人性化，并确保它以同情心和公平感来正确、有道德地行事。

一、制定一套原则

近年来，首席信息官和他们工作的公司已经找到了几种在客户支持中利用人工智能的方法。尤其是银行和其他金融机构，正在整合人工智能以简化客户互动并提高服务效率。例如，许多机构使用人工智能驱动的聊天机器人来处理日常任务，如查询余额、交易历史，甚至贷款申请，释放出人类助手（岗位）来处理更复杂的问题。人工智能还被用于欺诈检测，分析交易模式，并实时标记可疑活动，比手动系统更快、更准确。ING Group（International Netherlands Groups，ING荷兰国际集团。是一家全球化的金融服务集团，源自荷兰。它由Nationale-Nederlanden和NMB Postbank Group于1991年合并而成，拥有超过155年的历史。ING Group的总部设在荷兰阿姆斯特丹，在全球60多个国家拥有金融服务网络，服务超过5000万客户。是全球排名第11大的资产管理公司。）的首席分析官巴Bahadir Yilmaz（巴哈迪尔·伊尔马兹）表示，仅该跨国公司面向客户的聊天机器人在荷兰每天就能处理多达5000个查询，并且它还增加了生成式人工智能功能以提高客户满意度和转移率。

他补充说，ING在AI方面有这样一套分步指导原则：

公平性——确保决策过程不受偏见影响。

可解释性——确保目标受众能够理解这些逻辑。

透明度——解释并证明模型开发的整个过程。

责任性——为每个做出的决策确定责任。

安全性——确保模型不产生意外结果。

在人工智能开发过程中拥有健全的道德标准和政策可以有所帮助。Ameen（阿明）说：“这确保了道德考虑从一开始就融入人工智能系统的结构中，而不是事后才想到。”

首席信息官以及首席技术官应该倡导衡量他们的人工智能驱动服务的人性化程度，因为通常情况下，我们更倾向于改进我们决定衡量的东西，Jain（贾恩）补充道。

二、建立人性化团队

许多组织在考虑在客户服务支持中使用人工智能时是从削减成本的角度出发。但据AirHelp（是一家专门帮助乘客进行航空索赔的公司。它成立于2013年，主要为遭遇航班延误、取消或超额预订的乘客提供服务，帮助他们进行航空索赔。AirHelp的服务旨在“代替客户处理整个索赔过程并包揽所有相关的文书工作”。该公司通过在线填写包括个人信息和航班号的表格来帮助乘客索赔，如果乘客的航班被取消、延误或者超额预订，AirHelp将协助乘客进行索赔。追回的赔款并不全归客户所有，AirHelp会收取赔款金额的25%作为服务佣金。）首席技术官Tim Boisvert（蒂姆·博斯韦尔特）称，他们公司并非完全如此。

AirHelp帮助航空公司乘客获得航班延误、取消或超售的航班获得赔偿，其人工智能驱动的聊天系统因能有效处理常见的与服务相关的询问而受到认可。

“我们基于聊天的人工智能客服的目标不是取代人类，或减少我们对人类客户服务代理的投资，”他说，“因此，我们没有将其设置得让客户在需要时（AI客服）难以与人类交谈。我们的客户提出的很多问题都可以很容易地通过人工智能和机器人回忆起来，但我们已经努力防止用户感觉与我们的客户服务代理隔阂。”

在设计基于聊天的人工智能系统时，有一个规则是要确切知道它能做什么和不能做什么，这样才不会让客户感到沮丧。

“我们的客户服务机器人旨在向客户提供某些类型的信息，而不是陷入认为有某种版本的机器人可以接近取代人类代理与人们之间关系的诱惑，”Boisvert（博斯韦尔特）说。构建简单的出口，或者在客户寻找机器人无法轻易提供的东西时主动将客户引导给人类，这是该公司遵循的另一个原则。

AirHelp还使用其他人工智能驱动的工具来解读航空公司发送的有关客户索赔状态更新的自动消息，或分析客户上传的登机牌和电子机票中的信息。

Boisvert（博斯韦尔特）说：“这两项措施都大大减轻了我们代理的负担，从他们的任务中去除了琐碎的工作，使他们能够更多地专注于在具有挑战性或非标准的情况下直接与客户合作。”

【睿观：AirHelp本质上是一个连接乘客与航空公司的平台，它利用了欧盟等地关于航班延误、取消和超售的严格规定。其商业模式主要包括以下几个方面：

• 索赔服务:

乘客提交信息: 乘客只需提供航班信息和其他相关细节，AirHelp就会评估其是否有资格获得赔偿。

评估和处理: AirHelp的人工智能系统会对这些信息进行初步筛选，并由专业团队进行更深入的评估。

代表乘客索赔: 如果符合条件，AirHelp会代表乘客向航空公司提出索赔，并负责整个索赔过程。

成功收费: 只有在成功获得赔偿后，AirHelp才会从赔偿金额中抽取一定比例的服务费。

• 订阅服务:

AirHelp Plus: 提供更全面的服务，包括航班延误的费用报销、法律援助等。

会员制: 通过会员订阅，AirHelp可以获得稳定的收入来源，并为用户提供更个性化的服务。

• 数据分析:

航班数据: AirHelp收集大量的航班数据，用于分析航班延误的原因、航空公司的赔付情况等。

用户数据: 通过用户行为分析，AirHelp可以更好地了解用户的需求，优化服务。

行业洞察: 这些数据还可以为航空公司提供有价值的反馈，帮助他们改善服务。

AirHelp的成功之处

AirHelp之所以能够在市场上脱颖而出，主要得益于以下几个方面：

• 自动化流程: 人工智能的应用大大提高了索赔处理的效率，缩短了处理时间。

• 专业团队: AirHelp拥有一支经验丰富的法律团队，能够处理复杂的索赔案件。

• 用户体验: 简洁的用户界面和透明的收费标准，提升了用户满意度。

• 市场营销: 通过社交媒体、搜索引擎优化等方式，AirHelp成功地吸引了大量用户。

AirHelp对航空业的影响

AirHelp的出现对航空业产生了深远的影响：

• 提升乘客权益意识: AirHelp的宣传让越来越多的乘客了解到自己的权利，并敢于维护自己的权益。

• 推动航空公司改善服务: 为了避免大量的赔偿，航空公司不得不更加重视航班的准点率和乘客服务。

• 促进行业透明度: AirHelp的索赔数据可以反映出不同航空公司的服务质量，促进行业的良性竞争。

总结：AirHelp的成功证明了科技创新在传统行业中的巨大潜力。通过利用人工智能和大数据，AirHelp不仅为乘客提供了便利的服务，也促进了航空行业的健康发展。】

ING的人工智能驱动聊天机器人也与人类紧密合作。“ING有同事审查每一次对话，以确保系统不使用歧视性或有害的语言，或产生hallucinate（幻觉，指模型生成不基于实际数据或与现实显著不同的内容的现象。），”Yilmaz（伊尔马兹）说，“无论人工智能如何部署，有一点始终是正确的，那就是人是我们流程的核心。”

目前，这是正确的做法，伦理学者们表示同意。“人工智能非常有帮助，但需要在人类的严格监督下使用，”Jain（贾恩）说。

三、留意偏见

人工智能可以通过多种方式加以利用，包括用于客户获取目的。例如，ING使用生成式人工智能工具来创建个性化的营销活动，为外籍人士、年轻夫妇和Gen Z（Z世代，指的是1995年至2010年间出生的一代人。这一代人是在数字和移动技术高度发达的环境下成长起来的，是历史上第一个完全沉浸在数字和移动技术下成长起来的群体。Gen Z的平均年龄在16岁到26岁之间，他们是美国历史上最年轻、种族最多样化、人数最多的一代，占美国人口的27%。Gen Z群体性格鲜明，对于出海品牌来说，是一个日益重要的受众人群，他们的消费习惯和行为模式将重塑未来的消费模式并改变零售业的格局。）量身定制内容和优惠。“始终在客户同意的情况下，”Yilmaz（伊尔马兹）说。

ING和Commonwealth Bank of Australia/CBA（‌澳大利亚联邦银行，‌是澳大利亚最大的商业银行之一，总部位于悉尼。该银行成立于1912年，拥有悠久的历史和丰富的金融经验。澳大利亚联邦银行在全球范围内拥有大量的客户和业务，致力于为客户提供高质量的金融服务。银行注重创新和科技投入，不断推出新的金融产品和服务，以满足客户的需求。业务范围广泛，包括个人银行业务、商业银行业务、机构银行业务以及财富管理等多个领域。该银行还积极拓展海外业务，尤其是在亚太地区，如中国、印度、印尼和越南等，通过参股、并购等方式扩大其影响力。）都使用人工智能驱动的工具来提高网络安全，并为他们的客户创造更安全的银行体验，特别是那些处于弱势环境中的客户。

“我们可以扫描不寻常的交易活动，识别被认为是高风险的模式和实例，以便银行可以进行调查和采取行动。”CBA人工智能实验室卓越中心负责人Luiz Pizzato（路易斯·皮扎托）表示，“我们已经使用人工智能来保护客户免受欺诈和诈骗，实时响应自然灾害地区的客户，甚至通过我们的福利查找工具，将客户与他们有权获得的超过12亿美元的政府福利和退税联系起来。”

在处理客户数据的情况下，组织应该优先考虑用户隐私和数据保护，确保组织符合最新的法规。

同样至关重要的是确保用户隐私和数据保护始终是核心焦点。“由于人工智能系统通常依赖于大量的个人数据，保护这些信息对于维护信任和维护道德标准至关重要。”Ameen（阿明）说，“这意味着要实施严格的数据保护措施，并对数据使用保持透明。”

另一个重要的焦点应该是确保人工智能的开发、决策和应用的包容性。这意味着让多元化的团队参与创建人工智能系统，并使用广泛的数据和观点来训练和改进它们。

当然，组织需要致力于定期测试他们的人工智能是否存在任何潜在的偏见，并采取措施来纠正它们——首席信息官应该对此保持警惕。“偏见可能在人工智能开发和部署的各个阶段悄然潜入，从数据收集到算法设计，”Ameen（阿明）说，“定期审计和偏见测试应该是一个持续的过程，要有相应的机制来解决和纠正发现的任何偏见。”

四、让人工智能具有代表性

当涉及到使用人工智能来增强客户体验时，领导者所承担的责任是巨大的。Ameen（阿明）说：“首席信息官和高管们可以通过在领导层面倡导道德举措并培养负责任的创新文化来实现更人性化的人工智能。”他补充说，他们应该与人工智能专家密切合作，并为所有员工投资包容性道德培训。

“至关重要的是，高管们必须在人工智能开发团队中优先考虑多样性，例如，积极雇用在人工智能工作中代表性不足的女性和少数族裔人士，”她表示，“确保在人工智能相关决策和代表性数据集中具有多样化的观点对于创建公平、无偏见的人工智能系统的关键，这些系统能够有效地为所有用户服务。”

由于我们在教导人工智能变得人性化方面还不是特别高效，因此实施机制以收集关于人工智能驱动的客户交互的反馈并增强这种能力变得更加重要。

她说：“这包括实时反馈选项、专注于人工智能体验的客户调查，以及对服务日志的分析。”建立焦点小组和专门的渠道来报告与人工智能相关的问题可以帮助获得关于何时应解决道德问题的宝贵见解。

Boisvert（博斯韦尔特）补充说，首席信息官、首席技术官和首席执行官不应该从人工智能可以简单地取代事物的假设开始，然后发现在某些情况下，人工智能根本不合适。他建议从另一个极端开始：假设没有人工智能能像人类一样人性化。

“寻找提供小或边际价值的具体场景，并将其整合进去，”Boisvert（博斯韦尔特）说，“永远不要让工作流程完全依赖人工智能，以至于基于人工智能的系统与客户的任何直接通信都不能由人类审查和批准。”

Yilmaz（伊尔马兹）同意这一观点，他说人工智能不是立即释放商业利益的解决方案。

“如果你有一个无法运行的业务流程，注入人工智能元素只会让事情更加复杂，限制价值实现，”他补充说，“当业务、技术、数据和分析团队共同努力简化流程并创造我们客户想要的体验时，才会创造真正的价值。”

作者：Andrada Fiscutean（安德拉达·菲斯库坦）

国际科技记者，在Ars Technica、Vice Motherboard、ZDNet、Nature、CSO Online等网站上发表专题报道。拥有超过20年的电台记者工作经验，10年的科技记者工作经验和4年的电视新闻配音工作经验。

译者：宝蓝