生成式人工智能（ChatGPT)应用扑面而来，从可接受的应用策略到变革管理挑战，首席信息官们正处于一场迅速发展的IT革命的中心，这场革命需要在整个业务环境中灵活应对新出现和不断演变的问题。以上是生成式人工智能应用策略的20个问题。

图源：RAWPIXEL.COM（图片上传者，可以译为用户RAWPIXEL.COM，或者RAWPIXEL.COM） / SHUTTERSTOCK

各组织都在争先恐后地想办法从生成式人工智能中提取商业价值，而竭力避免成为无数陷阱中的牺牲品。

这里的应用曲线并非渐进，在2022年11月推出第二代人工智能工具ChatGPT（Chat Generative Pre-trained Transformer，是人工智能技术驱动的自然语言处理工具，它能够通过理解和学习人类的语言来进行对话，还能根据聊天的上下文进行互动，真正像人类一样来聊天交流，甚至能完成撰写邮件、视频脚本、文案、翻译、代码，写论文等任务）引发了热情（或担忧）仅几个月后，大多数企业领导者就迅速努力致力于利用这项技术的潜力。

看看统计数据：在研究公司Gartner（高德纳，Gartner Group公司成立于1979年，它是第一家信息技术研究和分析的公司。它为有需要的技术用户来提供专门的服务。Gartner已经成为了一家独立的咨询公司，Gartner公司的服务主要是迎合中型公司的需要，它希望使自己的业务覆盖到IT行业的所有领域，从而让自己成为每一位用户的一站式信息技术服务公司。）2023年5月的一份报告中，2500名高管中，约45%的人表示，围绕ChatGPT的宣传促使他们增加了对人工智能的投资，70%的人表示他们的组织已经在探索新一代人工智能，19%的人处于实际的试点或应用模式。这些结果与Foundry（隶属IDG/International Data Group，美国国际数据集团，前身为 IDG Communications/IDG媒体传播业务）最近于2023年7月进行的首席信息官技术谈话调查一致，该调查发现60%的IT领导者正在企业中积极使用第二代人工智能，另有28%的领导者处于探索阶段。

Foundry（隶属IDG/International Data Group，美国国际数据集团，前身为 IDG Communications/IDG媒体传播业务）的调查显示，大多数IT领导者都在提高员工对新一代人工智能的技能(54%)，并将新一代AI工具交到用户手中(52%)，42%的人正在制定新一代的人工智能政策和指导方针。尽管如此，技术领导者、咨询顾问、管理顾问和人工智能爱好者都一致认为，他们在测试和采用生成式人工智能时，正面临着多个问题。他们还指出，随着公司建立他们的通用人工智能战略，首席信息官们——作为他们组织中的顶级技术专家——将成为忧虑的焦点。

那么，有什么担忧会使企业生成的人工智能剧本变得复杂化呢？以下是当今影响下一代人工智能战略的前20个问题的摘要。

1.是否允许

根据各种新闻报道，一些知名公司最初出于各种原因屏蔽了ChatGPT等生成式人工智能工具，因为要保护专有数据。一些公司已经解除了禁令，并允许限制使用该技术，还有一些则没有。

随着供应商将生成式人工智能添加到其企业软件产品中，以及员工测试过这项技术，首席信息官必须就使用生成人工智能的利弊以及禁止或限制它的潜在后果向同事提出建议。

“现在的首要问题是允许还是不允许，”专业服务公司PwC US（普华永道美国，PricewaterhouseCoopers Consulting，普华永道咨询公司，国际领先的管理咨询公司之一。 2002年7月30日，普华永道咨询公司被IBM以35亿美元的现金和股票形式收购。）的数据风险和隐私管理负责人Mir Kashifuddin（米尔·卡希夫丁）说，“许多公司都在讨论do-we-block-it-or-do-we-allow-it（我们是阻止它还是允许它）。”

这其中包括首席技术官，他们自己也在争论是推动还是暂停人工智能探索。

2.快速演变的风险

那些阻止使用第二代人工智能的公司发现，一些员工仍在进行测试。他们还意识到，他们必须学会利用这项技术的潜力，否则将被抛在后面。

这让公司争相确定推进第二代人工智能试点的最直接风险。

“首席信息官的工作是评估潜在的问题。首席信息官应该谈论风险及风险是什么，”Mary Carmichael（玛丽·卡迈克尔）说，她是Momentum Technology（一家科技公司，正在改变世界交流的方式。正在通过卓越、灵感和创新挑战技术现状。从我们经营业务的方式，到我们为客户提供的支持，我们相信有可能热爱您所做的事情，并在做的同时将世界变得更好。）的风险咨询董事总经理、兼任ISACA（Information Systems Audit and Control Association，国际信息系统审计协会，是全球公认的IT治理、网络安全、审计与鉴证、风险控制、数据隐私保护以及标准合规的领导组织，会员遍布逾180多个国家，总数超过150，000人。）的Emerging Trends Working Group（新兴趋势工作组）和the Risk Advisory Committee（风险咨询委员会）成员。

3.可接受的应用策略

Carmichael（卡迈克尔）表示，在谈到ChatGPT等工具时，高管们还面临着另一个大问题：“在免费和可访问的技术方面，你现在对员工有什么指导？”

Carmichael（卡迈克尔）说她最近在一次高管聚会上询问了他们是否有一个可接受的使用政策，只有少数人表示，他们制定了政策来指导员工知悉什么是可接受的。

Carmichael（卡迈克尔）说：“员工们已经在问，‘我应该使用这个工具吗？什么时候应该使用？我应该注意什么？’但现在IT似乎正在努力追赶。因此，首席信息官们必须考虑一个有控制权的企业级人工智能；他们需要考虑确定边界和范围。”

4.业务中断的威胁

生成型人工智能是一项颠覆性技术，因此首席信息官和他们的高管同事必须考虑他们的公司是否会成为这种力量的受害者。

“生成人工智能对你的业务有何影响？比如说，ChatGPT对你的商业模式有何影响呢？”Carmichael（卡迈克尔）问道，他指出，一些公司在面临来自生成人工智能的突然竞争时，已经失去了巨大的市场价值。

“这是首席信息官们面临的一个问题。有些人希望使用这种技术可以节省成本，但也有人希望他们能找到方法将这种技术融入公司的产品，以增强他们的产品竞争力，”Carmichael（卡迈克尔）补充道，“这是首席信息官们必须获得技术知识并提供指导和咨询的地方。”

5.制造“飞行”中的“发动机”

似乎这些挑战还不够大，高管们必须迅速行动，在一切顺利时应对它们。

管理咨询公司McKinsey & Co.,（麦肯锡咨询公司，是世界级领先的全球管理咨询公司，由美国芝加哥大学商学院教授詹姆斯·麦肯锡，James O’McKinsey，于1926年在美国创建。自1926年成立以来，公司的使命就是帮助领先的企业机构实现显著、持久的经营业绩改善，打造能够吸引、培育和激励杰出人才的优秀组织机构。麦肯锡采取“公司一体”的合作伙伴关系制度，在全球44个国家有80多个分公司，共拥有7000多名咨询顾问。麦肯锡大中华分公司包括北京、香港、上海与台北四家分公司, 共有40多位董事和250多位咨询顾问。在过去十年中，麦肯锡在大中华区完成了800多个项目，涉及公司整体与业务单元战略、企业金融、营销/销售与渠道、组织架构、制造/采购/供应链、技术、产品研发等领域。）的合伙人Douglas Merrill（道格拉斯·梅林）表示，首席信息官应该将敏捷流程应用到他们的新一代人工智能战略。他解释说：“你必须在事情前进的同时进行学习，但要进行安全、可控的[迭代]，并专注于风险管理。”

6.CIO还没有获得好的指导

当首席信息官们寻求将控制和风险管理引入引起广泛兴趣和大量实验的技术时，他们在没有预先存在的指导和支持的情况下这样做。

Merrill（梅林）说：“我们都面临的一个特殊问题是，生成式人工智能真的很新，而且发展非常快，所以还没有很多工具。第二代人工智能的风险指南脆弱且新，而且没有被普遍接受的‘风险护栏’。也许最终还是会有的，但它们目前还不存在。”

7.快速创新

首席信息官需要解决的另一个领域是：如何在组织中划分生成型人工智能应用领域。

首席信息官们应该关注“他们在哪里可以有效地使用生成式人工智能”。他们正在寻找可能的艺术。而且有很多可能性，你必须直接将它们与商业战略相一致，”研究公司Gartner（高德纳）杰出的副总裁分析师Frances Karamouzis（弗朗西斯·卡拉穆齐斯）说。

她承认，技术创新对首席信息官来说并不是什么新鲜事，但由于这一代人工智能的发展速度太快，以及它的力量和复杂性，它确实带来了新的挑战。

Karamouzis（卡拉穆齐斯）补充说：“首席信息官们将不得不以一种非常快的速度来构思、培训和执行这些解决方案。”

8.识别用例并确定其优先级

研究公司IDC（International Data Corporation，国际数据公司，是国际数据集团旗下全资子公司。是信息技术、电信行业和消费科技市场咨询、顾问和活动服务专业提供商。经常发布的市场资讯、预测和资深分析师关于业内热点话题的观点性文章。）在2023年5月的《Enterprise Intelligence Services Survey/企业智能服务调查》中发现，近70%的企业智能服务买家正在考虑或积极研究生成式人工智能的用例。

公司需要一种评估方法来收集、审查和优先考虑如何为企业的利益使用该技术。

Goh Ser Yoong（高瑟雍）表示：“首席信息官首先应该为实施生成式人工智能制定一个明确的路线图。无论目标是提高生产力还是其他商业收益，在选择任何技术来实现路线图之前，他们都需要与路线图上的[整个高管层]保持一致。”，其是Advance.AI （领创智信，是亚洲领先的大数据与人工智能公司，隶属于领创集团，专注于大数据、计算机视觉、机器学习和自然语言处理等相关技术的深度研发，助力金融机构、企业的智能化数字转型、反欺诈战略设计以及流程自动化部署，服务领域覆盖银行、各类金融服务、金融科技、零售、电子商务、物联网、共享出行等多个行业。领创智信的总部位于新加坡，并在亚洲、拉丁美洲的多个国家和地区市场设有分支机构办公室，汇集全球卓越金融技术人才，组建了一支既有全球化视野，又深谙本土化运营的专业技术与服务团队，如今已服务超过800家金融机构与企业客户。）合规主管，ISACA（国际信息系统审计协会）新兴趋势工作组成员。

Karamouzis（卡拉穆齐斯）说，首席信息官必须利用他们之前在优先考虑技术驱动的计划方面的经验，并将同样的原则应用于新一代人工智能理念，以确保他们的组织理智地进行投资。

IDC（国际数据公司）在其调查中发现，最高优先级的用例属于知识管理、代码生成、产品或服务设计和工程等类别。买家强烈地同意这样一种观点，即生成式人工智能将使员工能够专注于更高价值的任务。而买家通常都不认为生成式人工智能会让他们面临更大的风险。

Foundry（隶属IDG/International Data Group，美国国际数据集团，前身为 IDG Communications/IDG媒体传播业务）的第二代人工智能调查发现，零售业首席信息官在识别用例方面处于领先地位（49%），其次是制造业（42%）、技术业（41%）和金融服务业（32%）的IT领导者。

9.购买、定制与构建三种应用方式

公司可以通过三种不同的方式将生成式人工智能引入他们的组织，首席信息官们将领导公司选择哪种方式最适合他们。

McKinsey（麦肯锡）开发了合理框架，将不同的使用类型描述为“接受者”，“塑造者”和“制造者”。

接受者使用别人构建的东西，直接利用开箱即用的功能。塑造者将从本质上定制这种能力，以满足自己的需求或使用自己的专有数据。McKinsey（麦肯锡）的Merrill（梅林）表示，制造者是三种类型中最不常见的，对结构和控制的需求最大，因此将建立自己的模型来满足其高度专业化的要求。

10.企业技术准备的基础设施

无论一家公司是接受者、塑造者还是制造者，它都将需要一个足够现代的技术堆栈和数据程序来有效利用生成式人工智能。

“数据，云的结构，计算网络和存储，当然是首席信息官的权限，”Karamouzis（卡拉穆齐斯）补充说，首席信息官同样有责任识别和解决技术或数据堆栈中可能阻碍其组织实现其设定的下一代人工智能目标的任何瓶颈或障碍。

她补充道：“首席信息官将构建实现这一目标的技术基础设施。”

11.数据安全和隐私保护问题

2023年春季中旬，韩国电子公司Samsung（三星集团。是韩国的跨国企业，三星电子2022年利润43.3766万亿韩元，三星集团旗下子公司有：三星电子、三星物产、三星人寿保险等，业务涉及电子、金融、机械、化学等众多领域。三星集团成立于1938年，由李秉喆创办。三星集团是家族企业，李氏家族世袭，旗下各个三星产业均为家族产业，并由家族中的其他成员管理。）发现其部分内部源代码已上传到ChatGPT后，禁止员工使用生成人工智能工具。

Kashifuddin（卡希夫丁）说，其他公司担心他们的员工也在这样做。

他补充说：“当员工与这些工具互动时，公司必须确保他们没有将专有数据发送回基础模型。”

高管们正在期待他们的首席信息官，以及他们的数据领导和数据安全高管，采取行动，制定治理政策，实施控制，并部署监控工具，以确保员工遵循可接受的使用政策，不暴露专有数据和知识产权。

12.遵守数据和隐私保护法

首席信息官以及数据、合规、风险和安全领导者面临的另一个问题是：如果员工使用生成人工智能，如何监控和确保他们不会违反数据隐私法和数据保护。

网络安全平台制造商Deep Instinct（是以色列的一家网络安全公司，使用基于GPU的神经网络和CUDA实现99%的检测率，而传统网络安全软件的检测率约为80%。其具有可以自动识别恶意软件并将其杀死在萌芽状态的专利技术，整个过程都不需要病毒库的支持。）的首席信息官Carl Froggett（卡尔·福盖特）警告说：“当你把数据放入由他人控制的人工智能引擎中时，你就失去了对这些数据的控制”。

13.审计跟踪的必要性

专家表示，首席信息官还被要求设计方法来识别和审计生成式人工智能产生的结果，以确保结果是准确的、公正的，并且不侵犯受保护的知识产权。

正如Carmichael（卡迈克尔）解释的那样：“负责任和可解释的人工智能是首席信息官们必须应对的挑战。”

14.关注新的人工智能法规

世界各国政府都在讨论是否以及如何监管人工智能的使用。虽然企业法律部门和外部法律顾问将帮助高管辨别新法律对他们意味着什么，但首席信息官将在使企业内部的人工智能技术遵守任何新法律方面发挥作用。

Goh（高）说：“首席信息官必须及时了解与人工智能使用相关的法规和法律框架，如最近的欧盟《AI Act/人工智能法案》。遵守数据保护法、知识产权法规、行业特定指南和道德标准至关重要。首席信息官应该与法律团队密切合作，了解并解决与生成式人工智能相关的任何法律影响。”

15.准确性问题

同样，Kashifuddin（卡希夫丁）和其他人呼吁首席信息官需要帮助他们的组织和员工自己采用质量保证程序，以验证他们收到的任何人工智能产生的见解。Kashifuddin（卡希夫丁）补充说，这包括在IT中为开发人员想要使用的任何此类代码实现QA（Quality Assurance，质量保证。是质量管理的一部分，它致力于提供质量要求会得到满足的信任。质量保证是指为使人们确信产品或服务能满足质量要求而在质量管理体系中实施并根据需要进行证实的全部有计划和有系统的活动。）

正如一些广为宣传的例子所表明的那样，未能采取这一步骤可能会产生重大后果。一个值得注意的例子是，一名纽约律师在提交了一份使用ChatGPT起草的法律文件后，面临着自己的法庭听证会，其中包括对该技术虚构的法律案件的引用。

16.追加技能要求

人工智能正在迅速重塑对IT技能和人才的需求，整个组织的员工需要学习如何使用生成性人工智能工具。

与此同时，IT工作者必须接受再培训，使用生成式人工智能工具来完成他们的工作，并获得支持整个组织所需的技术。

正如Goh（高）所说：“首席信息官必须评估其IT部门内部的技能差距，并提供足够的培训和资源，以帮助伙伴有效地理解和使用生成式人工智能。”

17.人工智能引发网络安全威胁

首席信息官们关注的另一个领域是：黑客如何使用生成人工智能。

Froggett（福盖特）说：“你说的是，（黑客）制作电子邮件和信息并绕过生物识别技术达到了一个新的复杂程度，因为生成性人工智能呈现了真人会使用的角色、习惯和短语。”他补充道，生成式人工能够生成看似真实的虚假视频和音频。

这种复杂的攻击可能会使现有的安全控制（如语音身份验证）过时，迫使首席信息官和首席信息官迅速找到替代方案。

Froggett（福盖特）补充说：“由于生成式人工智能已经在发挥作用，我们的控制可能导致无法正常工作。”

18.紧张的员工

在2023年3月的一份报告中，Goldman Sachs（高盛集团。一家国际投资银行。高盛集团成立于1869年，是全世界历史悠久及规模最大的投资银行之一，总部位于纽约。）分析出，目前约三分之二的工作“受到一定程度的人工智能自动化的影响，而生成式人工智能可以取代目前多达四分之一的工作。”换句话说，该公司表示，相当于3亿个全职工作可能会因自动化而流失。

“有很多不确定性。人们在想，‘这将如何影响我的职业生涯？’我需要重新技能吗？’”Carmichael（卡迈克尔）说。

她说，作为高管团队的一部分，首席信息官应该努力让员工参与进来，解决他们的担忧，并补充说，她相信新一代人工智能将创造就业机会，而且可能会带来更多的就业机会。这也是首席信息官们在应对棘手的下一代人工智能变革管理挑战时可以分享的心得。

19.通过这项新技术引领变革

首席信息官将是负责领导其组织度过第二代人工智能预计带来的所有颠覆的高管之一。

Carmichael（卡迈克尔）和其他人说，首席信息官天生适合这项工作；在过去的十年里，他们一直在这个领域培养自己的技能，领导他们的组织通过数字化转型。

然而，一些人说，领导即将到来的变革将与之前的变革管理场景不同，因为人工智能的采用速度和带来的破坏可能会使之前的技术革命相形见绌。

Carmichael（卡迈克尔）说：“这样的速度让所有人都感到惊讶，现在我们必须跟上步伐。所以问题是，你要如何管理好所有这些事情，并如何充满信心地继续前进。”

20.召集团队

当然，首席信息官不能单独解决所有这些问题，也不应该尝试。但作为许多组织中的主要技术专家，首席信息官很可能会成为执行团队关于第二代人工智能带来的风险和机遇的关键顾问。

Karamouzis（卡拉穆齐斯）说：“首席信息官正在发挥生成式人工智能应用的促进者、咨询顾问和交付人员的作用。所以现在，首席信息官的角色是最高管理层中不可或缺的角色之一，可以帮助其他人理解需要做的所有事情。”

作者：Mary K. Pratt（玛丽·K·普拉特）

Mary K. Pratt（玛丽·K·普拉特）是马萨诸塞州的一名自由撰稿人。