CIO（首席信息官）们应该做好准备，因为这项责任很可能会落在信息技术部门身上，以下是他们现在可以采取的10个步骤。

图源：Scharfsinn via Alamy Stock

人工智能是大多数组织的首要技术项目，并且正通过多种部门以BYOT（自带技术）、供应商提供以及自主开发等多种形式进入企业。为了管理这种新兴技术，必须定义、实施和管理人工智能的信任、风险和安全措施。谁来负责这项工作呢？大多数公司都不确定，但首席信息官们应该做好准备，因为这项责任很可能会落在信息技术部门身上，以下是首席信息官们现在可以采取的一些步骤。

一、与高层管理和董事会会面

人工智能的采用仍处于早期阶段，但我们已经看到了一系列令人尴尬的失败案例，这些案例包括违反联邦法规的就业歧视、伪造法庭文件、自动驾驶车辆未能识别交通危险，以及向消费者提供的虚假零售承诺，这些承诺导致公司不得不支付赔偿金。这些灾难大多是无意的，它们源于用户没有检查数据和算法的真实性，或者使用了错误或不完整的数据而具有误导性。最终结果是对公司声誉和品牌的损害，这是任何首席执行官或董事会都不想面对的。

首席信息官现在就应该与首席执行官和董事会进行这样的对话，即使用户部门（以及信息技术部门）可能已经在人工智能实施阶段。讨论的结果应该是公司需要一种正式的方法来实施、审查和维护人工智能，并且人工智能是一个新的风险因素，应该纳入企业的公司风险管理计划。

二、更新公司风险管理计划

公司风险管理计划应该更新，将人工智能作为一个新的风险领域纳入其中，必须积极管理。

三、与采购部门合作

Gartner预测，70%的新应用开发将来自用户部门。用户正在使用低代码或无代码工具，这些工具都具备人工智能功能。公民开发的兴起直接源于信息技术部门满足用户请求的速度太慢，这也导致用户部门出现了许多小型信息技术预算，这些预算绕过信息技术部门，直接通过公司的采购功能进行。

风险在于，用户可能会购买未经适当审查的人工智能解决方案，这可能会给公司带来风险。

首席信息官们可以通过与采购建立积极协作的关系来帮助，使信息技术部门能够在订单下达之前对人工智能产品进行尽职调查。

四、参与用户针对信息技术产品的招标流程

尽管许多用户在购买信息技术产品时会自行其是，但信息技术部门仍有空间通过定期与用户互动、了解用户想要解决的问题，并在产品购买之前帮助用户解决问题从而介入这一流程。业务分析师最适合做这项工作，因为他们经常与用户互动——而首席信息官们应该鼓励这种互动。

五、升级信息技术安全实践

企业已经为交易系统升级了边界和网络内的安全工具与方法，但人工智能应用和数据带来了独特的安全挑战。网站上的人工智能聊天功能可能会被重复的用户或客户提示所破坏，从而诱使聊天功能采取错误的行动。人工智能所操作的数据可能会被污染，从而提供虚假的结果，而公司可能会据此采取错误的行动。随着时间的推移，人工智能模型也可能会变得过时，产生虚假的结果。

无论人工智能系统是由信息技术部门还是终端用户托管，都可以通过修改质量保证流程来加以改进，使系统经受用户或信息技术部门的测试。后者试图想象黑客会尝试破坏系统的每一种可能方式，然后尝试这些方式，看看系统是否会被破坏。另一种被称为“红队测试”的方法是，公司请外部机构来进行质量保证，通过尝试破坏系统来进行测试。

信息技术部门可以为人工智能安装这种新的质量保证方法，将其推销给高层管理，并将其作为公司要求，用于任何新的由信息技术部门或终端用户购买的人工智能解决方案的预发布测试。

六、提升信息技术员工的技能

在将人工智能解决方案发布到生产环境之前，通过黑客测试来检验它们；或者在数据被授权用于人工智能之前，使用新工具来审查和清理数据；或者检查人工智能模型和算法的“可靠性”——这些技能都是信息技术部门实现人工智能能力所必需的。员工技能提升是一项重要的指令，因为不到四分之一的公司认为自己已经为人工智能做好了准备。用户准备得更不充分，因此很可能会欢迎与具备人工智能技能的信息技术部门建立积极的合作伙伴关系。

七、每月报告人工智能情况

人工智能管理的负担很可能会落在信息技术部门身上，所以首席信息官们最好从上到下积极地拥抱人工智能。这意味着在每月向董事会提交的信息技术报告中，把人工智能管理作为一个固定话题，并且定期向董事会汇报人工智能情况。一些首席信息官可能会犹豫是否承担这一角色，但它也有其优势。这明确地将信息技术部门确立为企业的人工智能焦点，使信息技术部门更容易为企业的人工智能投资和部署制定指导方针。

八、清理数据并审查数据供应商

信息技术部门是企业的数据管理者。它负责确保数据的最高质量，通过使用数据转换工具来清理和规范化数据。信息技术部门还有着审查外部数据供应商质量的长期历史，高质量的数据对人工智能至关重要。

九、与审计人员和监管人员合作

外部审计人员和监管人员在为信息技术部门识别人工智能最佳实践方面，以及要求企业采用人工智能实践方面（这些实践随后可以呈现给董事会和用户）可以提供极大的帮助。外部审计公司可以在红队演练中提供帮助，以黑客利用者会采用的多种方式来测试新人工智能系统的性能，目的是找出系统的所有漏洞，以便将这些漏洞堵上。

十、开发人工智能生命周期方法论

到目前为止，大多数公司都专注于构建或购买人工智能系统并将其投入使用。对于系统的维护或可持续性没有给予太多考虑。因此，应该定义AI系统的生命周期，而IT部门是负责执行这一任务的。

作为这一生命周期方法论的一部分，应该定期根据预先设定的指标来监测生产中的人工智能系统的准确性。如果一个天气预测系统一开始的准确率为95%，但在接下来的九个月里下降到80%，就应该对系统的算法、数据或两者都进行调整，直到其准确率恢复到95%的水平。

作者：Mary E. Shacklett（玛丽·E·沙克利特）

译者：木青

睿观：AI风险即企业风险；CIO须携董事会定规、联合采购审案、红队测试保安全，每月向董事会报告，建立全生命周期治理，以可信数据与人才为基，让IT成为AI信任的守门人，驱动业务安全增长并赢得长久竞争优势。