当生成式AI和“环境文档记录”（自动监听并生成病历）技术杀入医疗保健领域时，临床医生们欢呼雀跃：终于不用在键盘上浪费生命了！然而，面对受保护健康信息（PHI）泄露的致命风险，医疗CIO们正被夹在“创新速度”与“极致合规”的夹缝中。

面对这场狂飙，医疗IT领导者并没有踩下刹车，而是正在重修赛道：

• 守护“人在回路”的底线：绝不将生杀大权交给AI。目前的AI只能是“超级助理”，起草病历、总结图表，但最终的审核与签字权必须牢牢攥在医生手里。

• 驯服“影子AI”：堵不如疏。医生为了提效，很容易将敏感数据偷偷复制到公共大模型中。聪明的CIO不再迷信单纯的“技术封锁”，而是为医生搭建经过数据脱敏的“安全沙盒（跑道）”，让他们在受控环境中自由实验。

• 对抗AI驱动的黑客：攻防两端都在进化。面对激增十倍的AI自动化密码爆破攻击，以及第三方AI供应商带来的数据外溢风险，CISO们正在将AI风险直接送上董事会的监控仪表盘，实行从“单次合规检查”到“持续动态监控”的转变。

总结：在医疗AI的赛道上，未来的赢家绝不是跑得最快的盲目部署者，而是那些最早建好“安全防护栏”的长期主义团队。

全文：医疗保健领域的CIO重新思考AI部署

随着环境文档记录（ambient documentation，指利用人工智能技术，在不干扰人类自然行为的前提下，‌自动、实时地生成文档内容‌）和生成式AI在临床工作流程中普及，医疗保健IT领导者正在重新评估治理、安全和架构，以在不放缓创新的前提下保护受保护健康信息。

图源：Chay_Tee / Shutterstock

医疗保健组织在将生成式AI（人工智能）投入运营方面面临巨大压力。但与许多行业不同的是，它们不能先快速推进然后再解决问题。最早的大规模部署，尤其是环境临床记录，已经带来了可衡量的收益。但与此同时，它们也在受保护健康信息（PHI，Protected Health Information，指受法律保护的个人健康信息）和临床信任方面暴露出新的问题。

出现的情况并不是AI的采用速度放缓，而是对其引入方式的重新设计。医疗保健领域的首席信息官（CIO）、首席信息安全官（CISO）和临床信息学领导者逐渐达成了一个共识，即安全地扩展AI需要同时重新思考治理、安全控制和基础设施。

Parkview Health的首席医疗信息官兼电子健康记录高级副总裁Mark Mabus（马克·马布斯）表示，环境记录，也被称为环境监听或AI图表记录，已迅速成为医疗保健领域最引人注目的生成式AI用例。通过捕获和总结医患对话，该技术有望减轻临床医生倦怠，同时提高文档质量。他说：“它帮助我们的医生更快地完成病历记录。它减少了打字量和他们的认知负担。”

然而，这类AI应用的快速落地正迫使IT领导者面对传统医疗保健架构无法解答的新运营问题。组织越接近生产规模，风险状况就变得越复杂。

Mabus（马布斯）问道：“音频在哪里处理？是在现场还是在云端？受保护健康信息是否被保留在其中？谁来验证输出结果？这些都是在考虑将工具投入生产之前必须评估和验证的问题。”

新兴的医疗保健人工智能策略的核心观点是，所有决策都由人类做出。辅助系统可以起草记录、总结图表或提出回复建议，但临床医生仍牢牢处于决策流程中。Mabus（马布斯）说：“医生仍然必须对其进行编辑并签字确认。”

这种“human-in-the-loop（人在回路）”的要求不仅仅是为了满足监管机构的要求——它还塑造了组织对风险进行分级和确定部署优先级的方式。在Parkview，AI用例根据临床影响和自动化水平进行正式分类，高风险场景面临更严格的审查。这种谨慎的态度反映了从早期试点中吸取的宝贵经验。Mabus（马布斯）说，在某些情况下，技术上令人印象深刻的工具未能带来临床价值。“当我期望三行内容，却得到了九个段落时，这反而产生了额外的认知负担，”他说。

这一经验强化了目前在整个医疗保健IT领域引起共鸣的一个更广泛的观点，即临床易用性和合规准备必须同步推进。

一、影子AI（shadow AI）的治理难题

即使正式部署在不断扩大，医疗保健领域的领导者仍在努力解决一个常见的企业问题，即用户在未经批准的渠道进行试验。Mabus（马布斯）说：“这让我想起医疗保健环境中的短信使用情况。即使提供了安全工具，人们仍然会发短信。这就是人性。”

这个类比很有启发性。就像安全消息平台从未完全消除短信替代方案一样，仅靠生成式AI政策不太可能阻止临床医生在认为能提高工作效率时尝试使用公共工具。

一些组织尝试技术封锁，但经验表明这些措施有其局限性。用户可以通过个人设备和蜂窝网络连接迅速绕过网络控制。相反，许多医疗系统正在将政策与教育以及企业级替代方案相结合。目标不是消除试验，而是安全地引导试验。

不受管理的试验的风险并非理论上的。Mabus（马布斯）说：“我见过大型语言模型给出完全不同的回复。如果使用其中一个回复，可能会对患者造成伤害。”这种可变性正促使医疗保健组织在传统合规控制的基础上强调验证、透明度和临床医生培训。

更广泛地说，医疗保健行业正在重新认识一个企业IT领导者熟悉的教训：治理既是技术问题，也是行为问题。

二、威胁曲线上升

当临床团队专注于工作流程整合时，安全领导者们正关注着另一个趋势：由AI驱动的攻击自动化程度与频率显著提升。MemorialCare的首席信息安全官兼信息技术副总裁Kevin Torres（凯文·托雷斯）说：“不一定是攻击的复杂性，而是速度。它以无情的态势向我们袭来。”他指出，最近针对他所在的医疗系统的一次密码喷洒攻击（Password Spraying，是一种‌低检测风险的暴力破解变体）攻击活动显示，失败的登录尝试激增了十倍，这表明对手越来越多地对凭据攻击进行自动化操作。

与此同时，由人工智能驱动的临床工具的普及正在扩大第三方风险范围。环境监听平台、分析引擎和生成式辅助工具通常在电子健康记录的传统边界之外处理高度敏感的患者互动信息。作为回应，MemorialCare加强了对供应商的审查。Torres（托雷斯）说：“我们经过详尽的第三方风险管理流程，评估与他们共享数据是否安全。”审查内容包括与美国国家标准与技术研究院（NIST，National Institute of Standards and Technology，负责制定和推广标准的美国联邦机构）标准的一致性、渗透测试历史、访问控制以及数据泄露记录。

高管们对AI风险的关注度不断提高，这也在重塑治理模式。Torres（托雷斯）表示，他所在的组织现在为其董事会提供一个企业风险管理仪表盘，该仪表盘明确地将与AI相关的风险敞口与网络安全和业务连续性风险一起进行跟踪。即使有了这些控制措施，不确定性仍然很高。他说：“我们现在不知道我们不知道什么。我认为我们可能会遇到某个核心AI供应商的重大变故。”

这种预期正在强化一种更广泛的转变，即从一次性的合规检查转向持续监控。

三、医疗架构必须为AI重建

在政策和安全层面之下，存在一个更深层次的结构性问题，即许多医疗保健环境并不是为生成式AI工作流程的速度和流畅性而设计的。云计算公司思杰（Citrix，成立于1989年，是一家提供桌面虚拟化、应用交付和云服务等技术的公司）的医疗保健领域首席技术官Cletis Earle（克莱蒂斯·厄尔）表示，当临床医生开始试用外部工具时，最初的问题往往就会出现。他说：“如果你没有具有去标识化信息的安全环境，临床医生会认为自己在做一件好事，但这会引发数据安全与合规风险。”

问题不在于恶意行为，而在于工作流程摩擦。当经过批准的工具落后于用户需求时，临床医生可能会复制粘贴数据到消费级AI服务中以节省时间，从而无意中暴露PHI。

传统的边界控制不太适合这种模式。因此，Earle（厄尔）认为组织需要为AI创新构建许多人现在所说的“安全实验跑道”——一种既能进行实验又能控制风险的架构方法。他说：“你需要创建沙盒环境，让临床医生进行实验。但要确保数据经过脱敏且受到控制。”在实践中，这意味着更严格的数据分段、自动化脱敏流程以及隔离的环境，在这些环境中可以在不接触生产环境中的受保护健康信息的情况下测试模型。

另一个新出现的风险在于概念验证（POC，Proof - of - Concept，用于验证某个想法或技术可行性的演示）可能会很快超出其最初设定的限制。“概念验证至关重要，但如果做得不彻底，它们可能会在以后破坏架构框架，”Earle（厄尔）说。这一警告凸显了医疗保健信息技术领导者们日益增长的担忧，即早期的AI试点项目必须经过精心设计，以便治理、身份控制和监控能够随着成功的部署而扩展。

总体而言，这些经验正开始在各个医疗系统中形成一种可识别的运营模式。许多组织不再追求完全自主的AI，而是通过一种精心规划的分阶段方法来推进。以辅助功能为先的部署方式让临床医生保持控制权，同时团队对模型性能和数据处理建立信心。风险分级框架有助于将低影响的自动化与临床敏感的用例区分开来。沙盒环境允许在不暴露生产环境中的PHI的情况下进行实验。

与此同时，安全团队正在加强对第三方的审查并扩大行为监测，而董事会则要求更清晰地了解AI相关的企业风险。教育也成为核心支柱。领先的组织不再仅仅依赖技术限制，而是在临床医生培训以及关于AI在哪些地方可以安全使用、哪些地方不可以安全使用的透明沟通方面进行投资。

结果并不是创新速度放缓，而是采用了一种更具规划性的规模化方法，这种方法将合规性和安全性视为设计约束条件，而非事后控制措施。

四、合规设计：CIO的新使命

目前，辅助性AI仍然是医疗保健领域的主导模式。但大多数领导者预计，随着模型的改进以及供应商将更先进的功能推向临床工作流程，对更高自动化程度的压力将会增加。这种转变可能会以更高的紧迫性重新引发当今许多治理问题。自主订购、自主性工作流程以及跨系统协调将带来新的安全和问责挑战，而当前的框架只能部分解决这些问题。

特别是安全团队，正在进入一个更加动荡的阶段。正如Torres（托雷斯）所说，AI赋能颠覆的真正影响仍在未来，不断上升的攻击速度和不断扩大的威胁范围可能会考验当前的防御措施。此外，目前“人在回路”的平衡状态不太可能无限期地维持下去。

如果说当今医疗保健领域采用AI有一个统一的主题，那就是动力与谨慎齐头并进。医疗系统并没有从生成式AI上退缩。环境文档记录、临床总结和智能工作流程支持已经带来了切实的好处。但最有信心向前推进的组织是那些在治理重新设计、架构控制和持续风险监测方面进行早期投资的组织。

对于医疗保健领域的CIO来说，教训正变得越来越清晰。挑战不再是是否部署AI，而是如何构建能够让其安全扩展的保障措施。医疗保健领域AI的未来将属于最擅长构建安全实验跑道的团队，而不是最快的采用者。