AI专家表示，如果没有人工监督，由技术官僚主导的将AI工具引入政府的计划，可能会错误地拒绝公民福利申请，使公民陷入申诉的“endless loops/无尽循环”。

图源：David Everett Strickler / Unsplash

亿万富翁Elon Musk（埃隆·马斯克）削减2万亿美元美国政府开支的计划显然包括用AI取代数万名联邦工作人员，但几位AI专家表示，此举可能会产生灾难性的后果。

在Musk（马斯克）和新成立的Department of Government Efficiency/DOGE/政府效率部门获取各机构内部信息后，Donald Trump（唐纳德·特朗普）总统的政府已经解雇了大约1万名联邦工作人员。Musk（马斯克）在没有充分证据的情况下声称，他发现了大量欺诈行为和政府浪费现象。

一名负责监督此次削减成本行动的美国官员表示，Musk（马斯克）和DOGE的最终目标是“用机器取代人力”。该官员告诉《the Washington Post/华盛顿邮报》：“任何能够实现机器自动化的工作都将被自动化。技术官僚将取代官僚。”

然而，IT专家表示，至少在短期内，该计划存在缺陷。他们称，AI现在或许能够取代一些联邦政府工作人员，未来可能取代更多，但这项技术还无法对福利发放及其他复杂决策做出判断。

“AI大规模取代政府工作人员，是一个诱人却危险的幻想，这暴露出对政府实际运作方式的根本误解，”专注于AI和未来工作的咨询公司Work3 Institute的联合创始人兼首席执行官Deborah Perry Piscione（德博拉·佩里·皮西奥内）说，“虽然AI肯定可以简化一些繁琐的文书工作，但用算法取代数万名公务员的想法却暴露了一种硅谷式的技术万能论，可能会对公共服务造成严重破坏。”

Piscione（皮西奥内）可以想象这样的场景：一名申请福利的退伍军人或面临驱逐的移民，因AI误解其文件资料，而遭遇AI聊天机器人无法理解其特殊情况的问题。

“这些并非假设性的情景——而是将政府服务仅仅视为数据处理问题的必然结果，”Piscione（皮西奥内）说，她是新书《Employment Is Dead: How Disruptive Technologies Are Revolutionizing the Way We Work/就业已死：颠覆性技术如何彻底改变我们的工作方式》的作者。

一、目前可行的部分替代

专注于人工智能和其他新兴技术的数字转型公司TetraNoodle Technologies的创始人兼首席信息官Manuj Aggarwal（马努杰·阿加瓦尔）表示，目前，AI可以取代一些数据处理、合规检查和客户服务岗位。

然而，政府还有许多其他类型的工作。“政府工作不仅仅是关于效率。还关乎理解民众、做出判断和建立信任，”他说，“AI可以处理数据，但它无法产生同理心、进行谈判或与公民建立真正的联系。”

专注于人工智能领域的风险投资公司InVitro Capital创始人兼执行合伙人Amir Barsoum（阿米尔·巴苏姆）补充道，除了数据处理和客户服务岗位，如今AI还可以通过自动检测欺诈行为和处理索赔申请，为美国政府节省大量资金。

Barsoum（巴苏姆）认为Musk（马斯克）用AI取代联邦工作人员的计划是可行的。“精简的政府通过减少官僚机构，迫使各机构在资源减少的情况下提高效率，从而提升效率、灵活性和决策速度，最终提高服务质量，”他说。

然而，他补充说，政府工作人员的替代过程应该循序渐进，首先从那些不涉及关键决策的简单行政岗位入手。

“这里需要评估的关键问题是AI是否会比人类犯更少的错误，”Barsoum（巴苏姆）说，“除非这些系统能证明其准确性远高于我们现有的方式，否则不应部署。”

二、谁来监督？

Aggarwal（阿加瓦尔）补充说，政府最终会意识到AI的局限性，他们将招聘新人，重点关注人际沟通而非文书工作。对于被AI取代的工作岗位，各机构仍然需要提供监督和问责。

“我们需要确保人类始终参与其中，”他补充说，“AI虽然很智能，但并非万无一失。AI的错误可能会破坏基本服务，如果没有适当的监督，后果可能会很严重。”

IT Monks的业务发展主管Nick Spivak（尼克·斯皮瓦克）表示，目前尚不清楚特朗普政府将如何监管那些取代工作岗位的AI工具。当算法做出错误决策时，似乎并没有相应的应对方案。

“AI可以提高政府效率，但用自动化系统取代数万名员工，就好比用尚未通过路测的自动驾驶汽车来取代高速公路的交通管制，”他说，“理论上这或许可行，但一旦出现问题，后果将极为严重。”

Spivak（斯皮瓦克）指出，当AI不再局限于数据处理等重复性任务，而开始进行决策判断时，就极有可能出现问题。当政府AI系统出现错误时，民众在对非人工做出的决策进行申诉时，将会陷入“endless loops/无休止的循环”。

“政府决策影响着人们的真实生活，而AI并不具备人类的推理能力、对背景情况的理解能力，也无法承担责任，”他说，“处理贷款申请时出现错误会让人感到沮丧，但在处理残疾福利或移民身份问题时出现错误，则可能会改变一个人的一生。”

尽管如此，Work3的Piscione（皮西奥内）表示，从长远来看，用AI大规模取代政府工作人员“inevitable/不可避免的”。大约20%的联邦雇员从事的是文员或行政工作，如今的AI已经能够胜任这些工作，而且AI还可以消除困扰许多政府部门的积压工作。

“人们对AI取代政府工作人员这一现象本能地抵触，源于一种美好却过时的政府工作观念，”她补充说，“批评者描绘出弱势群体与没有感情的机器艰难周旋的场景，但他们却忽略了一个现实，即许多公民已经在与过度劳累、工作质量参差不齐的人类官僚机构打交道时困难重重。”

她说，目前，社会保障管理员“mechanically/机械地”套用福利计算公式，IRS的工作人员无数次回答相同的问题，大量办事员按照预先设定的流程处理文件。

“尽管批评者将这描绘成一场反乌托邦式的幻想，但他们忽略了困扰我们官僚体系的严重低效率问题，以及当前AI技术惊人的能力，”Piscione（皮西奥内）说，“坦率地说，大约30%的政府工作岗位不过是人类计算机，处理表格并遵循死板的规则，而机器可以更高效地完成这些工作。”

作者：Grant Gross（格兰特·格罗斯）

Grant Gross（格兰特·格罗斯）是CIO的资深撰稿人，是一名长期的科技记者。他曾担任华盛顿记者，后来担任IDG新闻服务的高级编辑。在他职业生涯的早期，他曾担任Linux.com的总编辑和科技职业网站Techies.com的新闻编辑。在遥远的过去，他曾在明尼苏达州和达科他州的报纸担任记者和编辑。

译者：宝蓝

【睿观：本文探讨了亿万富翁埃隆·马斯克削减美国政府开支的计划，其中一个重要内容是利用AI取代数万名联邦工作人员。虽然AI专家们承认AI在数据处理、合规检查和客户服务等方面具有潜力，但他们也警告说，如果没有人工监督，由技术官僚主导的将AI工具引入政府的计划可能会带来灾难性的后果。

文章中，专家们强调了AI在理解人类情感、做出复杂判断和建立信任方面的局限性。他们担心AI可能会错误地拒绝公民福利申请，使公民陷入申诉的“无尽循环”。此外，他们还对政府如何监管取代工作岗位的AI工具以及如何应对AI做出错误决策的问题表示担忧。

文章还提到，AI在自动检测欺诈行为和处理索赔申请方面具有潜力，可以为政府节省大量资金。然而，专家们强调，AI的部署应该循序渐进，首先从那些不涉及关键决策的简单行政岗位入手。他们还强调，需要对AI系统的准确性进行评估，以确保其性能优于现有的人工方式。

这篇文章对马斯克用AI取代联邦雇员的计划提出了质疑，强调了AI在政府工作中的局限性以及可能存在的风险。文章呼吁政府在引入AI工具时保持谨慎，并确保人类始终参与其中，以避免对公共服务造成严重破坏。

总结

• 马斯克计划用AI取代数万名联邦雇员以削减政府开支。

• AI专家承认AI在某些方面的潜力，但警告其在理解人类情感、做出复杂判断和建立信任方面的局限性。

• 专家们担心AI可能错误拒绝福利申请，导致公民陷入申诉困境。

• 他们还对AI监管和AI错误决策的应对机制表示担忧。

• 文章建议AI部署应循序渐进，并评估其准确性。

• 文章强调人类参与的必要性，以避免AI对公共服务造成破坏。】