——OWASP专家深度解析：别被GenAI搜索功能骗了！CISO必须攻克的两大“技术盲区”
图源：World Images via Alamy Stock Photos
在网络安全领域，有一句箴言：“要么拥抱AI，要么落后挨打。”
这句话往往伴随着铺天盖地的营销承诺，声称AI能让企业始终领先一步。然而，当网络安全领导者们穿越这轮炒作周期时，FICO、John Deere等头部企业的实战经验表明：GenAI（生成式AI）在某些方面确实兑现了承诺，但在另一些方面却未能达到预期。
AI既是盾牌，也是武器。CISO（首席信息安全官）肩负着利用AI保卫企业的重任，同时也要应对数量和复杂程度都在快速增长的AI驱动攻击。
以下是《InformationWeek》采访多位专家后得出的结论：AI在网络安全中的两大“奇兵”和两大“盲区”。
AI在处理硬编码、数据驱动的场景中，展现了强大的效能，极大地解放了人力：
威胁建模：人力成本节省80%
FICO的CISO Ben Nelson介绍，其团队将历史上所有已完成的威胁模型进行收集，并在内部训练模型。AI已将人工安全架构师从威胁建模过程中解放出来，减少了约80%的人力劳动，从而缩短了开发周期。
红队测试基础设施
FICO的红队（Red Team，即攻击方）使用生成式AI为测试打造定制化基础设施，生成作为代码片段的基础设施，这帮助他们更快地搭建定制环境，从而进行快速测试。
深层异常捕获
AI工具能够捕捉“大海捞针”式的异常，这些异常情况可能会被人眼忽略。例如，MIT的专家Keri Pearlson提到，AI能发现恶意代码的文字颜色被设成与背景相同来隐藏代码的情况。
价值量化
GenAI被用于在历史日志数据中识别攻击模式，然后将这些发现与行业数据关联，量化那些本可能发生的事件的成本，从而帮助证明网络安全投入的合理性。
CISO们也指出，AI技术距离兑现厂商承诺、满足用户需求，仍存在显著差距。
John Deere的CIO Carl Kubalsky指出：“生成式AI目前面临的一个有趣的挑战是，它无法表达自己不知道如何处理的情况。”
【顾问解读】：如果AI无法告诉你“我撞墙了”或“我的信息不足”，CISO就无法介入，风险就会被隐藏。这是一个根本性的挑战。
FICO的Nelson表示，AI驱动的网络安全工具尚未带来他希望看到的预测能力。
“我们其实特别渴望技术厂商能提供一套更具预测性的AI系统，它能拿历史数据去对照实时威胁，尝试预测潜在入侵事件，我还没看到AI应用于此并取得有效成果。”
【另一个未兑现的承诺】Nelson还提到，过去一年半里被热炒的“生成式AI搜索”功能，实际在网络安全工具里表现平平。它功能非常初级，从调查角度看，没有为团队增加太多价值。
面对AI的快速演进和供应商的“参差不齐”，CISO不能坐等。
加速评估与押注：CISO需要减少试错时间，加快评估节奏。同时，要具备战略前瞻思维，提前关注新兴威胁（如深度伪造检测），并敢于押注（如John Deere的深伪检测押注）。
对供应商施加问责：前首席安全信息官Lena Smart表示，必须要求供应商对数据负责。她经常向供应商要求提供：供应链风险管理审计报告、数据流向、谁有权限以及合同结束后数据将如何处理。
内部创新与人才：既然供应商给不了我们想要的东西，Nelson表示，我们就得自己下场做创新和工程。在网络安全领域，人仍是负责任使用AI的关键。
AI既是盾牌，也是武器。首席信息安全官（CISO）肩负着利用这项技术保卫企业的重任——他们或自建AI工具，或借助供应商的AI能力，或在市场上寻找新的解决方案。然而，就在他们不断拓宽安全护城河的同时，威胁方也在想方设法利用AI绕过这些防御。AI驱动的攻击在数量和复杂程度上都在快速增长。
业界普遍信奉一句箴言：“要么拥抱AI，要么落后挨打。” 这句口号往往伴随着铺天盖地的营销承诺，声称能让CISO及其企业始终领先一步。当网络安全领导者们穿越这轮炒作周期时，显而易见的是，GenAI（生成式AI）在某些方面确实兑现了承诺，但在另一些方面却未能达到预期。
《InformationWeek》采访了四位网络安全专家评估这项技术的性能如何，以及用户希望它在哪些方面继续改进。
一、 AI在网络安全中的有效用例
AI作为编程工具备受瞩目，网络安全团队也以此身份加以利用。
约翰·迪尔公司（John Deere）总监兼副首席信息官Carl Kubalsky（卡尔·库巴尔斯基）说：“我的工程师们会使用GitHub Copilot等工具来构建我们在各团队中运行和使用的软件。”
Threat Hunter（威胁猎人）也借助AI增强自身能力。例如，可以部署AI工具去捕捉“大海捞针”式的异常，这些异常情况可能会被人眼忽略。
MIT（麻省理工学院）斯隆管理学院的高级讲师兼首席研究科学家Keri Pearlson（凯丽·珀尔森）说：“无论文字是白色还是黑色，它都能看见，因此我们不会看到白色文本在白色背景上或黑色文本在黑色背景上。有些恶意行为者会把恶意代码的文字颜色设成与背景相同来隐藏代码，这是一个例子，说明该技术如何能够帮助查找可能嵌入在文档或钓鱼邮件中的恶意软件。”
AI还能帮助威胁猎手更快行动，并更好地应对企业面临的海量威胁。以John Deere为例，该公司拥有一个代理安全运营中心，可协助分析师。它能给工单提供上下文信息，并提供分析师下一步应采取行动的见解，不过最终如何行动仍由人类决定。
Kubalsky说：“借助AI加人类，我们能捕获更多威胁。随着威胁形势不断上升，这种做法越来越必要。”
在分析软件公司FICO，网络安全团队已成功将AI用于威胁建模。据首席信息安全官Ben Nelson（本·纳尔逊）介绍，该团队负责确保交付给客户的软件安全且完整；并且在设计阶段，安全架构师会寻找潜在缺陷。
他说：“我们能够做的是，将历史上所有已完成的威胁模型进行收集，并在内部训练模型。”
根据Nelson的说法，人工智能已经将人工安全架构师从威胁建模过程中解放出来，减少了约80%的人力劳动，更快的威胁建模意味着更短的开发周期。
FICO的红队也使用AI工具为测试打造定制化基础设施。Nelson解释道：“他们采用了一种生成式AI模型，实际上生成的是作为代码片段的基础设施，这帮助他们更快搭建这些定制环境，从而进行快速测试。这是我们在生成式AI方面的又一重大胜利。”
FICO的网络安全团队还利用生成式AI在历史日志数据中识别攻击模式，然后将这些发现与行业数据相关联，以评估如果安全事件没有被预防可能会造成的损失。
Nelson说：“从商业工具的角度看，这很有意思，因为它让我们回溯并量化那些本可能发生的事件的成本，从而帮助证明网络安全投入的合理性。”
二、 AI在网络安全领域亟需改进之处
随着首席信息安全官（CISO）将AI工具纳入战略，技术距离兑现厂商承诺和满足用户需求的差距也愈发明显。
数据依旧是根本难题。要想用好AI工具并达到预期效果，必须先有扎实的数据治理，向数据资产投入大量解决方案并不会立刻见效。
Kubalsky说：“我认为市场上有时一些花哨的东西会做出这种承诺，但我不买账。你必须从根本上解决那些传统挑战：把数据整合好、把合适的数据治理落地、在合适的时间把合适的数据提供给合适的AI，才能得到想要的结果。”
借助AI部署新的网络安全措施是可行的，但存在局限性，其中之一就是AI“撞墙”却不自知。Kubalsky指出：“生成式AI目前面临的一个有趣的挑战是，它无法表达自己不知道如何处理的情况。”
Nelson也表示，AI驱动的网络安全工具尚未带来他希望看到的预测能力。
他解释称：“我们其实特别渴望技术厂商能提供一套更具预测性的AI系统，它能拿历史数据去对照实时威胁。该系统应把两者关联起来，尝试预测潜在入侵事件，我还没看到AI应用于此并取得有效成果。”
Nelson还提到，过去一年半里被热炒的“生成式AI搜索”功能，实际在网络安全工具里表现平平。
他说：“几乎每家网络技术厂商都在搜索界面添加了生成式AI搜索功能，但功能非常初级，从调查角度看，它并没有为我的团队增加太多价值。”自最初的营销热潮以来，他也没见到太多改进。
信任问题在AI领域日益凸显，网络安全场景也不例外。Lena Smart（莉娜·斯马特）曾任首席安全信息管，现任AIUC-1（一家制定AI自主智能体标准的联盟）大使。她希望供应商对标准负责任，而不是向用户抛出一堆不透明的承诺。
Smart说：“总是说‘相信我们，别担心’、‘你的数据在我们这儿很安全，别担心’。给我看看你们的供应链风险管理审计报告，告诉我我的数据流向哪里……谁有权限？他们在上面做什么？”
Nelson指出，各家厂商在信任方面“参差不齐”。他说：“很多厂商甚至不通知我们就启用AI接口，这相当可怕，因为我们不知道他们如何使用我们委托给他们的数据。这些数据可能被用来训练模型，或与其他客户的数据混用。”
三、 CISO（首席信息安全官）的前进道路
随着解决方案与威胁持续演进，AI仍将是首席信息安全官们的优先事项。他们希望减少试错时间，尽快知道什么有效、什么无效。Kubalsky说：“加快评估节奏，我们已经着手在做。”
加速拥抱AI有助于组织押注市场上不断涌现的新能力。Kubalsky的团队一直在关注该领域的初创公司，这种前瞻思维至今为止收效良好。他说：“大约两年前，我们就开始接触深度伪造检测初创公司，因为我们预见到深度伪造和欺诈会愈演愈烈，这个押注我们押对了。”
尽管新工具令人兴奋，首席信息安全官及其团队仍需对供应商以及所使用的内部AI工具加强问责。Smart经常收到供应商的提案，并要求他们解释数据将如何使用，谁将访问数据，以及合同结束后数据将如何处理。她说：“如果他们不能立刻给出肯定、清晰、毫不犹豫的答复，通话就结束了。”
在Nelson希望追加的所有资源中，人才排在首位。他说：“既然供应商给不了我们想要的东西，我们就得自己下场做创新和工程。”
尽管AI可能取代部分人力，但在网络安全领域，人仍是负责任使用AI的关键。Pearlson说：“我认为到2026年，管理者会对希望引入组织的AI环境拥有更大的控制权。”
作者：Carrie Pallardy（卡丽·帕拉迪）
译者：木青 审核：@lex
