为 AI 在网络安全中的未来做好准备
如今，AI 已成为大众关注的焦点。大型语言模型 (LLM)，例如为 OpenAI ChatGPT 提供支持的模型，激发了人们的想象力：我们将见证使用生成式 AI 来构建创新解决方案的新可能性。
作为安全专业人员，我们思考的是网络犯罪分子如何利用 AI 设计新型攻击并强化现有攻击手段。同时，我们还在思考防御性 AI，探索如何利用 AI 来优化检测和抵御威胁。
但太多企业只关注 AI 当前，或短期内有什么作用。很少有企业展望 AI 在未来 5 年、10 年或 20 年内可能会对商业和生活 产生怎样的巨大影响。不过，我们需要设想这样的未来，因为若要做好充分准备，必须现在就开始规划。
理解当下，展望未来
AI 仍然是一项有点不成熟的技术。虽然机器学习 (ML)相对更加成熟，但其应用仍处于早期阶段。如今，企业主要是收集数据并进行基本分析。一些企业正在尝试使用 LLM 生成文本，或使用融入 AI 的设计工具创作独特的插图。但真正的 AI 推理目前尚未实现：即使某些供应商声称能够做到，但模型无法根据实时数据得出结论或生成有意义的见解。
当我们尝试将 AI 和 ML 用于生成文本或图像之外的用途时，很显然，模型不具备这种推理能力。我在攻读数据科学和机器学习硕士学位期间，曾参与了一个项目，当时是尝试预测哪些棒球运动员会入选名人堂。我们创建的模型发现，最主要的预测指标是打数（球员职业生涯期间的击球次数）。职业生涯越长，打数越多，入选名人堂的可能性就越大。
这是一个有趣的结果，但模型却无法据此生成任何见解。模型无法告诉我们，为什么打数可能是最佳预测指标。然而，我们人类意识到，想要拥有长久的职业生涯以及很高的打数，则必须成为一名优秀的球员。而且如果拥有很多打数，更有可能获得相当可观的安打和本垒打。
如果模型开始理解含义并具备推理能力， 届时我们将看到 AI 带来更显著的影响。
鉴于 AI 的发展速度，推理能力会在不知不觉中实现。想一想 LLM 在过去几年取得的进步。它们已经从提供基本的文本补全功能发展到支持强大的基于文本的对话，考虑长提示、接受视觉输入并保留会话之间的上下文。同时，计算机能力的不断提升，使模型能够快速获取越来越多数据并从中学习，这反过来又帮助模型生成更优质、更准确的结果。
20 年后，AI 和其他先进技术可能会在很大程度上重塑世界。例如，拥有汽车的人可能会减少，因为到那时人们可以按需呼叫完全自动驾驶的汽车。杂货购物、房屋清洁、割草和其他日常工作可能会因技术而简化。
没错，未来 AI 可能会改变目前的许多工作。例如，在科技行业，可能不再需要编写代码。但我们仍然需要人们了解如何设计基于 AI 的解决方案来满足业务需求，如何管理这项技术，以及如何保障其安全。
迈出制定长期战略的第一步
如今，如何开始制定战略，帮助企业在未来实现 AI 的价值最大化？
理解技术：制定长期 AI 战略的第一步是充分了解这项技术，以便能够加以利用。您不必成为成为数据科学或机器学习专家。但作 为安全领导者，您应该了解攻击者如何使用 AI，以及您的团队如何利用 AI 来预测和防范这些攻击。您还应该开始思考公司如何汇总数据集，这是 AI 和机器学习发挥作用的必要条件。然后，您需要保护这些汇总的数据集。
规划支持业务用例：如今，一些企业非常渴望采用 AI，以至于它们立即聚焦如何选择最佳的机器学习模型。然后，他们尝试寻找需要解决的业务问题。但这有点本末倒置，其实应该首先确定需要解决的业务问题。以业务问题而不是技术问题为主导，这一点至关重要。
哪些类型的业务问题可能适合采用 AI？许多重复性任务已交由 AI 处理，例如总结会议或响应初始客户服务请求。
未来，企业可以在各种场景使用人工智能和机器学习，其中的模型能够从经验和外部输入中学习更多内容。例如，在银行业，反诈骗团队可以利用 AI 从实际结果中学习，从而提高欺诈检测的准确性。此外，各行各业的营销团队可以利用 AI 简化内容创建：他们可以输入写作偏好和风格，然后提供反馈，供模型用于改进后续结果。
作为安全领导者，我们需要开始规划这些以及其他业务用例。我们需要找到方法，帮助业务团队将 AI 融入其工作流程，在不损害合规和安全的情况下解决业务问题。
构建现代化网络安全体系以迎接 AI 未来
为了准备迎接 AI 的未来，我们需要实现安全现代化，而且必须立即开始。许多安全团队仍然沿用过去 15 年或 20 年的传统工作方式。他们应对最新的威胁并实施多点解决方案来弥补漏洞。但这种方法导致了如今的处境：每天的数据泄露事件越来越多。我们需要减少对下一个优秀单点产品的迷恋，更加专注于履行“保护客户、员工和公司”的使命。
在安全团队落后的情况下，攻击者却在迅速前进。在不久的将来，我们将会看到更多攻击者尝试利用未纳入网络安全模型的数据，绕过用于网络安全的 AI 模型。我们还会看到由 AI 驱动的恶意软件能够从防御方法中学习，并快速改变其攻击手段。
要实现安全现代化，必须重新思考需要哪些工具、技能，以及工作方式。设想 5 年、10 年或 20 年后的场景，这将有助于我们明确当下需要做什么。以下是关于如何开始的 4 项建议：
部署适当的技术和工具：实现安全现代化需要采用先进的工具。企业需要能够自动预测和检测由 AI 驱动的新型威胁的技术。今天，如果我们发现一个新的 IP 地址试图通过 VPN 连接到 Cloudflare，我们的 SOC 团队可能必须编写一个静态规则来阻止访问。在这种情况下，我们是在解决一个具体问题，而不是解决一个更宏大的问题。
未来，我们可能会使用内置的人工智能和机器学习功能，用于自动识 别并缓解这些类型的威胁。具备 AI 功能的工具也可以帮助我们简化合规。我们可能拥有一些工具，能够在新法规出台后建议修改控制措施或安全策略。解决技能差距：由于 AI 将接管一些低级别任务，IT 团队和安全团队需要具备更高级技能的人员。IT 团队需要掌握数据科学、机器学习和神经网络方面专业知识的人员。
同时，IT 团队和业务团队需要特定行业专业知识：例如，如果要运用 AI 来优化医疗决策，则需要与医疗专业人士合作。数据科学应该是计算机科学、数学、统计学以及行业知识的交叉学科。
安全团队需要能够解读 AI 模型生成的结果，以及确定应该如何调整策略或政策的人员，以应对不断演变的威胁。我见过的最常见错误之一，是在不理解其含义的情况下，听信模型输出结果。还记得那个棒球名人堂的示例吗？如果只听信输出（认为打数是预测入选的最佳指标），年轻球员可能会认为自己应该只专注于获得最多的打数。事实上，他们应该努力提升自己的各项技能，这样才能拥有一个长久且出色的职业生涯。调整运营方式：安全团队还需要改变其运营方式。未来是否还需要一个由 250 人组成、分布在全球各地、24/7 全天候运营的 SOC 团队？我们可能依旧需要全天候运行，但很可能使用计算机完成许多现有的人工任务，从而将员工精力集中在其他任务上。
5 到 10 年内，我们可能会拥有一个自主管理的 SOC 团队，这意味着，需要 立即开始制定其运营计划。由于安全环境的复杂性，因此，需要这样的提前准备期。保护这些环境本身已经实属不易，而融入 AI 将会变得更具挑战性。
如果采用自主管理的 SOC 可以节省一些时间，我们还需要投入更多时间来维持数据完整性和监管合规。内部使用的 AI 模型越多，需要管理和控制的数据会随之增加。我们需要知道数据在哪里，确保数据准确，以及维持数据机密性。
已经有很多关于 AI 治理的讨论，但最重要的因素是数据。目前已经有许多全球法律规定了如何使用和存储数据，以及在哪里使用和存储数据。安全团队必须确保其所在企业持续遵守数据主权法以及数据隐私法规。如果 IT 团队改变运行 AI 模型的位置，例如将数据从云端迁回本地环境，则可能更加难以满足合规要求。开始整合技术合作伙伴：如果使用来自众多供应商的解决方案，可能非常难以汇总数据并生成所需的 AI 驱动型见解。我们的 IT 和安全环境本身就已经非常复杂，无需管理所有这些不同的解决方案。当企业展望未来时，应该开始整合各种解决方案。与四到五个关键合作伙伴合作，比管理来自 50 个供应商的数据要简单得多。
未来展望和当前规划
AI 已然到来，但我们才刚刚窥见它对工作和生活影响的冰山一角。作为安全领导者，我们必须立即着手规划未来的变革。制定适当的长期战略，我们能够更好地支持内部员工使用 AI 实现业务目标，利用 AI 增强网络安全，以及防范 AI 驱动的威胁。
立即了解 Cloudflare 如何帮助企业在其全球网络中构建并部署 AI 应用，了解如何使用 Cloudflare 全球连通云实现安全现代化，迎接 AI 的未来。
Cloudflare 就影响当今技术决策者的最新趋势和主题发布了系列文章，本文为其一。
深入探讨这个话题
阅读《CISO 指南：保障 AI 实践安全》 ，了解如何为网络安全领域的 AI 未来发展做好准备。
作者
Grant Bourzikas — @grantbourzikas
Cloudflare 首席安全官
关键要点
阅读本文后，您将能够了解：
立即规划，保护 AI 未来发展的重要性
制定长期战略的 2 个首要步骤
关于如何实现安全现代化的 4 项建议