当您掌握如何有效地构建和管理 AI 智能体，它们可以帮助人类团队完成更多的工作。
阅读本文后，您将能够：
复制文章链接
AI 智能体是人工智能的“第三波浪潮”，由预测式 AI和生成式 AI演变而来。这些 AI 驱动的程序不仅仅进行对话。它们能够执行操作。具体来说，AI 智能体可以自主感知环境、做出决策并执行任务。
对于企业管理者及中层管理人员而言，AI 智能体犹如新的团队成员。它们可以帮助团队以更少的资源和更短的时间完成更多工作。例如，它们可以协助处理行政管理任务、改进团队协作，并提升客户体验和个性化。
允许构建 AI 智能体的 AI 开发领域被称为智能体式 AI（agentic AI）。使用 模型上下文协议（MCP） 等标准，AI 智能体可以连接到完成操作所需的外部工具和数据源。
但 AI 智能体无法在真空中存在。尽管它们本质上具备自主性，但与任何其他团队成员一样，它们也需要领导、管理和监督。就像团队中的其他任何成员一样，要实现预期的业务成果，就需要将 AI 智能体整合到现有的业务流程与工作流中，确保它们支持组织的战略目标，而不是造成干扰。
使用人工介入方法的有效 AI 智能体管理能够实现负责任的 AI。应用以下策略，确保智能体专注于实现预期输出目标：
AI 智能体使用的数据必须具备高质量。如果智能体调用的信息过时、不准确，会错误地将其视为标准。不同格式的电子表格或数据列表（如日期或财务数据）也会导致智能体产生混淆。
这一思路也适用于智能体迭代。智能体将会考虑它们获得的来源——如果没有参数，它们可能会搜寻整个互联网以找到正确的解决方案，这可能会导致错误信息的产生。公司可以通过限制智能体可以访问的内容来防止这种情况。
AI 智能体如同新员工：如果它从不学习公司的规则和目标，就很容易违反公司的规则。
系统提示词通过使输出与期望的结果一致，帮助约束智能体。系统提示词通过上下文定义智能体行为，例如智能体的角色、完成任务的说明以及 AI 必须遵循的指引。还可能包含聚焦领域、语气及示例输出等要素。
尽可能使这些指示清晰、具体。矛盾的表述可能会让智能体困惑，例如要求采用“强势、权威的语气，同时又保持友好的态度”。同样，告诉智能体它是某个主题的“思想领导者”的说法过于宽泛，容易引发过多的解读。
企业 AI 智能体最适合处理简单直接的任务。更复杂的任务通常需要多个智能体相互协作，互相监督和支持。智能体还必须能够执行其被要求执行的任务。例如，如果智能体无法访问财务数据，那么请求提供预算预测将徒劳无功。
速率限制有助于防止 AI 智能体过于频繁地执行不当操作。例如，速率限制会阻止智能体重复登录服务或访问敏感用户数据。
由于智能体类似于人类员工，它们必须遵循适当的身份验证和授权流程。使用带有安全加密密钥的客户端凭据来验证智能体的身份。
智能体很少需要访问所有内容。通过为智能体配置契合其特定用途的有限访问权限，让它们专注于目标任务；同时，根据资源、敏感数据及近期操作情况调整权限。例如，您可以授予智能体读取权限，但不授予写入权限，从而防止智能体修改文件。
开发人员可以为其 MCP 服务器配置身份验证和授权，以定义并实施作用域和权限，确保智能体只能执行授权操作。MCP 客户端还可以构建智能体，提示最终用户授予对另一服务的访问权限。如果请求看起来异常或不必要，最终用户可以限制该访问。
同样，智能体极少需要“始终在线”。因此，通过编程设置时间限制可能是有利的。例如，如果它们被用于为即将发布的公告撰写社交媒体文案，它们只需要很短的时间来消化相关新闻，识别先前内容的语气，并撰写合适的帖子。限制访问时间能够降低潜在的网络安全风险。
开放式 Web 应用安全项目（OWASP）是一家致力于提升 Web 应用安全的国际非营利组织。LLM 的 OWASP Top 10 报告列出的一个风险是过度代理。
LLM 应用通常有一些独立的代理，通过采取行动来对提示词做出回应。然而，过度代理可能会导致问题。例如，代理可能会删除文件、共享敏感信息，或者意外地破坏其他操作流程。
为了防止过度代理，开发人员可以限制插件和工具的功能、权限和自主性。例如，他们可以对消息发送或聊天补全等功能设置速率限制。使用 OAuth 2.1 进行授权和身份验证是防止过度代理的另一种有效策略，要求人工授权特定操作也能缓解负面影响。
员工对 AI 智能体的内部运作了解程度将各不相同。他们可能只看到最终结果。如果智能体旨在帮助所有团队成员，则它必须易于使用。
考虑一下 AI 智能体已经能做什么，然后消除任何潜在的破坏性干扰因素或多余步骤。定期查看规则和指南有助于发现智能体系统中的冗余部分。
AI 智能体管理只是解决方案的一小部分，但要成功地将 AI 智能体应用于业务，还需要以自然、顺畅的方式将其嵌入到现有的工作流程中。这些策略有助于促进无缝集成和持续运营：
如果您希望在组织中扩大 AI 智能体的使用和影响，性能跟踪必须是 AI 智能体管理策略的一个核心组成部分。可能的指标包括：
员工也是一个重要的反馈来源。由于他们经常使用智能体，并且拥有一线实战经验，他们可以分享成功案例和潜在挑战，提供行业基准，并为其他人提供参考示例，从而帮助他们轻松使用和管理 AI 智能体。
管理人员习惯于监控人类员工，并定期对他们进行绩效评估。他们必须同样地通过持续执行评估、追踪和故障分析来监控智能体，从而发现常见错误，并帮助“调试”不准确或低效的智能体。
Cloudflare 开发人员平台提供了构建和部署 AI 智能体并保持其平稳运行的工具。其中如下工具特别有用：
在 Cloudflare 上运行 AI 智能体还可以帮助控制成本：Cloudflare 仅对计算时间（智能体思考时）收费，不对挂钟时间（智能体等待时）收费。
准备好了解 AI 智能体如何节省时间并提高生产力了吗？在此构建您的第一个智能体。
AI 智能体可自主运行，从而帮助企业团队以更少的资源和更短的时间完成更多工作。他们可以协助处理管理任务，改善团队协作，并提升客户体验。
为了有效管理 AI 智能体，管理人员应使用高质量数据，并通过系统提示词设置明确的规则、目标和边界。从简单的任务开始，使用速率限制，并制定战略性的身份验证和授权流程。
若要成功集成 AI 智能体，企业需要开展工作流审计，从小规模实施开始，并逐步扩大使用范围。为员工提供培训和资源，鼓励团队沟通，并集成“人工介入”工作流，由专人评估智能体的决策。
通过跟踪以下几个指标来衡量 AI 智能体管理的成功：完成率、智能体完成任务所需的步数和节省的时间。准确性也是一个关键指标，它包括检查智能体是否遵循了指令，以及是否需要人工进行调整。
一个重要的风险是过度代理，指的是智能体行动过于独立自主的情况。他们可能会删除文件，分享敏感信息，或破坏运营流程。您可以通过限制智能体的功能、权限和自主性，并采用速率限制和身份验证来降低这种风险。
Cloudflare 开发者平台提供数个用于构建和部署 AI 智能体的工具，包括：Cloudflare Workers AI，提供全球分布式计算能力；Cloudflare 容器/沙盒，提供安全执行环境；以及 Cloudflare Agents SDK，支持可扩展的安全部署。Cloudflare 还提供 MCP 服务器和门户，这些服务器和门户支持安全身份验证，并提供用于配置服务器的单一门户。