为什么 AI 代理不是你的架构师

Protocols2026年5月25日星期一

重新思考商业中的代理协议和安全性

Aleksey KlempnerCTO.LA

冰淇淋、悬疑与 Salt & Straw 的 A2A 协议

当我坐在 Abbot Kinney 的 Salt & Straw，享受着一支海盐冰淇淋甜筒，舌尖上的甜与咸的奢华交融，我发现自己在思考同样双刃剑的现实——Agent-to-Agent (A2A) 协议的出现，使 LLM（大规模语言模型）能够在没有人工监管的情况下决定系统架构。在围绕这些 AI 协议的辩论和批评旋涡中，存在着一种紧迫感，类似于 Salt & Straw 在冰淇淋行业的革新——基础性，然而可能对自身的好处太过大胆。

AI 代理是否应该被信任为架构师？

Salt & Straw 的美食革命反映了 AI 协议中的一场巨大变革，LLMs 从曾经的助手或副厨，逐渐被期望可以编写甚至重写系统架构的配方。尽管这些代理在利用当前的 Model Context Protocol (MCP) 访问工具方面非常娴熟，但让他们起草建筑蓝图仍然是一场争议性赌注 [5]。

代理协议的角色 - MCP 和 A2A

我们正在经历一场类似 DIY 烹饪运动的浪潮，MCP 和 A2A 是旨在简化 AI 代理如何与工具集成的架构框架 [2]。然而，将设计决策委托给 LLM 就像让你的海盐冰淇淋来决定菜单，令人欣喜却也充满风险。

由于 MCP 风格的协议充当这些集成桥梁，因此出现了一种恐惧，担心我们无意中让这些模型拥有过多的自由权。就像一支留在阳光下的冰淇淋甜筒，过度的自主权可能导致系统完整性和安全的灾难 [5]。

当框架允许的超出应有的范围

想想今天的商业架构。它建立在创新协议的平衡基础上，这些协议将客户界面与后端操作等一切整合在一起。然而，最近发布的批评指出，这些协议在过于高的位置上增强了 AI 代理的力量。这些工具代表了进步，但也引发了代理横行的意外后果的警报 [3]。

协议驱动的自主性：崩溃

OpenAI、NVIDIA 等公司的协议标准化了工具使用，并在代理系统内部简化了通信 [2][3]。然而，在这些范式下提供的放手部署，使商业品牌冒着端点安全漏洞的风险，类似于在没有障碍的情况下将应用控制权交给后端系统。AI 不是你的 CTO，而是你 CTO 工具箱中的一种工具，缺乏判断能力却具备强大的能力 [6]。

工具丰富的代理背后的安全危机

跳到一个现实，自主运行的代理正在连接到商业后端。这里的承诺与陷阱是鲜明的：AI 赋予了执行之前被认为过于复杂的操作的新能力。RAMPART 和 Clarity 是微软在开放源代码上的努力，旨在通过建立安全检查来可靠地利用这一力量，意识到代理自主性的风险在不断加大 [1]。

商业协议受到攻击

允许 LLM 具有完全自治权会创建一个系统，其中架构开始反映“黑箱”现象——做出但不被理解的决策，被保护但不完全的安全。这呼应了现如今代理可以转变为数字商业中的重大威胁向量，就像让孩子在糖果店中独自在设置路线 [5]。

工具真相：隐形的安全层

步入技术协议辩论就像走入 Mariscos Jalisco 餐车的高流量队伍，快速服务的活力与获得完美 tacos 的赌注相辅相成。在这里，我们看到了真正的风险：商业协议的整合可能意味着成功的整合，同时由于错误的自主权居于隐蔽的脆弱性之中 [5]。

协议	工具整合	潜在风险
OpenAI MCP	无缝	权限过大的代理，失去对进程的控制
NVIDIA ADK	已验证的技能	由于过度信任导致的安全漏洞，未经授权的操作

自主混乱的唯一借口

在客户互动失误的时刻，并不是希望拥有更安全、更人性化的协议的时候；而是提醒我们，即便在完美整合之中，监管是至关重要的。因此，供应商解决方案必须将协议优势与切实可行的保护策略相结合，减轻自动生成的系统修改带来的小罪恶 [3][6]。

批评代理性虚荣的虚假主张

仔细观察，你会看到清晰的警示故事：今天的架构并不是没有陷阱的进步。真正的危险在于，每一次试图用更多的代理控制来充实系统都是一种错误的自信的表现。这意味着一种地位，就像给某人一个完美的冰淇淋球，而实际上却可能使代理陷入自夸的混乱之中 [4]。

滥用框架如同早期的 LLM 代理

区分依然清楚：真正的代理培养进步意味着遵循最佳实践。每个“病态”的妥协都强调了代理必须受到控制的真相，充分意识到他们所完成的工作，但在设计领导角色方面完全受制于约束。尽管有诱惑，但对 AI 指挥官角色的过度宣传是必要的。在数字堆栈之间平衡效率和更广泛的 AI 驱动转型的商业品牌面临着这样的警示 [4]。

因为人类的判断超越样式与协议

最终，没有任何协议能替代人类在多年的经验中磨练出来的成熟判断——这一理念如同我对 Salt & Straw 完美海岸甜筒的热爱一样明确。尽管自动化和 AI 技术日益强大，平衡系统的神圣智慧仍然是指引商业安全发展的关键。不啻于引导一种口味的完美节奏，AI 是强大的但绝不应失控。

架构优雅、结构化数据洞察和代理辅助执行的结合，是零售商工具包中所需的一切。但要使其如歌般和谐，每个参与者，就像最佳冰淇淋中的成分，必须通力合作，绝不将结构权力只交给自主代理。

这对你的品牌意味着什么

优先考虑人类管理的系统：将 LLM 作为预测分析或客户支持的一部分可以提升操作，但核心系统设计必须保持以人为本。
谨慎部署 MCP：确保工具与代理的协调保持透明且可追溯。理解工具调用日志并维护访问边界 [5]。
加固 IAM 协议：鼓励建立稳健的审计记录，并定期审查代理和协议身份，以消除潜在的“暗物质”。
坚持可观察性：随着系统变得愈加复杂，要求在代理生命周期内的操作中提供更好的透明度 [6]。

通过强调这些专注的策略，品牌可以安全地拥抱技术变革，而不牺牲控制或安全，正如你最喜欢的西区冰淇淋店所精心挑选的口味一样。

参考文献

commerce-ai
agent-protocols
Ai-security
agentic-commerce