ByteByteGo梳理AI系统六种编排框架与六项降本方法
ByteByteGo在最新一期系统设计简报中列出LangGraph、CrewAI、微软Agent Framework、OpenAI Agents SDK、Google ADK、Claude Agent SDK六种编排框架的实现方式，并给出提示缓存、模型路由等六种降低AI成本的常用手段。
AI解读：ByteByteGo称，AI系统中的编排负责跨智能体管理任务、处理失败以及共享记忆与上下文。
简报分别描述六种框架的做法：LangGraph用图结构，CrewAI用角色抽象，微软Agent Framework面向组织工作流，OpenAI Agents SDK由LLM驱动运行时，Google ADK采用混合控制，Claude Agent SDK不设独立编排层。
降本方面列出六种技术：提示缓存、模型路由、批处理API、语义缓存、裁剪上下文、使用更小的模型。
简报还顺带拆解SQL查询的执行流程，以及Claude Code处理一次请求的八个步骤。
内容以框架介绍和流程示意为主，未给出各框架的对比评测数据或成本节省比例。
ByteByteGo在EP232系统设计简报中整理了AI系统中六种常用编排框架，并附上六种降低AI成本的技术。该期简报将编排定义为跨智能体管理任务、处理失败、共享记忆与上下文。
同一期简报还介绍了SQL查询在数据库内部的执行流程，以及Claude Code处理一次请求的步骤。
六种编排框架各自的做法
简报对每个框架给出一句实现方式的概括，未做横向性能比较。
- LangGraph：采用基于图的技术，工作流表示为节点，边决定状态转移。
- CrewAI：采用基于角色的抽象，为智能体指定角色和目标，任务可顺序执行，也可经由管理型智能体协调。
- 微软Agent Framework：面向组织工作流设计，同样使用图结构，内置分支、检查点和人工介入暂停。
- OpenAI Agents SDK：采用LLM驱动的运行时，由智能体自行决定把控制权交给其他智能体，还是保留执行以完成任务。
- Google ADK：采用混合控制方式，开发者定义任务执行策略，根智能体拆分任务并分发给子智能体。
- Claude Agent SDK：不设独立的编排层，编排发生在智能体内部，由它收集上下文、使用工具、评估并持续运行，直到不再需要调用。
六种降低AI成本的技术
简报称AI账单可能快速增长，并列出六种常见做法。这些是方法介绍，来源未提供具体节省金额或比例。
- 提示缓存：缓存系统提示、工具schema等稳定前缀，使共享前缀的请求跳过重复计算。
- 模型路由：将简单查询交给小模型，将困难请求交给前沿模型。
- 批处理API：先批量收集请求再异步处理，提供商通常对批处理请求提供折扣。
- 语义缓存：用嵌入模型缓存查询，命中时复用已存答案，不再调用模型。
- 裁剪上下文：精简对话历史，避免每次发送完整对话。
- 使用更小的模型：通过蒸馏或量化把大模型转为更小的模型。
简报附带的流程拆解
同一期简报还拆解了两条流程。SQL查询依次经过解析与校验、重写与转换、优化并选择执行计划、执行计划树、访问缓存与存储、返回结果行。Claude Code处理一次请求则分为八步：用户经界面发送提示，界面包装仓库与文件上下文交给智能体循环，循环规划并提议动作，权限系统校验，获批动作变成工具调用并派发，工具在执行环境中运行，结果返回循环，循环持久化该轮并流式输出最终消息。简报称整个系统就是这一循环，直到模型不再请求工具。