FlowPod AI
首页
别再给智能体塞工具了,给它一个沙盒:Mikyo King 谈 Code Mode
AI Engineer
AI Engineer/未知时间

别再给智能体塞工具了,给它一个沙盒:Mikyo King 谈 Code Mode

AI AgentCode Mode沙盒工具调用上下文工程Arize AI
中文导读

Arize AI 的 Mikyo King 在 AI Engineer 演讲中提出,传统工具调用型智能体把大量工具目录和原始输出塞进上下文,既浪费 token 又增加出错概率。他主张改用 Code Mode:给智能体一个沙盒环境,让它在其中写代码调用工具、处理数据,从而把上下文留给真正重要的推理。

核心观点
1.传统 tool-calling 智能体把完整工具目录和原始返回结果都塞进上下文,导致上下文膨胀、推理质量下降。(约 0:00)
2.Code Mode 的核心是给智能体一个可执行代码的沙盒,让它用代码而非 JSON 工具调用来完成任务。(约 5:00)
3.在沙盒中,智能体可以组合、循环、过滤工具输出,只把精炼结果带回上下文,减少 token 消耗。(约 10:00)
4.这一范式把工具使用从“选择工具”转变为“编写程序”,更贴近真实工程问题的解决方式。(约 15:00)
5.沙盒带来安全与可观测性挑战,需要配套的隔离、权限和审计机制。(约 20:00)
中文精读

当前主流智能体框架大多围绕 tool calling 构建:把一长串工具定义放进系统提示,模型每步选择一个工具并接收原始输出。Arize AI 的 Mikyo King 在 AI Engineer 的这场演讲中指出,这种做法在工具数量增多时会迅速失控——工具目录本身占据大量上下文,原始输出又常常冗长且无关,模型不得不在噪声中做推理。

他提出的替代方案是 Code Mode:不再把工具当作需要逐个挑选的 API,而是给智能体一个沙盒,让它在其中编写并执行代码来调用工具、处理数据。代码天然支持组合、循环、条件判断和中间结果过滤,智能体可以把多步工具调用压缩成一段程序,只把最终的精炼结果带回上下文。

这对中文 AI 工程读者有直接参考价值。随着智能体从演示走向生产,上下文预算和工具编排复杂度成为主要瓶颈。Code Mode 把“工具选择”问题转化为“程序合成”问题,让模型复用其代码能力,也让工具生态更容易扩展——新增工具只需在沙盒中可用,而不必全部塞进提示词。

当然,沙盒并非免费午餐。执行任意代码带来安全、权限和资源隔离问题,也需要更完善的可观测性来追踪智能体到底做了什么。演讲的价值在于把一个工程直觉讲清楚:与其不断给智能体塞更多工具,不如给它一个可控的执行环境。

下一集
为什么我们还在用管理软件的方式治理 AI 智能体?——Tim Tyler, Gravitee