FlowPod AI
首页
智能体正处在2015年微服务的阶段——Navan的Roberto Milev与Uday Kanagala谈AI代理的授权边界
AI Engineer
AI Engineer/未知时间

智能体正处在2015年微服务的阶段——Navan的Roberto Milev与Uday Kanagala谈AI代理的授权边界

AI代理授权边界微服务安全护栏可观测性Navan
中文导读

Navan的AI工程师Roberto Milev与Uday Kanagala在访谈中,将当前AI代理的发展比作2015年的微服务,强调构建单一代理而非过早拆分。他们讨论了代理授权边界的模糊性,以及如何通过前后置钩子、技能加载和置信度评分来确保安全与可控性。

核心观点
1.代理授权边界模糊:当AI代理代表用户执行操作时,责任归属不清,需要重新定义授权模型。(约 0:00)
2.代理发展类比微服务:当前代理应像2015年的微服务一样谨慎使用,优先构建结构化单体代理。(约 5:00)
3.安全护栏置于工具调用前后:Navan在每次工具调用前后设置检查点,而非仅在边缘。(约 10:00)
4.技能作为上下文单元:Navan采用主代理渐进加载技能,技能可插拔且独立测试。(约 15:00)
5.日志与可观测性挑战:代理产生大量思考,需通过钩子拦截工具调用并输出目标、推理和置信度,以便人工介入。(约 20:00)
中文精读

在AI工程领域,代理(Agent)的构建正面临关键抉择。Navan的Roberto Milev与Uday Kanagala在访谈中提出,当前AI代理的发展阶段类似于2015年的微服务——当时业界建议除非必要,否则不要拆分单体应用。同样,对于代理,如果单一代理循环能够满足需求,就不应过早引入多代理架构。这一类比为中文AI开发者提供了重要参考:在追求复杂代理系统前,应评估是否真的需要。

访谈的核心围绕代理授权边界展开。当代理代表用户执行操作时,例如自动预订机票,责任归属变得模糊。Navan作为差旅费用管理公司,必须明确代理是代表用户还是服务账户行事。传统的用户/服务主体模型已不适用,需要新的授权框架。这提醒中文AI从业者,在部署代理时,必须考虑法律与合规风险。

Navan的解决方案是在每次工具调用前后设置护栏,而非仅在系统边缘。他们通过钩子拦截每个工具调用,记录目标、推理和置信度评分,从而将推断结果路由给人类审核。这种细粒度的监控机制,对于处理高价值或不可逆操作至关重要。中文开发者可以借鉴此模式,增强代理的可信度。

此外,Navan采用主代理渐进加载技能的方式,将技能视为可插拔的上下文单元。这种设计使得每个技能可以独立测试和优化,降低了系统的复杂性。对于中文AI团队,这意味着在构建代理时,应注重模块化,以便于维护和扩展。

最后,访谈指出日志在代理场景下的失效问题。由于代理产生大量思考,传统日志难以追踪。Navan通过钩子输出结构化信息,实现了可观测性。这为中文AI工程实践提供了启示:在非确定性系统中,需要设计新的日志与监控策略。

下一集
从Token消耗竞赛到可信吞吐量——Mingsheng Hong谈Ironclad的AI工程实践