AI Engineer智能体正处在2015年微服务的阶段——Navan的Roberto Milev与Uday Kanagala谈AI代理的授权边界
Navan的AI工程师Roberto Milev与Uday Kanagala在访谈中,将当前AI代理的发展比作2015年的微服务,强调构建单一代理而非过早拆分。他们讨论了代理授权边界的模糊性,以及如何通过前后置钩子、技能加载和置信度评分来确保安全与可控性。
在AI工程领域,代理(Agent)的构建正面临关键抉择。Navan的Roberto Milev与Uday Kanagala在访谈中提出,当前AI代理的发展阶段类似于2015年的微服务——当时业界建议除非必要,否则不要拆分单体应用。同样,对于代理,如果单一代理循环能够满足需求,就不应过早引入多代理架构。这一类比为中文AI开发者提供了重要参考:在追求复杂代理系统前,应评估是否真的需要。
访谈的核心围绕代理授权边界展开。当代理代表用户执行操作时,例如自动预订机票,责任归属变得模糊。Navan作为差旅费用管理公司,必须明确代理是代表用户还是服务账户行事。传统的用户/服务主体模型已不适用,需要新的授权框架。这提醒中文AI从业者,在部署代理时,必须考虑法律与合规风险。
Navan的解决方案是在每次工具调用前后设置护栏,而非仅在系统边缘。他们通过钩子拦截每个工具调用,记录目标、推理和置信度评分,从而将推断结果路由给人类审核。这种细粒度的监控机制,对于处理高价值或不可逆操作至关重要。中文开发者可以借鉴此模式,增强代理的可信度。
此外,Navan采用主代理渐进加载技能的方式,将技能视为可插拔的上下文单元。这种设计使得每个技能可以独立测试和优化,降低了系统的复杂性。对于中文AI团队,这意味着在构建代理时,应注重模块化,以便于维护和扩展。
最后,访谈指出日志在代理场景下的失效问题。由于代理产生大量思考,传统日志难以追踪。Navan通过钩子输出结构化信息,实现了可观测性。这为中文AI工程实践提供了启示:在非确定性系统中,需要设计新的日志与监控策略。