跳到正文
原文
AWS Machine Learning Blog· Srinivas Kini·· 3 小时前AI 评分26

Postman 如何在 Amazon Bedrock 上为 4000 万开发者运行 Agent Mode

How Postman runs Agent Mode for 40 million developers on Amazon Bedrock

AI 导读

Postman 披露其 Agent Mode 在 Amazon Bedrock 上的生产架构:通过向量数据库把 170 多个工具按任务动态收窄到约 15 个,因为测试显示可见工具超过约 40 个后工具选择错误率上升。该架构还采用 schema 化读取、按地理范围限定的跨区域推理、依赖模型的零数据保留和多层提示词缓存,并要求修改应用状态的操作须经用户批准。

来源:AWS Machine Learning Blog · aws.amazon.com