种子

15 材料

排序为
新闻26 九月 2026

百万级对话中的支持架构:搜索、操作与生成的分离

以住宿预订服务为例,作者探讨了从单一模型转向受限的类型化操作协调器,以及依托经核验上下文的生成器;架构带来的效果与其他配套改动的影响分开评估。在复现的对话中,预订选择准确率有所提高,结构化操作中的错误消失,升级处理的情况也有所减少;优化还降低了延迟和模型维护成本,而生产环境中转交给人工客服的对话量则基本没有变化。

百万级对话中的支持架构:搜索、操作与生成的分离
读取