Новости
Архитектура поддержки на миллионах диалогов: разделение поиска, действий и генерации
На примере сервиса бронирования жилья авторы разбирают переход от единой модели к ограниченному оркестратору типизированных операций и генератору, опирающемуся на проверенный контекст; эффекты архитектуры оцениваются отдельно от сопутствующих изменений. В повторно воспроизведённых диалогах выросла точность выбора брони, исчезли ошибки в структурированных действиях и сократились эскалации; оптимизация также уменьшила задержку и затраты на обслуживание модели, тогда как объём передачи диалогов операторам в продакшене существенно не изменился.
