革新客服體驗:推出四層並發架構,重寫人機對話規則
在多數使用者仍抱怨「機器味」濃厚的今日,卡美洛智慧雲端有限公司 (Camelot Intelligent Cloud Co., Ltd.)準備公布了一套全新的「四層並發可中斷架構」,嘗試讓 AI 客服恢復「人味」。新設計將傳統「聽完再想、想完才說」的線性流程拆分為四個同步運作的模組──感知、應對、深思、表達──讓系統能邊聽邊回應,同時保持深度推理,避免過長的靜默。
即時回應
等待從 8 秒縮短到 2 秒 感知層持續接收聲音與語意並即時判讀情緒;應對層在兩秒內先行回覆「了解,正在為您查詢」,爭取用戶信任;深思層則在背景進行複雜檢索與推演,最後交由表達層根據客戶風格調整語氣與用詞。內部測試顯示,透過這種「聽得到,也回得快」的機制,用戶體驗得分提升近七成。
可中斷思考鏈
對話不再卡住 傳統 AI 一旦開始處理,就難以臨時插題;新架構加入可中斷的 Callback 機制與狀態管理,能隨時暫停當前流程、儲存進度與部分答案,轉而處理突發問題,完成後再「無縫續作」。對於常見的「等等,我還想問──」場景,系統反應更貼近真人客服。
智慧分流
成本降低六至七成 架構同時導入大小模型協作。約 80% 的簡易查詢交由 7B 參數模型處理,僅 20% 困難問題才喚醒 30B 模型,整體算力成本下降 60–70%,服務品質保持一致。設計團隊指出,重點不在硬推極速,而是減少「被等待」的焦躁。
部署與隱私
標準化工具、在地化導向四層並發帶來系統複雜度,企業維運門檻相對提高。卡美洛正開發標準化部署工具與監控面板,並支援完全本地化安裝,方便銀行、醫療等高度監管產業將語音到知識庫全數留在私有網路,避免資料外流。
行業影響
從「準確率」轉向「體驗指標」 分析師認為,若四層並發在商業環境證實有效,AI 客服評估標準勢必加入「自然度」「中斷處理能力」「情緒適應度」等指標,從「技術至上」走向「體驗至上」。歡迎有興趣合作的對象前來聯絡。