[外包接案使用調查]
公告 如何發案 如何接案 幫助中心AI 系統開發
背景:客戶有大量文件與重複的客服諮詢,人工回覆耗時且易漏,目標是讓系統「看得懂文件、答得出問題」。 做法與思考:設計完整 RAG(檢索增強生成)管線——文件切片 → 向量嵌入 → 語意檢索 → 重排序 → 交由 LLM 生成回答。為避免被單一模型綁死,我做了多模型供應商抽象層,可依成本與品質切換不同 LLM,並控管 token 用量、延遲與命中率。 技術重點:Python / FastAPI、PostgreSQL、Embeddings 向量檢索、OpenAI GPT-4o、多模型抽象層、RESTful API + Swagger、對話歷程與用量監控。 成果:把人工客服轉為 24 小時自動應答,大幅降低人力與回應等待。
劉佳政