AI 地端模型部署與管理

曙晴
38
・2026/11/16 更新
38
・2026/11/16 更新
公司伺服器架設AI 系統開發AI 模型部署

服務內容

協助企業與團隊在自有伺服器部署及管理大型語言模型(LLM)。具備在搭載 4 張 NVIDIA H100 GPU 的 Dell 伺服器上部署模型的實務經驗,曾成功整合 LLM API、開源 LLM API Gateway 與模型載入及推論服務。 服務涵蓋裸機(bare metal)主機建置、Ubuntu 安裝與環境設定、NVIDIA GPU 驅動安裝及運作驗證。依現有硬體與用途部署模型,設定推論服務與 API Gateway,並以 LLM API 實際進行問答測試,確認應用程式可透過 API 呼叫模型。

使用的技能專長

Ubuntu
NVIDIA GPU
LLM API
地端 LLM 部署
API Gateway

關於專家

公司資訊:統編 90066360

查證 曙晴科技有限公司 →
9提案數
0諮詢數
0成交數
0%回覆率

曙晴科技位於台中,提供遠端合作。我們幫商家與中小企業把分散在 LINE、表單和試算表裡的會員、預約與訂單流程,整合成日常用得上的系統。 【可以委託我們的工作】 ・LINE 會員與預約:LINE Login、官方帳號串接、會員管理、線上預約與通知。 ・企業與電商系統:客製網站、管理後台、訂單與庫存、物流、金流與電子發票串接。 ・AI 應用:客服與文件知識庫問答、文字與語音翻譯,或將重複作業自動化。導入前可一起評估使用情境、成本與維護方式。 【作品】 ・IndoPal:中印雙向 AI 翻譯,整合 LINE 會員、LINE Pay 與電子發票。 ・賣家管理系統:從商品選購前台,到訂單、庫存、物流與綠界金流的後台流程。 【合作方式】 先了解您現在的做法和想改善的環節,再確認功能範圍、時程與報價;按階段交付及驗收,最後協助部署與上線。也可以先從單一功能或既有系統串接開始。 歡迎先透過 Tasker 聊聊告訴我們:您想改善什麼、目前用哪些工具、希望何時上線。也可透過官方 LINE:@dawnshine-ltd。

查看工作室