AI 維運工程師

Job description

【職務簡介】 負責 AI/ML/GenAI 模型在生產環境中的部署、監控、自動化（MLOps CI/CD）與性能優化。此角色專注於 MLOps/AIOps 實務落地，確保 AI 推論服務的高可用性、低延遲與可擴展性。 【工作內容】

• 設計、建置與維護全自動化的 ML Pipeline (CI/CD/CT)，包括模型訓練、版本管理、測試與部署，以實現數據產品上線流程管理。
• 設計與優化 AI 推論服務的 API 架構，確保服務高可用性、低延遲、並具備完善的錯誤處理機制。
• 實作 AI 共用模型（如 LLM）、RAG 檢索服務與 Agent 執行環境的部署與維運，並執行高效能 LLM 推論部署與模型加速優化（如模型量化、vLLM、Ollama 等）。
• 建立 AI 推論服務（ML/DL/GenAI）的容器化與擴容機制（Docker, Kubernetes, Serverless），滿足業務需求。
• 維護與管理 MLOps 平台工具及雲端數據平台 AI 應用服務之日常管理維運（AWS/GCP 等），並建立 GenAI 服務的專屬監控指標（如 Token 費用、延遲、RAG 檢索效率）。
• 研究人工智慧平台、管線化、部署及 GPU 加速等技術與應用發展趨勢。
• 與 AI、應用開發、資訊工程部門協作，確保 AI 系統生命週期管理與維運流程符合架構設計與治理要求。