隨著大語言模型與深度學習訓練走向常態化，企業算力架構迅速由傳統單機伺服器演進為跨地端機房與公有雲的大規模分散式 GPU 叢集。然而，基礎設施規模擴張的同時，底層容器編排、異質硬體調度以及跨雲環境的維運複雜度，正成為技術團隊面臨的首要工程瓶頸。
Flotrend AI 正式引進業界領先的 Rafay 雲原生算力維運平台，為現代化 AI 工廠與大型企業量身打造端到端的 Kubernetes 自動化管理方案，將算力調度與叢集維運推向標準化與自動化。
企業算力維運三大核心痛點
- 跨混合雲多叢集管理壁壘：企業常同時使用本地端高算力機房與多家公有雲資源，環境差異造成配置孤島與維運標準難以統一。
- 異質 GPU 算力調度複雜：不同架構、不同世代的 GPU 算力缺乏統一排程機制，容易發生算力碎片化與配置不均的狀況。
- 基礎架構與模型部署週期漫長：AI 研發團隊需花費大量時間等待機房與環境配置，無法專注於模型訓練與演算法驗證。
Rafay 核心技術特色與架構優勢
1. 單一控制台統一納管跨雲 Kubernetes 叢集
無論是部署於地端機房的裸機 Kubernetes，或是 AWS EKS、Azure AKS、Google Cloud GKE 等雲端託管服務，Rafay 提供單一管理介面，集中執行叢集生命週期管理、版本升級與安全政策下發。
2. 異質 GPU 叢集智慧排程與自動化工作負載
深度整合 AI 訓練與推論工作流，支援異質硬體的自動化分配與任務排程，自動識別負載特性並分派至最合適的算力節點，杜絕算力資源閒置。
3. 動態 vGPU 虛擬化切割與資源隔離
提供靈活的 GPU 虛擬化與切片管理能力，可依研發專案與任務需求，即時將實體 GPU 切割為多個獨立虛擬 GPU（vGPU），在保障工作負載互相隔離與安全的前提下，大幅提升單卡算力利用效率。
4. 研發團隊自助式工作流與企業級安全管控
內建 Role-Based 權限存取控制（RBAC）與零信任安全架構，讓演算法工程師與研發團隊能以自助服務形式快速取得計算環境，同時確保底層網路與系統合規標準。
預期導入效益
- 維運人工作業減少 70% 以上：以宣告式自動化機制取代繁瑣的手動腳本設定。
- 縮短 AI 環境準備時間：新專案與模型部署週期從數週縮短至數小時以內。
- 跨環境無縫遷移算力負載：地端與多雲間彈性調配，確保核心 AI 任務高可用運行。