DevOps

需求說明

背景 目前有一台具備 ASUS Ascent GX10，裡面晶片是NVIDIA GB10(Grace CPU+ Blackwell GPU) 的工作機，Operating System是NVIDIA DGX OS需求如下： 1. 在同一台機器上部署多個服務（Web、API、AI 推論…） 2. 需要從外部網路遠端存取與管理該機器 3. 存取方式需具備良好安全性（避免裸露 SSH / API 於公網） 4. 已擁有一個可控網域名稱 希望將此工作機建構為一個 小型私有雲 / AI 工作節點，以現代雲原生方式管理。 目標 1. 建立一套 單節點 Kubernetes 叢集（k3s） 作為部署平台 2. 以 Cloudflare Tunnel + Zero Trust 實現： 不開防火牆 port 不需要 VPN 仍能安全地從外部使用 kubectl 管理叢集 3. 支援多個服務並行運行（app / api / ai-inference），並可依網域分流 4. 將 GPU 納入整合，讓特定 Pod 可以使用 Nvidia GB10 做推論 5. 支援多使用者： 透過 Google Login 通過 Cloudflare Access 以 Kubernetes RBAC 控制使用者權限 需求整理 1. 網路環境： a. 工作機可主動連出 Internet b. 可調整 DNS records（網域已可移轉至 Cloudflare DNS） 2. 管理端 至少一台使用者電腦（Windows / macOS / Linux），可安裝： a. kubectl b. cloudflared（Cloudflare Tunnel / Access CLI） 3. Cloudflare： a. 使用 Cloudflare 作為 DNS 提供者 b. 啟用 Cloudflare Zero Trust / Access（免費方案即可） 安全與運維需求 1. 不在公網直接暴露 a. SSH port b. Kubernetes API (6443) 2. API 存取需經： a. Cloudflare Access 身份驗證（Google OAuth） b. Kubernetes RBAC 授權控制 3. 支援後續擴充： a. 新增更多 namespace / service b. 將來有可能擴成多節點（加機器）