DEPLOYMENT & INTEGRATION

在您的環境內,完整落地

TrustAI 支援三種部署架構,從地端機房到封閉式 Air-Gapped 環境,以開放協定對接您既有的身分、監控與資安基礎設施。

DEPLOYMENT MODES

兩種治理架構,四種部署形態

企業可依資料敏感度與法遵要求,選擇完全離線或受控混合架構——無論何種形態,治理閘道都是所有模型請求的必經路徑。

ON-PREMISES

地端機房部署

完整掌控硬體與網路。模型、資料、稽核記錄全部留在自有機房。支援 Air-Gapped 完全斷網模式。

  • 支援 NVIDIA DGX / 自建 GPU 叢集
  • 完全 Air-Gapped 可選
  • 硬體 HSM / TPM 2.0 整合(規劃中)
  • 適合:銀行、國防、政府核心系統
PRIVATE CLOUD / VPC

私有雲 / VPC 部署

部署於自建私有雲或政府雲 VPC,享有雲端彈性但資料不離開受控網段。

  • 支援 OpenShift / Kubernetes
  • VPN / 私有端點存取
  • 跨可用區高可用架構
  • 適合:大型企業、電信、保險
AIR-GAPPED

封閉式 Air-Gapped

完全斷網環境,授權於本地驗證,模型更新透過離線媒介,零外部依賴。

  • 無任何對外連線
  • 離線授權(HSM / TPM 綁定規劃中)
  • USB / 離線媒介更新
  • 適合:軍事、最高機密分類環境
CONTROLLED HYBRID

受控混合部署

串接經企業核准的外部模型。敏感資料先於內部完成偵測與遮蔽,僅符合政策的資料可送往外部模型,全程保留治理與稽核軌跡。

  • 核准模型白名單與風險分級
  • 外送前 PII 偵測與強制遮蔽
  • 依部門、資料類型與情境設定路由條件
  • 適合:需兼用外部模型能力的企業
INFRASTRUCTURE REQUIREMENTS

基礎架構需求

從法遵試點 (Pilot) 到全機構核心 (Enterprise),橫向擴展,垂直保證。

規格PilotProductionEnterprise
GPU 節點1 × L40S4 × L40S8+ × A100/H100
支援使用者502,00050,000+
網路隔離Air-GappedAir-Gapped + DMZ全封閉地端
儲存需求2TB NVMe20TB NVMe RAID100TB+ 冷儲存
高可用單機主備 HA多區主動-主動

Production 與 Enterprise 為目標規格層級,依實際導入需求規劃與佈建;目前已驗證的基準為 Pilot 單機部署。

INTEGRATIONS

整合能力

以開放協定對接您既有的企業基礎設施,無需替換現有工具;以下為支援與規劃中的整合對象。

身分治理
Active DirectoryLDAPOktaKeycloakSAML 2.0OIDC
SIEM / 稽核
SplunkElastic SIEMIBM QRadarSyslog / CEF
API 閘道
KongNGINXAWS API GW (on-prem)自建 Reverse Proxy
基礎設施
VMware vSphereOpenShiftKubernetesBare-metalNVIDIA DGX Stack
ONBOARDING PROCESS

導入流程

四個階段,從評估到正式上線平均八週左右。

STEP 01
治理盤點
1 週

盤點 AI Use Case、資料敏感度、使用者角色、模型與供應商,建立初步風險清單與政策權限矩陣。

STEP 02
PoC 驗證
2–3 週

建立測試環境,串接指定模型,驗證 PII 偵測遮蔽、角色權限、OPA 政策、稽核與 Incident,以及地端或混合部署。

STEP 03
正式部署
1–2 週

建立組織與部門、整合企業身分系統、設定模型與 API Key、匯入正式治理政策與稽核事件流程。

STEP 04
持續治理
持續維運

定期檢視模型與 Use Case、更新政策、追蹤高風險 Incident 與改善事項,產出治理與稽核報告。

GET STARTED

準備好評估您的部署架構?

我們的架構師將根據您的合規要求與現有基礎設施,提供專屬部署設計。

安排架構諮詢 →下載部署說明