THE PRODUCT

一個平台,三個控制平面

TrustAI 將主權 AI 拆解為推論、治理、稽核三個獨立但互鎖的平面。 每一層都可獨立部署、獨立審計、獨立替換——但從不離開您的邊界。

最後更新:2026 年 1 月

ENFORCEMENT CHAIN

治理強制執行鏈

治理不是附加功能,而是所有模型請求無法繞過的必經路徑。點擊任一節點,展開該階段的治理能力。

  • JWT 身分驗證
  • API Key Scope 與有效期限
  • 來源 IP Allowlist
  • 額度與速率檢查
  • Presidio 敏感實體辨識(姓名、Email、電話、地址…)
  • 遮蔽與唯一 Token 化,保留上下文結構
  • 偵測結果送入 OPA 政策判斷
  • 可擴充自訂敏感資料類型
  • 依角色、部門、模型、風險等級動態授權
  • 結果:Allow / Deny;高風險場景可要求人工覆核(可選啟用)
  • 改用地端模型(規劃中)
  • 政策獨立於應用程式修改與部署
  • Fail-Closed:政策服務異常時預設拒絕
  • 地端 vLLM 與經核准的外部模型
  • 模型白名單與風險分級
  • 負載策略、Retry 與節點備援
  • RPM / TPM / 並發 / 預算控制
  • 偵測模型輸出中的敏感資訊
  • 自動遮蔽或依政策阻擋高風險輸出
  • 同步建立高風險 Incident
  • 推論全程留痕(Langfuse Trace)
  • 保存政策決策結果與風險等級
  • 高風險行為自動攔截與建案
  • 完整事件時間軸與證據鏈
FAIL-CLOSED未通過授權或政策檢查的請求,不會送往模型。關鍵政策判斷採 Fail-Closed 原則。
PII PROTECTION · LIVE DEMO

進模型之前,個資已經不在了

敏感資訊在進入模型前被即時偵測並替換為唯一 Token,保留上下文結構讓模型仍能理解語意;輸出端再做一次二次掃描。

INPUT → PRESIDIO → MODEL
● SCANNING FOR PII…
FAIL-CLOSED

不確定,就拒絕。

在無法確認安全與授權時,系統選擇拒絕,而不是冒險放行。

DENY授權服務異常時,預設拒絕
DENYOPA 政策服務異常時,預設拒絕
DENY無法確認身分或權限時,不得放行
DENY高風險安全模組異常時,自動建立 Critical Incident
ACCESS GOVERNANCE

五級 RBAC 與三層資料隔離

AI 權限由組織、部門、角色、使用者與 API Key 共同決定,而非單一登入權限。

角色權限定位
Super Admin跨組織平台、全域政策與系統管理
Org Admin組織層級使用者、模型、政策與稽核管理
Dept Admin部門層級成員、資源與權限管理
DeveloperAPI Key、應用串接與模型呼叫
Viewer報表、稽核與治理資訊查閱

三層隔離 · Defense in Depth

即使任一層發生邏輯錯誤,仍有下一層守住資料隔離防線。

L1 · APP

應用層 Tenant Filter

查詢時自動套用組織與部門篩選,避免跨租戶與跨部門資料暴露。

L2 · POLICY

OPA 政策隔離

每一筆操作與推論的動態授權——不只判斷能否登入,也判斷這一筆是否允許。

L3 · DB

PostgreSQL Row-Level Security

資料庫層強制限制資料列存取,並限制關鍵治理紀錄的修改與刪除。

POLICY AS CODE

把公司制度,寫成每一筆請求都必須遵守的規則

切換請求條件,看 OPA 政策引擎如何即時決定每一筆請求的命運。以下為互動示意,實際政策以 Rego 撰寫並可版本管理。

請求者角色
輸入資料
目標模型
OPA DECISIONALLOW

符合政策,直接放行。

REFERENCE ARCHITECTURE

參考架構

從使用者請求到稽核落盤,TrustAI 在單一信任邊界內完成所有步驟。

L4

使用者介面

Web ConsoleVS Code 外掛CLIREST API
L3

治理閘道

政策引擎PII 遮罩Prompt 防護RBAC
L2

推論平面

vLLM RuntimeKV Cache量化引擎批次排程
L1

信任根 · 規劃中

TPM 2.0Intel TDX / AMD SEVHSMWORM 稽核儲存
↑ 所有請求、回應、憑證驗證皆於此邊界內流動TRUST BOUNDARY · YOUR DATACENTER
MODULES

模組化部署

您只購買需要的東西。所有模組使用相同的身分、政策與稽核底層。

TrustAI Core

推論執行引擎。基於 vLLM,相容多種開源模型權重。(TensorRT-LLM 支援規劃中)

治理閘道

OPA 政策引擎。前置政策評估、PII 遮罩(Presidio)、對話全程留痕。

稽核與成本

集中式稽核儲存。每筆推論事件留痕、成本追蹤、依角色查詢,決策證據以鏈式雜湊防竄改。(WORM 儲存與第三方可驗證 Merkle root 規劃中)

身分與存取

內建帳號/JWT 驗證與 RBAC 角色管理。AD/Okta/LDAP/SCIM/FIDO2 企業整合規劃中。

模型註冊表

集中管理模型端點與版本。(離線市集分發、SHA 驗證規劃中)

評估與治理

自動 PII 洩漏紅隊測試、AI 風險登錄與事件管理。(人在迴路審閱、微調資料收集規劃中)

專案與成本治理

以專案為單位編列 AI 預算並設定用量上限,每一次呼叫都歸屬到專案、API Key 與使用者。用量寫入只增不改的帳本,可依日期、模型、金鑰與使用者拆解,作為部門分攤與成本控管的依據。

DEPLOYMENT SPECS

部署規格

從法遵試點 (Pilot) 到全行核心 (Production)。橫向擴展,垂直保證。

規格PilotProductionEnterprise
最小節點1 × L40S4 × L40S8+ × A100 / H100
支援使用者502,00050,000+
推論吞吐量200 t/s5,000 t/s50,000+ t/s
高可用單機主備 HA多區主動-主動
網路隔離Air-GappedAir-Gapped + DMZ全封閉地端
稽核保存90 天5 年永久保存
SLA99.5%99.95%99.99%

Production 與 Enterprise 為目標規格層級,依實際導入需求規劃與佈建;目前已驗證的基準為 Pilot 單機部署。

OPERATIONAL GOVERNANCE

可操作的治理

治理不只是政策文件。TrustAI 把風險、事件與模型審核變成閘道層的結構化資料——可查詢、可稽核、依組織隔離。

AI 風險登錄

已上線

每個 AI 使用情境的結構化風險檔案。

風險分級EU AI Act 附件資料類型人為監督需求審查頻率威脅 / 可能性 / 衝擊緩解措施殘餘風險

AI 事件管理

已上線

將 AI 風險管理從事後人工追查,提升為即時攔截、自動建案與持續追蹤——從觸發到結案的完整工作流。

觸發來源嚴重度證據留存指派處理人狀態(open → 結案)結案備註

模型治理註冊表

已上線

上線前模型審核的單一事實來源。

預期用途已知限制通過的安全基準核准人核准時間啟用狀態

自動 PII 洩漏評估

已上線

對模型主動執行的紅隊測試。

測試類型通過率測試總數 / 通過數失敗案例評估時間
DUAL-TRACK AUDIT

雙軌稽核

同時追蹤誰修改了治理設定,以及誰以何種權限使用了哪個模型。稽核資料不是一般操作 Log,而是可用於責任釐清與治理證明的證據鏈。

ADMIN OPS

管理操作稽核

  • 權限與政策異動
  • API Key 建立、更新與撤銷
  • 模型設定與白名單異動
  • 模型風險分級調整(新舊值與操作者)
  • Incident 狀態異動
  • 操作者與時間;來源 IP(規劃中)
AI INFERENCE

AI 推論稽核

  • 組織、部門、使用者與 API Key
  • PII 偵測與遮蔽實體統計
  • OPA 政策判斷與風險等級
  • 決策證據記錄:封存判定輸入與政策版本,可重放驗證
  • 延遲、Token 與用量
  • Incident 與 Trace 關聯
MODEL LIFECYCLE

不只管理模型如何被呼叫, 也管理模型如何被導入與退場

每個模型與 AI 應用場景(Use Case)都有登記、評估、核准、使用與退場的完整生命週期。

01

登記

模型名稱、供應商、版本、部署位置、用途與負責人。

02

評估

風險分級、安全測試結果與適用場景。

03

核准

指定核准者、記錄核准時間與理由;高風險模型可要求額外審批。

04

使用

白名單控管、依角色與部門限制存取,保存異動歷程。

05

退場

停用有風險或不再核准的模型,執行下架管理。

治理的對象不只是模型,也包括使用模型的實際業務場景——每個 AI Use Case 可關聯模型、政策、資料敏感度與風險評估。