哪些決策交給AI、哪些一定要人主導？用「決策分配四象限」劃清分工
哪些決策可以放心交給AI，哪些必須由人主導？作者長年身處金融保險、風險管理與AI應用第一線，以「決策代價」與「問題複雜性」兩個面向，畫出決策分配四象限，並以核保、物流、臨床診斷為例，說明人機如何分工。本文節錄自《讓AI做事，你做主》。
文／連子智
有了不對稱架構與邊界原則，在實務中，我們仍會面臨一個具體問題：哪些決策應該交給AI，哪些決策必須由人主導？
我們用兩個面向來說明這個判斷架構：決策代價（stakes）與問題複雜性（complexity）。
「代價」決定了我們對錯誤的容忍度，指的是決策錯誤的後果嚴重性（如：金錢損失、法律責任、生命安全）。代價越高，人類需要介入的程度就越深。而「複雜性」則決定了預測的難度，指的是任務涉及的變數數量、非結構化程度與因果關係的模糊性。複雜性越高，AI在資料處理的優勢就越明顯，但人對於因果解釋的需求也越強。
決策分配四象限：代價×複雜性，畫出4個決策區
我們將風險矩陣（發生機率×影響程度）的思想延伸至人機協作的架構設計時發現，當這兩個面向交叉時，可以形成一個基本的決策分配四象限：
- 自動化區：這是低代價、低複雜性的區域，通常屬於日常操作的決策。這個區域是AI的主場，以追求效率極大化為目標，人類負責參數設定與事後審查。
- 監控區：這是高代價、低複雜性的區域，可以交由AI執行，但必須被「因果約束」所限制，人類是隨時準備踩煞車的監護人。
- 輔助區：這是低代價、高複雜性的區域，AI負責探索與發現，但不懂意義，必須由人類負責定義。
- 主權區：這是高代價、高複雜性的區域，也是「桌面」的所在地。無論AI技術多強，人類必須站在主導位置，這裡的最終判斷權不可讓渡。
- 動態機制1：主權回歸。圖中從其他區域指向主權區的箭頭，代表當AI遇到無法處理的任務或因果斷裂時，決策權必須立即、強制地交還給人。這也呼應了國際AI治理中對「人類監督」（human oversight）與「人類控制」的重視。歐盟《人工智慧法》第十四條要求高風險AI系統必須能由自然人有效監督；而歐盟《可信賴人工智慧倫理準則》也曾提出人在迴圈中（human-in-the-loop）、人在迴圈上（human-on-the-loop）與人在指揮（human-in-command）等不同層次的人類監督方式。這些概念與本書所說的「主權回歸」，具有相通之處。這也適用於自動化區，當原本低代價、低複雜的任務突然出現邏輯衝突，此時的主權回歸通常表現為「異常中斷」，透過斷路機制確保主權的安全回歸。只是在正常的組織運作中，我們應致力於最佳化自動化區，使這種回歸成為極少數的例外。這種類似家用保險絲的主動熔斷機制，在工程領域稱為「故障安全機制」（fail-safe）。
- 動態機制2：邊界演進。圖中指向監控區的箭頭，代表邊界的演進。隨著AI能力提升、數據累積與模型改善，某些原本需要人工監控的任務，可能逐漸移向更高程度的自動化，但這種移動只發生在既定邊界之內。只要決策代價與責任屬性沒有改變，主權位置就不應移動。換言之，AI能力提升可以改變執行與監控的分工，卻不能自動改變誰來劃定邊界、誰來承擔後果。
透過下表，我們可以看見這套四象限如何跨越產業邊界，守住決策的主權底線。
| 象限區位 | 協作模式（人機分工） | 保險案例（核保） | 供應鏈案例（物流） | 醫療案例（診斷） |
| 自動化區 | 循環執行：AI自動決策，人負責事後審查 | 標準化旅平險自動核保 | 常態性物料補貨 | 輕微症狀分流與用藥提醒 |
| 監控區 | 因果約束：AI在人設定的界線內執行 | 標準健康險（嵌入除外責任限制） | 全球路徑最佳化（嵌入地緣政治約束） | 處方檢查（嵌入藥物過敏警告） |
| 輔助區 | 意義建構：AI負責探詢，人負責定義意義 | 潛在客戶意願與客戶畫像分析 | 供應商財務穩定性訊號分析 | 醫學影像初篩與文獻檢索 |
| 主權區 | 主權掌握：AI提供證據，最終因果推導由人決策 | 高額企業險或非標準體核保 | 全球供應鏈斷裂的韌性重構 | 複雜疾病診斷與手術方案制定 |
決策分配四象限本質上是一張「價值地圖」。我們將可標準化、可自動化的預測任務交給AI，是為了騰出資源來應對高代價、高責任的邊界設定。
這樣的順序與過去工具導向的做法正好相反。工具導向的思維通常從系統能做什麼出發，而結構導向的思維則從哪些決策必須保留在人手中開始。
因此，決策分配四象限並不是一套工具，而是一種結構性的界定方法。當新的任務產生或新的系統被引進時，組織可以先回答這兩個問題：這項決策的代價有多高？這個問題的複雜性有多大？
節錄自：聯經出版《讓AI做事，你做主：用因果主權，建立可交代、可接管的決策治理防線》／連子智 著
推薦閱讀：
