執行期工具規管哪些程式運行;SICA 規管誰作決定。
機構正部署能採取行動的 AI 智能體,包括研究智能體、銷售智能體、客戶服務助理,以及可作出不可逆行動的系統。問題在於,智能體可能給出看似自信、表達流暢卻錯誤的答案,並據此採取不可逆行動。單靠儀表板並不足夠,機構還需要控制誰可作決定。
加拿大一個民事審裁處曾裁定,一間公司的聊天機械人錯誤描述其政策並不容許的折扣,公司須為此承擔責任(Moffatt v. Air Canada, 2024 BCCRT 149)。在香港,商戶在營商過程中錯誤描述貨品或服務,或須根據 Trade Descriptions Ordinance (Cap 362) 承擔刑事責任。該條例採用媒介中立的草擬方式,可涵蓋透過自動化或聊天機械人渠道作出的陳述。
EU AI Act 要求 AI 系統的提供者及部署者採取措施,提升員工及其他參與操作該等系統人士的 AI 素養(Article 4,自 2025 年 2 月 2 日起適用)。自 2026 年 8 月 2 日起,Article 50 對若干 AI 系統及用途加入透明度義務,包括披露 AI 互動及為 AI 生成內容加上標籤。對在適用範圍內部署具行動能力智能體的機構而言,管治日漸成為合規義務,不能視為可自行取捨的工具選擇。
Gartner 預計,到 2027 年底,逾 40% 的智能體 AI 項目將被取消(Gartner 新聞稿,2025 年 6 月 25 日)。
核心產品是我們開發並實際運作的受管治多智能體平台。架構合作及教育服務用於推廣及教授這項產品,並非公司的核心定位。
我們親自運作自行開發的系統,並把實際營運經驗帶進教學。
SICA 是早期軟件公司,以平台為先。若貴機構正部署會採取行動的智能體,並需要可靠的管治機制,歡迎與我們聯絡。
內部參考部署(自用)正在運作。管治平台(Gatekeeper)正在建造中;代管層級已完成設計,尚未建造。
營運領域保密。系統頁面完整展示管治機制,包括閘門邏輯、投票記錄、密碼學簽署及審計軌跡格式,均未作遮蓋。
我們是早期軟件公司,內部參考部署已投入自用,商業平台則仍在建造中。架構合作及教育服務協助推廣這項產品,並建立其公信力。
我們於 2026 年 8 月進行的市場深入研究屬研究工作。買家對話於第 0–3 個月展開。
這項結構化評估會檢視貴機構的智能體如何提議、審批及行動,涵蓋決策權歸屬、記錄內容及哪些環節會在失敗時停止執行,並附補救路線圖。
它以只追加方式記錄每項決策:誰提議、誰審批、誰本可否決,以及原因;記錄經簽署,可發現竄改。