运行时工具管控哪些程序运行;SICA 管控谁做决定。
机构正在部署能采取行动的 AI 智能体,包括研究智能体、销售智能体、客户服务助手,以及可作出不可逆行动的系统。问题在于,智能体可能给出看似自信、表达流畅却错误的答案,并据此采取不可逆行动。单靠仪表板并不足够,机构还需要控制谁可做决定。
加拿大一家民事审裁机构曾裁定,一家公司的聊天机器人错误描述了其政策并不允许的折扣,公司须为此承担责任(Moffatt v. Air Canada, 2024 BCCRT 149)。在香港,商户在经营过程中错误描述商品或服务,或须根据 Trade Descriptions Ordinance (Cap 362) 承担刑事责任。该条例采用媒介中立的草拟方式,可涵盖通过自动化或聊天机器人渠道作出的陈述。
EU AI Act 要求 AI 系统的提供者及部署者采取措施,提升员工及其他参与操作这些系统的人员的 AI 素养(Article 4,自 2025 年 2 月 2 日起适用)。自 2026 年 8 月 2 日起,Article 50 对若干 AI 系统及用途加入透明度义务,包括披露 AI 互动及为 AI 生成内容加上标签。对在适用范围内部署具行动能力智能体的机构而言,治理日渐成为合规义务,不能视为可自行取舍的工具选择。
Gartner 预计,到 2027 年底,超过 40% 的智能体 AI 项目将被取消(Gartner 新闻稿,2025 年 6 月 25 日)。
核心产品是我们开发并实际运行的受治理多智能体平台。架构合作及教育服务用于推广和讲授这项产品,并非公司的核心定位。
我们亲自运行自行开发的系统,并把实际运营经验带入教学。
SICA 是一家早期软件公司,以平台为先。若贵机构正在部署会采取行动的智能体,并需要可靠的治理机制,欢迎与我们联系。
内部参考部署(自用)正在运行。治理平台(Gatekeeper)正在建设中;托管层级已完成设计,尚未建设。
运营领域保密。系统页面完整展示治理机制,包括闸门逻辑、投票记录、密码学签名及审计轨迹格式,均未作遮盖。
我们是早期软件公司,内部参考部署已投入自用,商业平台则仍在建设中。架构合作及教育服务协助推广这项产品,并建立其公信力。
我们于 2026 年 8 月开展的市场深入研究属于研究工作。买家对话于第 0–3 个月展开。
这项结构化评估会检查贵机构的智能体如何提议、审批及行动,涵盖决策权归属、记录内容及哪些环节会在失败时停止执行,并附整改路线图。
它以只追加方式记录每项决策:谁提议、谁审批、谁本可否决,以及原因;记录经签名,可发现篡改。