详细解答
简要回答:RCC(规则更改控制)是必要的,因为执行治理系统的可靠性不仅取决于其规则,还取决于这些规则如何更改。
核心说明
RCC(规则更改控制)是必要的,因为执行治理系统的可靠性不仅取决于其规则,还取决于这些规则如何更改。
系统在强大的规则集下运行时可能会显得治理良好。但如果 AI、运营商、管理员、供应商或机构可以悄悄削弱或绕过这些规则,那么系统表面上的安全性就不稳定。
这会产生一个二阶治理问题:
谁负责管理执行规则?
RCC 解决了这个问题。
其目的是确保执行相关规则的更改保持可见、授权、负责并受治理。
如果没有 RCC,可能会出现多种故障模式:
- AI 系统修改其操作约束以完成任务;
- 人类操作员在时间压力下削弱规则;
- 管理员在没有明确责任的情况下更改授权限制;
- 域规则未经审查就被替换;
- 紧急异常悄然变成永久;
- 软件更新在机构不知情的情况下更改了执行条件。
在每种情况下,系统可能仍然遵循规则。但规则本身已经改变。
这意味着仅遵守规则是不够的。
规则完整性也必须受到治理。
例如,金融 AI 可能被禁止超过规定的风险限额。如果系统或操作员可以立即提高限制以执行所需的交易,那么该规则就不能起到真正的治理条件的作用。
RCC 要求规则更改本身成为受治理对象。
相关问题包括:
- 谁在请求更改?
- 谁有权批准?
- 为什么需要进行更改?
- 会产生什么后果?
- 谁承担责任?
- 更改是暂时的还是永久的?
- 是否影响更高级别的可靠性要求?
RCC不是普通的文档版本控制。
版本控制只记录发生了什么变化。
RCC 规定是否允许变更影响执行。
二者的关系是:
- WRS 用规则约束执行;
- RCC 管辖这些规则的变更。
这是 LERA 最强的结构特征之一,因为如果执行控制架构自身的治理条件很容易重写,那么它就无法保持可信。