LERA 模块和工程角色

为什么需要 RCC?

详细解答

简要回答:RCC(规则更改控制)是必要的,因为执行治理系统的可靠性不仅取决于其规则,还取决于这些规则如何更改。

核心说明

RCC(规则更改控制)是必要的,因为执行治理系统的可靠性不仅取决于其规则,还取决于这些规则如何更改。

系统在强大的规则集下运行时可能会显得治理良好。但如果 AI、运营商、管理员、供应商或机构可以悄悄削弱或绕过这些规则,那么系统表面上的安全性就不稳定。

这会产生一个二阶治理问题:

谁负责管理执行规则?

RCC 解决了这个问题。

其目的是确保执行相关规则的更改保持可见、授权、负责并受治理。

如果没有 RCC,可能会出现多种故障模式:

  • AI 系统修改其操作约束以完成任务;
  • 人类操作员在时间压力下削弱规则;
  • 管理员在没有明确责任的情况下更改授权限制;
  • 域规则未经审查就被替换;
  • 紧急异常悄然变成永久;
  • 软件更新在机构不知情的情况下更改了执行条件。

在每种情况下,系统可能仍然遵循规则。但规则本身已经改变。

这意味着仅遵守规则是不够的。

规则完整性也必须受到治理。

例如,金融 AI 可能被禁止超过规定的风险限额。如果系统或操作员可以立即提高限制以执行所需的交易,那么该规则就不能起到真正的治理条件的作用。

RCC 要求规则更改本身成为受治理对象。

相关问题包括:

  • 谁在请求更改?
  • 谁有权批准?
  • 为什么需要进行更改?
  • 会产生什么后果?
  • 谁承担责任?
  • 更改是暂时的还是永久的?
  • 是否影响更高级别的可靠性要求?

RCC不是普通的文档版本控制。

版本控制只记录发生了什么变化。

RCC 规定是否允许变更影响执行。

二者的关系是:

  • WRS 用规则约束执行;
  • RCC 管辖这些规则的变更。

这是 LERA 最强的结构特征之一,因为如果执行控制架构自身的治理条件很容易重写,那么它就无法保持可信。