执行风险和系统控制

Allow / Block / Escalate(允许 / 阻断 / 升级)是什么意思?

详细解答

简要回答:Allow / Block / Escalate(允许 / 阻断 / 升级)描述了执行前的三个主要治理结果。

Allow / Block / Escalate(允许 / 阻断 / 升级)描述了执行前的三个主要治理结果。

允许

允许表示条件满足时 拟执行行动 已满足相关判断和治理条件,可以进入执行。

这并不意味着该操作是普遍安全或完美的。这意味着系统已经为当前上下文建立了足够的权限、责任、规则的有效性、可靠性和执行条件都得到处理。

阻断

阻断表示:当执行不可接受时,拟执行行动 不得继续。

一项行动可能会被阻断,因为:

  • 违反了可靠性规则;
  • 缺乏权限;
  • 缺乏责任锚定;
  • 超出允许范围;
  • 造成不可接受的后果;
  • 与安全条件冲突;
  • 依赖于无效或更改的规则;
  • 包含不可接受的不确定性。

阻断不是系统失败的结果。

在高后果系统中,防止不可接受的执行是成功的治理结果。

升级审查

升级审查意味着:系统无法在当前级别负责任地允许该操作,但该操作可能值得更严格的审查。

升级可能涉及:

  • 更高级的人类授权;
  • 领域专家;
  • 法律或合规团队;
  • 机构委员会;
  • 更高的治理级别;
  • 附加信息;
  • 更强的规则集;
  • 延迟的决定。

升级至关重要,因为许多现实运营不仅仅是安全或不安全。

它们是不确定的、异常的、上下文相关的,或者对于普通自动化来说太重要了。

例如,AI 系统可能会建议在紧急情况下关闭部分区域电力网络。

该行动可能是必要的,但可能会影响医院、交通、公共安全和工业运营。

自动允许它可能是不可接受的。

自动阻断它也可能会造成伤害。

升级允许更强的判断和权限在执行之前进入。

LERA 用治理模型替换了简单的自动化模型:

  • 允许。
  • 阻断。
  • 当需要更强判断时,升级审查。