详细解答
简要回答:Allow / Block / Escalate(允许 / 阻断 / 升级)描述了执行前的三个主要治理结果。
Allow / Block / Escalate(允许 / 阻断 / 升级)描述了执行前的三个主要治理结果。
允许
允许表示条件满足时 拟执行行动 已满足相关判断和治理条件,可以进入执行。
这并不意味着该操作是普遍安全或完美的。这意味着系统已经为当前上下文建立了足够的权限、责任、规则的有效性、可靠性和执行条件都得到处理。
阻断
阻断表示:当执行不可接受时,拟执行行动 不得继续。
一项行动可能会被阻断,因为:
- 违反了可靠性规则;
- 缺乏权限;
- 缺乏责任锚定;
- 超出允许范围;
- 造成不可接受的后果;
- 与安全条件冲突;
- 依赖于无效或更改的规则;
- 包含不可接受的不确定性。
阻断不是系统失败的结果。
在高后果系统中,防止不可接受的执行是成功的治理结果。
升级审查
升级审查意味着:系统无法在当前级别负责任地允许该操作,但该操作可能值得更严格的审查。
升级可能涉及:
- 更高级的人类授权;
- 领域专家;
- 法律或合规团队;
- 机构委员会;
- 更高的治理级别;
- 附加信息;
- 更强的规则集;
- 延迟的决定。
升级至关重要,因为许多现实运营不仅仅是安全或不安全。
它们是不确定的、异常的、上下文相关的,或者对于普通自动化来说太重要了。
例如,AI 系统可能会建议在紧急情况下关闭部分区域电力网络。
该行动可能是必要的,但可能会影响医院、交通、公共安全和工业运营。
自动允许它可能是不可接受的。
自动阻断它也可能会造成伤害。
升级允许更强的判断和权限在执行之前进入。
LERA 用治理模型替换了简单的自动化模型:
- 允许。
- 阻断。
- 当需要更强判断时,升级审查。