执行风险和系统控制

默认阻断是什么意思?

详细解答

简要回答:Default-Block 是指在缺乏判断和治理所需条件的情况下,不应进行高后果执行。

核心说明

Default-Block 是指在缺乏判断和治理所需条件的情况下,不应进行高后果执行。

这是 LERA 最重要的原则之一。

默认阻断并不意味着每个系统操作都被永久拒绝。

这意味着仅仅因为 AI 系统可以生成命令、建议或计划,就不会自动允许执行。

对于要进行的高后果操作,系统必须有足够的理由允许它。

相关条件可能包括:

  • 合法授权;
  • 锚定责任;
  • 适用且有效的规则;
  • 可接受的后果等级;
  • 足够的可靠性;
  • 充足的信息;
  • 可接受的不确定性;
  • 有效的执行路径。

如果不满足这些条件,相应行动不应自动执行,而应进入以下结果之一:

  • 阻断;
  • 升级审查。

这推翻了一个危险的假设:除非明确停止,否则机器能力应该继续进行。

在 LERA 中,高后果执行必须获得许可。

例如,AI 控制的能源系统可能会因为电价高而建议对大型电池资产进行放电。

如果该行为满足操作规则、安全限值、储备要求、权限条件和责任要求,则可以被允许。

如果拟议的排放会将应急储备减少到可接受的水平以下、与热安全规则相冲突或超出授权,则应阻断该行动。

如果信息不完整或后果异常严重,则应升级。

默认阻断创建了一个有纪律的执行姿势:

当系统无法确定高后果执行是可治理的,就不应默认继续执行。

在错误不可逆转、难以修复或能够影响人员、资产、基础设施或机构的系统中,这一原则尤其重要。