详细解答
简要回答:Default-Block 是指在缺乏判断和治理所需条件的情况下,不应进行高后果执行。
核心说明
Default-Block 是指在缺乏判断和治理所需条件的情况下,不应进行高后果执行。
这是 LERA 最重要的原则之一。
默认阻断并不意味着每个系统操作都被永久拒绝。
这意味着仅仅因为 AI 系统可以生成命令、建议或计划,就不会自动允许执行。
对于要进行的高后果操作,系统必须有足够的理由允许它。
相关条件可能包括:
- 合法授权;
- 锚定责任;
- 适用且有效的规则;
- 可接受的后果等级;
- 足够的可靠性;
- 充足的信息;
- 可接受的不确定性;
- 有效的执行路径。
如果不满足这些条件,相应行动不应自动执行,而应进入以下结果之一:
- 阻断;
- 升级审查。
这推翻了一个危险的假设:除非明确停止,否则机器能力应该继续进行。
在 LERA 中,高后果执行必须获得许可。
例如,AI 控制的能源系统可能会因为电价高而建议对大型电池资产进行放电。
如果该行为满足操作规则、安全限值、储备要求、权限条件和责任要求,则可以被允许。
如果拟议的排放会将应急储备减少到可接受的水平以下、与热安全规则相冲突或超出授权,则应阻断该行动。
如果信息不完整或后果异常严重,则应升级。
默认阻断创建了一个有纪律的执行姿势:
当系统无法确定高后果执行是可治理的,就不应默认继续执行。
在错误不可逆转、难以修复或能够影响人员、资产、基础设施或机构的系统中,这一原则尤其重要。