详细解答
简要回答:LERA 被描述为判断治理架构,因为只有判断不够,只有治理也不够;关键是让二者共同作用于执行。
核心说明
LERA 被描述为判断治理架构,因为只有判断不够,只有治理也不够;关键是让二者共同作用于执行。
判断解决了以下问题:
- 发生了什么?
- 可能会产生什么后果?
- 该行为是可逆的吗?
- 现有信息可靠吗?
- 存在哪些风险或不确定性?
- 哪些替代方案仍然是可能的?
治理解决的是另一组问题:
- 谁有权力?
- 谁承担责任?
- 适用哪些规则?
- 治理条件是否满足?
- 可以继续执行吗?
- 行动必须停止还是升级?
一个系统可能会形成很好的判断,但仍然缺乏执行的权限。
系统可能拥有权限,但判断并不可靠。
规则通常可以允许某项操作,但在当前条件下不允许。
人类可以批准某项行为,但不对其后果承担责任。
LERA 将这些功能分开,使得分析能力不会自动变成执行权限。
这就是为什么 LERA 不简单地称为判断架构。
其目的不仅仅是提高判断质量。其目的是将判断与执行治理联系起来。
简化形式:
LERA-J形成判断。
LERA-G判断执行是否可以继续。
WRS引入面向可靠性的规则参考。RCC治理这些规则的变更。ECS在执行边界之前保持执行控制位置。
这些功能共同创建了一个架构,其中拟执行行动在成为执行之前必须经过判断和治理。
考虑一个医院后勤系统:它建议在危机期间重新调配紧急资源。AI 可以正确识别哪些资源在统计上最有用,但这个决定还涉及公共责任、机构授权、道德规则、紧急优先事项以及对患者的后果。
仅靠判断无法解决所有这些问题。治理必须确定行动是否以及如何进行。
这就是 LERA 作为判断治理架构的意义:
判断确定了应该考虑什么;治理决定了可以执行的内容。