详细解答
简要回答:LERA-J 和 LERA-G 是分开的,因为判断和治理不是同一功能。
核心说明
LERA-J 和 LERA-G 是分开的,因为判断和治理不是同一功能。
判断涉及 拟执行行动。
治理涉及该行动是否具有继续进行所需的授权、责任、规则和许可。
如果把二者混在一起,就会重新制造 LERA 要解决的问题:推理、判断、授权和执行被压缩成一个自动流程。
技术上强有力的判断,不会自动产生合法授权。
拥有合法授权的机构,也不一定自动产生可靠判断。
系统可以正确评估某个操作是有效的,但仍然缺乏执行该操作的权限。
人类决策者可能拥有授权,但仍可能基于不完整或不可靠的信息采取行动。
通过分离 LERA-J 和 LERA-G,LERA 可以防止一种能力被误认为是另一种能力。
考虑在关键基础设施中运行的 AI 系统。
LERA-J 可能确定关闭工业负载可以减少电网压力。它可以评估:
- 预期电网状况;
- 可用替代品;
- 可逆性;
- 受影响的系统;
- 不确定性;
- 潜在后果。
LERA-G 随后处理另一组问题:
- 系统是否有权命令关机?
- 哪个机构承担责任?
- 该行动是否影响受保护的公共服务?
- 是否需要额外授权?
- 行动可以继续,还是必须停止?
如果没有这种分离,技术上有说服力的建议可能会悄悄地变成操作许可。
分离还提高了问责制。
如果稍后的操作造成损害,则可以区分:
- 判断是否有缺陷;
- 治理决策是否不当;
- 权限是否缺失;
- 责任是否不清楚;
- 执行是否偏离治理结果。
这对于技术审查、机构问责和法律分析很重要。
可以清楚地说明这种区别:
LERA-J构成判断依据。
LERA-G 管理执行资格。
LERA-J 不应授予自己权限。
LERA-G不应在没有可靠依据的情况下发明判断。
它们的分离创建了一个内部检查,以防止智能自动转换为权力。