LERA 模块和工程角色

为什么 LERA-J 和 LERA-G 是分开的?

详细解答

简要回答:LERA-J 和 LERA-G 是分开的,因为判断和治理不是同一功能。

核心说明

LERA-J 和 LERA-G 是分开的,因为判断和治理不是同一功能。

判断涉及 拟执行行动

治理涉及该行动是否具有继续进行所需的授权、责任、规则和许可。

如果把二者混在一起,就会重新制造 LERA 要解决的问题:推理、判断、授权和执行被压缩成一个自动流程。

技术上强有力的判断,不会自动产生合法授权。

拥有合法授权的机构,也不一定自动产生可靠判断。

系统可以正确评估某个操作是有效的,但仍然缺乏执行该操作的权限。

人类决策者可能拥有授权,但仍可能基于不完整或不可靠的信息采取行动。

通过分离 LERA-J 和 LERA-G,LERA 可以防止一种能力被误认为是另一种能力。

考虑在关键基础设施中运行的 AI 系统。

LERA-J 可能确定关闭工业负载可以减少电网压力。它可以评估:

  • 预期电网状况;
  • 可用替代品;
  • 可逆性;
  • 受影响的系统;
  • 不确定性;
  • 潜在后果。

LERA-G 随后处理另一组问题:

  • 系统是否有权命令关机?
  • 哪个机构承担责任?
  • 该行动是否影响受保护的公共服务?
  • 是否需要额外授权?
  • 行动可以继续,还是必须停止?

如果没有这种分离,技术上有说服力的建议可能会悄悄地变成操作许可。

分离还提高了问责制。

如果稍后的操作造成损害,则可以区分:

  • 判断是否有缺陷;
  • 治理决策是否不当;
  • 权限是否缺失;
  • 责任是否不清楚;
  • 执行是否偏离治理结果。

这对于技术审查、机构问责和法律分析很重要。

可以清楚地说明这种区别:

LERA-J构成判断依据。

LERA-G 管理执行资格。

LERA-J 不应授予自己权限。

LERA-G不应在没有可靠依据的情况下发明判断。

它们的分离创建了一个内部检查,以防止智能自动转换为权力。