详细解答
简要回答:LERA-J 是LERA 架构的判断形成函数。
核心说明
LERA-J 是LERA 架构的判断形成函数。
其作用是形成一个结构化基础,用于确定 拟执行行动 应继续进行治理和可能的执行。
Agent 可以生成计划、建议、命令或首选选项。但 Agent 的推理还不是LERA的判断。
Agent 推理可以集中于:
- 完成任务;
- 优化目标;
- 预测结果;
- 选择高效路线;
- 最大化性能;
- 满足指令。
LERA-J 认为 拟执行行动。
它询问在可以管辖该行为之前必须了解什么。
在公共架构级别,LERA-J 可以考虑以下因素:
- 相关事实;
- 拟执行行动;
- 结果的可逆性或不可逆性;
- 不确定性水平;
- 现有信息的可靠性;
- 受影响的人员、资产、系统或机构;
- 可行的替代方案;
- 上下文级别判断的结果;
- 该行动是否需要更强的治理。
LERA-J 并不简单地重现 Agent 的推理。
其功能是形成判断事实并组织治理所需的信息。
这种分离至关重要,因为系统可以正确推理如何实现目标,但仍然无法判断是否应该以这种方式实现目标。
例如,机器人系统可以确定穿过人类占据的区域是绕过障碍物的最快方法。从不同的角度来看
路由计算可能是正确的。
LERA-J 解决了一组不同的问题:
- 什么是人类接近风险?
- 该行为是可逆的吗?
- 如果环境发生变化会发生什么?
- 有更安全的替代品吗?
- 该行动是否会进入后果更高的环境?
- 现有信息是否足够可靠?
LERA-J为LERA-G提供了结构化的判断基础。
关系可概括为:
Agent 建议可以做什么。
LERA-J 对拟议的行动做出判断。
LERA-G 是否控制执行是否可以继续。
因此 LERA-J 不是最终许可机构。它不独立授予执行权。
其工程重要性在于确保治理不仅仅基于原始 Agent 输出、模型置信度或优化结果。
治理必须接受结构化的判断,而不仅仅是一个 机器建议。