详细解答
简要回答:LERA 是通过应用更广泛的三层认知架构来解决智能系统获得执行能力的新问题而创建的。
LERA 是通过应用更广泛的三层认知架构来解决智能系统获得执行能力的新问题而创建的。
这种三层架构并不局限于 AGI 控制。它是理解复杂问题、发现其隐藏结构以及从第一原理创建新系统的通用方法。
这三层是:
实用层 → 隐藏结构层 → 深层创造层
实用层
实用层从可见的现实开始。
它检查实际系统中发生的情况、人们遇到的问题、正在发生的后果以及现有方法失败的地方。
在这一层,重点是具体的:
- 系统在做什么?
- 出现什么问题?
- 风险在哪里变成现实?
- 现有方法无法解决什么问题?
- 当系统出现故障时会产生什么后果?
在最终导致 LERA 的案例中,明显的变化是 AI 正在超越分析和建议。
AI 系统开始使用工具、触发工作流、控制机器、影响资本和基础设施,并参与现实运营。
因此,真正的问题不再只是 AI 能否给出正确答案,而是:当机器生成的输出变成行动时,会发生什么?
隐藏结构层
隐藏结构层指向可见问题背后的深层结构。
询问哪些概念、授权、责任和系统功能被错误组合。
在这一层,分析揭示了几个根本不同的事物正在被折叠到一个自动化流程中:
- 智能;
- 知识;
- 推理;
- 判断;
- 授权;
- 责任;
- 规则;
- 许可;
- 执行。
AI 系统可能生成能力很强的答案,但能力本身不能产生合法授权。
它可能会建议采取行动,但建议并未确立责任。
它可能会优化一个目标,但优化并不能决定该行为是否在法律上、社会上、制度上或文明上可接受。
因此,隐藏的结构性问题就很明显了:
现代自动化系统通常将推理与执行联系起来,而没有独立的判断—治理结构。
这就是 LERA 背后的核心见解:
智力、判断力和执行力不能被视为同一件事。
深层创造层
深层创建层询问一旦发现隐藏的问题就必须创建什么新结构。
不限于修复表面故障。它询问什么基础架构可以防止同一类别的故障重复出现。
在这一层,问题变得更广泛:
当一种新形式的智能获得行动能力时,执行之前必须面对什么?
答案不能仅仅是另一个模型指令、道德声明、监控工具或人工批准按钮。
在智能和行动之间需要一个新的结构位置。
这一立场必须保留:
- 判断;
- 合法授权;
- 责任;
- 可靠性规则;
- 停止的能力;
- 升级的能力;
- 对最终执行边界的控制。
从这个深刻的创造过程中,LERA 发展成为用于治理执行的 判断治理架构。
其模块不是作为技术组件的任意列表创建的。它们源自保持执行可治理所需的独特结构功能:
- 判断根节点确定拟执行行动必须进入判断而不是默认执行;
- LERA-J在建立合法的执行资格之前形成结构化判断;
- LERA-G将判断与授权、责任和许可联系起来;
- WRS提供以可靠性为导向的规则;
- RCC管辖这些规则的变更;
- ECS在边界之前持有执行控制权;
- 执行边界标志着从受治理行动到现实世界后果的最终过渡。
Jing Linda Liu 在高后果能源系统方面的经验为这项工作奠定了实际基础。
在能源系统中,可靠性不能仍然是一个抽象的意图。在实际执行之前必须解决安全条件、责任、操作限制和故障边界。
这一经历有助于揭示一个更广泛的原则:
强大的系统需要在行动之前进行治理,而不是在失败之后进行解释。
因此,LERA 是通过一般认知路径创建的:
可见的实际问题
→ 隐藏的结构分离
→ 深层架构创作
→ 新的判断治理架构。
三层认知架构是通用的。
它可以应用于其他领域、机构、技术、文明问题。 LERA 是将这种方法应用于解决当机器智能获得执行力时人类如何保持判断力和治理力的问题的一个主要成果。
LERA 并不要求每个域必须使用相同的实现。它确定了真正的 AGI 控制无法避免的一个逻辑位置:判断和治理必须介于机器智能和执行之间。