了解 LERA

LERA 是 AGI 控制的唯一解决方案吗?

详细解答

简要回答:如果目标是真正的人类对 AGI 的控制,那么系统必须控制机器智能执行的点。

核心说明

如果目标是真正的人类对 AGI 的控制,那么系统必须控制机器智能执行的点。

这个逻辑位置是无法避免的。

AGI 可以通过多种不同方式进行调整、监控、保护、监管和限制。这些方法很重要,但如果机器生成的行动仍然可以在缺少判断、权限、责任、规则和执行控制的情况下进入现实执行,那么这些方法都不够。

为此,LERA 确定了必要的控制逻辑:

机器能力不得默认成为执行;判断和治理必须先于行动。

不同的行业可能会以不同的方式实现这一逻辑:

  • 金融体系需要治理资本流动;
  • 机器人需要治理物理运动;
  • 脑机接口需要治理人类意图与机器生成命令之间的关系;
  • 深空系统在实时人类干预不可能时,需要治理不可逆的自主行动。

工程形式可以不同,但底层逻辑是一样的:

Agent 输出必须先保持为拟执行行动,直到合法的判断—治理路径确定它是否可以继续执行。

从这个意义上说,LERA 的独特性并不意味着每个应用场景都必须使用相同的软件、硬件、接口或操作程序。

其独特之处在于它所占据的逻辑位置。

为了控制 AGI,人类必须保留对以下内容的控制:

  • 机器生成的行动是否可以继续;
  • 谁有权限;
  • 谁承担责任;
  • 适用哪些规则;
  • 必须阻断什么;
  • 哪些内容必须升级审查;
  • 最终执行边界在哪里。

任何不占据这个位置的系统,都会让机器执行在结构上仍然缺少治理。

LERA 的贡献,是把这种执行控制逻辑明确组织为完整的 判断治理架构,包括入口控制、判断形成、治理、可靠性规则、规则变更控制、执行控制和执行边界。

LERA 的专利策略旨在保护将该控制逻辑转换为工程系统的关键路径。不同领域的具体实现可能有所不同,但基本架构仍然针对相同的不可避免的控制位置。

因此,最强烈的结论是:

AGI 控制的实现方式可能有很多种,但必要的控制逻辑只有一个:机器智能必须经过判断和治理才能成为执行。 LERA 占据了这一地位并将其系统化。

AGI 控制可能需要很多支撑技术和机构。

但如果执行没有被治理,AGI 就没有真正受到控制。