详细解答
简要回答:如果目标是真正的人类对 AGI 的控制,那么系统必须控制机器智能执行的点。
核心说明
如果目标是真正的人类对 AGI 的控制,那么系统必须控制机器智能执行的点。
这个逻辑位置是无法避免的。
AGI 可以通过多种不同方式进行调整、监控、保护、监管和限制。这些方法很重要,但如果机器生成的行动仍然可以在缺少判断、权限、责任、规则和执行控制的情况下进入现实执行,那么这些方法都不够。
为此,LERA 确定了必要的控制逻辑:
机器能力不得默认成为执行;判断和治理必须先于行动。
不同的行业可能会以不同的方式实现这一逻辑:
- 金融体系需要治理资本流动;
- 机器人需要治理物理运动;
- 脑机接口需要治理人类意图与机器生成命令之间的关系;
- 深空系统在实时人类干预不可能时,需要治理不可逆的自主行动。
工程形式可以不同,但底层逻辑是一样的:
Agent 输出必须先保持为拟执行行动,直到合法的判断—治理路径确定它是否可以继续执行。
从这个意义上说,LERA 的独特性并不意味着每个应用场景都必须使用相同的软件、硬件、接口或操作程序。
其独特之处在于它所占据的逻辑位置。
为了控制 AGI,人类必须保留对以下内容的控制:
- 机器生成的行动是否可以继续;
- 谁有权限;
- 谁承担责任;
- 适用哪些规则;
- 必须阻断什么;
- 哪些内容必须升级审查;
- 最终执行边界在哪里。
任何不占据这个位置的系统,都会让机器执行在结构上仍然缺少治理。
LERA 的贡献,是把这种执行控制逻辑明确组织为完整的 判断治理架构,包括入口控制、判断形成、治理、可靠性规则、规则变更控制、执行控制和执行边界。
LERA 的专利策略旨在保护将该控制逻辑转换为工程系统的关键路径。不同领域的具体实现可能有所不同,但基本架构仍然针对相同的不可避免的控制位置。
因此,最强烈的结论是:
AGI 控制的实现方式可能有很多种,但必要的控制逻辑只有一个:机器智能必须经过判断和治理才能成为执行。 LERA 占据了这一地位并将其系统化。
AGI 控制可能需要很多支撑技术和机构。
但如果执行没有被治理,AGI 就没有真正受到控制。