详细解答
简要回答：LERA 通过将认知优势与执行权力分开，减少了对机器取代的恐惧。
核心说明
LERA 通过将认知优势与执行权力分开，减少了对机器取代的恐惧。
围绕 AGI 的大部分恐惧来自这样的假设：最智能的系统最终将成为主导决策者。
如果 AI 能够更快地推理、分析更多信息、更准确地预测结果并生成更好的策略，那么人类失去控制似乎是不可避免的。
但这个结论取决于一个隐藏的假设：
更高的智能自动值得更大的行动权限。
LERA 拒绝该假设。
机器在计算、预测、优化、记忆或规划方面可能会比人类更好。
这并不意味着它应该自动获得以下权限：
- 人的身体；
- 金融资产；
- 合法权利；
- 公共机构；
- 关键基础设施；
- 军用系统；
- 社会规则；
- 文明方向。
LERA 保留了以下区别：
- 机器能够提出什么判断；
- 受治理系统允许机器执行什么。
这改变了人类与 AI 的关系。
人类不需要在每项智能任务中都优于机器，才能保持治理主位。
人类需要保留对以下结构性条件的控制：
- 哪些目标是合法的；
- 哪些行为是允许的；
- 谁有权限；
- 谁承担责任；
- 不得违反哪些规则；
- 哪些能力必须被限制、阻断或升级。
例如，未来的 AGI 可能会制定一个高度复杂的计划来分配能源、资本、医疗资源或公共基础设施。
其分析可能超出任何一个人的能力。
但是该计划应该仍然是 拟执行行动，直到合法的人类和机构治理决定是否可以执行。
LERA 提供了两种极端选择的替代方案：
- 永久限制机器智能；
- 或将执行权交给更智能的系统。
替代方案是：
允许智能增长，同时保持对执行权的控制。
如果人们故意取消治理结构、放弃责任或允许执行系统绕过它，那么 LERA 就无法保留人类控制。
但它为人类提供了避免默认替换所需的缺失架构。
中心点是：
人类被取代不仅仅是因为机器思考得更好。当机器智能获得在没有人类判断和治理的情况下采取行动的权力时，人类就会在结构上被取代。
LERA 旨在防止这种权力转移。