了解 LERA

为什么 LERA 很重要?

详细解答

简要回答:LERA 很重要,因为 AI 系统获取执行能力的速度比组织和社会构建管理该能力的结构的速度更快。

核心说明

LERA 很重要,因为 AI 系统获取执行能力的速度比组织和社会构建管理该能力的结构的速度更快。

AI 开发主要集中于使系统更智能、更自主、更高效、更有能力完成任务。但智力和执行力并不是一回事。

系统可能能够:

  • 预测将会发生什么;
  • 识别最优行动;
  • 写命令;
  • 控制设备;
  • 转移资产;
  • 改变工作流;
  • 影响基础设施。

这些能力都不会自动确定该行动是合法的、授权的、负责任的或足够安全的,可以执行。

LERA 通过把判断和治理放在执行之前来解决这一缺口。它要确保机器能力不会自动变成现实权力。

这在几个层面上都很重要。

对于个人而言,LERA 有助于保持 AI 辅助和 AI 控制之间的区别。个人 AI 可以建议、推断或准备行动,但它不应该默默地获得在严重后果情况下代表个人采取行动的权力。

对于企业,LERA 在自动化行动影响合同、客户、资产、员工、设备或声誉之前使权力和责任变得可见。

对于社会来说,LERA 提供了一个结构性场所,法律、公共规则、机构授权和问责制可以在伤害发生之前影响 AI 的行动。

对于文明,LERA 解决了 AGI 背后更深层次的恐惧:不仅仅是机器可能变得比人类更聪明,而是机器智能可能获得执行力,而 人类判断 已逐渐从系统中删除。

LERA 很重要,因为它改变了默认路径:

机器能力成为行动

转向:

机器能力成为受治理的提案

考虑一个 AI 控制的能源系统,优化电池设施以获得市场收入。AI 可能会计算出激进的骑行会产生最高的短期回报。但如果该策略削弱了热安全、资产寿命、储备能力或电网责任,那么仅靠优化不应决定执行。

LERA 确保效率始终服从于判断、可靠性规则、授权和责任。

并不要求社会在每次计算中都击败机器。它要求社会保留对允许机器执行的操作的治理。

这就是 LERA 重要的原因:

人类能否保持控制,不只取决于谁更聪明,也取决于谁掌握执行权。