组织和企业治理

哪些类型的组织最需要 LERA?

详细解答

简要回答:LERA 对于 AI 生成的行为可能产生重大、难以逆转或广泛分布的后果的组织来说最为重要。

LERA 对于 AI 生成的行为可能产生重大、难以逆转或广泛分布的后果的组织来说最为重要。

这些组织通常在涉及以下领域开展业务:

  • 人们的权利或安全;
  • 金融资产;
  • 法律承诺;
  • 物理设备;
  • 能源系统;
  • 关键基础设施;
  • 公共服务;
  • 自主机器;
  • 医疗保健;
  • 脑机接口;
  • 战略或关键任务操作。

LERA 的需求更多地取决于执行结果,而不是公司规模。

小公司可能会操作 AI 控制的工业机器,带来严重的物理风险。

大公司可能仅将 AI 用于低风险内容生成。

第一个可能需要比第二个更强的执行治理。

当 AI 能够:

  • 调用工具或 API;
  • 进行外部通信;
  • 修改记录;
  • 批准交易;
  • 转移资产;
  • 控制设备;
  • 影响客户或员工;
  • 改变规则;
  • 无需实时人工审核即可运行;
  • 产生不可逆转的结果。

最强烈的需求出现在 L2 和 L3 环境中。

在 L2,判断开始确定是否允许执行、必须明确确定责任以及行动可能会造成重大成本或中断。

在 L3 处,操作是不可逆转的,不能容忍失败,或者后果超出局部纠正范围。

在这些环境中,LERA 的完整结构逻辑最为重要。

组织不需要等到理论上最强的意义上部署 AGI。

如果现有 Agent 或自动化系统已经具备实际执行能力,治理问题就已经开始。

实际问题不是 AI 有多先进。

是 AI 能创造多少后果。

风险分级说明

文中的 L0、L1、L2、L3 是执行治理强度的分级:L0 表示普通、可逆、局部影响的判断场景;L1 表示 AI 辅助人类活动、后果仍有限且可纠正的场景;L2 表示行动可能造成重要成本、破坏或制度后果,需要结构化判断和明确责任;L3 表示行动不可逆、不能容忍失败,或后果超出局部纠正范围,必须采用最严格的判断和治理门槛。