详细解答
简要回答:LERA 是一种具有文明意义的技术和系统架构。
LERA 是一种具有文明意义的技术和系统架构。
在工程层面,LERA 组织了不同的职能:
- 强制进入判断;
- 判断形成;
- 治理;
- 权限和责任;
- 可靠性规则;
- 规则变更控制;
- 执行控制;
- 执行边界。
这些功能可以应用到真实的系统中,包括:
- AI Agent;
- 机器人;
- 金融系统;
- 能源系统;
- 关键基础设施;
- 企业工作流;
- 脑机接口;
- 自主任务。
从这个意义上来说,LERA 不仅仅是一种哲学。
它旨在成为一种工程架构,通过该架构在执行之前对机器生成的行动进行管理。
但 LERA 解决的问题比工程更重要。
当机器智能获得行动能力时,执行架构决定:
- 人类是否仍然处于治理主位;
- 责任是否仍然可见;
- 法律是否可以影响行动;
- 权限是否合法;
- 机构能否制止有害执行;
- 智能是否从属于文明,或者文明是否从属于自动化。
这些是文明问题。
LERA 在两个层面上运行。
技术层面
它定义了判断、治理、规则和执行控制在系统内如何关联。
文明层面
它保护的是这样一个原则:更高的智能不会自动获得更大的现实执行权。
这两个层面不能分开。
如果没有架构形式,对人类控制的纯粹哲学承诺是无效的。
如果没有合法的人类、法律或机构目的,纯技术控制系统是不够的。
LERA 连接两者。
将文明原则转化为制度要求:
人的判断和治理必须先于机器执行。
这就是为什么 LERA 可以被称为文明基础设施。
并不是因为它独立地定义了每一个法律、价值观或制度,而是因为它提供了结构性地位,通过这些法律、价值观和制度可以在先进的机器智能时代继续治理行动。
LERA 从架构开始。
其后果关系到未来的文明形态。