02
深空探索
管理超越直接人工干预的自主执行。
深空系统常常运行在人类无法实时控制的环境中。通信延迟、极端条件、有限修复能力和任务关键型自主性,都要求执行治理在任务开始前就被设计进去。
深空中的问题不只是系统可能做错决定。更深层的问题是,系统可能在没有清晰判断、授权和责任路径的情况下直接执行。
示例场景
深空探索系统可能控制巡视器、栖息地模块、资源系统、科学仪器、采矿装置、导航系统或生命支持环境。由于距离和通信延迟,地面人员并不总能实时干预。
当系统遇到不确定情况时,它可能生成一个看似有利于任务目标的命令,但这个命令也可能带来严重风险:进入不稳定地形、消耗紧急储备、关闭设备,或重新分配生命支持资源。
没有 LERA
如果没有 判断治理架构,自主推理可能直接进入执行。高风险行动可能在人工审查前发生,紧急资源可能在缺少治理时被消耗,任务也可能在未经明确授权的情况下遭受不可逆损害。
一旦失败发生,责任会变得难以定位:是 AI、任务设计者、操作人员、机构、规则系统,还是允许这种自主等级的人负责?
使用 LERA
使用 LERA 后,深空自主仍然可以存在,但不再是无治理的自主。系统需要预先定义哪些行动可以常规执行,哪些必须保持阻断,哪些在执行前需要更强判断。
即使无法实时让人介入,LERA 也要求判断、授权、规则和责任在行动发生前被结构化定义。
LERA 如何介入
- 判断:判断拟执行行动意味着什么,可能产生什么后果,以及不确定性是否可接受。
- 授权:明确谁有正当资格允许行动继续。
- 责任:在执行前绑定责任,而不是等事故发生后再追溯。
- 可靠性规则:为该情境应用相关的 WRS-C 和领域 WRS-D 条件。
- RCC:治理谁可以改变执行相关规则,以及规则变更如何授权和留痕。
- ECS:在执行边界之前,让行动保持可控制。
- 结果:在现实执行之前,将行动路由为允许、阻断或升级。
LERA 改变了什么
LERA 为远距离自主行动提供责任结构。有风险的命令不会仅仅因为 AI 生成就执行;不可逆行动需要更强治理;系统进入极端环境前,阻断和升级路径必须已经定义。
没有 LERA: AI 输出 -> 执行 -> 后果
使用 LERA: AI 输出 -> 判断治理架构 -> 允许 / 阻断 / 升级