详细解答
简要回答:在脑机接口中,LERA 保护身份的重点,是区分人的意图、机器解释、系统建议和实际授权。
核心说明
LERA 通过要求人类意图、AI 解释、系统生成的建议、授权和执行之间的结构区别来保护脑机接口中的身份。
脑机接口产生了一个独特的问题,因为 神经信号 并不总是与有意识的意图相同。
系统可以检测大脑活动的模式并将其解释为命令。
同时,AI 可以预测该人想要什么、纠正信号、填写缺失的信息或代表该人生成操作。
当这些进程一起发生时,出现了一个难题:
谁的命令正在执行?
- 人的自觉意图;
- 和模糊的 神经信号;
- AI 的推理;
- 系统修正;
- 人类和机器输入的混合?
如果没有 判断—治理层,这些源可能会崩溃为单个命令路径。
结果可能是 AI 生成的解释被视为个人自己的决定。
这不仅仅威胁安全。
它威胁 主体性和身份。
如果系统无法区分人的意图和 AI 的推断,那么责任就会变得不清楚,人作为行为主体的地位可能会削弱。
LERA 引入了结构性要求:
机器解释不得自动成为人类授权执行。
系统应保留以下之间的区别:
神经信号
解释意图
AI 生成的提案
人类判断
授权执行
对于低风险且可逆的行为,治理路径可能会更轻。
对于影响身体、医疗设备、移动、通信、合同、金融或其他高后果领域的行为,需要更强的判断和授权。
LERA 并不声称在每种情况下都能解决个人身份的哲学问题。
它的贡献更加具体和架构:
它确保机器生成的解释不会默默地取代人在执行边界的判断。
这有助于保留人员作为责任和治理主体。