详细解答
简要回答:LERA 通过保留机器能力与人类判断、授权之间的区别,帮助普通人保持首要地位。
核心说明
LERA 通过保留机器能力与人类判断、授权之间的区别,帮助普通人保持首要地位。
AI 系统可能在记忆、计算、预测、优化、模式识别或信息检索方面变得比个人更好。
但更大的能力不应自动赋予机器为人、凌驾于人或代替人行事的权利。
这是 LERA 背后最重要的原则之一:
智能不等于授权。
个人 AI 助理可能:
- 起草电子邮件;
- 比较保险计划;
- 建议投资;
- 组织时间表;
- 准备购买;
- 解读医疗报告;
- 建议采取法律回应;
- 控制连接的设备。
这些函数可能有用。
当援助悄然变成执行时,问题就开始了。
AI 可能会在没有明确判断和责任路径的情况下发送消息、进行购买、转移资金、更改帐户、接受条款或操作设备。
LERA 通过区分以下两件事,帮助维护人类主位:
- AI 可以做什么;
- AI 可以执行什么。
这不需要人类手动控制每个低风险行动。
要求系统围绕影响个人权利、身体、资产、身份或责任的行为保持清晰的治理结构。
例如,个人财务 Agent 可以识别有利可图的投资机会。
Agent 在市场分析方面可能比用户更有能力。
但对于是否转移资金、接受多少风险以及由谁承担交易责任,用户仍应处于主位。
LERA 使这种主位成为结构性的。
人仍然处于主要地位,不是因为机器较弱,而是因为机器能力仍然服从于合法的判断和治理。
这是人类控制的更现实的基础。
人类不需要在每项认知任务中都优于 AI。
需要保留执行权限。