个人和人类主体性

LERA 如何帮助普通人保持首要地位?

详细解答

简要回答:LERA 通过保留机器能力与人类判断、授权之间的区别,帮助普通人保持首要地位。

核心说明

LERA 通过保留机器能力与人类判断、授权之间的区别,帮助普通人保持首要地位。

AI 系统可能在记忆、计算、预测、优化、模式识别或信息检索方面变得比个人更好。

但更大的能力不应自动赋予机器为人、凌驾于人或代替人行事的权利。

这是 LERA 背后最重要的原则之一:

智能不等于授权。

个人 AI 助理可能:

  • 起草电子邮件;
  • 比较保险计划;
  • 建议投资;
  • 组织时间表;
  • 准备购买;
  • 解读医疗报告;
  • 建议采取法律回应;
  • 控制连接的设备。

这些函数可能有用。

当援助悄然变成执行时,问题就开始了。

AI 可能会在没有明确判断和责任路径的情况下发送消息、进行购买、转移资金、更改帐户、接受条款或操作设备。

LERA 通过区分以下两件事,帮助维护人类主位:

  • AI 可以做什么;
  • AI 可以执行什么。

这不需要人类手动控制每个低风险行动。

要求系统围绕影响个人权利、身体、资产、身份或责任的行为保持清晰的治理结构。

例如,个人财务 Agent 可以识别有利可图的投资机会。

Agent 在市场分析方面可能比用户更有能力。

但对于是否转移资金、接受多少风险以及由谁承担交易责任,用户仍应处于主位。

LERA 使这种主位成为结构性的。

人仍然处于主要地位,不是因为机器较弱,而是因为机器能力仍然服从于合法的判断和治理。

这是人类控制的更现实的基础。

人类不需要在每项认知任务中都优于 AI。

需要保留执行权限。