个人和人类主体性

LERA 如何保护个人?

详细解答

简要回答:LERA 保护个人的关键,是防止机器解释、建议或行动自动变成影响个人的现实执行。

核心说明

LERA 通过防止机器生成的解释、建议或行动自动成为影响个人身体、财产、权利、身份、机会或法律地位的执行来保护个人。

随着 AI 系统变得越来越强大,它们越来越多地通过以下方式与个人互动:

  • 私人助理;
  • 金融服务;
  • 医疗保健系统;
  • 就业系统;
  • 保险;
  • 教育;
  • 连接设备;
  • 脑机接口;
  • 自动化公共服务;
  • 身份和访问系统。

在许多这样的环境中,危险不仅在于 AI 可能会产生错误的答案。

更深层次的危险是系统可能会根据该答案采取行动。

AI 系统可能会推断一个人风险高、不适合、不合规、困惑或不太可能偿还贷款。如果该推断自动更改帐户、拒绝访问、重定向治疗、阻断交易或影响就业,那么系统已从分析转向执行。

LERA 通过要求此类行为在执行前仍接受判断和治理来保护个人。

这意味着系统必须区分:

  • 有关人员的信息;
  • AI 对人的推理;
  • 一个拟执行行动会影响人;
  • 合法授权行事;
  • 对结果负责;
  • 允许执行。

如果没有 LERA,这些区别可能会消失。

机器生成的分类可能被误认为已经具有决定效力。

在 LERA 中,分类仍然只是判断过程的一部分,不会自动变成决定或行动。

例如,AI 欺诈检测系统可能会将客户交易标记为可疑。

如果没有 LERA,账户可能会立即被冻结。

在 LERA 中,拟议限制必须经过适当的判断—治理路径。系统需要考虑可靠性、后果、授权、适用规则、紧急性,以及该行动应被允许、阻断还是升级审查。

这就是 LERA 从结构上保护个人的方式。

它不仅仅取决于 AI“公平”。

它通过确保机器输出不会自动获得执行权限来保护人员。