详细解答
简要回答:LERA 保护个人的关键,是防止机器解释、建议或行动自动变成影响个人的现实执行。
核心说明
LERA 通过防止机器生成的解释、建议或行动自动成为影响个人身体、财产、权利、身份、机会或法律地位的执行来保护个人。
随着 AI 系统变得越来越强大,它们越来越多地通过以下方式与个人互动:
- 私人助理;
- 金融服务;
- 医疗保健系统;
- 就业系统;
- 保险;
- 教育;
- 连接设备;
- 脑机接口;
- 自动化公共服务;
- 身份和访问系统。
在许多这样的环境中,危险不仅在于 AI 可能会产生错误的答案。
更深层次的危险是系统可能会根据该答案采取行动。
AI 系统可能会推断一个人风险高、不适合、不合规、困惑或不太可能偿还贷款。如果该推断自动更改帐户、拒绝访问、重定向治疗、阻断交易或影响就业,那么系统已从分析转向执行。
LERA 通过要求此类行为在执行前仍接受判断和治理来保护个人。
这意味着系统必须区分:
- 有关人员的信息;
- AI 对人的推理;
- 一个拟执行行动会影响人;
- 合法授权行事;
- 对结果负责;
- 允许执行。
如果没有 LERA,这些区别可能会消失。
机器生成的分类可能被误认为已经具有决定效力。
在 LERA 中,分类仍然只是判断过程的一部分,不会自动变成决定或行动。
例如,AI 欺诈检测系统可能会将客户交易标记为可疑。
如果没有 LERA,账户可能会立即被冻结。
在 LERA 中,拟议限制必须经过适当的判断—治理路径。系统需要考虑可靠性、后果、授权、适用规则、紧急性,以及该行动应被允许、阻断还是升级审查。
这就是 LERA 从结构上保护个人的方式。
它不仅仅取决于 AI“公平”。
它通过确保机器输出不会自动获得执行权限来保护人员。