详细解答
简要回答:LERA 可以防止高后果的机器输出自动获得为人决策和行动的权力。
核心说明
LERA 可以防止高后果的机器输出自动获得为人决策和行动的权力。
这并不意味着 AI 永远无法辅助决策。
AI 可以提供分析、识别选项、预测后果、解释风险或建议行动方案。
区别在于 AI 是继续充当助手还是成为有效的决策者。
在许多系统中,这个边界已经变得不明确。
AI 可以建议哪些员工应该被解雇,哪些患者应该获得优先权,哪些申请人应该获得信用,或者哪些公民应该接受调查。
如果周围机构自动按照该建议采取行动,那么 AI 就不再仅仅是提供建议。
它正在参与执行。
LERA 通过让拟执行行动在影响人之前保持在判断—治理层中来防止这种情况。
系统必须解决:
- 是否 AI 输出 足够可靠;
- 相关信息是否缺失;
- 该行为是否影响权利或机会;
- 谁拥有合法权力;
- 谁承担责任;
- 适用哪些规则;
- 该行动是否可以继续进行;
- 是否必须阻断或升级。
例如,雇主可以使用 AI 对候选人进行排名。
该排名可以帮助人们审查大量的应用程序。
但如果系统在没有有意义的审查、明确的责任、有效的规则或申诉路径的情况下自动拒绝申请人,AI 援助就变成了制度执行。
LERA 有助于防止这种转换。
它并不禁止在决策支持中使用 AI。
它要求高后果的执行仍然受到合法的判断和治理。
主要区别如下:
- AI 可以帮助形成信息;
- AI 不应该自动获得决定一个人生活的权力。
LERA 通过确保在后果发生之前行动保持可治理来保护这一边界。