个人和人类主体性

LERA 能否阻断 AI 替人做决定?

详细解答

简要回答:LERA 可以防止高后果的机器输出自动获得为人决策和行动的权力。

核心说明

LERA 可以防止高后果的机器输出自动获得为人决策和行动的权力。

这并不意味着 AI 永远无法辅助决策。

AI 可以提供分析、识别选项、预测后果、解释风险或建议行动方案。

区别在于 AI 是继续充当助手还是成为有效的决策者。

在许多系统中,这个边界已经变得不明确。

AI 可以建议哪些员工应该被解雇,哪些患者应该获得优先权,哪些申请人应该获得信用,或者哪些公民应该接受调查。

如果周围机构自动按照该建议采取行动,那么 AI 就不再仅仅是提供建议。

它正在参与执行。

LERA 通过让拟执行行动在影响人之前保持在判断—治理层中来防止这种情况。

系统必须解决:

  • 是否 AI 输出 足够可靠;
  • 相关信息是否缺失;
  • 该行为是否影响权利或机会;
  • 谁拥有合法权力;
  • 谁承担责任;
  • 适用哪些规则;
  • 该行动是否可以继续进行;
  • 是否必须阻断或升级。

例如,雇主可以使用 AI 对候选人进行排名。

该排名可以帮助人们审查大量的应用程序。

但如果系统在没有有意义的审查、明确的责任、有效的规则或申诉路径的情况下自动拒绝申请人,AI 援助就变成了制度执行。

LERA 有助于防止这种转换。

它并不禁止在决策支持中使用 AI。

它要求高后果的执行仍然受到合法的判断和治理。

主要区别如下:

  • AI 可以帮助形成信息;
  • AI 不应该自动获得决定一个人生活的权力。

LERA 通过确保在后果发生之前行动保持可治理来保护这一边界。