个人和人类主体性

LERA 能保护知情同意和授权边界吗?

详细解答

简要回答:是的。LERA 可以确保推断意图、被动数据、行为预测或机器解释不会自动被视为高后果执行的授权,从而帮助保护知情同意和授权边界。

核心说明

是的。LERA 可以确保推断意图、被动数据、行为预测或机器解释不会自动被视为高后果执行的授权,从而帮助保护知情同意和授权边界。

现代 AI 系统越来越多地推断人们想要的东西:

  • 浏览历史记录;
  • 语音;
  • 面部表情;
  • 位置;
  • 神经信号;
  • 先前的行为;
  • 生物特征数据;
  • 采购模式;
  • 社会关系。

这些推论可能是准确的。

但准确性并不代表知情同意。

系统可以预测一个人可能会同意某项行动。

这并不意味着该人实际上已经授权了。

如果没有明确的执行治理结构,推断的偏好可能会默默地变成操作许可。

例如,数字助理可能会推断用户想要续订服务、共享健康信息、接受合同条款或进行购买。

该系统甚至可能在统计上是正确的。

但该行动可能涉及法律义务、隐私、金钱、身份或未来后果。

LERA 通过清楚区分以下环节来保护知情同意和授权边界:

  • 预测;
  • 判断;
  • 授权;
  • 执行。

后果越强,对显式合法授权的要求就越强。

LERA 还可以帮助区分接受援助的同意和允许执行的授权。

一个人可以同意 AI 分析信息,但并不等于授权 AI 对该信息采取行动。

这种区别在以下方面变得尤为重要:

  • 医疗保健;
  • 金融;
  • 脑机接口;
  • 就业;
  • 保险;
  • 公共服务;
  • 个人数据系统。

LERA 不会取代隐私法、医疗同意书、合同法或消费者保护法。

它提供了一个架构位置,让这些同意和授权要求能够影响执行是否继续。

这是其对个人自主性最强大的贡献之一:

系统不得将了解一个人可能想要什么与有权采取行动相混淆。