详细解答
如果没有用于治理执行的 判断治理架构，AI 生成的行动可能会逐渐成为社会默认的执行力量。
这不需要 AI 系统变得敌对。
它可以通过便利性、效率、规模和机构依赖性而发生。
危险在于结构：执行会被自动化，而判断、授权、责任和规则却留在产生后果的位置之外。
这种转移可能如何发生
这一过程可能悄然发生，并逐渐发展为：
- AI 首先提供信息；
- AI 开始建议操作；
- 建议被连接到工具和工作流；
- 人工审批变得更快，但意义更小；
- 例行执行变成自动化；
- 异常操作开始使用相同路径；
- 人类逐渐看不清执行发生的位置；
- 责任变得分散且不明确；
- 机构开始适应机器决策；
- 人类判断成为事后响应。
在此过程结束时，人们可能仍然正式拥有权力，但在产生后果时他们不再行使权力。
这是结构性位移的一种形式。
机器不需要宣布它已取得控制权。
控制权已经转移，因为执行权转移到自动化系统中，而判断和责任仍然在自动化系统之外。
可能产生的后果
可能会产生多种后果。
责任可能消失
组织可能会归咎于模型、供应商、数据、用户或工作流，而不在执行之前确定谁真正接受了责任。
规则可能变得脆弱
AI 系统或操作员可以修改约束以实现短期目标。
人类认可可能成为象征性的
人们可能会批准他们无法以机器速度正确理解或审查的操作。
公共机构决策可能被自动化接管
政府和机构的决定可能会在没有有意义的判断或程序保护的情况下得到执行。
机器目标可能占主导地位
可衡量的、可优化的和高效的东西可能会逐渐取代合法的、人道的、公平的或社会合法的东西。
不可逆转的后果可能会扩大规模
影响基础设施、金融、医疗保健、国防或环境的错误，其传播速度可能快于人类主体的响应速度。
LERA 的作用
LERA 的作用，是在这种路径被视为正常之前进行结构性干预。
它规定机器输出仍然是提案，直到判断、权限、责任、规则和执行控制另有决定为止。
如果没有这样的 判断治理架构，文明就有可能变得高度智能，但越来越无法治理这种智能产生的执行。
危险不仅仅是机器叛乱。
更直接的危险是 人类判断 被排除在执行之外。