详细解答
AI 智能不足以治理文明,因为 AI 可以确定如何实现目标,但它本身无法确定目标是否合法。
核心区别在于:AI 智能可以生成强大的手段,但文明仍然需要在执行之前保留判断、正当性、责任和治理。
AI 智能能够做什么
高能力 AI 系统可能能够:
- 优化资源;
- 预测行为;
- 协调复杂作业;
- 降低成本;
- 提高效率;
- 确定最快的解决方案;
- 最大化既定结果。
文明仍然必须决定什么
但文明必须回答仅靠优化无法解决的问题:
- 应该追求哪个目标?
- 谁的利益重要?
- 哪些权利不得侵犯?
- 可接受的风险级别是多少?
- 谁拥有合法权力?
- 谁承担责任?
- 什么是永远不应该执行的,即使它是高效的?
- 哪些后果在道德上、法律上或社会上是不可接受的?
这些是判断和治理的问题。
它们不仅仅是计算能力的问题。
例子
例如,AI 系统可以判断,可以通过持续监控每个公民来改善公共安全。
推理可能是内部连贯的。
系统可以正确预测监视会减少某些犯罪。
但文明仍必须判断:
- 是否应该牺牲隐私;
- 权限是否合法;
- 权力如何可能被滥用;
- 公民是否可以挑战该系统;
- 谁对错误行为负责;
- 结果是否符合人的尊严。
LERA 为什么重要
AI 智能产生手段。
它不能自动让目标变得正当。
这就是为什么 AGI 的兴起会带来治理问题而不仅仅是技术性能问题。
如果社会把更强的 AI 智能视为执行的充分理由,优化就会开始取代法律、道德、授权和责任。
LERA 阻断这种替换。
它确保 AI 生成的智能在执行之前仍然受制于单独的 判断治理架构。
四者的关系是:
- AI 智能产生可能性;
- 判断评估后果和合法性;
- 治理决定什么可以继续;
- 只有在权限成立后,执行才可以发生。
文明不能仅靠 AI 智能来治理,因为文明不仅仅是一个需要优化的问题。
它是权利、义务、授权、责任、记忆、信任和意义共同构成的秩序。
LERA 保护的,正是这些条件能够在行动发生前继续发挥作用的位置。