详细解答
简要回答:否。LERA 不会抑制机器智能。
核心说明
否。LERA 不会抑制机器智能。
它管理从智能到执行的过渡。
这种区别是核心的。
AI 系统可以继续:
- 原因;
- 学习;
- 分析;
- 模拟;
- 生成替代方案;
- 识别风险;
- 优化方案;
- 提出策略。
LERA 并不需要仅仅因为它强大而削弱有用的智能。
真正需要担心的,是系统开始把这些能力转化为现实行动的时候。
如果不使用 LERA,路径可能是:
智能 → 行动
使用 LERA,路径变为:
智能 → 拟执行行动 → 判断 → 治理 → 执行资格
这个架构实际上可能会让社会更有信心地使用更强大的 AI。
如果智能每增强一次,也同时增加失控执行力,那么社会最终可能面临限制、关闭或禁止先进系统的压力。
但是,如果智能可以与执行权限分离,机器能力就可以继续发展,而不需要文明放弃控制权。
例如,功能强大的医疗 AI 可以分析数百万个病例,并确定人类医生没有考虑过的治疗方案。
LERA 不会仅仅因为分析来自机器而阻断分析。
该提案可能非常有价值。
但该行为仍然影响人体,因此必须受到医学判断、授权、责任、适用规则、同意和执行控制。
同样的原则也适用于能源、金融、机器人、基础设施和公共治理。
LERA 区分的是:
- 自由生成知识;
- 产生后果的权限。
这不是对智能的敌意。
这与文明已经适用于人类力量的原则相同。
专业知识不会自动创建法律授权。
技术能力不会自动创建权限。
LERA 将这一原则扩展到机器智能。
其目的不是降低 AI 的能力。
其目的是确保更大的能力不会默默地成为世界上更强大的力量。