Vitalik Buterin 关于 2040 年人工超级智能的出现
在最近的一次讨论中，以太坊联合创始人 Vitalik Buterin 分享了他对人工智能（AI）未来发展轨迹的看法，以及到 2040 年人工超级智能（ASI）可能崛起的潜力。他强调，对于 AI 进化速度缺乏共识，Buterin 不支持不加限制的快速推进，也不支持严格的限制。这种细致入微的观点促使人们反思如何最好地管理这一快速发展的技术。
- Buterin 强调了开源开发对安全 AI 进步的重要性。
- 他批评大公司和政府对 AI 技术的集中控制。
- 平衡加速和减缓 AI 发展的需求仍然是一个关键考虑因素。
- Buterin 建议设立客观触发条件，以应对潜在的全球威胁，重新评估 AI 开发速度。
AI 发展的平衡方法
Buterin 指出，“AI 2040”概念的支持者预见超级智能将在 2040 年之前出现，与批评者因为对技术速度和影响的根本不同观点而产生冲突。如果他确信当前的 AI 仅仅是另一种技术，他会站在怀疑者一边。然而，如果他相信超级智能会在 2030 年之前出现，他可能会更接近支持者的立场。
尽管对哪个路径更现实尚不确定，Buterin 表示愿意在风险显著增加时暂时减缓 AI 的进展。这一立场与 Anthropic 等组织的呼吁一致，因可能失去对高级系统的控制而需要谨慎。
开源在安全 AI 开发中的作用
Buterin 拒绝由少数组织对强大系统进行集中控制的模式，倡导开源开发是安全 AI 演变的关键。他长期支持像 d/acc 这样的概念——旨在增强社会安全，无论 AI 如何发展。
关键领域包括形式验证、密码学、安全硬件解决方案、应对疫情的生物技术、粮食安全措施以及社会信息验证机制。即使超级智能不会很快出现，这些领域仍然有益。
为未来行动设立客观触发条件
Buterin 建议达成一致的客观触发条件——如疫情或自动化导致的失业高峰——以在必要时重新考虑减缓 AI 发展。这一策略旨在以预先设定的标准为基础，而不是单凭猜测来进行讨论。
虽然当前尚无普遍解决方案可以在不对超级智能实体的影响或即将面临的挑战抱有天真的情况下过渡到由其主导的时代，但在不同群体间培养对话可能为迈向妥协而非单纯对抗铺平道路。
随着以太坊在其网络基础设施增强中继续利用协调的智能代理，并促进独立于云依赖的去中心化本地模型，广泛的加密货币社区在全球不断变化的技术环境中为进一步创新做好了准备！
