d/acc:一年后的回顾与展望
去年,我发表了一篇关于技术乐观主义的文章,阐述了我对技术的整体热情,以及技术可能带来的巨大利益。同时,我也表达了对某些特定问题的谨慎态度,特别是关于超级智能AI及其可能带来的毁灭风险,或者让人类不可逆转地失去权力的风险。
那篇文章的核心观点是倡导一种去中心化、民主且差异化的防御性加速理念。我们应该加速技术发展,但要有选择地关注那些能增强防御能力而非破坏能力的技术,并致力于分散权力,而不是将权力集中在少数精英手中。防御模式应该像民主的瑞士,而不是中世纪封建主义下的领主和城堡。
过去一年里,这些想法经历了显著的发展和成熟。我在"80,000小时"平台上分享了