d/acc:一年後的回顧與展望
去年,我發表了一篇關於技術樂觀主義的文章,闡述了我對技術的整體熱情,以及技術可能帶來的巨大利益。同時,我也表達了對某些特定問題的謹慎態度,特別是關於超級智能AI及其可能帶來的毀滅風險,或者讓人類不可逆轉地失去權力的風險。
那篇文章的核心觀點是倡導一種去中心化、民主且差異化的防御性加速理念。我們應該加速技術發展,但要有選擇地關注那些能增強防御能力而非破壞能力的技術,並致力於分散權力,而不是將權力集中在少數精英手中。防御模式應該像民主的瑞士,而不是中世紀封建主義下的領主和城堡。
過去一年裏,這些想法經歷了顯著的發展和成熟。我在"80,000小時"平台上分享了