d/acc:一年后的回顾与展望

去年,我撰写了一篇关于技术乐观主义的文章,阐述了我对技术的总体热忱,以及技术带来的巨大效益,同时也表达了对一些特定问题的审慎态度,主要聚焦于超级智能人工智能可能引发的风险。

文章的核心观点是秉持去中心化、民主且差异化的防御性加速理念。既要加速技术发展,又要聚焦于那些能够提升我们防御能力而非造成伤害能力的技术,并致力于推动权力分散,而非让权力集中在少数精英手中。

自那时起的一年间,这些理念和想法经历了显著的发展与成熟。我在多个平台上分享了这些想法,收获了诸多回应,其中大部分是积极的,当然也存在一些批评的声音。

这项工作本身持续推进并取得了切实成果:在可验证开源疫苗领域,我们目睹了进展;人们对健康室内空气价值的认知不断深化;社区笔记持续发挥着积极效用;预测市场作为信息工具迎来了突破之年;零知识证明在政府身份识别和社交媒体领域得以应用;开源成像工具在医学和脑机接口领域获得应用,等等。

去年秋季,我们迎来了首个重要的 d/acc 活动:于 Devcon 举办的"d/acc 发现日"。活动汇聚了来自 d/acc 各个支柱领域的演讲者,活动持续了整整一天。多年来致力于这些技术的人们愈发了解彼此的工作,而外部人士也越发意识到这一更为宏大的愿景:推动以太坊和加密货币发展的相同价值观能够拓展至更广阔的世界。

d/acc 的内涵与外延

d/acc 的核心思想简洁明了:去中心化、民主且差异化的防御性加速。构建能够促使攻防平衡向防御倾斜的技术,并且在实施过程中不依赖于将更多权力交予中央权威机构。这两个方面之间存在着内在的紧密联系:任何一种去中心化、民主或自由的政治结构,在防御易于实施时往往能够蓬勃发展,而在防御面临重重困难时则会遭遇严峻挑战。

理解尝试同时实现去中心化、防御性和加速性的重要意义的一种方式,是将其与放弃这三个方面中的任意一个所产生的理念进行对比。

去中心化加速,但忽视"差异化防御"部分

这类似于成为一名有效加速主义者,但同时追求去中心化。有许多人采取这种方式,其中一些人自称 d/acc,但他们有益地将自身重点描述为"进攻"。此外,还有许多其他人对"去中心化人工智能"及类似话题表现出更为温和的热情,但在我看来,他们对"防御"层面的关注明显不足。

这种方式或许能够避免特定群体对全球人类实施独裁统治的风险,但它却未能解决潜在的结构性问题:在一个有利于进攻的环境中,始终存在着灾难降临的持续风险,或者有人会将自己定位为保护者,并永久性地占据统治地位。就人工智能而言,它也无法妥善解决人类整体相对于人工智能被削弱权力的风险。

差异化防御加速,但忽略"去中心化和民主"

为了实现安全目标而接受集中控制,这对一部分人始终具有一定的吸引力。近期,一些人担忧极端集中控制可能是应对未来极端技术的唯一途径。然而,集中控制存在一个程度的问题。一种通常被忽视但仍然有害的相对温和的集中控制形式,体现在生物技术领域对公众监督的抵制,以及允许这种抵制行为不受挑战的闭源规范。

这种方式的风险显而易见,那就是中心本身往往会成为风险的源头。我们在新冠疫情期间便已见证了这一点,由多个主要世界政府资助的功能获得性研究可能是疫情的根源所在,集中的认识论导致世界卫生组织多年来拒绝承认新冠病毒是通过空气传播的,而强制性的社交距离和疫苗强制令则引发了可能持续数十年的政治反弹。相比之下,去中心化的方式将更有效地应对来自中心自身的风险。

去中心化防御,但排斥加速

从本质上来说,这是试图减缓技术进步或推动经济衰退。

这种策略面临着双重挑战。首先,总体而言,技术和经济增长对人类而言是极为有益的,任何对其的延迟都会带来难以估量的代价。其次,在一个非极权主义的世界中,停滞不前是不稳定的:那些"作弊"最多,能够找到看似合理的方式继续推进发展的人或群体将会占据优势。减速主义策略在某些特定情境下能够在一定程度上发挥作用,但这些策略不可能永远奏效。

通过 d/acc,我们致力于实现以下目标:

• 在当今世界日益部落化的趋势下坚守原则,而不仅仅是盲目地构建各种事物--相反,我们期望构建特定的事物,从而使世界变得更加安全、美好。
• 认识到指数级的技术进步意味着世界将变得极为奇特,并且人类在宇宙中的总体"足迹"必然会不断增加。我们保护脆弱的动物、植物和人群免受伤害的能力必须持续提升,而唯一的出路便是勇往直前。
• 构建能够切实保护我们的技术,而不是基于"好人(或好的人工智能)掌控一切"的假设。我们通过构建在用于构建和保护时自然比用于破坏时更为有效的工具来达成这一目标。

思考 d/acc 的另一种视角是回归到 21 世纪 00 年代末欧洲海盗党运动的一个框架:赋权。

我们的目标是构建一个能够保留人类能动性的世界,实现消极自由,即避免他人(无论是普通公民、政府,还是超级智能机器人)对我们塑造自身命运的能力进行积极干预,同时实现积极自由,即确保我们拥有知识和资源去践行这一能力。这呼应了一个延续数世纪的古典自由主义传统,其中涵盖了对"工具获取"的关注,以及对教育与自由并列作为人类进步关键要素的强调。鉴于 21 世纪的技术格局,我们可以将 d/acc 视为实现这些相同目标的一种途径。

第三维度:生存与繁荣的协同发展

在我去年的文章中,d/acc 特别聚焦于防御性技术:物理防御、生物防御、网络防御和信息防御。然而,单纯的去中心化防御并不足以构建一个伟大的世界:我们还需要一个具有前瞻性的积极愿景,明确人类在获得新的去中心化和安全性之后能够实现何种目标。

去年的文章在两个方面确实包含了一个积极的愿景:

1. 在关注超级智能的挑战时,我提出了一条路径,即我们如何在不丧失权力的情况下实现超级智能:

   • 当下,构建人工智能作为工具,而非高度自主的智能体。
   • 未来,运用虚拟现实、肌电技术和脑机接口等工具,在人工智能与人类之间建立更为紧密的反馈机制。
   • 随着时间的推移,逐步迈向最终的结局,即超级智能是机器与人类紧密融合的产物。

2. 在谈及信息防御时,我也曾顺便提及,除了那些旨在帮助社区在面对攻击者时保持凝聚力并进行高质量讨论的防御性社会技术之外,还存在进步性社会技术,能够助力社区更轻松地做出高质量判断。

在各个领域中存在着一个一致的模式,即那些能够帮助我们在某一领域"生存"的科学、思想和工具,与能够助力我们"繁荣"的科学、思想和工具密切相关。以下是一些具体例子:

• 众多近期的抗新冠研究聚焦于病毒在体内的持续存在,这被视为长新冠问题的一个关键机制。近来,也有迹象表明病毒持续存在可能是阿尔茨海默病的致病因素--倘若这一观点成立,那么解决所有组织类型中的病毒持续存在问题,或许将成为攻克衰老难题的关键所在。
• 低成本和微型成像工具在治疗微血栓、病毒持续存在、癌症等方面具有强大的潜力,同时也可应用于脑机接口领域。
• 推动构建适用于高度对抗性环境的社会工具和合理合作环境的社会工具的理念极为相似。
• 预测市场在高合作和高对抗环境中均具有重要价值。
• 零知识证明及类似技术在保护隐私的同时对数据进行计算,既增加了可用于科学研究等有益工作的数据量,又增强了隐私保护。
• 太阳能和电池对于推动下一波清洁经济增长意义非凡,同时在去中心化和物理弹性方面也表现出色。

除此之外,不同学科领域之间还存在着重要的相互依存关系:

• 脑机接口作为一种信息防御和协作技术至关重要,因为它能够实现我们思想和意图的更精细交流。脑机接口不仅仅是机器人与意识之间的连接:它还可以是意识-机器人-意识之间的交互。这与多元性理念中脑机接口的价值相呼应。
• 许多生物技术依赖于信息共享,而在诸多情况下,人们只有在确信信息仅会用于特定应用时才愿意共享。这依赖于隐私技术。
• 协作技术能够用于协调对其他任何技术领域的资助。

难题:人工智能安全、紧迫时间线与监管困境

去年我的文章所收到的最具说服力的反对观点来自人工智能安全社区。其论点为:"当然,如果我们有半个世纪的时间来发展强人工智能,我们可以集中精力构建所有这些有益的事物。但实际上,看起来我们可能仅有三年时间发展到通用人工智能,再过三年发展到超级智能。因此,如果我们不想让世界陷入毁灭或以其他方式陷入不可逆转的困境,我们不能仅仅加速有益技术的发展,还必须减缓有害技术的发展,这意味着需要通过可能会触怒权势阶层的强有力监管措施。"

如果我确信我们需要比责任规则更"强有力"的措施,我会选择工业规模硬件上的全球"软暂停"按钮这一策略。目标是在关键时期具备将全球可用计算能力降低约 90%-99% 的能力,持续 1-2 年,为人类争取更多准备时间。实现"暂停"的方法已经在探索中,包括一些具体的提案,如要求硬件注册和验证位置。

一种更先进的方法是使用巧妙的加密技术手段:例如,生产出来的工业规模(但非消费级)人工智能硬件可以配备一个可信硬件芯片,只有在每周获得来自主要国际机构(包括至少