d/acc : Bilan et perspectives après un an

L'année dernière, j'ai écrit un article sur l'optimisme technologique, dans lequel j'expose mon enthousiasme général pour la technologie et les énormes bénéfices qu'elle apporte, tout en exprimant une attitude prudente envers certains problèmes spécifiques, principalement axée sur les risques que pourrait engendrer l'intelligence artificielle super intelligente.

Le point central de l'article est de maintenir une idée d'accélération défensive qui soit décentralisée, démocratique et différenciée. Il s'agit d'accélérer le développement technologique tout en se concentrant sur les technologies qui peuvent améliorer notre capacité de défense plutôt que de causer des dommages, et de s'engager à promouvoir la répartition du pouvoir, plutôt que de laisser le pouvoir se concentrer entre les mains de quelques élites.

Au cours de l'année écoulée depuis ce moment, ces idées et concepts ont connu un développement et une maturation significatifs. J'ai partagé ces idées sur plusieurs plateformes et j'ai reçu de nombreuses réponses, dont la plupart étaient positives, bien qu'il y ait également eu quelques critiques.

Ce travail a progressé et a produit des résultats concrets : dans le domaine des vaccins open source vérifiables, nous avons observé des avancées ; la prise de conscience de la valeur d'un air intérieur sain se renforce ; les notes communautaires continuent d'avoir un impact positif ; le marché prédictif a connu une année de percée en tant qu'outil d'information ; les preuves à divulgation nulle sont appliquées dans l'identification des gouvernements et sur les réseaux sociaux ; les outils d'imagerie open source sont utilisés dans le domaine médical et des interfaces cerveau-machine, etc.

L'automne dernier, nous avons accueilli notre premier événement majeur d'accélération décentralisée : la "Journée de découverte d'accélération décentralisée" organisée lors de Devcon. L'événement a rassemblé des intervenants de divers domaines piliers de l'accélération décentralisée et a duré toute une journée. Au fil des ans, les personnes consacrées à ces technologies ont de plus en plus compris le travail des autres, tandis que les personnes extérieures prennent de plus en plus conscience de cette vision plus large : promouvoir des valeurs communes pour le développement d'Ethereum et des cryptomonnaies qui peuvent s'étendre à un monde plus vaste.

La signification et l'étendue de d/acc

La pensée centrale de d/acc est simple et claire : une accélération défensive décentralisée, démocratique et différenciée. Construire des technologies qui favorisent un équilibre entre attaque et défense en inclinant la balance vers la défense, sans dépendre de l'octroi de plus de pouvoir à une autorité centrale durant le processus d'implémentation. Il existe un lien intrinsèque et étroit entre ces deux aspects : toute structure politique décentralisée, démocratique ou libre a tendance à prospérer lorsque la défense est facile à mettre en œuvre, mais elle sera confrontée à de sérieux défis lorsque la défense fait face à de nombreuses difficultés.

Une manière de comprendre l'importance de tenter d'atteindre la décentralisation, la défense et l'accélération en même temps, est de la comparer aux idées générées par l'abandon de l'un de ces trois aspects.

Accélération de la décentralisation, mais néglige la partie "défense différenciée"

Cela ressemble à devenir un efficace accélérationniste, tout en poursuivant la décentralisation. Il y a beaucoup de gens qui adoptent cette approche, certains se qualifiant d'd/acc, mais ils décrivent utilement leur propre accent comme "offensif". De plus, de nombreuses autres personnes montrent un enthousiasme plus modéré pour des sujets tels que "l'intelligence artificielle décentralisée", mais à mon avis, leur préoccupation pour l'aspect "défensif" est manifestement insuffisante.

Cette approche pourrait éviter le risque d'un groupe particulier d'imposer une dictature mondiale sur l'humanité, mais elle n'a pas résolu les problèmes structurels sous-jacents : dans un environnement favorable à l'attaque, il existe toujours un risque persistant de catastrophe, ou quelqu'un pourrait se positionner comme protecteur et occuper une position dominante de manière permanente. En ce qui concerne l'intelligence artificielle, elle ne parvient pas non plus à résoudre correctement le risque de dilution du pouvoir de l'humanité par rapport à l'intelligence artificielle.

Défense différenciée accélérée, mais négligeant "décentralisation et démocratie"

Accepter le contrôle centralisé pour atteindre des objectifs de sécurité a toujours un certain attrait pour une partie des gens. Récemment, certaines personnes s'inquiètent du fait qu'un contrôle centralisé extrême pourrait être le seul moyen de faire face aux technologies extrêmes futures. Cependant, le contrôle centralisé présente un problème de degré. Une forme de contrôle centralisé relativement douce, souvent négligée mais toujours nuisible, se manifeste dans la résistance à la supervision publique dans le domaine des biotechnologies, ainsi que dans la possibilité de permettre à cette résistance de se maintenir sans contestation grâce à des normes non ouvertes.

Le risque de cette approche est évident, à savoir que le centre lui-même devient souvent la source de risque. Nous l'avons déjà constaté pendant la pandémie de COVID-19, où la recherche fonctionnelle financée par plusieurs grands gouvernements mondiaux pourrait être à l'origine de la pandémie, une épistémologie centralisée ayant conduit l'Organisation mondiale de la santé à refuser pendant des années de reconnaître que le virus COVID se propage par l'air, tandis que la distanciation sociale obligatoire et les mandats de vaccination ont suscité des réactions politiques qui pourraient durer des décennies. En revanche, une approche décentralisée répondra plus efficacement aux risques provenant du centre lui-même.

Défense décentralisée, mais rejet de l'accélération

En essence, il s'agit d'une tentative de ralentir les progrès technologiques ou de promouvoir une récession économique.

Cette stratégie fait face à un double défi. Tout d'abord, en général, la croissance technologique et économique est extrêmement bénéfique pour l'humanité, et tout retard à cet égard entraînerait des coûts incalculables. Deuxièmement, dans un monde non autoritaire, l'inaction est instable : ceux qui "trichent" le plus et peuvent trouver des moyens apparemment raisonnables de continuer à progresser seront avantagés. Les stratégies de ralentissement peuvent fonctionner dans certains contextes spécifiques, mais ces stratégies ne peuvent pas fonctionner indéfiniment.

À travers d/acc, nous nous engageons à atteindre les objectifs suivants :

• Dans un monde de plus en plus tribalisé, il est essentiel de défendre des principes, et non pas de construire des choses de manière aveugle - au contraire, nous espérons construire des choses spécifiques pour rendre le monde plus sûr et meilleur.
• Reconnaître que les avancées technologiques exponentielles signifient que le monde deviendra extrêmement étrange, et que l'empreinte globale de l'humanité dans l'univers continuera inévitablement d'augmenter. Notre capacité à protéger les animaux, les plantes et les populations vulnérables contre les dommages doit continuer à s'améliorer, et la seule voie à suivre est d'avancer avec courage.
• Construire des technologies qui protègent réellement nos intérêts, plutôt que de se baser sur l'hypothèse que "les bonnes personnes ( ou une bonne intelligence artificielle ) contrôlent tout". Nous atteignons cet objectif en développant des outils qui sont naturellement plus efficaces pour construire et protéger que pour détruire.

Une autre perspective sur d/acc est de revenir à un cadre du mouvement des pirates européens à la fin des années 2000 : l'autonomisation.

Notre objectif est de construire un monde capable de préserver l'autonomie humaine, en réalisant la liberté négative, c'est-à-dire éviter que d'autres (, qu'il s'agisse de citoyens ordinaires, de gouvernements ou de super-intelligences artificielles ), n'interviennent activement dans notre capacité à façonner notre propre destin, tout en réalisant la liberté positive, c'est-à-dire garantir que nous disposons des connaissances et des ressources nécessaires pour exercer cette capacité. Cela fait écho à une tradition classique du libéralisme qui dure depuis des siècles, englobant une préoccupation pour l'acquisition d'outils, ainsi qu'un accent sur l'éducation et la liberté comme éléments clés du progrès humain. Compte tenu du paysage technologique du XXIe siècle, nous pouvons considérer le d/acc comme une voie pour atteindre ces mêmes objectifs.

Troisième dimension : Développement synergique de la survie et de la prospérité

Dans mon article de l'année dernière, d/acc s'est particulièrement concentré sur les technologies défensives : défense physique, défense biologique, défense numérique et défense de l'information. Cependant, une défense décentralisée pure ne suffit pas à construire un grand monde : nous avons également besoin d'une vision proactive et prospective, précisant quels objectifs l'humanité peut réaliser après avoir acquis une nouvelle décentralisation et sécurité.

L'article de l'année dernière contenait en effet une vision positive sur deux aspects:

1. En considérant les défis de l'intelligence super intelligente, j'ai proposé un chemin, c'est-à-dire comment nous pouvons réaliser l'intelligence super intelligente sans perdre de pouvoir :
   • Actuellement, construire l'intelligence artificielle comme un outil, plutôt que comme un agent intelligent hautement autonome.

• À l'avenir, utiliser des outils tels que la réalité virtuelle, la technologie EMG et les interfaces cerveau-machine pour établir un mécanisme de rétroaction plus étroit entre l'intelligence artificielle et l'humain.
  • Au fil du temps, se dirigeant progressivement vers la conclusion finale, à savoir que l'intelligence super est le produit d'une fusion étroite entre les machines et les humains.

2. En parlant de la défense de l'information, j'ai également mentionné en passant que, en plus des technologies sociales défensives visant à aider la communauté à rester unie face aux attaquants et à avoir des discussions de haute qualité, il existe des technologies sociales progressistes qui permettent à la communauté de faire des jugements de haute qualité plus facilement.

Il existe un modèle cohérent dans divers domaines, à savoir que les sciences, idées et outils qui peuvent nous aider à "survivre" dans un domaine sont étroitement liés aux sciences, idées et outils qui peuvent nous aider à "prospérer". Voici quelques exemples concrets :

• De nombreuses recherches récentes sur la lutte contre le COVID-19 se concentrent sur la persistance du virus dans le corps, considérée comme un mécanisme clé du problème du long COVID. Récemment, il y a également des signes indiquant que la persistance du virus pourrait être un facteur pathogène dans la maladie d'Alzheimer - si ce point de vue est correct, alors résoudre le problème de la persistance du virus dans tous les types de tissus pourrait devenir la clé pour surmonter le défi du vieillissement.
• Les outils d'imagerie à faible coût et de micro-imagerie ont un fort potentiel dans le traitement des micro-thromboses, de la persistance virale, du cancer, etc., tout en pouvant également être appliqués dans le domaine des interfaces cerveau-machine.
• La notion de promouvoir la construction d'outils sociaux adaptés à des environnements hautement antagonistes est très similaire à celle des outils sociaux favorisant une coopération raisonnable.
• Les marchés prédictifs ont une valeur importante dans les environnements de haute coopération et de haute confrontation.
• Les preuves à divulgation nulle de connaissance et des technologies similaires permettent de traiter des données tout en protégeant la vie privée, augmentant à la fois la quantité de données utilisables pour des travaux utiles tels que la recherche scientifique et renforçant la protection de la vie privée.
• L'énergie solaire et les batteries sont d'une importance extraordinaire pour propulser la prochaine vague de croissance économique propre, tout en affichant d'excellentes performances en matière de décentralisation et de résilience physique.

En outre, il existe d'importantes relations d'interdépendance entre différents domaines disciplinaires :

• Les interfaces cerveau-machine sont essentielles en tant que technologie de défense et de collaboration informationnelle, car elles permettent une communication plus fine de nos pensées et intentions. Les interfaces cerveau-machine ne sont pas seulement une connexion entre les robots et la conscience : elles peuvent également être une interaction entre la conscience, les robots et la conscience. Cela résonne avec la valeur des interfaces cerveau-machine dans la notion de pluralité.
• De nombreuses biotechnologies dépendent du partage d'informations, et dans de nombreux cas, les gens ne sont prêts à partager que lorsqu'ils sont convaincus que les informations ne seront utilisées que pour des applications spécifiques. Cela repose sur des technologies de confidentialité.
• La technologie de collaboration peut être utilisée pour coordonner le financement dans d'autres domaines technologiques.

Problème : Sécurité de l'intelligence artificielle, délais urgents et défis réglementaires

L'année dernière, les objections les plus convaincantes à mon article provenaient de la communauté de la sécurité de l'intelligence artificielle. L'argument était le suivant : "Bien sûr, si nous avons un demi-siècle pour développer une intelligence artificielle forte, nous pouvons nous concentrer sur la construction de toutes ces choses bénéfiques. Mais en réalité, il semble que nous n'ayons peut-être que trois ans pour développer une intelligence artificielle générale, et trois ans supplémentaires pour atteindre une super-intelligence. Par conséquent, si nous ne voulons pas que le monde sombre dans la destruction ou de toute autre manière dans une impasse irréversible, nous ne pouvons pas simplement accélérer le développement de technologies bénéfiques, mais nous devons également ralentir le développement de technologies nuisibles, ce qui signifie qu'il est nécessaire de mettre en place des mesures réglementaires fortes qui pourraient irriter les puissants."

Si je suis convaincu que nous avons besoin de mesures "plus fortes" que les règles de responsabilité, je choisirais la stratégie du bouton "soft pause" global sur du matériel de taille industrielle. L'objectif est de disposer de la capacité de réduire la puissance de calcul disponible dans le monde d'environ 90 % à 99 % pendant une période continue de 1 à 2 ans, afin de donner à l'humanité plus de temps pour se préparer. Les méthodes pour réaliser cette "pause" sont déjà explorées, y compris quelques propositions concrètes, telles que l'exigence d'enregistrement du matériel et de vérification de l'emplacement.

Une méthode plus avancée consiste à utiliser des techniques de cryptographie astucieuses : par exemple, le matériel d'intelligence artificielle à l'échelle industrielle ( mais non destiné à la consommation ) peut être équipé d'une puce matérielle de confiance, qui ne sera activée qu'une fois par semaine après avoir reçu des informations d'organismes internationaux majeurs (, y compris au moins