d/acc: Uma Revisão e Perspectivas Após Um Ano

No ano passado, escrevi um artigo sobre otimismo tecnológico, onde expus o meu entusiasmo geral pela tecnologia e os enormes benefícios que ela traz, ao mesmo tempo que expressei uma atitude cautelosa em relação a algumas questões específicas, focando principalmente nos riscos que a superinteligência artificial pode desencadear.

O ponto central do artigo é manter uma filosofia de aceleração defensiva que seja descentralizada, democrática e diferenciada. É necessário acelerar o desenvolvimento tecnológico, ao mesmo tempo em que se foca em tecnologias que possam melhorar nossa capacidade de defesa em vez de causar danos, e se empenhar na promoção da descentralização do poder, em vez de permitir que o poder se concentre nas mãos de poucos elites.

Desde então, ao longo de um ano, essas ideias e conceitos passaram por um desenvolvimento e amadurecimento significativos. Eu compartilhei essas ideias em várias plataformas, obtendo muitas respostas, a maioria delas positivas, embora também haja algumas vozes críticas.

Este trabalho tem avançado continuamente e alcançado resultados concretos: na área de vacinas de código aberto verificáveis, testemunhámos progressos; a consciencialização sobre o valor de um ar interior saudável tem vindo a crescer; os cadernos comunitários continuam a ter uma utilidade positiva; os mercados preditivos tiveram um ano de grandes avanços como ferramentas de informação; provas de conhecimento zero foram aplicadas na identificação governamental e nas redes sociais; ferramentas de imagem de código aberto foram implementadas nos campos da medicina e das interfaces cérebro-máquina, entre outros.

No outono do ano passado, tivemos o nosso primeiro evento importante de d/acc: o "Dia de Descoberta de d/acc" realizado na Devcon. O evento reuniu palestrantes de várias áreas pilares de d/acc e durou um dia inteiro. As pessoas que se dedicaram a essas tecnologias ao longo dos anos passaram a entender melhor o trabalho umas das outras, enquanto o público externo também começou a perceber essa visão mais ampla: que os mesmos valores que impulsionam o desenvolvimento do Ethereum e das criptomoedas podem se expandir para um mundo mais amplo.

O conteúdo e a extensão de d/acc

A ideia central do d/acc é clara e direta: uma aceleração defensiva descentralizada, democrática e diferenciada. Construir tecnologias que possam inclinar o equilíbrio entre ataque e defesa em direção à defesa, e que não dependam de transferir mais poder a autoridades centrais durante o processo de implementação. Existe uma conexão intrínseca estreita entre esses dois aspectos: qualquer estrutura política descentralizada, democrática ou livre tende a prosperar quando a defesa é fácil de implementar, mas enfrenta desafios severos quando a defesa se torna difícil.

Uma maneira de compreender a importância de tentar simultaneamente implementar a descentralização, a defesa e a aceleração é compará-la com a ideia resultante da renúncia a qualquer um desses três aspectos.

Aceleração descentralizada, mas ignorando a parte de "defesa diferenciada"

Isto é semelhante a tornar-se um eficaz aceleracionista, mas ao mesmo tempo perseguindo a descentralização. Há muitas pessoas que adotam esta abordagem, algumas das quais se autodenominam d/acc, mas que benéficamente descrevem seu foco como "ofensivo". Além disso, há muitas outras que demonstram um entusiasmo mais moderado por "inteligência artificial descentralizada" e tópicos semelhantes, mas na minha opinião, sua atenção para a camada "defensiva" é claramente insuficiente.

Esta abordagem pode evitar o risco de um grupo específico exercer uma ditadura sobre a humanidade global, mas não resolve os problemas estruturais potenciais: em um ambiente favorável ao ataque, sempre existe o risco contínuo de um desastre, ou alguém pode se posicionar como protetor e ocupar permanentemente a posição de domínio. No que diz respeito à inteligência artificial, também não é capaz de resolver adequadamente o risco de a humanidade em geral ter seu poder em relação à inteligência artificial enfraquecido.

Defesa diferenciada acelerada, mas ignorando "descentralização e democracia"

A aceitação do controle centralizado para atingir objetivos de segurança tem sempre um certo apelo para algumas pessoas. Recentemente, algumas pessoas expressaram preocupações de que o controle centralizado extremo pode ser a única maneira de enfrentar as tecnologias extremas do futuro. No entanto, o controle centralizado apresenta um problema de grau. Uma forma de controle centralizado relativamente moderada, que geralmente é ignorada mas ainda prejudicial, é refletida na resistência ao escrutínio público no campo da biotecnologia, bem como na aceitação dessa resistência sem contestação nas normas de código fechado.

O risco dessa abordagem é evidente, pois o próprio centro tende a se tornar a fonte do risco. Já testemunhamos isso durante a pandemia de COVID-19, quando pesquisas funcionais financiadas por vários governos mundiais podem ter sido a raiz da pandemia, e a epistemologia centralizada levou a Organização Mundial da Saúde a recusar durante anos o reconhecimento de que o vírus COVID-19 é transmitido pelo ar, enquanto o distanciamento social obrigatório e a vacinação obrigatória desencadearam um possível retrocesso político que pode durar décadas. Em contraste, uma abordagem descentralizada lidará de forma mais eficaz com os riscos provenientes do próprio centro.

Defesa descentralizada, mas exclui aceleração

Essencialmente, isso é uma tentativa de desacelerar o progresso tecnológico ou promover a recessão econômica.

Esta estratégia enfrenta duplo desafio. Primeiro, de um modo geral, o crescimento tecnológico e econômico é extremamente benéfico para a humanidade, e qualquer atraso nisso pode ter um custo incalculável. Em segundo lugar, em um mundo não autoritário, a estagnação é instável: aqueles que "trapaceiam" mais e conseguem encontrar maneiras aparentemente razoáveis de continuar a avançar no desenvolvimento terão vantagem. A estratégia de desaceleração pode funcionar em certas situações específicas até certo ponto, mas essas estratégias não podem funcionar para sempre.

Através do d/acc, estamos comprometidos em alcançar os seguintes objetivos:

• Manter princípios em um mundo cada vez mais tribal, e não apenas construir coisas de forma cega - ao contrário, esperamos construir coisas específicas para tornar o mundo um lugar mais seguro e melhor.
• Reconhecer que o avanço tecnológico exponencial significa que o mundo se tornará extremamente peculiar, e a "pegada" total da humanidade no universo inevitavelmente continuará a aumentar. A nossa capacidade de proteger animais, plantas e populações vulneráveis de danos deve continuar a melhorar, e o único caminho é avançar corajosamente.
• Construir tecnologias que realmente nos protejam, em vez de basear-se na suposição de que "boa pessoa ( ou boa inteligência artificial ) controla tudo". Alcançamos esse objetivo construindo ferramentas que são naturalmente mais eficazes para construir e proteger do que para destruir.

Uma outra perspectiva sobre o d/acc é voltar ao quadro do movimento dos Piratas na Europa no final da década de 2000: empoderamento.

O nosso objetivo é construir um mundo que possa preservar a agência humana, alcançando a liberdade negativa, ou seja, evitando a intervenção ativa de outros (, sejam cidadãos comuns, governos ou superinteligências ), na nossa capacidade de moldar o nosso próprio destino, ao mesmo tempo que alcançamos a liberdade positiva, ou seja, garantindo que temos o conhecimento e os recursos para exercer essa capacidade. Isso ecoa uma tradição de liberalismo clássico que se estende por séculos, abrangendo a preocupação com o "acesso a ferramentas" e ressaltando a educação e a liberdade como elementos-chave do progresso humano. Dada a configuração tecnológica do século XXI, podemos ver o d/acc como uma forma de alcançar esses mesmos objetivos.

Terceira Dimensão: Desenvolvimento Sinérgico de Sobrevivência e Prosperidade

No meu artigo do ano passado, o d/acc focou especialmente nas tecnologias defensivas: defesa física, defesa biológica, defesa cibernética e defesa da informação. No entanto, uma defesa descentralizada pura não é suficiente para construir um grande mundo: também precisamos de uma visão positiva e proativa, que defina quais objetivos a humanidade pode alcançar após obter nova descentralização e segurança.

O artigo do ano passado realmente continha uma visão positiva em dois aspectos:

1. Ao considerar os desafios da superinteligência, eu propus um caminho, ou seja, como podemos alcançar a superinteligência sem perder poder:

   • Atualmente, construir a inteligência artificial como uma ferramenta, e não como um agente altamente autônomo.
   • No futuro, utilizar ferramentas como realidade virtual, tecnologia de eletromiografia e interfaces cérebro-máquina para estabelecer um mecanismo de feedback mais estreito entre a inteligência artificial e os seres humanos.
   • Com o passar do tempo, avançamos gradualmente em direção ao desfecho final, que é a superinteligência, um produto da estreita fusão entre máquinas e humanos.

2. Ao falar sobre defesa da informação, também mencionei incidentalmente que, além das tecnologias sociais defensivas que visam ajudar a comunidade a manter a coesão e a ter discussões de alta qualidade quando confrontada com atacantes, existem tecnologias sociais progressistas que podem ajudar a comunidade a fazer julgamentos de alta qualidade mais facilmente.

Em várias áreas, existe um padrão consistente, ou seja, as ciências, pensamentos e ferramentas que podem nos ajudar a "sobreviver" em um determinado campo estão intimamente relacionadas com as ciências, pensamentos e ferramentas que podem nos ajudar a "prosperar". Aqui estão alguns exemplos específicos:

• Muitas pesquisas recentes sobre a Covid-19 focaram na persistência do vírus no corpo, o que é visto como um mecanismo chave para o problema da Covid longa. Recentemente, também há indícios de que a persistência do vírus pode ser um fator patogénico da doença de Alzheimer – se esta visão se confirmar, então resolver o problema da persistência do vírus em todos os tipos de tecidos pode ser a chave para enfrentar o desafio do envelhecimento.
• Ferramentas de baixo custo e microimagens têm um enorme potencial no tratamento de microtrombos, persistência viral, câncer, entre outros, e também podem ser aplicadas no campo das interfaces cérebro-máquina.
• A ideia de promover a construção de ferramentas sociais adequadas a ambientes altamente adversariais e ferramentas sociais para um ambiente de cooperação razoável é extremamente semelhante.
• O mercado de previsões tem um valor significativo tanto em ambientes de alta cooperação quanto em ambientes de alta competição.
• Provas de conhecimento zero e tecnologias semelhantes calculam dados enquanto protegem a privacidade, aumentando tanto a quantidade de dados disponíveis para trabalhos úteis, como a pesquisa científica, quanto reforçando a proteção da privacidade.
• A energia solar e as baterias são extraordinariamente significativas para impulsionar a próxima onda de crescimento da economia limpa, ao mesmo tempo que se destacam em descentralização e resiliência física.

Além disso, existem importantes relações de interdependência entre diferentes áreas do conhecimento:

• As interfaces cérebro-máquina são fundamentais como uma tecnologia de defesa da informação e colaboração, pois permitem uma comunicação mais refinada de nossos pensamentos e intenções. As interfaces cérebro-máquina não são apenas a conexão entre robôs e consciência: elas também podem ser interações entre consciência-robô-consciência. Isso ressoa com o valor das interfaces cérebro-máquina na ideia de pluralidade.
• Muitas biotecnologias dependem do compartilhamento de informações, e em muitos casos, as pessoas estão dispostas a compartilhar apenas quando têm certeza de que as informações serão usadas apenas para aplicações específicas. Isso depende de tecnologias de privacidade.
• A tecnologia de colaboração pode ser utilizada para coordenar o financiamento de qualquer outro domínio técnico.

Desafio: Segurança da Inteligência Artificial, Cronograma Urgente e Dilema Regulatório

No ano passado, os argumentos mais convincentes contra o meu artigo vieram da comunidade de segurança da inteligência artificial. O argumento é: "Claro, se tivermos meio século para desenvolver inteligência artificial forte, podemos nos concentrar em construir todas essas coisas benéficas. Mas, na realidade, parece que podemos ter apenas três anos para desenvolver inteligência artificial geral, e mais três anos para alcançar a superinteligência. Portanto, se não quisermos deixar o mundo em ruínas ou em outra situação irreversível, não podemos apenas acelerar o desenvolvimento de tecnologias benéficas, mas também precisamos desacelerar o desenvolvimento de tecnologias prejudiciais, o que significa que serão necessárias medidas regulatórias rigorosas que podem irritar os poderosos."

Se eu estiver convencido de que precisamos de medidas mais "fortes" do que as regras de responsabilidade, eu escolheria a estratégia de um botão de "pausa suave" global em hardware de escala industrial. O objetivo é ter a capacidade de reduzir a capacidade computacional global disponível em cerca de 90%-99% durante períodos críticos, por um período de 1-2 anos, para ganhar mais tempo de preparação para a humanidade. Os métodos para implementar a "pausa" já estão sendo explorados, incluindo algumas propostas específicas, como exigir registro de hardware e verificação de localização.

Uma abordagem mais avançada é usar técnicas de criptografia sofisticadas: por exemplo, hardware de inteligência artificial em escala industrial (, mas não de consumo ), pode estar equipado com um chip de hardware confiável, que só é ativado após a obtenção semanal de informações de principais instituições internacionais (, incluindo pelo menos