d/acc: Revisão e Perspectivas para o Ano Seguinte

No ano passado, publiquei um artigo sobre o otimismo tecnológico, onde expressei o meu entusiasmo geral pela tecnologia e os enormes benefícios que ela pode trazer. Ao mesmo tempo, também manifestei uma atitude cautelosa em relação a certos problemas específicos, especialmente sobre a IA superinteligente e os riscos de destruição que ela pode acarretar, ou o risco de a humanidade perder poder de forma irreversível.

O ponto central do artigo é promover uma filosofia de aceleração defensiva que seja descentralizada, democrática e diferenciada. Devemos acelerar o desenvolvimento tecnológico, mas com atenção seletiva para aquelas tecnologias que podem aumentar a capacidade de defesa em vez de destruir, e nos dedicar a descentralizar o poder, em vez de concentrá-lo nas mãos de poucos elites. O modelo de defesa deve ser como a Suíça democrática, e não como os senhores e castelos sob o feudalismo medieval.

No último ano, essas ideias passaram por um desenvolvimento e amadurecimento significativos. Eu compartilhei essas ideias na plataforma "80,000 horas" e recebi muitos feedbacks, a maioria positivos, mas claro que também houve algumas críticas.

Este trabalho também fez progressos substanciais: houve avanços no campo das vacinas de código aberto verificáveis; a consciência sobre ar interior saudável está em constante aprofundamento; os "notebooks comunitários" continuam a desempenhar um papel positivo; os mercados de previsões tiveram um ano de grandes avanços como ferramentas de informação; provas de conhecimento zero estão sendo aplicadas na identificação governamental e nas redes sociais; ferramentas de imagem de código aberto fizeram progressos nas áreas da medicina e interfaces cérebro-máquina, entre outros.

No outono do ano passado, realizámos o nosso primeiro evento importante de d/acc: "Dia de Descoberta d/acc". O evento reuniu oradores de várias áreas de pilar de d/acc, incluindo ( biologia, física, redes, defesa da informação e tecnologia neural ), e durou um dia inteiro. Pessoas que se dedicam a estas tecnologias há muito tempo começaram a conhecer melhor o trabalho uns dos outros, e os externos também começaram a perceber a visão mais ampla: os mesmos valores que impulsionam o desenvolvimento do Ethereum e das criptomoedas podem ser expandidos para um mundo mais vasto.

O significado e a extensão do d/acc

A ideia central do d/acc é muito simples: uma aceleração defensiva descentralizada, democrática e diferenciada. Construir tecnologias que possam inclinar o equilíbrio entre ataque e defesa em direção à defesa, sem depender da entrega de mais poder a autoridades centrais durante o processo de implementação. Há uma relação intrínseca entre esses dois aspectos: qualquer estrutura política descentralizada, democrática ou livre tende a florescer quando a defesa é fácil de implementar, enquanto enfrenta desafios severos quando a defesa é dificultada.

Uma maneira de compreender a importância significativa de tentar implementar simultaneamente a descentralização, a defesa e a aceleração é compará-la com as ideias resultantes da renúncia a qualquer um desses três aspectos.

Aceleração descentralizada, mas ignorando a parte da "defesa diferenciada": isso é semelhante a ser um aceleracionista eficaz (e/acc), mas ao mesmo tempo buscando a descentralização. Essa abordagem pode evitar o risco de um grupo específico dominar a humanidade globalmente, mas não resolve os problemas estruturais subjacentes: em um ambiente favorável ao ataque, sempre existe o risco contínuo de catástrofe, ou alguém pode se posicionar como protetor e ocupar permanentemente uma posição de domínio.

A defesa diferenciada acelera, mas ignora "descentralização e democracia": aceitar o controle centralizado para atingir objetivos de segurança é sempre atraente para algumas pessoas. No entanto, há um problema de grau com o controle centralizado. O risco dessa abordagem é evidente, pois o próprio centro frequentemente se torna a fonte do risco. Nós já testemunhamos isso durante a pandemia de COVID-19.

Defesa descentralizada, mas rejeição à aceleração: isso é essencialmente uma tentativa de desacelerar o progresso tecnológico ou promover uma recessão econômica. Essa estratégia enfrenta um duplo desafio: primeiro, o crescimento tecnológico e econômico, em geral, é extremamente benéfico para a humanidade, qualquer atraso acarretará custos incalculáveis; segundo, em um mundo não autoritário, a estagnação é instável.

Através do d/acc, estamos comprometidos em alcançar os seguintes objetivos:

• Manter princípios na tendência crescente de tribalização no mundo atual, e não apenas construir coisas de forma cega.
• Reconhecer que os avanços tecnológicos exponenciais significam que o mundo se tornará extremamente peculiar, e que a "pegada" geral da humanidade no universo inevitavelmente aumentará. Nossa capacidade de proteger animais, plantas e comunidades vulneráveis de danos deve continuar a melhorar, e a única maneira de fazê-lo é seguir em frente.
• Construir tecnologias que realmente nos protejam, em vez de assumir que "boas pessoas ( ou boas IA ) controlam tudo". Alcançamos este objetivo ao construir ferramentas que, por natureza, são mais eficazes para construir e proteger do que para destruir.

Uma outra perspectiva sobre d/acc é voltar a um quadro do movimento dos Piratas Europeus no final da década de 2000: empoderamento. O nosso objetivo é construir um mundo que possa preservar a agência humana, alcançando a liberdade negativa, ou seja, evitar que outros (, sejam cidadãos comuns, governos, ou superinteligências ), intervenham ativamente na nossa capacidade de moldar o nosso próprio destino, ao mesmo tempo que alcançamos a liberdade positiva, ou seja, garantir que temos o conhecimento e os recursos para exercer essa capacidade.

Terceira Dimensão: Desenvolvimento Sinérgico da Sobrevivência e Prosperidade

No meu artigo do ano passado, d/acc concentrou-se especialmente em tecnologias defensivas: defesa física, defesa biológica, defesa cibernética e defesa da informação. No entanto, uma defesa descentralizada pura não é suficiente para construir um grande mundo: também precisamos de uma visão proativa e futurista, que defina quais objetivos a humanidade pode alcançar após obter nova descentralização e segurança.

Existe um padrão consistente em vários campos, ou seja, as ciências, pensamentos e ferramentas que nos ajudam a "sobreviver" em um determinado campo estão intimamente relacionadas com as ciências, pensamentos e ferramentas que nos ajudam a "prosperar". Aqui estão alguns exemplos concretos:

• Vários estudos recentes sobre a COVID-19 têm se concentrado na persistência do vírus no corpo, que é vista como um mecanismo chave para o problema da COVID longa. Recentemente, também surgiram indícios de que a persistência do vírus pode ser um fator patogênico da doença de Alzheimer. Se essa perspectiva se confirmar, então resolver o problema da persistência do vírus em todos os tipos de tecidos pode se tornar a chave para enfrentar o dilema do envelhecimento.

• Ferramentas de baixo custo e microimagem, como as que estão a ser desenvolvidas pela Openwater, têm um enorme potencial no tratamento de microtrombos, persistência de vírus, câncer, entre outros, e também podem ser aplicadas no campo das interfaces cérebro-máquina.

• Promover a construção de ferramentas sociais adequadas a ambientes altamente adversos (, como notas da comunidade ), e ferramentas sociais de colaboração razoável (, como Pol.is ), tem uma filosofia extremamente semelhante.

• O mercado de previsões tem um valor importante tanto em ambientes de alta cooperação quanto de alta concorrência.

• Provas de conhecimento zero e tecnologias similares realizam cálculos sobre dados enquanto protegem a privacidade, aumentando tanto a quantidade de dados disponíveis para trabalhos benéficos como a pesquisa científica, quanto a proteção da privacidade.

• A energia solar e as baterias são de grande importância para impulsionar a próxima onda de crescimento econômico limpo, ao mesmo tempo que se destacam na descentralização e na resiliência física.

Além disso, existem importantes relações de interdependência entre diferentes áreas do conhecimento:

• A interface cérebro-máquina é crucial como uma tecnologia de defesa e colaboração da informação, pois permite uma comunicação mais precisa dos nossos pensamentos e intenções. A interface cérebro-máquina não é apenas uma conexão entre robôs e consciência: pode também ser uma interação entre consciência-robô-consciência.

• Muitas biotecnologias dependem do compartilhamento de informações, e em muitos casos, as pessoas só estão dispostas a compartilhar informações quando têm certeza de que elas serão usadas apenas para aplicações específicas. Isso depende de tecnologias de privacidade (, como provas de conhecimento zero, criptografia homomórfica completa, técnicas de ofuscação, etc. ).

• A tecnologia de colaboração pode ser utilizada para coordenar o financiamento de qualquer outro campo tecnológico.

Desafio: Segurança da IA, prazos apertados e dilemas regulatórios

No ano passado, os argumentos mais persuasivos contra o meu artigo vieram da comunidade de segurança da IA. O seu argumento foi: "Claro, se tivermos meio século para desenvolver a IA forte, podemos nos concentrar em construir todas essas coisas benéficas. Mas na verdade, parece que podemos ter apenas três anos para desenvolver a IA geral e, mais três anos, para chegar à superinteligência. Portanto, se não quisermos que o mundo caia em destruição ou de outra forma entre em uma crise irreversível, não podemos apenas acelerar o desenvolvimento de tecnologias benéficas, mas também precisamos desacelerar o desenvolvimento de tecnologias prejudiciais, o que significa que precisamos de medidas regulatórias rigorosas que podem irritar os poderosos." No meu artigo do ano passado, além de apelar vagamente para não construir formas de superinteligência com riscos, eu realmente não apresentei nenhuma estratégia específica para "desacelerar o desenvolvimento de tecnologias prejudiciais." Portanto, aqui, é necessário discutir diretamente essa questão: se estivermos no mundo menos ideal, onde o risco da IA é extremamente alto e a linha do tempo pode ser de apenas cinco anos, que medidas regulatórias eu apoiaria?

Razões para uma atitude cautelosa em relação à nova regulamentação

No ano passado, a principal proposta de regulação de IA foi a lei SB-1047 da Califórnia. A SB-1047 exige que os desenvolvedores dos modelos mais poderosos (, ou seja, aqueles cujo custo de treinamento ultrapassa 100 milhões de dólares, ou cujo custo de ajuste fino ultrapassa 10 milhões de dólares, adotem uma série de medidas de testes de segurança antes de serem lançados. Além disso, se os desenvolvedores de modelos de IA não agirem com a devida cautela, serão responsabilizados. Muitos críticos acreditam que a lei "constitui uma ameaça ao código aberto"; eu discordo disso, pois o limiar de custo significa que ela afeta apenas os modelos mais poderosos: mesmo o modelo Llama3 pode estar abaixo desse limiar. No entanto, olhando para o passado, acredito que a lei tem um problema mais sério: como a maioria das medidas regulatórias, ela se adapta excessivamente à situação atual. A preocupação com os custos de treinamento tem se mostrado vulnerável diante de novas tecnologias: o custo de treinamento do recente modelo DeepSeek v3 é de apenas 6 milhões de dólares, e em novos modelos como o o1, os custos geralmente mudam do treinamento para a fase de inferência.

Os agentes mais prováveis responsáveis pelo cenário de destruição da superinteligência artificial

Na verdade, os atores mais propensos a serem responsáveis pelo cenário de destruição da superinteligência de IA são os exércitos. Como vimos nos últimos cinquenta anos em segurança biológica ) e em períodos anteriores (, os exércitos estão dispostos a tomar algumas ações terríveis e são propensos a cometer erros. Hoje, a aplicação de IA no campo militar está se desenvolvendo rapidamente ), como na Ucrânia e na região de Gaza (. Além disso, qualquer medida de regulamentação de segurança aprovada por um governo, por padrão, isentará as forças armadas do país e as empresas que trabalham em estreita colaboração com os exércitos.

Estratégia de resposta

Apesar disso, esses argumentos não são uma razão para nos deixarmos paralisar. Pelo contrário, podemos usá-los como guia para tentar estabelecer regras que provoquem o mínimo de preocupações possíveis.

Estratégia 1: Responsabilidade

Se o comportamento de alguém causou danos que podem ser legalmente responsabilizados, essa pessoa pode ser processada. Isso não resolve o problema dos riscos trazidos por militares e outros "agentes acima da lei", mas é uma abordagem bastante genérica que evita o sobreajuste, razão pela qual economistas com uma tendência para o liberalismo geralmente apoiam essa prática.

Os principais objetivos de responsabilidade considerados até agora são os seguintes:

• Usuário: a pessoa que usa a IA.
• Implantador: intermediário que fornece serviços de IA aos usuários.
• Desenvolvedor: a pessoa que constrói a IA.

Colocar a responsabilidade nos usuários parece ser o que mais se alinha com o mecanismo de incentivo. Embora a ligação entre a forma como o modelo é desenvolvido e a forma como é finalmente utilizado muitas vezes não seja clara, os usuários decidem a forma específica de uso da IA. Buscar a responsabilidade dos usuários gera uma pressão poderosa, levando as pessoas a utilizarem a IA da maneira que considero correta: focando na construção de um conjunto mecânico para o pensamento humano, em vez de criar um novo eu.