d/acc: Revisión y perspectiva a un año

El año pasado, escribí un artículo sobre el optimismo tecnológico, donde expuse mi entusiasmo general por la tecnología y los enormes beneficios que esta trae, al mismo tiempo que expresé una actitud cautelosa ante ciertos problemas, enfocándome principalmente en los riesgos que podría desencadenar la inteligencia artificial superinteligente.

El punto central del artículo es adherirse a un enfoque de aceleración defensiva que sea descentralizado, democrático y diferenciado. Se debe acelerar el desarrollo tecnológico, al mismo tiempo que se enfoca en aquellas tecnologías que pueden mejorar nuestra capacidad de defensa en lugar de causar daño, y se compromete a promover la dispersión del poder, en lugar de permitir que el poder se concentre en manos de unos pocos elitistas.

Desde entonces, durante un año, estas ideas y conceptos han experimentado un desarrollo y maduración significativos. He compartido estas ideas en varias plataformas, obteniendo numerosas respuestas, la mayoría de las cuales son positivas, aunque también hay algunas voces críticas.

Este trabajo en sí mismo ha avanzado y ha logrado resultados concretos: hemos visto progresos en el campo de las vacunas de código abierto verificables; la conciencia sobre el valor del aire interior saludable está en constante profundización; las notas comunitarias continúan desempeñando un papel positivo; el mercado de predicciones ha tenido un año de突破 como herramienta de información; las pruebas de conocimiento cero se han aplicado en la identificación gubernamental y en las redes sociales; las herramientas de imagen de código abierto han encontrado aplicación en el campo de la medicina y las interfaces cerebro-máquina, entre otros.

El otoño pasado, celebramos el primer evento importante de d/acc: el "Día de Descubrimiento de d/acc" celebrado en Devcon. El evento reunió a oradores de diversos campos pilares de d/acc y duró todo un día. Las personas que han estado dedicadas a estas tecnologías durante años comprenden cada vez más el trabajo de los demás, y los externos también son cada vez más conscientes de esta visión más amplia: los mismos valores que impulsan el desarrollo de Ethereum y las criptomonedas pueden extenderse a un mundo más amplio.

La connotación y denotación de d/acc

La idea central de d/acc es clara y concisa: una aceleración defensiva descentralizada, democrática y diferenciada. Construir tecnologías que promuevan un equilibrio entre ataque y defensa, inclinándose hacia la defensa, y que en el proceso de implementación no dependan de otorgar más poder a una autoridad central. Existe una conexión intrínseca estrecha entre estos dos aspectos: cualquier estructura política descentralizada, democrática o libre tiende a prosperar cuando la defensa es fácil de implementar, mientras que enfrentará severos desafíos cuando la defensa se vea dificultada.

Una forma de comprender la importancia de intentar implementar simultáneamente la descentralización, la defensividad y la aceleración es compararla con la idea que surge al renunciar a cualquiera de estos tres aspectos.

Aceleración descentralizada, pero ignorando la parte de "defensa diferenciada"

Esto es similar a convertirse en un efectivo aceleracionista, pero al mismo tiempo persiguiendo la descentralización. Hay muchas personas que adoptan este enfoque, algunas de las cuales se autodenominan d/acc, pero describen su enfoque de manera beneficiosa como "ofensivo". Además, hay muchas otras personas que muestran un entusiasmo más moderado por "inteligencia artificial descentralizada" y temas similares, pero en mi opinión, su atención a los aspectos de "defensa" es claramente insuficiente.

Este enfoque podría evitar el riesgo de que un grupo específico imponga un régimen dictatorial sobre la humanidad global, pero no aborda los problemas estructurales subyacentes: en un entorno que favorece la ofensiva, siempre existe el riesgo persistente de que se produzcan desastres, o de que alguien se coloque a sí mismo en la posición de protector y ocupe permanentemente una posición de dominio. En lo que respecta a la inteligencia artificial, tampoco puede abordar adecuadamente el riesgo de que el poder de la humanidad en su conjunto se vea debilitado en relación con la inteligencia artificial.

Defensa diferenciada acelerada, pero se ignora "descentralización y democracia"

Aceptar el control centralizado para lograr objetivos de seguridad siempre ha tenido cierto atractivo para algunas personas. Recientemente, algunos han expresado su preocupación de que el control centralizado extremo podría ser la única forma de enfrentar tecnologías extremas en el futuro. Sin embargo, el control centralizado tiene un problema de grado. Una forma de control centralizado relativamente moderada, que a menudo se ignora pero que sigue siendo perjudicial, se manifiesta en la resistencia a la supervisión pública en el campo de la biotecnología, así como en la permisividad de esta resistencia sin ser desafiada por normas de código cerrado.

Los riesgos de este enfoque son evidentes, ya que el centro mismo a menudo se convierte en la fuente del riesgo. Ya hemos presenciado esto durante la pandemia de COVID-19, donde la investigación funcional financiada por varios gobiernos importantes del mundo podría ser la raíz de la pandemia. La epistemología centralizada llevó a la Organización Mundial de la Salud a rechazar durante años el reconocimiento de que el virus COVID-19 se transmite por el aire, mientras que el distanciamiento social obligatorio y los mandatos de vacunación han provocado un posible retroceso político que podría durar décadas. En comparación, un enfoque descentralizado abordará de manera más efectiva los riesgos provenientes del propio centro.

Defensa descentralizada, pero rechazo a la aceleración

En esencia, esto intenta frenar el avance tecnológico o impulsar una recesión económica.

Esta estrategia enfrenta un doble desafío. En primer lugar, en términos generales, el crecimiento tecnológico y económico es extremadamente beneficioso para la humanidad, y cualquier retraso en ello tendrá un costo incalculable. En segundo lugar, en un mundo no totalitario, la falta de progreso es inestable: aquellos que "hacen trampa" más, capaces de encontrar formas aparentemente razonables de continuar promoviendo el desarrollo, tendrán una ventaja. Las estrategias de desaceleración pueden funcionar hasta cierto punto en ciertas circunstancias específicas, pero estas estrategias no pueden funcionar para siempre.

A través de d/acc, nos comprometemos a lograr los siguientes objetivos:

• Mantener principios en un mundo cada vez más tribal, en lugar de construir ciegamente diversas cosas; al contrario, esperamos construir cosas específicas que hagan del mundo un lugar más seguro y mejor.
• Reconocer que los avances tecnológicos exponenciales significan que el mundo se volverá extremadamente peculiar, y que la "huella" total de la humanidad en el universo seguirá aumentando inevitablemente. Nuestra capacidad para proteger a los animales, plantas y poblaciones vulnerables de daños debe seguir mejorando, y la única salida es avanzar con valentía.
• Construir tecnologías que realmente nos protejan, en lugar de basarse en la suposición de que "las buenas personas ( o la buena inteligencia artificial ) controlan todo". Logramos este objetivo construyendo herramientas que son naturalmente más efectivas para construir y proteger que para destruir.

Una perspectiva alternativa sobre d/acc es volver a un marco del movimiento del Partido Pirata en Europa a finales de la década de 2000: empoderamiento.

Nuestro objetivo es construir un mundo que preserve la agencia humana, logrando libertad negativa, es decir, evitar la intervención activa de otros (, ya sea de ciudadanos comunes, gobiernos, o superinteligencias ) en nuestra capacidad de moldear nuestro propio destino, al mismo tiempo que logramos libertad positiva, es decir, asegurarnos de que tengamos el conocimiento y los recursos para ejercer esa capacidad. Esto resuena con una tradición de liberalismo clásico que se ha mantenido durante siglos, que abarca la preocupación por la "obtención de herramientas" y enfatiza la educación y la libertad como elementos clave del progreso humano. Dada la configuración tecnológica del siglo XXI, podemos considerar d/acc como un medio para alcanzar estos mismos objetivos.

Tercera dimensión: Desarrollo conjunto de la supervivencia y la prosperidad

En mi artículo del año pasado, d/acc se centró especialmente en las tecnologías defensivas: defensa física, defensa biológica, defensa cibernética y defensa de la información. Sin embargo, la mera defensa descentralizada no es suficiente para construir un gran mundo: también necesitamos una visión proactiva y prospectiva que aclare qué objetivos puede lograr la humanidad después de obtener una nueva descentralización y seguridad.

El artículo del año pasado contenía una visión positiva en dos aspectos:

1. Al considerar los desafíos de la superinteligencia, propuse una ruta sobre cómo podríamos lograr la superinteligencia sin perder poder:

   • En la actualidad, construir la inteligencia artificial como una herramienta, y no como un agente altamente autónomo.
   • En el futuro, se establecerá un mecanismo de retroalimentación más estrecho entre la inteligencia artificial y los humanos utilizando herramientas como la realidad virtual, la tecnología electromiográfica y las interfaces cerebro-máquina.
   • A medida que pasa el tiempo, avanzamos gradualmente hacia el resultado final, es decir, la superinteligencia es el producto de la estrecha fusión entre máquinas y humanos.

2. Al hablar de la defensa de la información, también mencioné que, además de aquellas tecnologías sociales defensivas que buscan ayudar a la comunidad a mantener la cohesión y a llevar a cabo discusiones de alta calidad frente a los atacantes, existen tecnologías sociales progresivas que pueden ayudar a la comunidad a tomar decisiones de alta calidad con mayor facilidad.

En todos los campos hay un patrón consistente: las ciencias, pensamientos y herramientas que pueden ayudarnos a "sobrevivir" en un área están estrechamente relacionados con las ciencias, pensamientos y herramientas que pueden impulsarnos a "prosperar". A continuación, algunos ejemplos concretos:

• Muchas investigaciones recientes sobre la resistencia al COVID-19 se han centrado en la persistencia del virus en el cuerpo, lo que se considera un mecanismo clave del problema del COVID prolongado. Recientemente, también ha habido indicios de que la persistencia del virus podría ser un factor patogénico de la enfermedad de Alzheimer; si esta idea resulta ser cierta, entonces abordar el problema de la persistencia del virus en todos los tipos de tejidos podría ser clave para resolver el problema del envejecimiento.
• Las herramientas de bajo costo y microimágenes tienen un gran potencial en el tratamiento de microtrombos, virus persistentes, cáncer, entre otros, y también se pueden aplicar en el campo de las interfaces cerebro-máquina.
• La idea de promover la construcción de herramientas sociales adecuadas para entornos altamente adversariales y herramientas sociales para un entorno de cooperación razonable es extremadamente similar.
• Los mercados de predicción tienen un valor importante tanto en entornos de alta cooperación como de alta confrontación.
• Las pruebas de conocimiento cero y tecnologías similares permiten calcular datos mientras protegen la privacidad, aumentando tanto la cantidad de datos que pueden utilizarse para trabajos beneficiosos como la investigación científica, como mejorando la protección de la privacidad.
• La energía solar y las baterías son de gran importancia para impulsar la próxima ola de crecimiento económico limpio, y también destacan en términos de descentralización y resiliencia física.

Además, existe una importante interdependencia entre diferentes disciplinas.

• La interfaz cerebro-máquina es crucial como una tecnología de defensa de la información y colaboración, ya que permite una comunicación más sutil de nuestros pensamientos e intenciones. La interfaz cerebro-máquina no solo es una conexión entre robots y conciencia: también puede ser una interacción entre conciencia-robot-conciencia. Esto resuena con el valor de la interfaz cerebro-máquina en la idea de pluralidad.
• Muchas biotecnologías dependen del intercambio de información, y en muchas ocasiones, las personas solo están dispuestas a compartir información cuando están seguras de que se utilizará únicamente para aplicaciones específicas. Esto depende de las tecnologías de privacidad.
• La tecnología de colaboración puede ser utilizada para coordinar la financiación de cualquier otro campo tecnológico.

Desafío: Seguridad de la inteligencia artificial, línea de tiempo urgente y dilema regulatorio

El argumento más persuasivo que recibí el año pasado en mi artículo provino de la comunidad de seguridad de la inteligencia artificial. Su argumento fue: "Por supuesto, si tuviéramos medio siglo para desarrollar inteligencia artificial fuerte, podríamos concentrarnos en construir todas estas cosas beneficiosas. Pero, de hecho, parece que solo podríamos tener tres años para desarrollar inteligencia artificial general, y otros tres años para alcanzar la superinteligencia. Por lo tanto, si no queremos que el mundo caiga en la destrucción o en una crisis irreversible de otra manera, no podemos simplemente acelerar el desarrollo de tecnologías beneficiosas, sino que también debemos ralentizar el desarrollo de tecnologías dañinas, lo que significa que se necesitan medidas regulatorias contundentes que podrían enfurecer a los poderosos."

Si estoy convencido de que necesitamos medidas más "fuertes" que las reglas de responsabilidad, elegiría la estrategia de un botón de "pausa suave" global en hardware a escala industrial. El objetivo es tener la capacidad de reducir la capacidad de computación global disponible en aproximadamente un 90%-99% durante un período de 1-2 años, para ganar más tiempo de preparación para la humanidad. Los métodos para lograr la "pausa" ya están en exploración, incluyendo algunas propuestas específicas, como el requerimiento de registro de hardware y verificación de ubicación.

Un enfoque más avanzado es utilizar ingeniosas técnicas de criptografía: por ejemplo, el hardware de inteligencia artificial a escala industrial (, pero no a nivel de consumo ), puede estar equipado con un chip de hardware confiable, que solo se activa al recibir semanalmente información de principales instituciones internacionales ( que incluyan al menos