d/acc: Tinjauan dan Harapan Setahun Kemudian

Tahun lalu, saya menulis sebuah artikel tentang optimisme teknologi, yang menjelaskan antusiasme saya secara keseluruhan terhadap teknologi, serta manfaat besar yang dibawa oleh teknologi, sambil juga menyatakan sikap hati-hati terhadap beberapa isu tertentu, terutama yang berfokus pada risiko yang mungkin ditimbulkan oleh kecerdasan buatan super.

Inti dari artikel ini adalah untuk memegang prinsip percepatan defensif yang terdesentralisasi, demokratis, dan berbeda. Kita harus mempercepat perkembangan teknologi, sambil fokus pada teknologi yang dapat meningkatkan kemampuan pertahanan kita, bukan yang dapat menyebabkan kerusakan, dan berkomitmen untuk mendorong desentralisasi kekuasaan, bukan membiarkan kekuasaan terakumulasi di tangan segelintir elit.

Selama setahun sejak saat itu, ide dan pemikiran ini telah mengalami perkembangan dan pematangan yang signifikan. Saya telah membagikan pemikiran ini di berbagai platform, dan menerima banyak tanggapan, sebagian besar positif, tentu saja ada juga beberapa suara kritik.

Pekerjaan ini sendiri terus maju dan telah mencapai hasil yang nyata: di bidang vaksin sumber terbuka yang dapat diverifikasi, kami menyaksikan kemajuan; pemahaman orang tentang nilai udara dalam ruangan yang sehat semakin mendalam; catatan komunitas terus memberikan manfaat positif; pasar prediksi sebagai alat informasi mengalami tahun terobosan; bukti nol pengetahuan diterapkan dalam identifikasi identitas pemerintah dan media sosial; alat pencitraan sumber terbuka digunakan dalam bidang kedokteran dan antarmuka otak-mesin, dan lain-lain.

Musim gugur tahun lalu, kami menyambut acara d/acc penting pertama: "Hari Penemuan d/acc" yang diadakan di Devcon. Acara ini mengumpulkan pembicara dari berbagai bidang pilar d/acc, berlangsung selama satu hari penuh. Orang-orang yang telah berkomitmen pada teknologi ini selama bertahun-tahun semakin memahami pekerjaan satu sama lain, sementara pihak luar semakin menyadari visi yang lebih besar ini: nilai-nilai yang mendorong pengembangan Ethereum dan cryptocurrency dapat meluas ke dunia yang lebih luas.

Makna dan Ekstensi d/acc

Inti dari konsep d/acc sangat sederhana: desentralisasi, demokrasi, dan akselerasi defensif yang berbeda. Membangun teknologi yang dapat mendorong keseimbangan serangan dan pertahanan untuk condong ke arah pertahanan, dan selama proses implementasi tidak bergantung pada memberikan lebih banyak kekuasaan kepada otoritas pusat. Ada hubungan erat yang melekat antara kedua aspek ini: setiap struktur politik yang desentralisasi, demokratis, atau bebas, cenderung dapat berkembang pesat ketika pertahanan mudah diimplementasikan, tetapi akan menghadapi tantangan serius ketika pertahanan menghadapi banyak kesulitan.

Salah satu cara untuk memahami pentingnya upaya untuk secara bersamaan mewujudkan desentralisasi, defensif, dan akselerasi adalah dengan membandingkannya dengan ide yang dihasilkan dari pengabaian salah satu dari ketiga aspek ini.

Desentralisasi dipercepat, tetapi mengabaikan bagian "pertahanan diferensiasi"

Ini mirip dengan menjadi seorang akselerasionis yang efektif, tetapi pada saat yang sama mengejar desentralisasi. Ada banyak orang yang mengambil pendekatan ini, beberapa di antaranya menyebut diri mereka d/acc, tetapi mereka secara bermanfaat menggambarkan fokus mereka sebagai "serangan". Selain itu, banyak orang lain menunjukkan semangat yang lebih moderat terhadap "kecerdasan buatan desentralisasi" dan topik serupa, tetapi menurut saya, perhatian mereka terhadap aspek "pertahanan" jelas kurang.

Cara ini mungkin dapat menghindari risiko pemerintahan diktator oleh kelompok tertentu terhadap umat manusia secara global, tetapi tidak dapat menyelesaikan masalah struktural yang mendasar: dalam lingkungan yang menguntungkan bagi serangan, selalu ada risiko berkelanjutan terjadinya bencana, atau seseorang akan memposisikan dirinya sebagai pelindung dan secara permanen menduduki posisi kekuasaan. Dalam hal kecerdasan buatan, ini juga tidak dapat dengan baik menangani risiko kekuasaan manusia yang melemah dibandingkan dengan kecerdasan buatan.

Percepatan pertahanan yang terdistribusi, tetapi mengabaikan "desentralisasi dan demokrasi"

Untuk mencapai tujuan keamanan, menerima kontrol terpusat memiliki daya tarik tertentu bagi sebagian orang. Baru-baru ini, beberapa orang khawatir bahwa kontrol terpusat yang ekstrem mungkin satu-satunya cara untuk menghadapi teknologi ekstrem di masa depan. Namun, ada masalah derajat dalam kontrol terpusat. Sebuah bentuk kontrol terpusat yang relatif moderat namun tetap berbahaya yang biasanya diabaikan, tercermin dalam penolakan terhadap pengawasan publik di bidang bioteknologi, serta membiarkan perilaku penolakan ini tidak ditantang oleh norma-norma sumber tertutup.

Risiko dari cara ini terlihat jelas, yaitu bahwa pusat itu sendiri seringkali menjadi sumber risiko. Kita telah menyaksikan hal ini selama pandemi Covid-19, di mana penelitian fungsional yang didanai oleh beberapa pemerintah dunia utama mungkin adalah sumber wabah, epistemologi yang terpusat telah menyebabkan Organisasi Kesehatan Dunia selama bertahun-tahun menolak untuk mengakui bahwa virus Covid-19 ditularkan melalui udara, sementara jarak sosial yang dipaksakan dan mandat vaksin telah memicu reaksi politik yang mungkin bertahan selama puluhan tahun. Sebaliknya, pendekatan terdesentralisasi akan lebih efektif dalam menghadapi risiko yang berasal dari pusat itu sendiri.

Pertahanan terdesentralisasi, tetapi menolak percepatan

Pada dasarnya, ini adalah upaya untuk memperlambat kemajuan teknologi atau mendorong resesi ekonomi.

Strategi ini menghadapi tantangan ganda. Pertama, secara umum, pertumbuhan teknologi dan ekonomi sangat menguntungkan bagi umat manusia, dan setiap penundaan terhadapnya akan membawa biaya yang sulit diukur. Kedua, dalam dunia yang tidak totaliter, stagnasi adalah tidak stabil: mereka yang "curang" paling banyak, yang mampu menemukan cara yang tampak masuk akal untuk terus maju dalam perkembangan, akan mendapatkan keuntungan. Strategi perlambatan dapat berfungsi sampai batas tertentu dalam konteks tertentu, tetapi strategi ini tidak mungkin berfungsi selamanya.

Melalui d/acc, kami berkomitmen untuk mencapai tujuan berikut:

• Mempertahankan prinsip di tengah tren suku yang semakin meningkat di dunia saat ini, bukan hanya membangun berbagai hal secara buta - sebaliknya, kami berharap untuk membangun hal-hal tertentu, sehingga dunia menjadi lebih aman dan lebih baik.
• Menyadari kemajuan teknologi yang eksponensial berarti dunia akan menjadi sangat aneh, dan "jejak" keseluruhan manusia di alam semesta pasti akan terus meningkat. Kemampuan kita untuk melindungi hewan, tanaman, dan kelompok yang rentan dari bahaya harus terus ditingkatkan, dan satu-satunya jalan keluar adalah terus maju.
• Membangun teknologi yang benar-benar melindungi kita, bukan berdasarkan asumsi "orang baik ( atau kecerdasan buatan baik ) mengendalikan segalanya". Kami mencapai tujuan ini dengan membangun alat yang secara alami lebih efektif untuk konstruksi dan perlindungan daripada untuk penghancuran.

Memikirkan perspektif lain dari d/acc adalah kembali ke kerangka gerakan Partai Bajak Laut Eropa pada akhir 2000-an: pemberdayaan.

Tujuan kami adalah membangun dunia yang mampu mempertahankan agensi manusia, mewujudkan kebebasan negatif, yaitu menghindari intervensi aktif dari orang lain ( baik itu warga biasa, pemerintah, atau robot super pintar ) terhadap kemampuan kita untuk membentuk takdir kita sendiri, sekaligus mewujudkan kebebasan positif, yaitu memastikan kita memiliki pengetahuan dan sumber daya untuk melaksanakan kemampuan tersebut. Ini mencerminkan tradisi liberalisme klasik yang telah berlangsung selama berabad-abad, yang mencakup perhatian terhadap "akses alat", serta penekanan pada pendidikan dan kebebasan sebagai elemen kunci kemajuan manusia. Mengingat lanskap teknologi abad ke-21, kita dapat melihat d/acc sebagai salah satu cara untuk mencapai tujuan-tujuan yang sama.

Dimensi Ketiga: Sinergi antara Kelangsungan Hidup dan Kemakmuran

Dalam artikel saya tahun lalu, d/acc secara khusus berfokus pada teknologi pertahanan: pertahanan fisik, pertahanan biologis, pertahanan siber, dan pertahanan informasi. Namun, sekadar pertahanan desentralisasi tidak cukup untuk membangun dunia yang hebat: kita juga membutuhkan visi proaktif yang jelas tentang tujuan apa yang dapat dicapai umat manusia setelah mendapatkan desentralisasi dan keamanan baru.

Artikel tahun lalu memang mencakup visi positif dalam dua aspek:

1. Dalam memperhatikan tantangan superintelligence, saya mengusulkan sebuah jalur, yaitu bagaimana kita dapat mencapai superintelligence tanpa kehilangan kekuasaan:

   • Saat ini, membangun kecerdasan buatan sebagai alat, bukan sebagai agen cerdas yang sangat mandiri.
   • Di masa depan, menggunakan teknologi realitas virtual, teknologi elektromiografi, dan antarmuka otak-mesin, akan membangun mekanisme umpan balik yang lebih erat antara kecerdasan buatan dan manusia.
   • Seiring berjalannya waktu, secara bertahap menuju akhir yang pasti, yaitu kecerdasan super adalah produk dari penggabungan erat antara mesin dan manusia.

2. Ketika membahas pertahanan informasi, saya juga pernah menyebutkan, selain teknologi sosial defensif yang bertujuan untuk membantu komunitas tetap bersatu dan melakukan diskusi berkualitas tinggi ketika menghadapi penyerang, ada juga teknologi sosial progresif yang dapat membantu komunitas membuat penilaian berkualitas tinggi dengan lebih mudah.

Di berbagai bidang terdapat pola yang konsisten, yaitu ilmu pengetahuan, pemikiran, dan alat yang dapat membantu kita "bertahan hidup" di suatu bidang, sangat terkait dengan ilmu pengetahuan, pemikiran, dan alat yang dapat mendukung kita "sejahtera". Berikut adalah beberapa contoh konkret:

• Banyak penelitian terbaru tentang COVID-19 berfokus pada keberadaan virus yang berkepanjangan di dalam tubuh, yang dianggap sebagai mekanisme kunci untuk masalah long COVID. Baru-baru ini, ada juga tanda-tanda bahwa keberadaan virus yang berkepanjangan mungkin merupakan faktor patogenik untuk penyakit Alzheimer - jika pandangan ini benar, maka mengatasi masalah keberadaan virus yang berkepanjangan di semua jenis jaringan mungkin menjadi kunci untuk mengatasi tantangan penuaan.
• Alat pencitraan biaya rendah dan mikro memiliki potensi besar dalam pengobatan mikrotrombus, virus yang terus ada, kanker, dan juga dapat diterapkan di bidang antarmuka otak-mesin.
• Mendorong pembangunan alat sosial yang cocok untuk lingkungan yang sangat antagonis dan prinsip alat sosial untuk kerjasama yang wajar sangat mirip.
• Pasar prediksi memiliki nilai penting baik dalam lingkungan kolaborasi tinggi maupun lingkungan konflik tinggi.
• Bukti nol-pengetahuan dan teknologi serupa melakukan perhitungan pada data sambil melindungi privasi, yang tidak hanya meningkatkan jumlah data yang dapat digunakan untuk penelitian ilmiah dan pekerjaan bermanfaat lainnya, tetapi juga memperkuat perlindungan privasi.
• Energi solar dan baterai memiliki arti yang luar biasa untuk mendorong gelombang pertumbuhan ekonomi bersih berikutnya, sekaligus menunjukkan kinerja yang luar biasa dalam desentralisasi dan ketahanan fisik.

Selain itu, terdapat hubungan saling ketergantungan yang penting antara berbagai bidang disiplin ilmu:

• Antarmuka otak-mesin sangat penting sebagai teknologi pertahanan informasi dan kolaborasi, karena ia memungkinkan komunikasi yang lebih halus tentang pikiran dan niat kita. Antarmuka otak-mesin bukan hanya koneksi antara robot dan kesadaran: ia juga bisa menjadi interaksi antara kesadaran-robot-kesadaran. Ini sejalan dengan nilai antarmuka otak-mesin dalam konsep keberagaman.
• Banyak bioteknologi bergantung pada berbagi informasi, dan dalam banyak kasus, orang hanya bersedia berbagi informasi jika mereka yakin informasi tersebut hanya akan digunakan untuk aplikasi tertentu. Ini bergantung pada teknologi privasi.
• Teknologi kolaborasi dapat digunakan untuk mengoordinasikan pendanaan untuk bidang teknologi lainnya.

Tantangan: Keamanan Kecerdasan Buatan, Garis Waktu Mendesak, dan Dilema Regulasi

Tahun lalu, argumen yang paling meyakinkan yang saya terima terhadap artikel saya berasal dari komunitas keamanan kecerdasan buatan. Argumennya adalah: "Tentu, jika kita memiliki setengah abad untuk mengembangkan kecerdasan buatan yang kuat, kita bisa fokus untuk membangun semua hal bermanfaat ini. Tetapi pada kenyataannya, tampaknya kita mungkin hanya memiliki tiga tahun untuk berkembang menjadi kecerdasan umum, dan setelah itu tiga tahun untuk berkembang menjadi kecerdasan super. Oleh karena itu, jika kita tidak ingin dunia terjerumus ke dalam kehancuran atau dengan cara lain terjebak dalam keadaan yang tidak dapat dipulihkan, kita tidak bisa hanya mempercepat pengembangan teknologi yang bermanfaat, tetapi juga harus memperlambat pengembangan teknologi yang berbahaya, yang berarti perlu ada langkah-langkah regulasi yang kuat yang mungkin akan membuat lapisan kekuasaan marah."

Jika saya yakin bahwa kita membutuhkan langkah-langkah yang lebih "kuat" daripada aturan tanggung jawab, saya akan memilih strategi "soft pause" global pada perangkat keras skala industri. Tujuannya adalah untuk memiliki kemampuan mengurangi sekitar 90%-99% dari kapasitas komputasi global yang tersedia selama periode kritis, berlangsung 1-2 tahun, untuk memberikan lebih banyak waktu persiapan bagi umat manusia. Metode untuk mencapai "pause" sedang dieksplorasi, termasuk beberapa proposal konkret, seperti meminta pendaftaran perangkat keras dan memverifikasi lokasi.

Metode yang lebih canggih adalah menggunakan teknik enkripsi yang cerdas: misalnya, perangkat keras kecerdasan buatan industri berskala ( tetapi tidak untuk tingkat konsumen ) dapat dilengkapi dengan chip perangkat keras tepercaya, hanya setelah menerima dari lembaga internasional utama ( termasuk setidaknya