d/acc: Nhìn lại và triển vọng sau một năm

Năm ngoái, tôi đã viết một bài báo về chủ nghĩa lạc quan công nghệ, nêu rõ niềm đam mê tổng thể của tôi đối với công nghệ, cũng như những lợi ích to lớn mà công nghệ mang lại, đồng thời cũng bày tỏ thái độ thận trọng đối với một số vấn đề cụ thể, chủ yếu tập trung vào những rủi ro có thể phát sinh từ trí tuệ nhân tạo siêu thông minh.

Quan điểm cốt lõi của bài viết là duy trì một tư tưởng tăng tốc phòng thủ mang tính phi tập trung, dân chủ và khác biệt. Cần phải thúc đẩy sự phát triển công nghệ, đồng thời tập trung vào những công nghệ có thể nâng cao khả năng phòng thủ của chúng ta thay vì gây hại, và cam kết thúc đẩy sự phân tán quyền lực, thay vì để quyền lực tập trung vào tay một số ít tinh hoa.

Kể từ đó, trong một năm qua, những quan điểm và ý tưởng này đã trải qua sự phát triển và chín muồi đáng kể. Tôi đã chia sẻ những ý tưởng này trên nhiều nền tảng, nhận được nhiều phản hồi, trong đó phần lớn là tích cực, tất nhiên cũng có một số tiếng nói chỉ trích.

Công việc này đã tiến triển và đạt được những kết quả thiết thực: trong lĩnh vực vắc-xin mã nguồn mở có thể xác minh, chúng ta đã chứng kiến sự tiến bộ; nhận thức của mọi người về giá trị của không khí trong nhà lành mạnh ngày càng sâu sắc; các ghi chú cộng đồng tiếp tục phát huy tác dụng tích cực; thị trường dự đoán đã có một năm đột phá như một công cụ thông tin; chứng minh không biết được áp dụng trong nhận dạng danh tính chính phủ và lĩnh vực mạng xã hội; công cụ hình ảnh mã nguồn mở đã được áp dụng trong y học và giao diện não-máy, v.v.

Vào mùa thu năm ngoái, chúng tôi đã chào đón sự kiện d/acc quan trọng đầu tiên: "Ngày khám phá d/acc" được tổ chức tại Devcon. Sự kiện đã quy tụ các diễn giả từ các lĩnh vực trụ cột khác nhau của d/acc, và diễn ra trong suốt cả ngày. Những người đã cống hiến nhiều năm cho các công nghệ này ngày càng hiểu rõ công việc của nhau hơn, trong khi những người bên ngoài cũng ngày càng nhận thức rõ hơn về tầm nhìn lớn lao này: các giá trị tương tự thúc đẩy sự phát triển của Ethereum và tiền điện tử có thể mở rộng ra một thế giới rộng lớn hơn.

Nội hàm và ngoại diên của d/acc

Ý tưởng cốt lõi của d/acc rất đơn giản và rõ ràng: tăng tốc độ phòng thủ phi tập trung, dân chủ và khác biệt. Xây dựng công nghệ có thể thúc đẩy sự cân bằng giữa tấn công và phòng thủ nghiêng về phía phòng thủ, mà không dựa vào việc trao thêm quyền cho các cơ quan trung ương trong quá trình thực hiện. Có một mối liên hệ chặt chẽ bên trong giữa hai khía cạnh này: bất kỳ cấu trúc chính trị nào phi tập trung, dân chủ hoặc tự do, thường có thể phát triển mạnh mẽ khi phòng thủ dễ dàng thực hiện, trong khi đó sẽ gặp phải thách thức nghiêm trọng khi phòng thủ đối mặt với nhiều khó khăn.

Một cách để hiểu tầm quan trọng của việc cố gắng thực hiện đồng thời tính phi tập trung, tính phòng thủ và tính gia tốc là so sánh nó với những ý tưởng phát sinh từ việc từ bỏ bất kỳ một trong ba khía cạnh này.

Tăng tốc phi tập trung, nhưng bỏ qua phần "phòng thủ khác biệt"

Điều này giống như việc trở thành một nhà tăng tốc hiệu quả, nhưng đồng thời theo đuổi sự phi tập trung. Có rất nhiều người theo cách này, trong số đó một số tự xưng là d/acc, nhưng họ một cách hữu ích mô tả trọng tâm của mình là "tấn công". Hơn nữa, còn nhiều người khác thể hiện sự nhiệt tình nhẹ nhàng hơn với "trí tuệ nhân tạo phi tập trung" và các chủ đề tương tự, nhưng theo quan điểm của tôi, sự chú ý của họ đối với khía cạnh "phòng thủ" rõ ràng là không đủ.

Cách này có thể giúp tránh được rủi ro của một nhóm cụ thể thực hiện chế độ độc tài đối với toàn bộ nhân loại, nhưng nó lại không giải quyết được các vấn đề cấu trúc tiềm ẩn: trong một môi trường thuận lợi cho tấn công, luôn có rủi ro liên tục của thảm họa xảy ra, hoặc có ai đó sẽ tự định vị mình là người bảo vệ và chiếm giữ vị trí thống trị một cách vĩnh viễn. Đối với trí tuệ nhân tạo, nó cũng không thể giải quyết một cách thỏa đáng rủi ro quyền lực của con người bị suy giảm so với trí tuệ nhân tạo.

Phòng thủ khác biệt được tăng tốc, nhưng bỏ qua "phi tập trung và dân chủ"

Để đạt được mục tiêu an toàn mà chấp nhận kiểm soát tập trung, điều này luôn có một sức hấp dẫn nhất định đối với một số người. Gần đây, một số người lo ngại rằng kiểm soát tập trung cực đoan có thể là cách duy nhất để đối phó với công nghệ cực đoan trong tương lai. Tuy nhiên, kiểm soát tập trung có một vấn đề về mức độ. Một hình thức kiểm soát tập trung tương đối nhẹ nhàng thường bị bỏ qua nhưng vẫn có hại, thể hiện ở sự kháng cự của công chúng đối với sự giám sát trong lĩnh vực công nghệ sinh học, cũng như việc cho phép hành vi kháng cự này không bị thách thức bởi các tiêu chuẩn mã nguồn đóng.

Rủi ro của phương thức này là rõ ràng, đó là trung tâm thường trở thành nguồn gốc của rủi ro. Chúng ta đã chứng kiến điều này trong thời gian đại dịch COVID-19, khi các nghiên cứu chức năng được tài trợ bởi nhiều chính phủ lớn trên thế giới có thể là nguồn gốc của đại dịch, và cách tiếp cận tập trung đã dẫn đến việc Tổ chức Y tế Thế giới từ chối công nhận virus COVID-19 lây lan qua không khí trong nhiều năm. Việc thực hiện giãn cách xã hội bắt buộc và tiêm chủng bắt buộc đã gây ra phản ứng chính trị có thể kéo dài hàng thập kỷ. Ngược lại, phương thức phi tập trung sẽ đối phó hiệu quả hơn với những rủi ro đến từ chính trung tâm.

Phòng thủ phi tập trung, nhưng loại bỏ tăng tốc

Về bản chất, đây là nỗ lực làm chậm tiến bộ công nghệ hoặc thúc đẩy suy thoái kinh tế.

Chiến lược này phải đối mặt với hai thách thức. Thứ nhất, nhìn chung, sự phát triển công nghệ và kinh tế rất có lợi cho nhân loại, bất kỳ sự chậm trễ nào trong điều này đều sẽ mang lại chi phí không thể ước lượng. Thứ hai, trong một thế giới không có chế độ độc tài, sự trì trệ là không ổn định: những người hoặc nhóm "gian lận" nhiều nhất, có khả năng tìm ra cách hợp lý để tiếp tục phát triển sẽ chiếm ưu thế. Chiến lược giảm tốc có thể hoạt động đến một mức độ nhất định trong một số tình huống cụ thể, nhưng những chiến lược này không thể hiệu quả mãi mãi.

Thông qua d/acc, chúng tôi cam kết đạt được các mục tiêu sau:

• Giữ vững nguyên tắc trong xu hướng ngày càng bộ lạc hóa của thế giới ngày nay, chứ không chỉ mù quáng xây dựng đủ loại thứ - ngược lại, chúng tôi kỳ vọng xây dựng những thứ cụ thể để làm cho thế giới trở nên an toàn và tốt đẹp hơn.
• Nhận thức rằng sự tiến bộ công nghệ theo cấp số nhân có nghĩa là thế giới sẽ trở nên cực kỳ kỳ lạ, và "dấu ấn" tổng thể của nhân loại trong vũ trụ chắc chắn sẽ tiếp tục gia tăng. Khả năng của chúng ta trong việc bảo vệ các loài động vật, thực vật và cộng đồng dễ bị tổn thương khỏi những tổn hại phải liên tục được cải thiện, và con đường duy nhất là tiến về phía trước.
• Xây dựng công nghệ có thể thực sự bảo vệ chúng ta, thay vì dựa trên giả định "người tốt ( hoặc trí tuệ nhân tạo tốt ) kiểm soát mọi thứ". Chúng ta đạt được mục tiêu này bằng cách xây dựng các công cụ tự nhiên hiệu quả hơn khi được sử dụng để xây dựng và bảo vệ so với khi được sử dụng để phá hoại.

Một cách tiếp cận khác để suy nghĩ về d/acc là trở về với khung của phong trào Pirate Party châu Âu vào cuối những năm 2000 của thế kỷ 21: trao quyền.

Mục tiêu của chúng tôi là xây dựng một thế giới có thể bảo tồn tính chủ động của con người, đạt được tự do tiêu cực, tức là tránh sự can thiệp tích cực vào khả năng định hình vận mệnh của chúng ta từ những người khác (, cho dù đó là công dân bình thường, chính phủ, hay siêu trí tuệ nhân tạo ), đồng thời đạt được tự do tích cực, tức là đảm bảo rằng chúng ta có kiến thức và tài nguyên để thực hiện khả năng này. Điều này phản ánh một truyền thống tự do cổ điển kéo dài hàng thế kỷ, trong đó bao gồm mối quan tâm về "tiếp cận công cụ", cũng như nhấn mạnh tầm quan trọng của giáo dục và tự do như những yếu tố chính cho sự tiến bộ của nhân loại. Với bối cảnh công nghệ thế kỷ 21, chúng ta có thể xem d/acc như một cách để đạt được những mục tiêu tương tự.

Chiều thứ ba: Sự phát triển hợp tác giữa sinh tồn và thịnh vượng

Trong bài viết năm ngoái của tôi, d/acc đặc biệt tập trung vào các công nghệ phòng thủ: phòng thủ vật lý, phòng thủ sinh học, phòng thủ mạng và phòng thủ thông tin. Tuy nhiên, phòng thủ phi tập trung đơn thuần không đủ để xây dựng một thế giới vĩ đại: chúng ta còn cần một tầm nhìn tích cực mang tính tiên phong, rõ ràng về những mục tiêu mà nhân loại có thể đạt được sau khi có được sự phi tập trung và an toàn mới.

Bài viết năm ngoái thực sự chứa đựng một tầm nhìn tích cực ở hai khía cạnh:

1. Khi chú ý đến những thách thức của siêu trí tuệ, tôi đã đưa ra một con đường, đó là làm thế nào chúng ta có thể đạt được siêu trí tuệ mà không mất quyền lực:

   • Hiện nay, xây dựng trí tuệ nhân tạo như một công cụ, chứ không phải là một thực thể thông minh tự chủ cao.
   • Trong tương lai, sử dụng công nghệ thực tế ảo, công nghệ điện cơ và giao diện não-máy để thiết lập cơ chế phản hồi chặt chẽ hơn giữa trí tuệ nhân tạo và con người.
   • Theo thời gian trôi qua, dần dần tiến tới kết cục cuối cùng, đó là siêu trí tuệ là sản phẩm của sự hòa quyện chặt chẽ giữa máy móc và con người.

2. Khi nói về phòng thủ thông tin, tôi cũng đã đề cập một cách ngẫu nhiên rằng, ngoài những công nghệ xã hội phòng thủ nhằm giúp cộng đồng duy trì sự gắn kết và thực hiện các cuộc thảo luận chất lượng cao khi đối mặt với kẻ tấn công, còn có những công nghệ xã hội tiến bộ, có thể giúp cộng đồng dễ dàng đưa ra những phán đoán chất lượng cao hơn.

Trong các lĩnh vực khác nhau tồn tại một mô hình nhất quán, đó là những khoa học, ý tưởng và công cụ có thể giúp chúng ta "sinh tồn" trong một lĩnh vực nào đó có liên quan chặt chẽ đến những khoa học, ý tưởng và công cụ có thể hỗ trợ chúng ta "thịnh vượng". Dưới đây là một số ví dụ cụ thể:

• Nhiều nghiên cứu gần đây về COVID-19 tập trung vào sự tồn tại liên tục của virus trong cơ thể, điều này được coi là một cơ chế chính của vấn đề COVID kéo dài. Gần đây, cũng có dấu hiệu cho thấy sự tồn tại liên tục của virus có thể là yếu tố gây bệnh của bệnh Alzheimer - nếu quan điểm này đúng, thì giải quyết vấn đề sự tồn tại liên tục của virus trong tất cả các loại mô có thể trở thành chìa khóa để giải quyết vấn đề lão hóa.
• Công cụ hình ảnh chi phí thấp và vi mô có tiềm năng mạnh mẽ trong việc điều trị huyết khối vi mô, virus tồn tại, ung thư, và cũng có thể được áp dụng trong lĩnh vực giao diện não-máy.
• Đẩy mạnh xây dựng các công cụ xã hội phù hợp với môi trường đối kháng cao và các công cụ xã hội hợp tác hợp lý có ý tưởng rất tương tự.
• Thị trường dự đoán có giá trị quan trọng trong cả môi trường hợp tác cao và đối kháng cao.
• Chứng minh không biết và các công nghệ tương tự vừa bảo vệ quyền riêng tư vừa thực hiện tính toán trên dữ liệu, vừa tăng lượng dữ liệu có thể sử dụng cho các công việc hữu ích như nghiên cứu khoa học, vừa tăng cường bảo vệ quyền riêng tư.
• Năng lượng mặt trời và pin có ý nghĩa to lớn trong việc thúc đẩy làn sóng tăng trưởng kinh tế sạch tiếp theo, đồng thời cũng thể hiện xuất sắc trong việc phi tập trung và tính đàn hồi vật lý.

Ngoài ra, giữa các lĩnh vực học khác nhau còn tồn tại mối quan hệ phụ thuộc quan trọng.

• Giao diện não-máy là một công nghệ phòng thủ thông tin và hợp tác quan trọng, vì nó có khả năng thực hiện sự giao tiếp tinh vi hơn về suy nghĩ và ý định của chúng ta. Giao diện não-máy không chỉ là kết nối giữa robot và ý thức: nó còn có thể là sự tương tác giữa ý thức-robot-ý thức. Điều này phù hợp với giá trị của giao diện não-máy trong quan niệm đa dạng.
• Nhiều công nghệ sinh học phụ thuộc vào việc chia sẻ thông tin, và trong nhiều trường hợp, mọi người chỉ sẵn lòng chia sẻ thông tin khi họ chắc chắn rằng thông tin chỉ được sử dụng cho các ứng dụng cụ thể. Điều này phụ thuộc vào công nghệ bảo mật.
• Công nghệ hợp tác có thể được sử dụng để phối hợp tài trợ cho bất kỳ lĩnh vực công nghệ nào khác.

Vấn đề: An toàn trí tuệ nhân tạo, thời gian gấp gáp và tình trạng quản lý

Năm ngoái, quan điểm phản đối thuyết phục nhất mà bài viết của tôi nhận được đến từ cộng đồng an toàn trí tuệ nhân tạo. Lập luận của họ là: "Tất nhiên, nếu chúng ta có nửa thế kỷ để phát triển trí tuệ nhân tạo mạnh mẽ, chúng ta có thể tập trung vào việc xây dựng tất cả những điều hữu ích này. Nhưng thực tế, có vẻ như chúng ta chỉ có ba năm để phát triển trí tuệ nhân tạo tổng quát, và ba năm tiếp theo để phát triển trí tuệ siêu phàm. Do đó, nếu chúng ta không muốn thế giới rơi vào sự hủy diệt hoặc theo cách khác rơi vào tình huống không thể đảo ngược, chúng ta không thể chỉ đơn thuần tăng tốc phát triển công nghệ hữu ích, mà còn phải làm chậm lại sự phát triển của công nghệ có hại, điều này có nghĩa là cần phải có các biện pháp quản lý mạnh mẽ có thể làm tổn thương đến những người có quyền lực."

Nếu tôi chắc chắn rằng chúng ta cần các biện pháp "mạnh mẽ" hơn so với quy tắc trách nhiệm, tôi sẽ chọn chiến lược "nút tạm dừng mềm toàn cầu" trên phần cứng quy mô công nghiệp. Mục tiêu là có khả năng giảm khoảng 90%-99% công suất tính toán toàn cầu trong những thời điểm quan trọng, kéo dài từ 1-2 năm, để nhân loại có thêm thời gian chuẩn bị. Các phương pháp thực hiện "tạm dừng" đã được khám phá, bao gồm một số đề xuất cụ thể, như yêu cầu đăng ký phần cứng và xác minh vị trí.

Một phương pháp tiên tiến hơn là sử dụng các biện pháp công nghệ mã hóa tinh vi: chẳng hạn, phần cứng trí tuệ nhân tạo quy mô công nghiệp ( nhưng không phải cấp tiêu dùng ) có thể được trang bị một chip phần cứng đáng tin cậy, chỉ khi nhận được từ các tổ chức quốc tế chính ( bao gồm ít nhất