Điều gì sẽ xảy ra nếu một tỷ robot phụ thuộc vào một trung tâm dữ liệu duy nhất?

Điều gì sẽ xảy ra nếu những con robot của tương lai đáp ứng một thực thể duy nhất?

Kịch bản thực tế hơn bạn nghĩ. AI đang trở nên phổ biến, nhưng chỉ có một vài người kiểm soát mọi thứ.

Một tương lai có thể. Nhưng bất an

Trong một bài phát biểu tại Tuần lễ AI, một câu hỏi được đặt ra đã làm khán giả trở nên im lặng:

“Bạn sẽ cảm thấy thế nào nếu trong 10 năm tới có một tỷ robot, tất cả đều kết nối với một trung tâm dữ liệu duy nhất?”

Câu hỏi không phải là tu từ. Đây là một cảnh báo rõ ràng, được hỗ trợ bởi những gì chúng ta có thể quan sát ngày hôm nay: trí tuệ nhân tạo ngày càng được tích hợp vào đời sống hàng ngày, nhưng việc kiểm soát nó đang trở nên tập trung hơn.

Từ tập trung hóa đến sự thống trị nhận thức

Hôm nay, chúng ta sử dụng AI để dịch, viết, thiết kế, phân tích, tư vấn. Mọi thứ đều trải qua các mô hình được quản lý bởi một vài người chơi lớn – OpenAI, Google, Meta, Amazon. Mỗi tương tác mà chúng ta có với trí tuệ nhân tạo diễn ra:

Thông qua API

Trên các máy chủ bên ngoài

Dưới các logic sở hữu

Với dữ liệu mà chúng tôi không kiểm soát

Điều này có nghĩa là, nếu ngày mai một trong những công ty này quyết định ngừng hoạt động máy chủ, hàng triệu dịch vụ sẽ dừng lại. Nếu nó quyết định thay đổi các điều khoản sử dụng, không ai có thể phản đối.

Bây giờ hãy tưởng tượng mô hình này được áp dụng cho hàng triệu robot thông minh, xe cộ, trợ lý, thiết bị y tế, và cơ sở hạ tầng công cộng.

1 tỷ robot. Một bộ não

Kịch bản được đề xuất vừa hấp dẫn vừa nguy hiểm: một nhân loại bị bao quanh bởi các thiết bị tự động, kết nối, hoạt động 24/7 - nhưng tất cả đều được kiểm soát bởi một trí tuệ trung tâm duy nhất.

Nói một cách cụ thể:

Một sự cố mất điện tại trung tâm dữ liệu có thể chặn toàn bộ các lĩnh vực.

Một vụ xâm nhập của hacker có thể làm lộ hàng triệu đơn vị

Một quyết định kinh doanh hoặc chính trị có thể thay đổi các quy tắc, hành vi, tự do cá nhân.

Nếu tương lai được populated bởi AI, thì bất kỳ ai kiểm soát AI... sẽ kiểm soát thế giới.

Tại sao chúng ta cần lo lắng bây giờ

Đây không phải là khoa học viễn tưởng. Đã có hôm nay:

Một số máy bay không người lái quân sự hoạt động với AI tập trung

Xe tự hành phụ thuộc vào máy chủ đám mây để cập nhật quan trọng

Các trợ lý giọng nói lắng nghe và ghi lại từng từ, gửi nó đến các trung tâm xa.

Các trường học thử nghiệm gia sư AI trên các nền tảng dựa trên đám mây

Với sự gia tăng theo cấp số nhân về sức mạnh và độ tin cậy của các tác nhân AI, xu hướng này có nguy cơ trở thành chuẩn mực.

Có một lối thoát: phi tập trung các tác nhân AI

Phản ứng với sự trôi dạt này là rõ ràng: phân phối quyền lực nhận thức.

Giải pháp thay thế được đề xuất bởi các dự án như QVAC là chạy các tác nhân AI ở chế độ cục bộ, trên từng thiết bị cá nhân, mà không phụ thuộc vào một trung tâm dữ liệu trung ương.

Một trí tuệ ngang hàng, nơi mỗi người dùng sở hữu AI của riêng họ, vận hành nó ngoại tuyến, cập nhật độc lập và – trên hết – không từ bỏ dữ liệu của họ.

Mô hình này:

Giảm thiểu rủi ro giám sát

Tăng cường khả năng phục hồi cơ sở hạ tầng

Loại bỏ nguy cơ kiểm duyệt hoặc ngắt kết nối tùy tiện

Trả lại quyền kiểm soát hoàn toàn trí tuệ cho người dùng

Một vấn đề về tự do, không chỉ là hiệu quả

Điều quan trọng không chỉ là kỹ thuật. Nó còn là chính trị, xã hội, con người.

Nếu trí tuệ nhân tạo trở thành một phần mở rộng của tư duy con người, thì việc tập trung nó tương đương với việc tập trung ý thức tập thể.

Và chúng ta không thể để một vài công ty quyết định cho hàng tỷ người:

Điều gì là đúng và điều gì là sai

Nói gì là đúng hay sai

Robot có thể đưa ra những quyết định nào trong bệnh viện, ở trường học hoặc trong chiến tranh

AI phải trao quyền cho nhân loại, không thay thế hoặc cai trị nó.

Kết luận: AI là một quyền, không phải là một dịch vụ

Trong một thế giới mà mọi thứ sẽ trở nên thông minh – ô tô, nhà cửa, thành phố, doanh nghiệp – câu hỏi cơ bản sẽ là: ai sẽ suy nghĩ thay cho tôi?

Nếu chúng ta muốn một tương lai công nghệ tự do, an toàn và công bằng, chúng ta phải hành động ngay hôm nay:

Phân cấp trí tuệ

Sở hữu các tác nhân AI

Chọn sự minh bạch và quyền riêng tư theo thiết kế

Một tỷ robot kết nối với một thực thể duy nhất không phải là hiệu quả. Đó là chế độ độc tài nhận thức.

Và chúng ta có nghĩa vụ để tránh điều đó.