Apa yang terjadi jika satu miliar robot bergantung pada satu pusat data?

Bagaimana jika robot-robot di masa depan menjawab kepada satu entitas?

Skenarionya lebih nyata daripada yang Anda pikirkan. AI semakin hadir di mana-mana, tetapi sedikit yang mengendalikan segalanya.

Mungkin masa depan. Tapi mengganggu

Selama pidato di AI Week, sebuah pertanyaan diajukan yang membekukan audiens:

“Bagaimana perasaan Anda jika dalam 10 tahun ada satu miliar robot, semua terhubung ke satu pusat data?”

Pertanyaannya bukan retoris. Ini adalah peringatan yang jelas, didukung oleh apa yang sudah bisa kita amati hari ini: kecerdasan buatan semakin terintegrasi ke dalam kehidupan sehari-hari, tetapi pengendaliannya semakin terpusat.

Dari sentralisasi ke dominasi kognitif

Hari ini kami menggunakan AI untuk menerjemahkan, menulis, merancang, menganalisis, memberi saran. Segala sesuatu melalui model yang dikelola oleh beberapa pemain utama – OpenAI, Google, Meta, Amazon. Setiap interaksi yang kita lakukan dengan kecerdasan buatan terjadi:

Melalui API

Di server eksternal

Di bawah logika kepemilikan

Dengan data yang tidak kami kendalikan

Ini berarti bahwa, jika besok salah satu perusahaan ini mematikan servernya, jutaan layanan akan berhenti. Jika mereka memutuskan untuk mengubah ketentuan penggunaan, tidak ada yang bisa menolaknya.

Sekarang bayangkan model yang sama diterapkan pada jutaan robot cerdas, mobil, asisten, perangkat medis, infrastruktur publik.

1 miliar robot. Satu otak

Skenario yang diusulkan sama menariknya dengan berbahayanya: sebuah umat manusia yang dikelilingi oleh perangkat otonom, terhubung, aktif 24/7 – tetapi semua dikendalikan oleh satu pikiran pusat.

Dalam istilah konkret:

Pemadaman di pusat data dapat memblokir seluruh sektor

Pelanggaran hacker dapat mengkompromikan jutaan unit

Keputusan bisnis atau politik dapat mengubah aturan, perilaku, kebebasan individu

Jika masa depan dihuni oleh AI, maka siapa pun yang mengendalikan AI... mengendalikan dunia.

Mengapa kita perlu khawatir sekarang

Ini bukan fiksi ilmiah. Sudah hari ini:

Beberapa drone militer beroperasi dengan AI terpusat

Mobil otonom bergantung pada server cloud untuk pembaruan penting

Asisten suara mendengarkan dan merekam setiap kata, mengirimkannya ke pusat-pusat remote

Sekolah menguji bimbingan AI di platform berbasis cloud

Dengan peningkatan eksponensial dalam kekuatan dan keandalan agen AI, tren ini berisiko menjadi norma.

Ada jalan keluar: desentralisasikan agen AI

Tanggapan terhadap penyimpangan ini jelas: mendistribusikan kekuatan kognitif.

Alternatif yang diusulkan oleh proyek-proyek seperti QVAC adalah menjalankan agen AI secara lokal, di setiap perangkat individu, tanpa bergantung pada pusat data pusat.

Inteligensi peer-to-peer, di mana setiap pengguna memiliki AI mereka sendiri, menjalankannya secara offline, memperbaruinya secara independen dan – yang terpenting – tidak menyerahkan data mereka.

Model ini:

Mengurangi risiko pengawasan

Meningkatkan ketahanan infrastruktur

Menghilangkan risiko sensor atau pemutusan yang sewenang-wenang

Memberikan kontrol penuh atas kecerdasan kepada pengguna

Sebuah masalah kebebasan, bukan hanya efisiensi

Poinnya bukan hanya teknis. Ini adalah politik, sosial, manusia.

Jika kecerdasan buatan menjadi perpanjangan dari pemikiran manusia, maka sentralisasinya setara dengan sentralisasi kesadaran kolektif.

Dan kita tidak dapat membiarkan segelintir perusahaan memutuskan untuk miliaran orang:

Apa yang benar dan apa yang salah

Apa yang benar atau salah untuk dikatakan

Keputusan apa yang dapat diambil oleh robot di rumah sakit, di sekolah, atau dalam perang

AI harus memberdayakan umat manusia, bukan menggantikan atau mengaturnya.

Kesimpulan: AI adalah hak, bukan layanan

Di dunia di mana segala sesuatunya akan menjadi cerdas – mobil, rumah, kota, bisnis – pertanyaan mendasar akan menjadi: siapa yang berpikir untuk saya?

Jika kita menginginkan masa depan teknologi yang bebas, aman, dan adil, kita harus bertindak hari ini:

Desentralisasi kecerdasan

Miliki agen AI

Pilih transparansi dan privasi dengan desain

Satu miliar robot yang terhubung ke satu entitas bukanlah efisiensi. Itu adalah kediktatoran kognitif.

Dan kita memiliki kewajiban untuk menghindarinya.