Manus, GAIA Benchmark testinde çığır açan bir başarı elde etti

Son zamanlarda, Manus GAIA Benchmark testinde çığır açan bir başarı elde etti ve performansı benzer boyuttaki büyük dil modellerini geride bıraktı. Bu, Manus'un karmaşık görevleri bağımsız bir şekilde yerine getirebileceği anlamına geliyor; örneğin, uluslararası ticari müzakerelerde, sözleşme maddelerinin ayrıştırılması, stratejik öngörü, çözüm üretimi ve hatta hukuk ve finans ekiplerinin koordinasyonunu sağlama gibi.

Manus'un avantajları üç ana alanda yoğunlaşmaktadır: dinamik hedef parçalama yeteneği, çok modlu akıl yürütme yeteneği ve bellek artırma öğrenme yeteneği. Büyük görevleri yüzlerce uygulanabilir alt göreve bölebilir, farklı veri türlerini aynı anda işleyebilir ve pekiştirmeli öğrenme ile kendi karar verme verimliliğini sürekli artırarak hata oranını düşürebilir.

Bu gelişme, sektörde AI evrim yolları üzerine tekrar tartışmalara yol açtı: Gelecek AGI'nin tek başına hakim olduğu bir dünya mı olacak, yoksa MAS'ın işbirliği ile mi yönetilecek? Manus'un tasarım felsefesi, iki olasılığı içinde barındırıyor: biri, bireysel zeka seviyesini sürekli olarak artırarak insanın kapsamlı karar verme yeteneğine yaklaşan AGI yolu; diğeri ise, binlerce dikey alandaki Ajanı koordine ederek birlikte çalışmasını yöneten süper bir koordinator olarak MAS yolu.

Bu tartışma, aslında AI gelişiminde verimlilik ile güvenlik arasındaki dengenin nasıl sağlanacağına dair temel bir çelişkiyi yansıtmaktadır. Tekil zeka AGI'ye ne kadar yakınsa, karar alma süreçlerindeki kara kutu riski o kadar artar; ancak çoklu ajanların işbirliği riski dağıtsa da, iletişim gecikmeleri nedeniyle kritik karar anlarını kaçırma riski bulunur.

Manus'un evrimi, veri gizliliği, algoritma önyargısı ve saldırgan saldırılar gibi AI gelişiminin içsel risklerini de büyütmüştür. Örneğin, sağlık senaryolarında, Manus'un hastaların genom verilerine anlık erişim sağlaması gerekir; finansal müzakerelerde, şirketlerin henüz açıklanmamış mali rapor bilgilerine dokunulabilir. İşe alım müzakerelerinde, belirli etnik kökenli adaylara ortalamanın altında maaş önerileri yapılabilir; hukuki sözleşme incelemelerinde, yeni ortaya çıkan sektörlere ilişkin maddelerin yanlış değerlendirme oranı neredeyse yarıya çıkabilir. Ayrıca, hackerlar belirli ses frekanslarını yerleştirerek Manus'un müzakerelerde rakiplerinin teklif aralığını yanlış değerlendirmesine sebep olabilir.

Bu zorluklar, daha akıllı sistemlerin daha geniş bir saldırı yüzeyine sahip olduğu sert bir gerçeği vurgulamaktadır.

Web3 alanında güvenlik her zaman dikkat çeken bir konu olmuştur. V God'un önerdiği imkansız üçgen (blok zinciri ağları güvenliği, merkeziyetsizliği ve ölçeklenebilirliği aynı anda gerçekleştiremez) çerçevesine dayanarak, çeşitli kriptografi yöntemleri türetilmiştir:

1. Sıfır Güven Güvenlik Modeli: Temel ilke "Hiç kimseye güvenme, her zaman doğrula" olup, her erişim isteği için sıkı kimlik doğrulama ve yetkilendirme yapılmasını vurgular.

2. Merkeziyetsiz Kimlik (DID): Varlıkların merkezi bir kayıt defteri olmadan, doğrulanabilir ve kalıcı bir şekilde tanınmasını sağlayan bir tanımlayıcı standart seti.

3. Tam Homomorfik Şifreleme (FHE): Verileri şifrelemeden, şifreli veriler üzerinde herhangi bir hesaplama yapmaya olanak tanır; bulut bilişim ve veri dış kaynak kullanımı gibi senaryolar için uygundur.

Bunlar arasında, homomorfik şifreleme, AI çağının güvenlik sorunlarını çözmede güçlü bir araç olarak kabul edilmektedir. Aşağıdaki birkaç alanda etkili olabilir:

1. Veri düzeyi: Kullanıcı tarafından girilen tüm bilgiler (biyometrik özellikler, ses tonu dahil) şifreli bir durumda işlenir ve AI sisteminin kendisi bile orijinal verileri çözemez.

2. Algoritma düzeyi: FHE aracılığıyla "şifreli model eğitimi" gerçekleştirilir, geliştiriciler bile AI'nin karar alma yolunu göremez.

3. İşbirliği Aşaması: Birden fazla Agent, eşik şifreleme kullanarak iletişim kurar; tek bir düğümün kırılması, küresel veri sızdırılmasına neden olmaz.

Web3 güvenlik alanında, bazı projeler bu teknolojileri keşfetmeye başladı:

• uPort, 2017 yılında Ethereum ana ağında piyasaya sürüldü ve daha erken merkeziyetsiz kimlik projelerinden biridir.
• NKN, 2019 yılında ana ağını yayınladı ve sıfır güvenli güvenlik modelinin uygulanmasına odaklandı.
• Mind Network, ana ağda çevrimiçi olan ilk FHE projesidir ve birçok tanınmış kuruluşla işbirliği yapmaktadır.

Bu güvenlik projeleri bazı spekülatif projeler kadar dikkat çekici olmasa da, güvenli bir Web3 ekosisteminin inşası için hayati öneme sahiptir.

Yapay zeka teknolojileri insan zekasına yaklaşırken, geleneksel olmayan savunma sistemleri giderek daha önemli hale geliyor. FHE gibi teknolojiler sadece mevcut güvenlik zorluklarını çözmekle kalmaz, aynı zamanda gelecekteki güçlü yapay zeka çağı için bir temel oluşturur. AGI'ye giden yolda, bu güvenlik teknolojileri artık bir seçenek değil, hayatta kalmanın bir gerekliliği haline gelmiştir.