Manus a réalisé des performances révolutionnaires dans le Benchmark GAIA

Récemment, Manus a réalisé des performances révolutionnaires dans le benchmark GAIA, surpassant les grands modèles de langage de même niveau. Cela signifie que Manus est capable de mener à bien des tâches complexes de manière autonome, telles que des négociations commerciales internationales, impliquant la décomposition des clauses contractuelles, la prévision des stratégies, la génération de solutions, et même la coordination des équipes juridiques et financières.

Les avantages de Manus se manifestent principalement dans trois domaines : la capacité de décomposition dynamique des objectifs, la capacité de raisonnement multimodal et la capacité d'apprentissage renforcé par la mémoire. Il peut décomposer de grandes tâches en des centaines de sous-tâches exécutables, tout en traitant plusieurs types de données et en améliorant continuellement son efficacité décisionnelle et en réduisant son taux d'erreur grâce à l'apprentissage par renforcement.

Cette avancée a de nouveau suscité des discussions dans l'industrie sur les voies d'évolution de l'IA : l'avenir sera-t-il dominé par l'AGI ou par la collaboration des MAS ? La philosophie de conception de Manus sous-entend deux possibilités : d'une part, le chemin de l'AGI qui consiste à améliorer continuellement le niveau d'intelligence des entités individuelles, s'approchant de la capacité de décision globale des humains ; d'autre part, le chemin du MAS, agissant en tant que super coordinateur, dirigeant des milliers d'agents dans des domaines verticaux pour une action collaborative.

Ce débat reflète en réalité le conflit central sur la façon d'équilibrer l'efficacité et la sécurité dans le développement de l'IA. Plus l'intelligence unitaire se rapproche de l'AGI, plus le risque de boîte noire dans la prise de décision est élevé ; alors que la collaboration multi-Agent peut répartir les risques, elle peut également manquer des moments clés de prise de décision en raison des délais de communication.

L'évolution de Manus amplifie également les risques inhérents au développement de l'IA, tels que la confidentialité des données, les biais algorithmiques et les attaques adversariales. Par exemple, dans le contexte médical, Manus doit accéder en temps réel aux données génomiques des patients ; lors de négociations financières, cela peut concerner des informations financières non publiées par l'entreprise. Dans le cadre de négociations d'embauche, il se pourrait qu'il propose des salaires inférieurs à la moyenne pour des candidats de certaines ethnies ; lors de la révision de contrats juridiques, le taux d'erreur dans l'interprétation des clauses des secteurs émergents pourrait approcher les 50 %. De plus, des hackers pourraient également implanter des fréquences vocales spécifiques, amenant Manus à mal évaluer la fourchette de prix de l'adversaire lors des négociations.

Ces défis soulignent une réalité sévère : plus un système est intelligent, plus sa surface d'attaque est large.

Dans le domaine du Web3, la sécurité a toujours été un sujet de grande préoccupation. Basé sur le cadre du triangle impossible proposé par Vitalik Buterin (les réseaux blockchain ne peuvent pas réaliser simultanément la sécurité, la décentralisation et l'évolutivité), plusieurs méthodes cryptographiques en ont découlé :

1. Modèle de sécurité Zero Trust : le principe fondamental est "ne faire confiance à personne, toujours vérifier", mettant l'accent sur une authentification et une autorisation strictes de chaque demande d'accès.

2. Identité décentralisée (DID) : un ensemble de normes d'identifiants permettant aux entités d'obtenir une identification de manière vérifiable et durable, sans registre centralisé.

3. Chiffrement homomorphe complet (FHE) : permet d'effectuer des calculs arbitraires sur des données chiffrées sans déchiffrer les données, adapté à des scénarios tels que le cloud computing et l'externalisation des données.

Dans ce contexte, le chiffrement homomorphe est considéré comme un outil puissant pour résoudre les problèmes de sécurité à l'ère de l'IA. Il peut jouer un rôle à plusieurs niveaux :

1. Niveau des données : toutes les informations saisies par l'utilisateur (y compris les caractéristiques biologiques, le ton de la voix) sont traitées en état chiffré, même le système d'IA lui-même ne peut pas déchiffrer les données originales.

2. Au niveau de l'algorithme : réaliser "l'entraînement de modèles chiffrés" grâce à FHE, même les développeurs ne peuvent pas apercevoir le chemin de décision de l'IA.

3. Niveau de collaboration : Plusieurs agents communiquent en utilisant le cryptage par seuil, la compromission d'un seul nœud ne conduira pas à une fuite de données globale.

Dans le domaine de la sécurité Web3, certains projets ont déjà commencé à explorer ces technologies :

• uPort a été lancé en 2017 sur le réseau principal Ethereum, et c'est l'un des premiers projets d'identité décentralisée.
• NKN a lancé son réseau principal en 2019, s'engageant dans l'application du modèle de sécurité à zéro confiance.
• Mind Network est le premier projet FHE à être lancé sur le mainnet et collabore avec plusieurs institutions renommées.

Bien que ces projets de sécurité puissent ne pas recevoir autant d'attention que certains projets spéculatifs, ils sont essentiels pour construire un écosystème Web3 sécurisé.

Avec l'avancement des technologies d'IA approchant du niveau d'intelligence humaine, les systèmes de défense non traditionnels deviennent de plus en plus importants. Des technologies comme FHE peuvent non seulement résoudre les défis de sécurité actuels, mais aussi poser les bases pour l'avenir de l'ère des IA puissantes. Sur la route vers l'AGI, ces technologies de sécurité ne sont plus des options, mais des nécessités pour la survie.