AI技術の進歩とセキュリティの課題

最近、Manusという名前の人工知能システムがGAIAベンチマークテストで画期的な成果を収め、その性能は同等の大規模言語モデルを超えました。Manusは、契約条項の分析、戦略の策定、プランの生成など、複雑なタスクを独立して完了する能力を示しています。従来のシステムと比較して、Manusの利点はその動的な目標分解能力、クロスモーダル推論能力、および記憶強化学習能力にあります。これは、大規模なタスクを数百の実行可能なサブタスクに分解し、さまざまなタイプのデータを処理し、強化学習を通じて自己の意思決定効率を継続的に向上させ、エラー率を低下させることができます。

! マヌスはAGIの夜明けをもたらし、AIセキュリティも熟考する価値があります

Manusの画期的な進展は、再び人工知能分野における未来の発展パスについての議論を引き起こしました：汎用人工知能（AGI）に向かって進むのか、それとも多エージェントシステム（MAS）が協調的に主導するのか？この問題の背後には、実際には人工知能の発展における核心的な矛盾が反映されています：効率と安全性の間でどのようにバランスを取るか？

単体の知能システムがAGIにますます近づくにつれて、その意思決定プロセスの不透明性リスクも増加しています。一方で、多エージェント協調はリスクを分散させることができますが、通信遅延により重要な意思決定のタイミングを逃す可能性があります。Manusの進化は、データプライバシーの漏洩、アルゴリズムの偏見、対抗攻撃など、人工知能の発展に固有のリスクを無意識のうちに拡大しています。

医療の場面では、Manusは患者の機密データにリアルタイムでアクセスする必要があります。金融交渉では、企業の未公開情報に触れる可能性があります。採用プロセスでは、Manusが特定のグループに不公平な給与提案を行う可能性があります。法律契約のレビュー時には、新興業界の条項に対する誤判率が半分に近づく可能性があります。さらに、ハッカーは特定の音声周波数を植え付けることで、交渉中のManusの判断を妨害することができます。

これらの問題は、心配な傾向を浮き彫りにしています：スマートシステムが発展するほど、その潜在的な攻撃面も広がります。

これらの課題に対処するために、業界はさまざまな暗号技術とセキュリティモデルを探求しています。

1. ゼロトラストセキュリティモデル：すべてのアクセス要求に対して厳格な認証と承認を行い、どのデバイスやユーザーにもデフォルトで信頼を置かないことを強調します。

2. 分散型アイデンティティ（DID）：中央集権的な登録システムに依存せずに、新しいタイプの分散型デジタルアイデンティティ標準。

3. 完全同態暗号（FHE）：暗号化された状態でデータを計算することを可能にし、データのプライバシーを保護しながらデータの利用を実現します。

全同態暗号は新興の暗号技術として、人工知能時代の安全問題を解決する重要なツールとなることが期待されています。これは、バイオメトリクスや音声トーンを含むユーザー入力のすべての情報をデータレベルで保護することができ、AIシステム自体でさえ元のデータを解読することができません。アルゴリズムレベルでは、FHEは「暗号化モデルのトレーニング」を実現し、開発者でさえAIの意思決定プロセスを直接観察することができません。マルチエージェント協調の観点からは、しきい値暗号を採用することで、単一のノードが攻撃されてもグローバルデータの漏洩を引き起こさないことが保証されます。

人工知能技術が人間の知能にますます近づくにつれ、非人間の防御体系を構築することがますます重要になっています。完全同型暗号は、現在の安全問題を解決するだけでなく、将来の強い人工知能時代の基盤を築くことができます。AGIへの道のりにおいて、FHEはもはや選択肢ではなく、人工知能システムの安全性と制御性を確保するための必要な手段です。