Manus досяг проривних результатів у бенчмарку GAIA

Нещодавно Manus досягнув проривних результатів у GAIA Бенчмарк тестуванні, його продуктивність перевищує продуктивність великих мовних моделей того ж рівня. Це означає, що Manus може самостійно виконувати складні завдання, такі як міжнаціональні бізнес-угоди, що включають розбивку контрактних умов, прогнозування стратегій, генерацію пропозицій, навіть координацію юридичних та фінансових команд.

Переваги Manus в основному проявляються в трьох аспектах: здатності до динамічного розбиття цілей, міжмодальної логіки та здатності до навчання з підсиленням пам'яті. Він може розбивати великі завдання на сотні виконуваних підзавдань, одночасно обробляючи кілька типів даних і постійно підвищуючи свою ефективність прийняття рішень та знижуючи рівень помилок за допомогою навчання з підсиленням.

Цей прогрес знову викликав обговорення в індустрії щодо еволюційного шляху ШІ: чи буде майбутнє під контролем AGI, чи домінуватиме кооперація MAS? Дизайнерська концепція Manus приховує дві можливості: перша - це шлях AGI, який прагне постійно підвищувати рівень індивідуального інтелекту, наближаючись до комплексної здатності людського прийняття рішень; друга - це шлях MAS, який виступає в ролі суперкоординатора, керуючи тисячами агентів у вертикальних сферах, що співпрацюють у бойових діях.

Ця суперечка фактично відображає основний конфлікт між ефективністю та безпекою у розвитку ШІ. Чим ближче окремий інтелект до AGI, тим вищий ризик чорного ящика в прийнятті рішень; в той час як співпраця багатьох агентів може зменшити ризики, але через затримки в комунікації вона може пропустити ключові моменти для прийняття рішень.

Еволюція Manus також посилила вроджені ризики розвитку ШІ, такі як проблеми з конфіденційністю даних, упередженість алгоритмів та атаки з використанням протидії. Наприклад, у медичних сценаріях Manus потрібно в реальному часі отримувати доступ до геномних даних пацієнтів; під час фінансових переговорів можуть бути порушені питання, пов'язані з неоприлюдненою фінансовою інформацією компанії. У переговорах про найм кандидатам певної етнічної приналежності може бути запропоновано зарплату нижчу за середню; під час перевірки юридичних контрактів ймовірність помилок у тлумаченні умов нових галузей може становити майже половину. Крім того, хакери можуть ввести певні частоти голосу, що призведе до помилкової оцінки цінового діапазону опонента під час переговорів.

Ці виклики підкреслюють сувору реальність: чим розумніша система, тим більша її уразливість.

У сфері Web3 безпека завжди була предметом великої уваги. На основі трикутника неможливостей, запропонованого Віталіком Бутеріним (блокчейн-мережа не може одночасно забезпечити безпеку, децентралізацію та масштабованість), виникло безліч криптографічних методів:

1. Модель нульової довіри: основна концепція полягає в "не довіряти нікому, завжди перевіряти", підкреслюючи необхідність строгого підтвердження особи та авторизації для кожного запиту на доступ.

2. Децентралізована ідентичність (DID): набір стандартів ідентифікаторів, що дозволяє сутностям отримувати ідентифікацію у верифікованому та постійному вигляді без потреби в централізованому реєстрі.

3. Повна гомоморфна криптографія (FHE): дозволяє виконувати будь-які обчислення над зашифрованими даними без їх розшифровки, підходить для таких сценаріїв, як хмарні обчислення та аутсорсинг даних.

Зокрема, гомоморфне шифрування вважається потужним інструментом для вирішення проблем безпеки в епоху штучного інтелекту. Воно може діяти на кількох рівнях:

1. Дані на рівні: Вся інформація, введена користувачем (включаючи біометричні дані, голосові інтонації), обробляється в зашифрованому вигляді, і навіть сама AI-система не може розшифрувати вихідні дані.

2. Алгоритмічний рівень: реалізація "шифрованого навчання моделей" за допомогою FHE, навіть розробники не можуть заглянути в шлях прийняття рішень AI.

3. Співпраця: декілька Агентів спілкуються, використовуючи порогове шифрування, компрометація одного вузла не призведе до витоку глобальних даних.

У сфері безпеки Web3 деякі проекти вже почали досліджувати ці технології:

• uPort був випущений у 2017 році на основі основної мережі Ethereum і є одним із перших децентралізованих проектів ідентифікації.
• NKN випустила свою основну мережу у 2019 році, зосередившись на застосуванні моделі нульового довіри.
• Mind Network є першим проектом FHE, який вийшов на основну мережу, і співпрацює з багатьма відомими установами.

Незважаючи на те, що ці безпекові проекти можуть бути менш помітними, ніж деякі спекулятивні проекти, вони є критично важливими для побудови безпечної екосистеми Web3.

З розвитком технологій штучного інтелекту, які наближаються до рівня людського інтелекту, нетрадиційні системи захисту стають все більш важливими. Такі технології, як FHE, не лише здатні вирішити актуальні проблеми безпеки, але й закладають основу для майбутньої ери сильного штучного інтелекту. На шляху до AGI ці технології безпеки вже не є варіантами, а є необхідністю для виживання.