Проблемы безопасности с помощью искусственного интеллекта становятся все более актуальными, полностью гомоморфное шифрование может стать лучшим решением

Недавно система ИИ под названием Manus достигла прорывных результатов в бенчмарке GAIA, ее производительность превосходит аналогичные крупные языковые модели. Manus продемонстрировала мощные возможности самостоятельной обработки задач, способная справляться со сложными многонациональными бизнес-переговорами, включая анализ условий контрактов, разработку стратегий и генерацию предложений. По сравнению с традиционными системами, Manus имеет явные преимущества в динамическом разборе целей, межмодальном выводе и усиленном обучении с памятью.

Появление Manus снова вызвало обсуждение в отрасли по поводу путей развития ИИ: следует ли стремиться к единой модели общего искусственного интеллекта (AGI) или к кооперативной модели многоагентных систем (MAS)? Этот спор на самом деле отражает проблему баланса между эффективностью и безопасностью в развитии ИИ. По мере того как единичные интеллектуальные системы постепенно приближаются к уровню AGI, риск непрозрачности их процессов принятия решений также возрастает. Хотя кооперация многоагентов может распределять риски, она может упустить ключевые моменты принятия решений из-за задержек в коммуникации.

Прогресс Manus также подчеркивает потенциальные риски развития ИИ, такие как конфиденциальность данных, предвзятость алгоритмов и атаки с противодействием. Например, в медицинских сценариях системы ИИ должны иметь доступ к чувствительным геномным данным пациентов; в финансовых переговорах могут быть вовлечены нераскрытые финансовые данные компаний. Кроме того, системы ИИ могут проявлять предвзятость по отношению к определенным группам в процессе подбора кадров или неправильно интерпретировать условия новых отраслей при проверке юридических документов. Более серьезно, хакеры могут встраивать определенные аудиосигналы, что приводит к ошибочным решениям ИИ-системы во время переговоров.

Столкнувшись с этими вызовами, технологии безопасности в области Web3 могут предложить решения. В частности, технология полностью гомоморфного шифрования (Fully Homomorphic Encryption, FHE) рассматривается как мощный инструмент для решения проблем безопасности в эпоху ИИ. FHE позволяет производить вычисления с данными в зашифрованном состоянии, что означает, что можно обрабатывать конфиденциальную информацию без ее расшифровки.

На уровне данных FHE может гарантировать, что вся информация, вводимая пользователями (включая биометрические данные, голос и т.д.), обрабатывается в зашифрованном состоянии, даже сама система ИИ не может расшифровать исходные данные. На алгоритмическом уровне реализованная FHE "обучение модели шифрования" делает так, что даже разработчики не могут напрямую увидеть процесс принятия решений ИИ. В области кооперации многоагентных систем использование технологии порогового шифрования может предотвратить утечку глобальных данных при компрометации отдельного узла.

Хотя технологии безопасности Web3 могут не иметь прямого отношения к обычным пользователям, их важность нельзя игнорировать. В этой сложной области, если не принимать активные меры предосторожности, пользователи могут навсегда остаться под угрозой информационной безопасности.

В настоящее время уже есть несколько проектов, исследующих безопасность Web3. Например, некоторые проекты достигли определенных успехов в области децентрализованных идентификаторов (DID) и моделей безопасности с нулевым доверием. В области полностью гомоморфного шифрования (FHE) один проект уже первым запустил свою платформу в основной сети и начал сотрудничество с несколькими известными учреждениями.

С развитием технологий ИИ, приближающихся к уровню человеческого интеллекта, нетрадиционные системы защиты становятся все более важными. FHE не только решает текущие проблемы безопасности, но и закладывает основу для более мощной эры ИИ в будущем. На пути к AGI FHE уже не является вариантом, а становится необходимым условием для обеспечения безопасного развития ИИ.