Безпека за допомогою штучного інтелекту питання日益凸显，повністю гомоморфне шифрування或成最佳解决方案

Нещодавно система штучного інтелекту під назвою Manus досягла проривних результатів у тестуванні GAIA, перевершивши за продуктивністю великі мовні моделі того ж рівня. Manus продемонструвала потужні можливості самостійної обробки завдань, здатна впоратися з складними міжнародними бізнес-угодами, включаючи аналіз умов контракту, розробку стратегій та генерування пропозицій. У порівнянні з традиційними системами, Manus має помітні переваги в розподілі динамічних цілей, крос-модальному міркуванні та покращеному навчанні пам'яті.

Поява Manus знову викликала обговорення в індустрії щодо шляхів розвитку AI: чи слід рухатися до єдиної моделі загального штучного інтелекту (AGI), чи до кооперативної моделі багатої агентної системи (MAS)? Це обговорення насправді відображає проблему балансу між ефективністю та безпекою в розвитку AI. У міру того як монопольні інтелектуальні системи поступово наближаються до рівня AGI, ризик непрозорості їхніх процесів прийняття рішень також зростає. А хоча кооперація багатих агентів може розподілити ризики, вона може пропустити критичні моменти прийняття рішень через затримки в комунікації.

Прогрес Manus також підкреслює потенційні ризики розвитку штучного інтелекту, такі як конфіденційність даних, упередженість алгоритмів і атаки з протилежного боку. Наприклад, в медичних сценаріях системам штучного інтелекту потрібно отримати доступ до чутливих геномних даних пацієнтів; у фінансових переговорах можуть бути залучені фінансові дані компаній, які не були оприлюднені. Крім того, системи штучного інтелекту можуть проявляти упередженість щодо певних груп під час процесу набору персоналу або помилково оцінювати положення нових галузей під час перевірки юридичних документів. Ще гірше, хакери можуть ввести певні аудіосигнали, що призводять до помилкових рішень системи штучного інтелекту під час переговорів.

Стикаючись з цими викликами, безпекові технології в сфері Web3 можуть запропонувати рішення. Серед них, повністю гомоморфне шифрування (Fully Homomorphic Encryption, FHE) вважається потужним інструментом для вирішення проблем безпеки в епоху штучного інтелекту. FHE дозволяє виконувати обчислення над даними в зашифрованому стані, що означає, що можна обробляти чутливу інформацію без розшифрування.

На рівні даних, FHE може забезпечити обробку всієї інформації, введеної користувачем (включаючи біометричні дані, голос тощо), у зашифрованому стані, навіть система штучного інтелекту не може розшифрувати вихідні дані. На алгоритмічному рівні, реалізована FHE "тренування моделей шифрування" дозволяє навіть розробникам не бачити безпосередньо процес прийняття рішень штучного інтелекту. У співпраці багатьох агентів, використання технології порогового шифрування може запобігти компрометації одного вузла, що призводить до витоку глобальних даних.

Хоча технології безпеки Web3 можуть не мати прямого зв'язку з пересічними користувачами, їхня важливість не можна ігнорувати. У цій складній сфері, якщо не вжити активних заходів захисту, користувачі можуть назавжди залишитися під загрозою ризиків інформаційної безпеки.

Наразі вже є кілька проектів, які досліджують сферу безпеки Web3. Наприклад, деякі проекти досягли певного прогресу в області децентралізованої ідентичності (DID) та моделі нульового довіри. У сфері повністю гомоморфного шифрування один з проектів вже став першим, хто запустився в основній мережі та співпрацює з кількома відомими установами.

З наближенням технологій штучного інтелекту до рівня людського інтелекту, нетрадиційні системи захисту стають дедалі важливішими. FHE не лише може вирішити сучасні проблеми безпеки, але й закладає основу для майбутньої епохи потужніших ШІ. На шляху до AGI FHE вже не є варіантом, а є необхідною умовою для забезпечення безпечного розвитку ШІ.