Злиття AI та Web3: Нові виклики, які приносить підйом DeFAI

Нещодавно в Стамбулі відбулася тижнева подія в сфері блокчейну, що зосередилася на тенденціях інтеграції AI та Web3, ставши важливою платформою для обговорення в галузі безпеки Web3 цього року. Під час заходу кілька експертів галузі провели глибоке обговорення сучасного стану використання технологій AI у децентралізованих фінансах (DeFi) та викликів безпеки.

У рамках цієї події "DeFAI" (децентралізовані фінанси штучного інтелекту) стала гарячою темою для обговорення. Експерти зазначають, що з швидким розвитком великих мовних моделей (LLM) та AI-агентів формується новий фінансовий формат — DeFAI. Однак ця інновація також принесла нові проблеми безпеки та потенційні шляхи атак.

Один з експертів з безпеки, що бере участь у дискусії, зазначив: "Хоча DeFAI має великі перспективи, це також змушує нас переосмислити механізми довіри в децентралізованих системах. На відміну від традиційних смарт-контрактів, процес прийняття рішень AI-агентів підлягає впливу багатьох факторів, таких як контекст, час і навіть історичні взаємодії. Ця непередбачуваність не лише збільшує ризики, але й надає можливості для потенційних атакуючих."

AI-агенти по суті є інтелектуальними агентами, які можуть самостійно приймати рішення та виконувати їх на основі логіки ШІ, зазвичай наділені правом на виконання користувачами, протоколами або децентралізованими автономними організаціями (DAO). При цьому AI-торгові роботи є найтиповішими представниками. На даний момент більшість AI-агентів все ще працюють на архітектурі Web2, покладаючись на централізовані сервери та API, що робить їх вразливими до різноманітних атак, таких як атаки ін'єкцій, маніпуляції з моделлю або підробка даних. Як тільки AI-агент буде захоплений, це може призвести не лише до втрати коштів, але й вплинути на стабільність всього протоколу.

Експерти також обговорили типовий сценарій атаки: коли AI-торговий агент, який працює для користувача DeFi, моніторить інформацію в соціальних мережах як торгові сигнали, зловмисники можуть публікувати фальшиві тривоги, наприклад, "якийсь протокол під атакою", спонукаючи агента негайно розпочати екстрене розпродаж. Це не тільки призведе до втрати активів користувача, але й може викликати коливання ринку, які зловмисники можуть використати, застосовуючи тактики, такі як фронт-ранінг.

Щодо цих ризиків, експерти, що взяли участь у зустрічі, одностайно вважають, що безпека AI-агентів не повинна покладатися на одну сторону, а має бути спільною відповідальністю користувачів, розробників та третіх сторін безпеки.

Користувачі повинні чітко розуміти обсяг прав, які має агент, обережно надавати права та уважно слідкувати за високоризикованими операціями AI-агента. Розробники повинні впроваджувати заходи захисту на етапі проектування, такі як посилення підказок, ізоляція в пісочниці, обмеження швидкості та логіка відкату. Треті сторони безпеки повинні надавати незалежний аудит поведінки моделей AI-агентів, інфраструктури та способів інтеграції в блокчейн, а також співпрацювати з розробниками та користувачами для виявлення ризиків і пропозицій щодо їх пом'якшення.

Експерт з безпеки в останньому попередженні зазначив: "Якщо продовжувати розглядати AI-агентів як 'чорну скриньку', то аварія безпеки у реальному світі — це лише питання часу." Він порадив розробникам, які досліджують напрямок DeFAI: "Подібно до смарт-контрактів, логіка поведінки AI-агентів також реалізується за допомогою коду. Оскільки це код, існує ймовірність атаки, тому необхідно провести професійний аудит безпеки та тестування на проникнення."

Ця подія тижня блокчейну, як одна з найбільш впливових блокчейн-зустрічей в Європі, залучила понад 15 тисяч учасників з усього світу, включаючи розробників, представників проектів, інвесторів та регуляторів. З офіційним запуском Комісією з капітальних ринків Туреччини (CMB) видачі ліцензій на блокчейн-проекти, статус цієї події в галузі ще більше підвищився.