A fusão da IA e do Web3: Os novos desafios trazidos pela ascensão do DeFAI

Recentemente, um evento de blockchain focado na tendência de fusão entre AI e Web3 ocorreu em Istambul, tornando-se uma importante plataforma de discussão no campo da segurança Web3 deste ano. Durante o evento, vários especialistas da indústria realizaram discussões aprofundadas sobre o estado atual e os desafios de segurança da aplicação da tecnologia AI em finanças descentralizadas (DeFi).

Nesta atividade, "DeFAI" (finanças descentralizadas de inteligência artificial) tornou-se um tópico muito debatido. Especialistas apontam que, com o rápido desenvolvimento de modelos de linguagem de grande escala (LLM) e agentes de IA, um novo modelo financeiro - DeFAI - está gradualmente se formando. No entanto, essa inovação também trouxe novos riscos de segurança e potenciais vias de ataque.

Um especialista em segurança que participou da discussão afirmou: "Embora o DeFAI tenha um futuro promissor, também nos força a reavaliar os mecanismos de confiança em sistemas descentralizados. Ao contrário dos contratos inteligentes tradicionais, o processo de tomada de decisão dos agentes de IA é influenciado por vários fatores, como contexto, tempo e até interações históricas. Essa imprevisibilidade não só aumenta os riscos, mas também oferece oportunidades para potenciais atacantes."

Os agentes de IA são essencialmente entidades inteligentes capazes de tomar decisões e executar ações de forma autônoma com base na lógica da IA, geralmente autorizados a operar por usuários, protocolos ou organizações autônomas descentralizadas (DAO). Entre eles, os robôs de negociação de IA são os representantes mais típicos. Atualmente, a maioria dos agentes de IA ainda opera em uma arquitetura Web2, dependendo de servidores centralizados e APIs, o que os torna vulneráveis a vários ataques, como ataques de injeção, manipulação de modelos ou adulteração de dados. Uma vez que um agente de IA é sequestrado, pode não apenas resultar em perdas financeiras, mas também afetar a estabilidade de todo o protocolo.

Os especialistas também discutiram um cenário típico de ataque: quando o agente de negociação AI que os usuários de DeFi estão a executar está a monitorizar informações das redes sociais como sinais de negociação, os atacantes podem induzir o agente a iniciar uma liquidação de emergência imediatamente, publicando alarmes falsos, como "um determinado protocolo está sob ataque". Isso não só resultaria na perda de ativos dos usuários, mas também poderia provocar volatilidade no mercado, que os atacantes poderiam explorar através de técnicas como Front Running.

Face a esses riscos, os especialistas presentes concordaram que a segurança dos agentes de IA não deve ser responsabilidade de uma única parte, mas sim de uma responsabilidade compartilhada entre usuários, desenvolvedores e instituições de segurança de terceiros.

Os usuários precisam ter uma compreensão clara do alcance das permissões que o agente possui, concedendo permissões com cautela e monitorando de perto as operações de alto risco do agente de IA. Os desenvolvedores devem implementar medidas de defesa já na fase de design, como reforço de prompts, isolamento em sandbox, limitação de taxa e lógica de fallback. As instituições de segurança de terceiros devem fornecer uma revisão independente do comportamento dos modelos de agentes de IA, da infraestrutura e das formas de integração na blockchain, colaborando com desenvolvedores e usuários para identificar riscos e propor medidas de mitigação.

Um especialista em segurança alertou no final da discussão: "Se continuarmos a ver os agentes de IA como 'caixas pretas', será apenas uma questão de tempo até que ocorram acidentes de segurança no mundo real." Ele sugeriu aos desenvolvedores que estão explorando a direção do DeFAI: "Assim como os contratos inteligentes, a lógica de comportamento dos agentes de IA também é implementada por código. Uma vez que é código, existe a possibilidade de ser atacado, portanto, é necessário realizar auditorias de segurança profissionais e testes de penetração."

Este evento da semana blockchain, um dos mais influentes da Europa, atraiu mais de 15.000 participantes, incluindo desenvolvedores, projetos, investidores e reguladores de todo o mundo. Com o lançamento oficial da emissão de licenças para projetos de blockchain pela Comissão de Mercado de Capitais da Turquia (CMB), a posição da indústria deste evento foi ainda mais reforçada.