La fusión de IA y Web3: Los nuevos desafíos traídos por el auge de DeFAI

Recientemente, se llevó a cabo un evento de blockchain en Estambul que se centró en las tendencias de la fusión entre AI y Web3, convirtiéndose en una importante plataforma de discusión en el ámbito de la seguridad de Web3 este año. Durante el evento, varios expertos de la industria llevaron a cabo una profunda discusión sobre el estado actual de la aplicación de la tecnología AI en las finanzas descentralizadas (DeFi) y los desafíos de seguridad.

En este evento, "DeFAI" (finanzas de inteligencia artificial descentralizada) se ha convertido en un tema candente. Los expertos señalan que, con el rápido desarrollo de los modelos de lenguaje grande (LLM) y los agentes de IA, se está formando gradualmente un nuevo modelo financiero: DeFAI. Sin embargo, esta innovación también ha traído nuevos riesgos de seguridad y posibles vías de ataque.

Un experto en seguridad que participó en la discusión comentó: "Aunque DeFAI tiene un gran potencial, también nos obliga a reconsiderar los mecanismos de confianza en los sistemas descentralizados. A diferencia de los contratos inteligentes tradicionales, el proceso de toma de decisiones de los agentes de IA se ve influenciado por múltiples factores, como el contexto, el tiempo e incluso interacciones históricas. Esta imprevisibilidad no solo aumenta el riesgo, sino que también ofrece oportunidades a posibles atacantes."

Los agentes de IA son esencialmente entidades inteligentes que pueden tomar decisiones y ejecutar acciones de manera autónoma basándose en la lógica de IA, y suelen ser autorizados para operar por usuarios, protocolos u organizaciones autónomas descentralizadas (DAO). Entre ellos, los robots de trading de IA son los más representativos. Actualmente, la mayoría de los agentes de IA aún operan sobre una arquitectura Web2, dependiendo de servidores y API centralizados, lo que los hace vulnerables a varios ataques, como ataques de inyección, manipulación de modelos o alteración de datos. Una vez que un agente de IA es secuestrado, no solo puede resultar en pérdidas de fondos, sino que también puede afectar la estabilidad de todo el protocolo.

Los expertos también discutieron un escenario típico de ataque: cuando un agente de trading de IA que opera un usuario de DeFi está monitoreando información de redes sociales como señales de trading, un atacante podría inducir al agente a iniciar de inmediato una liquidación de emergencia al publicar alertas falsas, como "un protocolo está siendo atacado". Esto no solo podría resultar en la pérdida de activos para el usuario, sino que también podría provocar volatilidad en el mercado, que el atacante podría aprovechar mediante técnicas como el Front Running.

En relación con estos riesgos, los expertos presentes coincidieron en que la seguridad de los agentes de IA no debe ser asumida por una sola parte, sino que debe ser una responsabilidad compartida entre los usuarios, los desarrolladores y las agencias de seguridad de terceros.

Los usuarios necesitan comprender claramente el alcance de los permisos que posee el agente, otorgar permisos con precaución y prestar atención a las operaciones de alto riesgo del agente de IA. Los desarrolladores, por su parte, deben implementar medidas de defensa en la fase de diseño, como el refuerzo de palabras clave, el aislamiento de sandbox, la limitación de tasa y la lógica de retroceso, entre otros mecanismos. Las agencias de seguridad de terceros deben proporcionar revisiones independientes del comportamiento del modelo del agente de IA, la infraestructura y la forma de integración en la cadena, y colaborar con desarrolladores y usuarios para identificar riesgos y proponer medidas de mitigación.

Un experto en seguridad advirtió al final de la discusión: "Si seguimos considerando a los agentes de IA como una 'caja negra', los accidentes de seguridad en el mundo real son solo cuestión de tiempo." Sugerió a los desarrolladores que están explorando la dirección de DeFAI: "Al igual que los contratos inteligentes, la lógica de comportamiento de los agentes de IA también está implementada por código. Dado que es código, existe la posibilidad de ser atacado, por lo que se requiere una auditoría de seguridad profesional y pruebas de penetración."

Este evento de la Semana de la Blockchain, como uno de los encuentros más influyentes de blockchain en Europa, atrajo a más de 15,000 participantes, incluidos desarrolladores, empresas de proyectos, inversores y reguladores de todo el mundo. Con el lanzamiento oficial por parte de la Comisión de Mercados de Capitales de Turquía (CMB) de la emisión de licencias para proyectos de blockchain, la posición de la industria de este evento se ha elevado aún más.