Despliegue masivo de agentes de IA: ¡la bomba de tiempo que advierte el CEO de CertiK!

La neta es que hay una carrera loca por lanzar agentes de inteligencia artificial (IA) autónomos en todas partes: en internet, en redes de empresas y en apps pa’ los usuarios. Pero, según Ronghui Gu, el mero mero de CertiK, una empresa que se dedica a la seguridad en blockchain, toda esta carrera está creando una bola de nieve de problemas de seguridad que van a explotar en nuestras caras.

Las empresas andan vendiendo estos agentes de IA como si fueran la solución mágica para hacer todo más rápido y fácil, pero la realidad es que, sin el control adecuado, son un desastre de seguridad enorme que nomás está esperando su chance para hacer daño. Gu dice que si le das permiso a estas IA para que lean tus archivos, contraseñas o cuentas de dinero, te estás rifando y volviendo vulnerable a que cualquiera los manipule, hackee o te estafe sin que te des cuenta.

Antes los agentes solo respondían preguntas en un chat como alguien platicando, pero ahora ya hacen mucho más: pueden usar herramientas externas, abrir archivos, activar tareas, hasta mover lana. El problema es que si no creas un espacio seguro para que hagan todo eso, les das pase libre a una identidad comprometida para que deambule por toda tu red y te arme un desmadre.

El error grande en este boom de IA es que le están confiando a los agentes demasiado, pa’ variar sin pensar bien en la seguridad.

Uno de los cracks del mundo cripto, Charles Hoskinson, dice que para el 2035 estas maquinillas van a ser más importantes que nosotros en internet. Otros pesos pesados como el de Coinbase y Binance aseguran que pronto habrá más IA haciendo transacciones que humanos, y hasta que harán millones de pagos más que nosotros.

El problema real es que muchos programas de IA open source funcionan con la idea de que, como se usan en tu compu o en apps como WhatsApp, están a salvo. Pero ni madres. Apenas le das permiso a la IA para que lea tus cosas internas, mira tu historial o maneje tus cuentas, ya te cargaste porque esa IA se convierte en la peor amenaza interna.

El análisis de CertiK encontró un montón de agujeros de seguridad, desde fallas críticas sin arreglar hasta exposiciones brutales de contraseñas y sesiones de usuario por no tener fronteras claras entre lo que pueden o no pueden hacer estas IA.

Lo más alarmante es que un hacker puede manipular a la IA sin meter ni una línea de código malicioso. Solo con algo llamado “inyección de prompt”, que es como meter instrucciones ocultas dentro de una página web, un PDF o un correo que parece normal, pero que la IA lee y no sabe separar lo bueno de lo malo. Así, la máquina cambia sus reglas en secreto, hace lo que le dicen y puede robar información o mandar lana sin que nadie se entere.

Además, Gu contó que hay cientos de plugins y programas falsos infectados con estos trucos en los repositorios que usan los agentes, y estos usan lenguaje natural para cambiar el comportamiento sin que los antivirus puedan detectarlos.

“Es más fácil engañar a una máquina que a una persona”, dice Gu, y eso suena bien chido pero aterrador.

En algo que parece sacado de una película, también están viendo estafas automáticas que duran solo unos minutos o unas horas, las cuales operan para robar a otros bots que están haciendo trading en cadenas de bloques, y luego desaparecen sin dejar rastro. O sea, máquinas robándose entre ellas sin que los humanos lo noten.

Para parar este desmadre, Gu dice que la industria del software tiene que dejar de confiar ciegamente y empezar a usar un sistema “Cero Confianza”, donde todo comando y dependencia sea verificado siempre, sin excepción.

Así que si estás jugando con IA, mejor que cuides bien esa protección porque la cosa está que arde.