¡Cuidado! La IA más útil podría estar destruyendo tu confianza digital sin que lo notes

¿Sabías que los agentes de inteligencia artificial (IA) necesitan tres cosas bien importantes para funcionar chido? Primero, tienen que tener acceso a información privada; segundo, requerir entradas externas que no siempre son confiables, y tercero, deben poder actuar solos, sin que nadie los esté supervisando todo el tiempo.

El investigador Wei Dai, que no es el mismo que inventó el protocolo b-money de Bitcoin, anduvo diciendo el 11 de junio que la IA autónoma está armando un buen desmadre en el tema de la confianza digital. O sea, no es que la tecnología esté fallando, sino que las bases donde se sostiene son medio endebles, y lo que hace a un agente tan útil también lo puede hacer vulnerable a que anden jugando sucio con él.

Dai le llama a esas tres cosas la “trifecta letal para agentes de IA.” Básicamente, cuando juntas acceso a datos privados, entradas externas dudosas y la capacidad de hacer cosas sin permiso, ya estás dando chance para que un agente de IA pueda ser manipulado con instrucciones malintencionadas. Eso puede hacer que robe información o cause broncas adentro de sistemas importantes.

Esto se sabe justo cuando Anthropic sacó su modelo Claude Fable 5, que es como una super IA, pero que ya trae bloqueos para consultas de ciberseguridad porque igual y podría ser peligroso. Eso refleja la bronca que tiene Dai: mientras la IA se pone más chida y poderosa, también puede ser más peligrosa si no se maneja bien.

Según Dai, el límite ya no está en lo que la IA puede hacer técnicamente, sino en cuánto podemos confiar en ella. Para que estas máquinas autónomas den lo mejor de sí, necesitamos crear nuevas reglas y sistemas de confianza en toda la tecnología que manejan, aunque él no suelta detalles de cómo ni quién tendría que hacer eso.

Además, la gente de 1kx (un fondo que invierte en redes descentralizadas) dice que la IA está acelerando los problemas que ya tenía el mundo digital con la confianza. La inteligencia artificial generativa hizo que crear credenciales falsas, voces, identidades y todo ese rollo esté más barato y fácil, y los agentes autónomos hacen que la confianza sea aún más delicada porque para trabajar necesitan controlar un montón de información y cuentas.

Hay quienes dicen que la tecnología en sí no es el problema, sino que falta que haya controles humanos para supervisar lo que hagan estos agentes. Pero otros ya están viendo que esto de la IA autónoma es un hueso duro de roer porque el riesgo está en la estructura.

Aquí entra lo interesante: 1kx cree que la solución está en las redes descentralizadas. Estas redes funcionan sin jefes ni intermediarios chingones, y pueden bajar el costo de confiar en alguien. Tienen cuatro cosas que las hacen únicas y que los sistemas centralizados no pueden copiar todas juntas: liquidación programable entre pares, estado verificable públicamente, neutralidad estructural y participación sin permisos.

En resumen, para que la IA autónoma chida funcione en todo el mundo con confianza, va a necesitar esa onda descentralizada que ofrece 1kx. Eso sí, la mera idea no cae bien con todos, porque dicen que hay problemas reales, como qué tanto puede escalar todo eso, cuánto va a costar mantenerlo y las vulnerabilidades de los contratos inteligentes.

Lo que urge es que antes de que la IA autónoma se vuelva algo común y cause verdaderas broncas, se avance en crear estándares para que estos agentes y las redes descentralizadas se entiendan de volada y evitemos pérdidas reales. ¡Ándale, que el futuro ya está aquí y hay que estar pilas!