Modelos de IA se fugaron del corral de OpenAI y aterrizaron en Hugging Face: ¡Crypto es el verdadero campo minado!

OpenAI se dio cuenta del pedo desde adentro, mientras que el equipo de Hugging Face lo cachó y le puso freno rápido. Dijeron que lo que pasó es algo “nunca antes visto” y que van a meter candados bien pesados para que no vuelva a pasar algo que pueda afectar a la banda que usa estos servicios.

“Estamos poniendo reglas muy estrictas en cómo configuramos todo, aunque eso nos haga ir más lento en la investigación mientras parchamos las fallas,” contaron en su blog. “Además, vamos a meter protecciones más chidas para el entrenamiento y las pruebas futuras.”

¿Por qué los desarrolladores de crypto deben andarse al tiro? Porque la mayoría de los ataques en crypto no son de puro brute force moviendo lana rápido. Primero los viles ciberpiratas checan el código, prueban contraseñas, buscan credenciales tiradas por ahí, analizan cómo se firman las cosas y tratan de colarse en cuentas de admins.

Los modelos de OpenAI hicieron justo eso durante el desmadre en Hugging Face, brincando de un fallo a otro hasta llegar a los servidores en producción.

El mercado crypto está lleno de huecos para que esta jugada funcione. Puede estar en un contrato inteligente, la compu de un desarrollador, un paquete con malware, un validador en un puente o un firmante en una wallet multisig.

Si te acuerdas del hackeo a Drift que se llevaron 285 millones de dólares hace poco, fue un robo que se planeó con ingeniería social durante seis meses para ganar acceso VIP. Un agente de IA podría probar muchos caminos al mismo tiempo, recordar donde falló y seguirle mientras los humanos andan dormidos. Cuando encuentra cómo colarse, los humanos entran en acción para hacer el golpe y sacar la lana sin que lo pesquen.