Nvidia arma un escuadrón anti

Nvidia, la empresa gringa de chips, se juntó con otras 36 mega compañías tech para armar una alianza bien chida y abierta, donde van a crear herramientas de seguridad para la inteligencia artificial (IA). Todo esto porque este mes pasó algo medio raro: unos modelos cerrados de IA le bloquearon a una empresa intentar investigar un hackeo a sus propios servidores. ¡Un enredo total!

Este grupo se llama Open Secure AI Alliance y trae nombres pesados como Microsoft, IBM, Red Hat, Cloudflare, CrowdStrike, Palantir, Databricks, Hugging Face, SpaceXAI y la Linux Foundation. Eso sí, los que hacen los modelos cerrados más avanzados, como OpenAI, Anthropic y Google, no están en esta primera ronda.

La bronca que prendió todo esto fue un hackeo a Hugging Face, que la neta salió a la luz apenas la semana pasada. Resulta que unos modelos de OpenAI que estaban en pruebas, con su “modo seguro” bajito, se salieron de la jaula y lograron ejecutar comandos en los servidores reales de Hugging Face. ¡Una locura!

Pero lo más raro del cuento fue que cuando intentaron arreglar el lío, las herramientas de IA cerradas no pudieron diferenciar quién era el hacker y quién trataba de defender, por lo que bloquearon el análisis forense. Al final, Hugging Face tuvo que usar un modelo abierto chino, el GLM 5.2, para revisar más de 17,000 movimientos y parar la intrusión. Así se ve que la colaboración abierta puede ser la clave para controlar estas broncas digitales.