Los auditores de IA de las grandes tecnológicas solo verán lo que ellos quieran que veas ¡Increíble pero cierto!

Para ser justos con OpenAI, ellos fueron los que permitieron hacer estas pruebas desde el inicio. Pero esto muestra que todo depende de lo que una empresa decida compartir.

Un modelo de inteligencia artificial entrenado es básicamente un archivo gigante lleno de números, y cuesta más de 100 millones de dólares crear uno. Quién tenga esa copia, tiene el modelo. Pasar esos archivos a otros es un riesgo de seguridad. Hasta hace poco, los testers tenían que batallar con algo complicado, que Google DeepMind explicó bien: o los testers pasaban sus preguntas para que la empresa las viera antes, o la empresa les prestaba el modelo a los testers.

En agosto, DeepMind encontró cómo darle la vuelta a esto. Junto con el Instituto de Seguridad de IA de Singapur y otros tres grupos, hicieron lo que llamaron la primera prueba doble ciego en el mundo para un modelo de IA, igualito a cómo se hacen las pruebas de medicinas. La prueba se hizo en computadoras selladas, así que los testers nunca vieron el modelo y Google nunca vio las preguntas. Google dice que cada lado puede revisar con cálculos matemáticos que su info estuvo segura.

Esto ahora pone la confianza en el hardware. El año pasado, investigadores lograron hackear estas computadoras selladas con menos de mil pesos en equipo, aunque tuvieron que tocar físicamente el servidor para hacerlo. Eso hay que tomarlo en serio, pero sigue siendo un problema más chico comparado con “no podemos dejar que nadie toque el modelo”, y se puede manejar cuidando bien quién controla las máquinas.