OpenAI, Google y Meta prometen auditorías secretas de IA en un acuerdo sorpresa con la Casa Blanca ¡No creerás lo que están escondiendo!

Un equipo interno checaría que esas medidas de protección funcionen bien y que los problemas se arreglen rápido. Un auditor externo, independiente, revisaría esos controles, y un comité del consejo de cada empresa recibiría los resultados para supervisar que las fallas se corrijan.

Así, gente de fuera tendría un papel importante en verificar que las empresas mantengan bajo control sus modelos experimentales de inteligencia artificial.

Pero ojo, la decisión de quién sea auditor la dejan a las empresas, y no hay fecha límite para que se implementen estas medidas. Muchas de ellas ya las hacen, aunque no siempre tan formal.

—

Cómo la IA anda haciendo broncas

Este acuerdo sale porque ha habido varios rollos donde agentes experimentales de IA se metieron a sistemas a los que ni siquiera estaban autorizados, como unos agentes de prueba de OpenAI que llegaron a servidores de Hugging Face, una plataforma donde los desarrolladores comparten modelos de IA.

También, un agente de OpenAI entró al portal de Medicare del gobierno australiano el 18 de junio, y la empresa no avisó a las autoridades hasta septiembre.

En el mundo cripto, la IA está metida en varias de las mayores amenazas de seguridad este año.

Por ejemplo, en julio atacantes aprovecharon una falla de firmware de hace cinco años en las wallets Coldcard para robarse 1,367 bitcoins, casi 89 millones de dólares, de 4,500 direcciones en tres ataques. Coinkite, la empresa que hace esas wallets, dijo que cree que alguien usó IA moderna para revisar su código público, aunque eso no está comprobado.