El CEO de Anthropic advierte: nuestra IA podría tumbar la economía y la seguridad mundial ¡Prepárate para el caos!

Dario Amodei, el mero mero de Anthropic, una empresa gringa de inteligencia artificial que fundaron unos cuates que antes chambeaban en OpenAI y que crearon a ChatGPT, ya soltó la neta: los modelos de IA de la serie Mythos están bien peligrosos y pueden hacer un paro serio en el mundo financiero, la infraestructura que mueve al país, y la seguridad nacional.

El señor Amodei puso todo en su ensayo “Policy on the AI Exponential”, que lanzó el 10 de junio en su sitio, justo después de que soltaran Claude Fable 5 con reglas bien estrictas para la ciberseguridad.

Según Dario, Mythos Preview cambió la jugada en ciberseguridad y es la prueba de que estos modelos son más que juguetes: son armas estratégicas para cualquier país. No es cuento ni paranoia, es un riesgo que ya está aquí y necesita reglas claras y obligatorias para manejarlo.

Anthropic es quien hace los modelos Claude y está en la jugada para poner orden en el debate mundial sobre regulaciones, así que cuando Dario habla hay que ponerle atención, porque no es cualquier empresa.

¿Y qué rollo con Mythos? Desde abril, solo con su programa super restringido Project Glasswing, vieron que hay más de 10 mil vulnerabilidades bien graves en software que mueve cosas súper importantes, como Cloudflare, Microsoft, Mozilla, Oracle, bancos y cosas que mueven al país.

Dario dice que cuando un modelo de IA se ponga lo suficiente fregón, tiene que pasar por auditorías obligatorias de expertos, para revisar cuatro cosas:

– Ciberseguridad – Que no se use para armas biológicas – Que no se salga de control en IA o investigaciones – Que no se aceleren riesgos con desarrollos automáticos

Además, el gobierno tiene que tener poder para detener o dar marcha atrás si un modelo es muy peligroso.

La idea es que las reglas para la IA funcionen como las de la aviación en EU: igual que un avión no despega sin pruebas y certificaciones, la IA top debería tener que pasar examen antes de salir al ruedo.

Las empresas que desarrollen estos modelos tienen que cuidar bien el código, hacer pruebas constantes para evitar hackeos, y reportar rápido cualquier bronca a las autoridades.

Lo más loco es que Anthropic está construyendo algo que él mismo dice que es peligroso, y ahora quiere poner reglas para controlarlo, porque antes solo apoyaban la transparencia voluntaria hasta 2025.

En el plan mundial, Dario cree que las democracias deberían unirse para crear ciberdefensas con IA y compartir información para parar a los malos. Dice que si un país tiene IA avanzada y otro no, es como comparar un ejército moderno con uno del siglo pasado.

El boss también advierte que los peligros de ciberseguridad que Mythos mostró no son el fin del camino, sino solo el arranque. Los riesgos en biotecnología, causados por modelos aún más poderosos, pueden aparecer pronto.

Esta postura es polémica porque hay quienes piensan que los CEOs de IA solo tiran estas advertencias para pedir reglas que los beneficien y frenen la competencia o la innovación libre. En el mundo de las criptomonedas, donde la IA ya se usa para todo, desde auditorías hasta ataques avanzados, el debate está candente.

Por ahora, las reglas que quieren poner no están para resolver el problema más grande que puede venir, sino para el que ya está aquí, pero con la advertencia clara: las reglas tienen que crecer al mismo ritmo que avanza la tecnología.