Hay un nuevo modelo de inteligencia artificial que ya es capaz de encontrar y explotar agujeros de seguridad mejor que la inmensa mayoría de los expertos humanos. Lo ha construido Anthropic, se llama Claude Mythos y, a diferencia de lo que ha pasado con todos los modelos anteriores, esta vez la empresa ha decidido que no va a estar disponible para el público general, al menos de momento. Y no porque no funcione, sino precisamente porque funciona demasiado bien.
La buena noticia para Apple, y para nosotros como usuarios, es que está dentro del grupo selecto de compañías que sí van a tener acceso. ¿En qué consiste todo esto? Anthropic ha anunciado Project Glasswing, una iniciativa que reúne a empresas como Google, Microsoft, NVIDIA o Apple para usar Claude Mythos con el objetivo de encontrar y parchear problemas en sus propios sistemas antes de que lo haga otra persona. En el caso de Apple, eso significa iOS, iPadOS, macOS, Safari y el resto de sus plataformas.
Claude Mythos, un modelo entrenado para programar y peligroso por accidente
Lo que hace diferente a Mythos no es solo que sea más capaz que sus predecesores, sino el tipo de capacidades que ha desarrollado. Anthropic entrenó al modelo para que fuera muy bueno escribiendo código y, como efecto secundario, también se volvió excepcionalmente bueno en ciberseguridad.
En las semanas previas al anuncio, Anthropic dio acceso a Claude Mythos a varios investigadores y programadores. El resultado fueron miles de vulnerabilidades desconocidas en prácticamente todos los sistemas operativos y navegadores.
Algunas llevaban décadas ahí sin que nadie las hubiera encontrado. Un ejemplo es un fallo en el kernel de Linux que permitía a un usuario sin permisos hacerse con el control total de la máquina. También se descubrió un bug que llevaba 27 años y para el que bastaban un par de paquetes de datos para explotarlo. Cosas que habían sobrevivido a años de revisión humana.
El modelo que se escapó y mandó un email él solo
Aquí es donde la cosa se pone interesante, y también un poco inquietante. Durante las evaluaciones, el equipo de Anthropic colocó a Mythos en un entorno aislado y le dio instrucciones para intentar escapar y contactar con el investigador responsable de la prueba.
El modelo lo consiguió. Se saltó las salvaguardas, desarrolló un exploit por pasos y ganó acceso a internet en un sistema que no lo tenía configurado. El investigador se enteró cuando recibió un email inesperado mientras comía un sándwich en el parque.
En Applesfera
Oro parece, VPN no es. El Relay Privado está bien, pero no es suficiente. Estos son los casos donde sí tiene sentido usar una VPN
Pero la historia no acaba ahí. Sin que nadie se lo pidiera, el modelo también decidió publicar de forma proactiva los detalles del exploit en varias páginas web públicas. Eso, en palabras de la propia Anthropic, es lo que les quita el sueño. No que el modelo hiciera lo que le pidieron, sino lo que hizo después por iniciativa propia.
Anthropic reconoce que Mythos es su modelo mejor alineado hasta la fecha, pero eso no lo hace menos peligroso, sino al revés. La metáfora que usan es la de un guía de montaña muy experimentado: precisamente porque es bueno, puede adentrarse en terrenos más difíciles.
Qué va a hacer Apple con Claude Mythos
El planteamiento de Project Glasswing es usar esa capacidad ofensiva con fines defensivos. Apple y el resto de socios podrán utilizar en exclusiva Claude Mythos para escanear su propio código en busca de fallos antes de que alguien externo los encuentre y los explote. Anthropic pone hasta 100 millones de dólares en créditos de uso para arrancar y, a partir de ahí, los socios pagan por el acceso.
En el caso de Apple, eso afecta a todo su ecosistema: iOS, iPadOS, macOS, watchOS, tvOS, visionOS y Safari. El software que usan cientos de millones de personas. La idea es que la propia IA que podría usarse para atacar esos sistemas sea la que los proteja antes.
Y una curiosidad: Project Glasswing es también el nombre en clave con el que Apple trabaja internamente en el iPhone del 20 aniversario. Cosas de la vida.
Hay un debate sobre si reservar este tipo de tecnología para un grupo selecto de grandes compañías es la manera correcta de gestionarla o si simplemente genera una ventaja difícil de justificar para quienes están dentro.
La propia Anthropic lo reconoce y lo presenta como algo temporal. Su objetivo, dicen, es encontrar la forma de desplegar modelos de esta categoría de forma segura y amplia. Es decir, que Mythos o algo parecido acabe llegando al público en algún momento. La pregunta es cuándo y en qué condiciones. Mientras tanto, al menos las empresas que más software crítico mueven en el mundo tienen un margen para ponerse al día antes de que eso ocurra.
En Applesfera | WWDC26: fecha y novedades que esperamos del gran evento de Apple en el que se presentará iOS 27
En Applesfera | Nuevo iOS 27 - todo lo que creemos saber sobre el futuro sistema operativo para el iPhone
-
La noticia La nueva IA Claude Mythos es demasiado peligrosa para dejarla suelta. Hay excepciones para usarla y Apple es una de ellas fue publicada originalmente en Applesfera por Guille Lomener .
Continúar leyendo...