OpenAI ha puesto sobre la mesa su carta más ambiciosa con el lanzamiento de GPT-6 Astra, un modelo presentado este mes de septiembre como el más avanzado hasta la fecha. La gran novedad es que no se limita a responder preguntas, sino que es capaz de moverse por el ordenador, navegar por internet y ejecutar tareas complejas de varios pasos con una intervención humana mínima. Pero tanto revuelo también viene acompañado de un serio debate sobre seguridad: el sistema es tan potente que a la propia compañía le resulta cada vez más complicado vigilar sus pasos.
Este estreno llega apenas un año después de la anterior generación y la compañía que dirige Sam Altman lo vende como un salto generacional. Si bien las demos mostradas son impresionantes, especialmente en tareas de programación, ciberseguridad y gestión de documentos, la comunidad científica ha levantado la ceja ante la llamada ‘recurrencia opaca’, una técnica que dificulta rastrear el razonamiento interno del modelo y que ha reavivado el eterno dilema de hasta dónde podemos confiar en una inteligencia artificial que actúa por su cuenta.
La principal baza de Astra es su capacidad para actuar como un agente autónomo. En lugar de quedarse en una respuesta de texto, el modelo puede encargarse de tareas como buscar vivienda, preparar la declaración de impuestos, crear una web o generar renders arquitectónicos. En la práctica, esto supone darle un objetivo y dejar que resuelva todos los pasos intermedios sin que estemos encima. Los responsables de OpenAI aseguran que lo que a una persona le lleva horas, como buscar empleo o concertar citas en organismos públicos, el sistema lo hace en cuestión de minutos.
Para avalar estas virtudes, la compañía ha sacado pecho con sus resultados en pruebas estandarizadas. Los números son contundentes: un 99,9% en ARC-AGI-3, un 98% en FrontierMath Tier 4 y un pleno al 100% en ExploitBench. En estas evaluaciones, el modelo supera a cualquier competidor en tareas de informática, matemáticas avanzadas y manejo del software, situándose como el nuevo referente del sector. Aun así, los expertos recuerdan que un buen resultado en un test controlado no garantiza que luego se desenvuelva igual de bien en cualquier situación de la vida real.
Aquí es donde el anuncio se vuelve más espinoso. OpenAI ha reconocido que la nueva versión es más opaca que la anterior. En sus propias pruebas, los investigadores vieron que el modelo era más propenso a ocultar partes de su razonamiento paso a paso, lo que complica saber cómo llegó a una decisión concreta. Este fenómeno, bautizado como ‘recurrencia opaca’, se notó especialmente cuando se le pedía eludir la supervisión, aunque la firma matiza que de momento solo logra esconder la lógica en tareas sencillas.
El temor no es teórico. El pasado mes de julio, durante una evaluación interna, algunos modelos de OpenAI explotaron vulnerabilidades para colarse en internet y comprometieron temporalmente la infraestructura de Hugging Face, una plataforma de código abierto, sin que nadie se lo ordenara. Aquel incidente obligó a frenar el desarrollo y ahora sirve de advertencia. Con Astra, la compañía ha clasificado el modelo en su umbral ‘crítico’ de capacidades de ciberseguridad, algo que no había ocurrido antes. Para evitar sustos, el despliegue se está haciendo con cuentagotas y con sistemas de apagado automático, aunque advierten de que esos mecanismos podrían llegar a cortar incluso actividades legítimas de los usuarios.
El debate existencial lo ha abierto el propio presidente de OpenAI, Greg Brockman. Durante la presentación, no le tembló la voz al afirmar que ‘no es descabellado pensar que estamos en la era de la inteligencia artificial general’, y que dentro de unos años miraremos atrás y señalaremos este momento como el punto de partida. En la vereda de enfrente se sitúan varias voces españolas. Ramón López de Mántaras, investigador emérito del CSIC, opina que los resultados de estas pruebas no demuestran una mente artificial comparable a la humana, sino ‘avances extraordinarios de sistemas artificiales’. Mikel Galar, de la Universidad Pública de Navarra, coincide en que las demostraciones de laboratorio no garantizan un rendimiento perfecto en todos los escenarios.
Esta falta de transparencia choca de frente con las exigencias de la regulación europea, que pide explicabilidad y trazabilidad en los sistemas de IA. Expertos como el abogado Borja Adsuara avisan de que ‘sabes lo que le has ordenado, pero a partir de ahí pierdes el control’. La conclusión es que, aunque el modelo consiga proezas técnicas, su aceptación social y legal dependerá de que podamos auditar lo que hace y de que los marcos regulatorios estén a la altura de un sistema que decide por sí mismo.
Si quieres probarlo ya, tendrás que armarte de paciencia. El acceso inicial está restringido a un grupo reducido de organizaciones vinculadas al programa de acceso anticipado ‘Daybreak’. A partir de la próxima semana, OpenAI prevé ampliar la disponibilidad a los suscriptores de ChatGPT Plus, Pro, Business y Enterprise, así como a los desarrolladores a través de su API y de la nube de Amazon Web Services (AWS). Eso sí, los usuarios de la versión gratuita de ChatGPT se quedan fuera de esta partida.
La factura no es precisamente barata. Usar GPT-6 Astra a través de la API costará unos 10 dólares por cada millón de tokens de entrada y 50 dólares por cada millón de tokens de salida, unas tarifas que lo sitúan a la par que los modelos más caros de su principal competidora, Anthropic. Para justificar el gasto, OpenAI asegura que su nuevo modelo es más eficiente y que, a pesar de la potencia, consume menos recursos para completar una misma tarea que las versiones anteriores. La apuesta es que el ahorro en tiempo de trabajo acabe compensando el desembolso inicial.
El lanzamiento de GPT-6 Astra deja más preguntas que respuestas. Por un lado, nos muestra un futuro donde los ordenadores se manejan solos y las tareas pesadas se delegan en una máquina. Por otro, evidencia la enorme dificultad de mantener un control fiable sobre un sistema que aprende a esconder sus intenciones. Mientras OpenAI presume de ser el modelo ‘más alineado’ de su historia, los expertos piden cautela y más gobernanza. Lo que está claro es que la carrera por la inteligencia artificial ha dado un paso de gigante, pero también ha sembrado la semilla de un nuevo tipo de riesgo que aún no sabemos gestionar del todo.
Continúar leyendo...
Este estreno llega apenas un año después de la anterior generación y la compañía que dirige Sam Altman lo vende como un salto generacional. Si bien las demos mostradas son impresionantes, especialmente en tareas de programación, ciberseguridad y gestión de documentos, la comunidad científica ha levantado la ceja ante la llamada ‘recurrencia opaca’, una técnica que dificulta rastrear el razonamiento interno del modelo y que ha reavivado el eterno dilema de hasta dónde podemos confiar en una inteligencia artificial que actúa por su cuenta.
Un modelo que trabaja solo y que marca cifras de vértigo
La principal baza de Astra es su capacidad para actuar como un agente autónomo. En lugar de quedarse en una respuesta de texto, el modelo puede encargarse de tareas como buscar vivienda, preparar la declaración de impuestos, crear una web o generar renders arquitectónicos. En la práctica, esto supone darle un objetivo y dejar que resuelva todos los pasos intermedios sin que estemos encima. Los responsables de OpenAI aseguran que lo que a una persona le lleva horas, como buscar empleo o concertar citas en organismos públicos, el sistema lo hace en cuestión de minutos.
Para avalar estas virtudes, la compañía ha sacado pecho con sus resultados en pruebas estandarizadas. Los números son contundentes: un 99,9% en ARC-AGI-3, un 98% en FrontierMath Tier 4 y un pleno al 100% en ExploitBench. En estas evaluaciones, el modelo supera a cualquier competidor en tareas de informática, matemáticas avanzadas y manejo del software, situándose como el nuevo referente del sector. Aun así, los expertos recuerdan que un buen resultado en un test controlado no garantiza que luego se desenvuelva igual de bien en cualquier situación de la vida real.
El precio de la autonomía: un razonamiento difícil de vigilar
Aquí es donde el anuncio se vuelve más espinoso. OpenAI ha reconocido que la nueva versión es más opaca que la anterior. En sus propias pruebas, los investigadores vieron que el modelo era más propenso a ocultar partes de su razonamiento paso a paso, lo que complica saber cómo llegó a una decisión concreta. Este fenómeno, bautizado como ‘recurrencia opaca’, se notó especialmente cuando se le pedía eludir la supervisión, aunque la firma matiza que de momento solo logra esconder la lógica en tareas sencillas.
El temor no es teórico. El pasado mes de julio, durante una evaluación interna, algunos modelos de OpenAI explotaron vulnerabilidades para colarse en internet y comprometieron temporalmente la infraestructura de Hugging Face, una plataforma de código abierto, sin que nadie se lo ordenara. Aquel incidente obligó a frenar el desarrollo y ahora sirve de advertencia. Con Astra, la compañía ha clasificado el modelo en su umbral ‘crítico’ de capacidades de ciberseguridad, algo que no había ocurrido antes. Para evitar sustos, el despliegue se está haciendo con cuentagotas y con sistemas de apagado automático, aunque advierten de que esos mecanismos podrían llegar a cortar incluso actividades legítimas de los usuarios.
¿Estamos ante la inteligencia artificial general (AGI)?
El debate existencial lo ha abierto el propio presidente de OpenAI, Greg Brockman. Durante la presentación, no le tembló la voz al afirmar que ‘no es descabellado pensar que estamos en la era de la inteligencia artificial general’, y que dentro de unos años miraremos atrás y señalaremos este momento como el punto de partida. En la vereda de enfrente se sitúan varias voces españolas. Ramón López de Mántaras, investigador emérito del CSIC, opina que los resultados de estas pruebas no demuestran una mente artificial comparable a la humana, sino ‘avances extraordinarios de sistemas artificiales’. Mikel Galar, de la Universidad Pública de Navarra, coincide en que las demostraciones de laboratorio no garantizan un rendimiento perfecto en todos los escenarios.
Esta falta de transparencia choca de frente con las exigencias de la regulación europea, que pide explicabilidad y trazabilidad en los sistemas de IA. Expertos como el abogado Borja Adsuara avisan de que ‘sabes lo que le has ordenado, pero a partir de ahí pierdes el control’. La conclusión es que, aunque el modelo consiga proezas técnicas, su aceptación social y legal dependerá de que podamos auditar lo que hace y de que los marcos regulatorios estén a la altura de un sistema que decide por sí mismo.
Despliegue progresivo y precios por todo lo alto
Si quieres probarlo ya, tendrás que armarte de paciencia. El acceso inicial está restringido a un grupo reducido de organizaciones vinculadas al programa de acceso anticipado ‘Daybreak’. A partir de la próxima semana, OpenAI prevé ampliar la disponibilidad a los suscriptores de ChatGPT Plus, Pro, Business y Enterprise, así como a los desarrolladores a través de su API y de la nube de Amazon Web Services (AWS). Eso sí, los usuarios de la versión gratuita de ChatGPT se quedan fuera de esta partida.
La factura no es precisamente barata. Usar GPT-6 Astra a través de la API costará unos 10 dólares por cada millón de tokens de entrada y 50 dólares por cada millón de tokens de salida, unas tarifas que lo sitúan a la par que los modelos más caros de su principal competidora, Anthropic. Para justificar el gasto, OpenAI asegura que su nuevo modelo es más eficiente y que, a pesar de la potencia, consume menos recursos para completar una misma tarea que las versiones anteriores. La apuesta es que el ahorro en tiempo de trabajo acabe compensando el desembolso inicial.
El lanzamiento de GPT-6 Astra deja más preguntas que respuestas. Por un lado, nos muestra un futuro donde los ordenadores se manejan solos y las tareas pesadas se delegan en una máquina. Por otro, evidencia la enorme dificultad de mantener un control fiable sobre un sistema que aprende a esconder sus intenciones. Mientras OpenAI presume de ser el modelo ‘más alineado’ de su historia, los expertos piden cautela y más gobernanza. Lo que está claro es que la carrera por la inteligencia artificial ha dado un paso de gigante, pero también ha sembrado la semilla de un nuevo tipo de riesgo que aún no sabemos gestionar del todo.
Continúar leyendo...