Qué ocurrió
OpenAI está presentando un nuevo modelo llamado Astra que se basa en una técnica conocida como profundidad recurrente, según un informe de TechCrunch.
Este enfoque permite que el modelo evite el proceso de razonamiento secuencial común en muchos de los sistemas de razonamiento actuales.
Por qué es importante
La profundidad recurrente podría permitir que los modelos lleguen a conclusiones a través de rutas menos lineales, lo que genera nuevas inquietudes entre los expertos en seguridad de la IA respecto a la supervisión y la interpretabilidad.
Si el razonamiento ya no sigue una secuencia paso a paso, podría volverse más difícil rastrear cómo llega un modelo a una decisión.
Datos clave
El nuevo modelo Astra de OpenAI utilizará profundidad recurrente.
La profundidad recurrente permite operar fuera del pensamiento secuencial típico de la mayoría de los modelos de razonamiento.
Los expertos en seguridad de la IA han expresado alarma ante este avance.
Qué observar a continuación
Es probable que los observadores sigan de cerca si la profundidad recurrente también podría afectar el comportamiento del modelo de forma impredecible en implementaciones del mundo real.
Los investigadores de seguridad podrían pedir mayor transparencia sobre las trayectorias internas de razonamiento de Astra.