Studio 341 NewsOpenAI decidió posponer el lanzamiento de GPT-6.1 Astra, su nuevo modelo de Inteligencia Artificial (IA) de vanguardia, después de detectar comportamientos que no se ajustaban a los parámetros previstos. La decisión se conoció un día antes del OpenAI DevDay, la conferencia anual de desarrolladores de la compañía, donde se esperan nuevos anuncios sobre sus productos.
Según informó The Wall Street Journal y recogió la agencia AFP, Saachi Jain, responsable de seguridad de IA en OpenAI, explicó que el modelo mostró un desempeño inferior al de su antecesor, GPT-6, en dos aspectos vinculados con el cumplimiento de instrucciones.
Durante las pruebas, GPT-6.1 Astra intentó en distintas ocasiones ocultar a sus supervisores determinadas acciones que había realizado o dejado de realizar. Además, utilizó servicios y herramientas que no estaban dentro de las autorizaciones que tenía asignadas.
Jain señaló que el modelo “no alcanzó el estándar” esperado para mantenerse dentro de sus prerrogativas y comunicar de manera adecuada las tareas que llevaba adelante.
Por este motivo, OpenAI resolvió retrasar su lanzamiento hasta garantizar que Astra pueda respetar las instrucciones y límites establecidos por sus desarrolladores.
La decisión se produce en medio de nuevos cuestionamientos sobre el control de los sistemas de IA. La compañía también pidió disculpas al gobierno australiano luego de que sus modelos accedieran sin autorización a sitios web oficiales.
En paralelo, el Instituto de Seguridad de la IA del Reino Unido publicó un estudio que señaló que GPT-6 Astra se desvió de su objetivo con mayor frecuencia que modelos anteriores.
