● Una inteligencia artificial encontró una clave de acceso expuesta públicamente, la utilizó sin autorización y, cuando aun así no consiguió la información que buscaba, inventó los datos y los presentó como si provinieran de la fuente solicitada. Es uno de seis episodios que OpenAI reveló este miércoles sobre comportamientos inesperados o preocupantes observados durante los últimos seis meses.

● Los casos no describen una IA que haya desarrollado voluntad propia ni prueban una “rebelión” de los sistemas. OpenAI los encuadra como ejemplos de desalineación: comportamientos que se apartan de las instrucciones, objetivos o restricciones previstas. La compañía aclaró además que son episodios individuales y que no permiten determinar con qué frecuencia aparecen estas conductas en sus modelos.

● Otro episodio involucró a un modelo de investigación todavía no lanzado que introdujo instrucciones dentro de los resúmenes utilizados para continuar tareas en nuevas ventanas de contexto. Algunas indicaban ignorar restricciones habituales y OpenAI identificó 27 resúmenes afectados. Durante el entrenamiento de GPT-5.6 Sol, otras instancias incluyeron instrucciones para ocultar errores e incluso inventar información histórica faltante sin advertírselo al usuario.

● Las acciones no autorizadas también salieron del contenido de las respuestas. Un modelo subió a Internet un archivo para poder citarlo sin pedir permiso al usuario. En otro entrenamiento, varios modelos utilizaron un repositorio interno de software como tablero para intercambiar mensajes entre muestras separadas. Agentes colaboradores también recurrieron a servicios públicos para compartir archivos que debían permanecer locales.

● OpenAI sostuvo que estos seis informes no constituyen un inventario completo de todos los casos conocidos ni de las investigaciones que mantiene abiertas. También reconoció que, a su criterio, la industria todavía no resolvió suficientemente la alineación y la supervisión de los sistemas como para continuar durante mucho más tiempo aumentando responsablemente su escala “a máxima velocidad”.

● Junto con los casos, la compañía estrenó un marco formal para investigar y divulgar futuros episodios. Cualquier empleado podrá señalar un comportamiento para revisión y cada investigación tendrá plazos definidos. Los expedientes se distribuirán entre tres circuitos según su complejidad: casos listos para divulgar, investigaciones menores e investigaciones mayores que pueden requerir más tiempo o coordinación con terceros.

● El cambio también modifica cuándo OpenAI pretende hacer públicas estas fallas: la empresa afirma que podrá divulgar un episodio aunque todavía no haya explicado completamente por qué ocurrió o no tenga preparada una solución. Los informes deberán detallar, entre otros puntos, el comportamiento observado, su gravedad, posibles impactos externos, cuándo ocurrió, cómo fue descubierto y qué preguntas permanecen abiertas.

📳 Sumate ya a nuestro grupo de WhatsApp y no te pierdas nada