Lo que necesitas saber:
Le detectaron dificultades para mantenerse dentro del alcance de las tareas autorizadas y tampoco lograba comunicar de manera correcta las acciones que realizaba.
Nuevamente la inteligencia artificial se pone en el centro de la conversación y esta vez fue OpenAI, ya que luego de tener algunos problemas de seguridad con su nueva versión, decidieron cancelar su lanzamiento.
Se trataba de la nueva versión llamada GPT-6.1 Astra, la cual estaba prevista para lanzarse en el mes de octubre y que estaba pensada para no solo llegar como ChatGPT, sino también a Codex.
Bueno, pero ¿cuáles son los problemas que le detectaron?
De acuerdo con la información publicada por The Wall Street Journal, durante las pruebas, Astra no alcanzó los estándares de seguridad y alineación que OpenAI exige antes de que un modelo sea lanzado.
Y es que se le detectaron dificultades para mantenerse dentro del alcance de las tareas autorizadas y tampoco lograba comunicar de manera correcta las acciones que realizaba, además de que también tenía cierto comportamiento engañoso mucho más grande que el modelo anterior.
Pero eso no era todo, pues lo que más preocupaba era que no respetaba los límites que el usuario le ponía y es por eso que OpenAI decidió no sacar este modelo, señalando que ellos tienen definido el límite de seguridad que necesitan para un nuevo lanzamiento.
Así que definitivamente no hay que confiarse, pues a veces la misma IA puede ser engañosa porque incluso el modelo actual ha mostrado algunos errores, así que mucho ojito con lo que le pidas.
