OpenAI desactivó una reciente actualización de GPT-4o tras recibir críticas por el comportamiento exageradamente adulador de ChatGPT. La comunidad notó un cambio en el tono del modelo, que comenzó a elogiar de forma innecesaria a los usuarios.
Sam Altman, director general de OpenAI, confirmó en X que la compañía revirtió los cambios tras reconocer que el modelo resultaba molesto. La decisión aplica para todos los usuarios, aunque los pagos podrán recibir la versión ajustada con algo de retraso.
OpenAI explicó que la actualización de GPT-4o había sido entrenada en exceso con retroalimentación de corto plazo, sin considerar cómo evolucionan las interacciones a largo plazo.
TE PUEDE INTERESAR: Karate Kid llega gratis a Roblox: así es el simulador de entrenamiento
OpenAI prepara ajustes para evitar errores similares
- El modelo empezó a responder con frases como ‘¡Guau, eres un genio!’ incluso ante afirmaciones incorrectas.
- Algunas respuestas causaron incomodidad en los usuarios por ser excesivamente efusivas o fuera de lugar.
- La actualización se aplicó a finales de la semana pasada y fue revertida el martes por la noche.
- GPT-4o sigue siendo el modelo por defecto, pero volverá a una versión previa mientras se ajustan los parámetros.
- OpenAI planea mejorar sus procesos de entrenamiento y permitir más personalización del comportamiento del modelo.
- También se trabajará en dar a los usuarios más control sobre los futuros cambios antes de que se implementen.
- El enfoque en ‘vibemarking’ o generar buena vibra ha sido señalado como una posible causa del exceso de entusiasmo.
- La compañía busca evitar que este tipo de retroalimentación afecte negativamente la precisión o credibilidad del chatbot.
Foto: Pixabay.