¿Por qué GPT-4 es más lento que GPT-3.5?

Muchas personas se preguntan por qué la versión más reciente de ChatGPT, GPT-4 (lanzada en marzo de 2023) es mucho más lenta que GPT-3.5. Esta lentitud se nota desde el primer uso. Pero, ¿por qué GPT-4 es más lento que GPT-3.5?

¿Qué es ChatGPT-4?

Es la versión más reciente del chatbot de OpenAI, comúnmente conocido como ChatGPT. Gracias a la inteligencia artificial, esta herramienta puede responder a tus solicitudes e instrucciones de una manera mucho más eficiente. ChatGPT puede comunicarse con los usuarios y proporcionar información y contenido utilizando un enorme modelo lingüístico.

Con sus numerosas funciones, ChatGPT es utilizado por millones de personas. Es capaz de escribir historias, hacer chistes, traducir textos, instruir a los usuarios, etc. Aunque el chatbot puede ser usado para actividades más siniestras, como la producción de software malicioso, su capacidad para adaptarse a las solicitudes de los usuarios es impresionante.

El 14 de marzo de 2023, el modelo GPT-4 de ChatGPT fue presentado al público. Esta versión incluye otros idiomas y puede procesar imágenes, además de comprender el lenguaje emocional a través del texto. También es capaz de responder de manera eficiente a las solicitudes más largas de los usuarios.

Sus parámetros son significativamente superiores a los de GPT-3.5. Los parámetros de ChatGPT controlan cómo la IA interpreta los datos y reacciona a ellos. En esencia, definen la capacidad del chatbot para interactuar con los usuarios. GPT-4 tiene un número asombroso de parámetros entre 100.000 billones y 170.000 billones, en comparación con los 175 billones de GPT-3.5. Sin embargo, OpenAI no ha validado estas cifras.

Anteriormente, ChatGPT era alimentado por el modelo GPT-3.5 (que indudablemente dejó su huella en el campo de la IA). Pero con el constante avance de la tecnología, fue reemplazado por GPT-4. Pero no te preocupes, sigue siendo accesible.

Pero hay un problema: GPT-4 está lejos de ser perfecto. De hecho, la lentitud de los tiempos de respuesta de GPT-4 molesta a muchos usuarios. Por lo tanto, vamos a examinar este problema y sus posibles causas.

Observación simple: GPT-4 es lento

Muchos usuarios han notado que el nuevo chatbot de OpenAI es excesivamente lento. Muchos están molestos con esta situación, ya que se suponía que GPT-4 sería una mejora con respecto a GPT-3.5, y no un paso atrás.

Varios usuarios han expresado su descontento con la lentitud de GPT-4 en el foro comunitario de OpenAI. Según un usuario, era "extremadamente lento" e incluso las solicitudes más simples se encontraban con tiempos de espera anormalmente largos, de más de 30 segundos.

Varios usuarios comentaron rápidamente la página para discutir sus experiencias con GPT-4. Uno de ellos declaró que "la misma solicitud puede tomar hasta 4 veces más tiempo que con GPT-3.5".

Otro usuario se quejó en otra publicación de que ocasionalmente recibía un aviso de "error in body stream" en lugar de una respuesta a sus solicitudes. En el mismo mensaje, alguien dijo que no podía hacer que GPT-4 "respondiera con éxito a una solicitud de script". Otro informó que al intentar usar GPT-4, encontraba problemas de red.

Parece que GPT-4 está plagado de problemas que gradualmente están desanimando a los usuarios, incluyendo retrasos y respuestas incompletas o fallidas.

¿Por qué GPT-4 es más lento que GPT-3.5?

Un usuario comentó el mensaje mencionado anteriormente y sugirió que el retraso era causado por un "problema actual de sobrecarga de toda la infraestructura", añadiendo que es difícil abordar la escalabilidad en tan poco tiempo dada la popularidad y el número de usuarios de ChatGPT y sus APIs.

Aquí hay varias causas potenciales de la lentitud de GPT-4. En primer lugar: un tamaño de contexto mayor. En el ecosistema GPT, el tamaño del contexto se refiere a la cantidad de datos que una versión específica del chatbot puede absorber, procesar y devolver. El tamaño del contexto de GPT-4 es dos veces mayor que el de la versión anterior. Por lo tanto, tener un tamaño de contexto dos veces mayor puede afectar el rendimiento general de GPT-4.

La mejora de la orientación y el control de GPT-4 podría contribuir a los largos tiempos de procesamiento del chatbot. La gestión de errores y el lenguaje inapropiado de GPT-4 podría ser el culpable, ya que estas habilidades requieren pasos adicionales en el proceso de procesamiento de información.

Se ha sugerido que la capacidad de procesamiento de imágenes de GPT-4 podría obstaculizar el progreso de esta iteración. A muchas personas les encanta esta útil función, pero podría haber un problema. Aunque esto no explica los retrasos experimentados por los usuarios que sólo presentan indicaciones textuales, es posible que esta característica alargue los tiempos de respuesta. Se ha informado que GPT-4 tarda de 10 a 20 segundos en procesar una imagen proporcionada.

La cantidad de parámetros que GPT-4 puede usar en comparación con GPT-3.5 es el principal factor de su lentitud. El increíble aumento en el número de parámetros simplemente indica que el nuevo modelo GPT necesita más tiempo para procesar eficazmente los datos y reaccionar. A mayor complejidad, mejores son las soluciones, pero se necesita un poco más de tiempo para llegar a ellas.

¿Qué elegir entre GPT-3.5 y GPT-4?

Cabe señalar que la velocidad de GPT-4 ha mejorado mucho en las últimas semanas.

Debes saber que GPT-4 es más lento que GPT-3.5 en general. Pero GPT-4 presenta muchas ventajas en comparación con la versión anterior. Cambiar de GPT-3.5 a GPT-4 puede ser interesante si buscas un chatbot más sofisticado y no te importa esperar un poco más para obtener respuestas.

ChatGPT y la velocidad

Aunque GPT-4 ofrece características más sofisticadas que GPT-3.5, algunos lo han encontrado frustrante debido a su gran latencia y fallas. Aunque estos problemas se han resuelto en gran medida, GPT-4 aún tiene que superar algunos obstáculos y dificultades antes de ser aceptado a mayor escala. Para estar al día de los avances en ChatGPT, mantente atento a nuestras noticias sobre IA.

Para evitar que los textos escritos por la IA sean detectados, he aquí los 10 mejores humanizadores de IA.