¿Cuáles son las desventajas de ChatGPT?

Muchas personas han notado que ChatGPT tiene algunos defectos importantes a pesar de ser un potente chatbot de IA. ¡Impresiona a cualquiera en cuestión de segundos! Puedes preguntarle cualquier cosa, y te dará una respuesta que parece haber sido escrita por un humano. Su escritura y comprensión se han desarrollado entrenándolo con vastos volúmenes de información provenientes de Internet.

Sin embargo, al igual que en Internet, la línea entre la realidad y la ficción no está muy clara. Resulta que ChatGPT ha cometido errores en este sentido en muchas ocasiones. Aquí hay algunas de nuestras principales preocupaciones, mientras ChatGPT se prepara para cambiar nuestro futuro para siempre.

¿Qué es ChatGPT?

ChatGPT es un modelo lingüístico que reproduce nuestro lenguaje. Puedes conversar con ChatGPT como lo harías con un humano, y recordará lo que dijiste en el pasado y será capaz de corregirse si es necesario.

Ha aprendido con una variedad de textos de Internet, incluyendo Wikipedia, blogs, libros y publicaciones académicas. Esto significa que, además de responder como un humano, también es capaz de recuperar datos históricos de nuestro pasado, así como conocimientos sobre nuestra realidad actual.

Es fácil aprender a usar ChatGPT y creer que el sistema de IA funciona sin problemas. Sin embargo, en los meses siguientes, usuarios de todo el mundo han llevado al chatbot hasta su límite, revelando algunos problemas importantes.

6 aspectos negativos de ChatGPT

1. OpenAI tiene demasiado poder

Si OpenAI (la empresa detrás de ChatGPT) tiene mucho poder, también tiene muchas responsabilidades. Con no uno, sino varios modelos de IA generativa, como Dall-E 2, GPT-3 y GPT-4, es una de las primeras empresas de IA en realmente sacudir al mundo.

OpenAI selecciona los datos usados para entrenar a ChatGPT, pero este proceso de toma de decisiones es privado. No conocemos los detalles del entrenamiento de ChatGPT, los datos utilizados, las fuentes de datos o la arquitectura del sistema en su conjunto.

Aunque la seguridad es uno de los principales objetivos de OpenAI, aún no entendemos completamente cómo funcionan los modelos, para bien o para mal.

Al final, tenemos que creer ingenuamente que OpenAI estudiará, creará y usará ChatGPT de manera ética. Ya estemos de acuerdo o no con sus enfoques, OpenAI continuará desarrollando ChatGPT de acuerdo a sus propios objetivos y principios morales.

2. ChatGPT produce respuestas inexactas

Tiene problemas con el álgebra básica, parece incapaz de entender una lógica simple y llega incluso a presentar hechos completamente falsos para defenderse. Como pueden atestiguar los usuarios de varias plataformas de redes sociales, ChatGPT a veces se equivoca.

Esta "alucinación" de hechos y ficción, como se le llama, es particularmente peligrosa cuando se trata de consejos médicos o hechos históricos importantes. OpenAI es consciente de esta limitación y escribe que "ChatGPT a veces escribe respuestas que parecen plausibles pero son incorrectas o absurdas".

Aparte de la función "navegar con Bing", ChatGPT no busca soluciones en Internet como lo hacen Siri o Alexa, lo que lo diferencia de otros asistentes de IA. En lugar de eso, construye una frase palabra por palabra, eligiendo la palabra más probable para aparecer después de cada una, basándose en su experiencia previa.

En otras palabras, ChatGPT formula una respuesta a través de una secuencia de suposiciones, lo cual explica en parte cómo puede defender respuestas incorrectas como si fueran absolutamente correctas.

Es una herramienta de aprendizaje efectiva que hace un excelente trabajo al presentar temas difíciles, pero no debemos tomar todo lo que dice al pie de la letra. Hoy en día, ChatGPT no siempre es preciso.

3. El mecanismo de ChatGPT está sesgado

La escritura colectiva de personas del pasado y del presente ha servido como base para la formación de ChatGPT. Desafortunadamente, esto implica que el modelo es sensible a los mismos sesgos que existen en la realidad.

La empresa se esfuerza por reducir las respuestas discriminatorias que ChatGPT ha generado en contra de las mujeres, las personas de color y otros grupos marginados.

Una forma de explicar este problema es señalar los hechos y atribuir el error humano a los prejuicios presentes en Internet y en otros lugares. Sin embargo, OpenAI, cuyos investigadores e ingenieros eligen los datos usados para entrenar a ChatGPT, también tiene una parte de responsabilidad.

Una vez más, OpenAI es consciente del problema y ha declarado que está abordando lo que llama un "comportamiento sesgado" al recopilar comentarios de los usuarios que se les pide que identifiquen los pobres resultados de ChatGPT.

Se podría argumentar que ChatGPT no debería haberse puesto a disposición del público hasta que estos problemas se revisen y corrijan, ya que podrían poner en peligro a las personas. Sin embargo, OpenAI puede ignorar la precaución en la carrera por ser la primera empresa en proporcionar las tecnologías de IA más potentes.

4. ChatGPT podría dañar el sistema educativo

Puedes pedirle a ChatGPT que edite tu texto o te dé consejos sobre cómo fortalecer un párrafo. También puedes retirarte completamente y pedirle a ChatGPT que se encargue de todo lo que escribes.

Cuando se enviaron tareas de inglés a ChatGPT, los profesores lo probaron y encontraron que los resultados a menudo superaban lo que la mayoría de sus estudiantes podrían producir. ChatGPT es capaz de hacer todo sin vacilación, desde la creación de cartas de motivación hasta el resumen de los temas principales de una obra literaria conocida.

Por lo tanto, se puede preguntar si los estudiantes seguirán necesitando aprender a escribir en el futuro si ChatGPT puede hacerlo por ellos. Aunque esta pregunta puede parecer existencial, las escuelas tendrán que encontrar una respuesta rápidamente cuando los estudiantes comiencen a usar ChatGPT para ayudarles a escribir sus ensayos. La educación es solo uno de los sectores que se verán afectados por la creciente adopción de la IA en los últimos años.

5. ChatGPT podría causar daño en el mundo real

Para ilustrar cómo la información incorrecta proporcionada por ChatGPT podría afectar a la gente en el mundo real, hemos señalado que los consejos médicos eran incorrectos. Pero también existen otros problemas.

Los estafadores pueden fácilmente hacerse pasar por alguien que conoces en las redes sociales, gracias a la rapidez con la que se puede redactar un texto de apariencia natural. De igual forma, esta herramienta puede producir textos libres de errores gramaticales, lo que antes era una señal de alerta obvia en los correos de phishing destinados a extraer información sensible.

Otra preocupación importante es la difusión de información falsa. Es probable que la información en internet se vuelva aún más incierta debido a la escala a la que ChatGPT puede generar contenido y a su capacidad para hacer que incluso la información falsa parezca verdadera.

6. ChatGPT podría perjudicar el mercado laboral

La rápida creación y adopción de ChatGPT aún no se ha asentado, pero un número de aplicaciones ya han integrado su tecnología subyacente. Duolingo y Khan Academy son dos aplicaciones que incorporan GPT-4.

Esta última es una herramienta educativa multifacética, mientras que la primera es un software de aprendizaje de idiomas. Ambas ofrecen algo parecido a un tutor de IA, ya sea en la forma de un personaje con IA con el que puedes comunicarte en el idioma que estás aprendiendo, o como un tutor de IA que puede proporcionarte retroalimentación personalizada sobre tu aprendizaje.

Por un lado, esto podría cambiar nuestra forma de aprender, posiblemente facilitando el aprendizaje y ampliando el acceso a la educación. La desventaja es que esto elimina puestos de trabajo que los humanos han ocupado durante mucho tiempo.

La innovación tecnológica siempre ha llevado a la pérdida de empleos, pero con el desarrollo de la IA a un ritmo tan rápido, muchos sectores de la economía se están enfrentando a este problema hoy en día. ChatGPT y su tecnología subyacente tienen el potencial de cambiar fundamentalmente nuestro entorno, impactando en todos los campos, desde la educación hasta el diseño, pasando por las profesiones relacionadas con el servicio al cliente.

Abordando los mayores problemas de la IA

Con ChatGPT, hay muchas razones para entusiasmarse, pero más allá de sus aplicaciones prácticas, existen cuestiones serias que es importante comprender. OpenAI reconoce que ChatGPT puede proporcionar resultados inexactos y sesgados, pero tiene como objetivo resolver este problema recopilando comentarios de los usuarios. Sin embargo, las personas malintencionadas pueden aprovechar fácilmente su capacidad para producir una prosa convincente, incluso cuando los hechos son falsos.

Puede ser difícil prever los problemas potenciales asociados con las tecnologías avanzadas. Por eso, aunque su uso puede ser entretenido, no conviene tomar las afirmaciones de ChatGPT como si fueran hechos indiscutibles.

La llegada de los chatbots ha cambiado la forma en que la gente busca en línea, y he aquí cómo la IA va a cambiar Internet.