ChatGPT genera contenido que es completo y aparentemente preciso.
Pero investigadores, artistas y profesores advierten sobre ciertas carencias a tener en cuenta que degradan la calidad del contenido.
En este blog, exploraremos algunas desventajas de los contenidos generados por ChatGPT.
Tabla de contenido
El Uso de Frases Lo Hace Detectable Como No Humano
ChatGPT Carece de Habilidad para la ExpresiónChatGPT No Produce Insights
ChatGPT Es Demasiado Verborrágico
ChatGPT Miente (o imagina información)
ChatGPT Es Poco natural Porque No Es Divergente
ChatGPT Tiene un Sesgo hacia la Formalidad
ChatGPT Sigue en Entrenamiento
El Uso de Frases Lo Hace Detectable Como No Humano
Investigadores que estudian cómo detectar contenido generado por máquinas han descubierto patrones que lo hacen sonar antinatural.
Una de estas peculiaridades es cómo la IA tiene dificultades con los modismos.
Un modismo es una frase o dicho con un significado figurativo asociado a él, por ejemplo, ChatGPT nunca dirá “tengo mazo trabajo”.
La ausencia de modismos dentro de un contenido puede ser una señal de que el contenido es generado por máquina – y esto puede ser parte de un algoritmo de detección.
Esto es lo que dice el artículo de investigación de 2022 "Adversarial Robustness of Neural-Statistical Features in Detection of Generative Transformers" sobre este hecho en el contenido generado por máquinas:
"Las características frásicas complejas se basan en la frecuencia de palabras y frases específicas dentro del texto analizado que ocurren más frecuentemente en el texto humano.
...De estas características frásicas complejas, las características de modismos mantienen el mayor poder predictivo en la detección de los actuales modelos generativos.”
La falta de uso de modismos es una razón principal por la que a veces los contenidos generados por la inteligencia artificial parecen antinaturales.
ChatGPT Carece de Habilidad para la Expresión
Un artista comentó cómo la salida de ChatGPT imita lo que es el arte, pero carece de las cualidades reales de la expresión artística.
La expresión es el acto de comunicar pensamientos o sentimientos.
La salida de ChatGPT no contiene expresiones, sólo palabras.
No puede producir contenido que toque a las personas emocionalmente al mismo nivel que un humano puede – porque no tiene pensamientos o sentimientos reales.
Esto significa que la creación de contenido es en realidad una comunicación entre el creador y los lectores. Sin embargo, los contenidos generados por la inteligencia artificial carecen de esta característica importante
ChatGPT No Produce Insights
ChatGPT resume el tema pero no ofrece una visión única sobre el mismo.
Los humanos crean a través del conocimiento, pero también a través de su experiencia personal y percepciones subjetivas. Mientras que un ensayo de ChatGPT puede exhibir altas cualidades gramaticales e ideas sofisticadas, aún carece de perspicacia.
Esto significa que ChatGPT puede hacer buenos resúmenes de la información recopilada en su base de datos, sin embargo, ChatGPT no puede crear ni innovar nuevas ideas.
ChatGPT Es Demasiado Verborrágico
Un artículo de investigación publicado en enero de 2023 descubrió patrones en el contenido de ChatGPT que lo hacen menos adecuado para aplicaciones críticas.
La investigación mostró que los humanos preferían respuestas de ChatGPT en más del 50% de las preguntas respondidas relacionadas con finanzas y psicología.
Pero ChatGPT falló al responder preguntas médicas porque los humanos preferían respuestas directas – algo que la IA no proporcionó.
ChatGPT tiende a cubrir un tema desde diferentes perspectivas, lo que lo hace inapropiado cuando la mejor respuesta es una directa.
Los especialistas en marketing que utilizan ChatGPT deben tomar nota de esto porque los visitantes del sitio que requieren una respuesta directa no estarán satisfechos con una página web verbosa. Esto también tiene un impacto negativo en SEO, ya que Google no reconoce un artículo con tantas palabras como una buena fuente para los structured snippets.
ChatGPT Miente (o imagina información)
Según los creadores de ChatGPT, OpenAI ha indicado que existe la posibilidad de que ChatGPT genere información falsa:
"A veces ChatGPT escribe respuestas que suenan plausibles pero son incorrectas o no tienen sentido.”
Es decir, ChatGPT es un chatbot que recopila información de su base de datos, no es un buscador con información actualizada de internet.
Por lo tanto, cuando no existe ninguna información relevante al tema que el usuario le está preguntando, ChatGPT puede generar información (especialmente datos) falsa para responder a los usuarios.
.
ChatGPT Es Poco Natural Porque No Es Divergente
El artículo de investigación, ¿Cuán Cerca está ChatGPT de los Expertos Humanos? también señaló que la comunicación humana puede tener un significado indirecto, que requiere un cambio de tema para entenderlo.
ChatGPT es demasiado literal, lo que provoca que las respuestas a veces fallen porque la IA pasa por alto el tema real.
Los investigadores escribieron:
"Las respuestas de ChatGPT generalmente están estrictamente enfocadas en la pregunta dada, mientras que las de los humanos son divergentes y fácilmente se desvían a otros temas.
En términos de la riqueza del contenido, los humanos son más divergentes en diferentes aspectos, mientras que ChatGPT prefiere centrarse en la pregunta en sí.
Los humanos pueden responder al significado oculto bajo la pregunta basándose en su propio sentido común y conocimiento, pero ChatGPT se basa en las palabras literales de la pregunta en cuestión…"
ChatGPT Tiene un Sesgo hacia la Formalidad
La salida de ChatGPT tiene un sesgo que le impide relajarse y responder con expresiones comunes. En cambio, sus respuestas tienden a ser formales.
Los humanos, por otro lado, tienden a responder preguntas con un estilo más coloquial, utilizando el lenguaje cotidiano y el argot – lo opuesto a lo formal.
ChatGPT no usa abreviaturas como GOAT.
Las respuestas también carecen de instancias de ironía, metáforas y humor, lo que puede hacer que el contenido de ChatGPT sea demasiado formal para algunos tipos de contenido.
Sin embargo, si le pides a ChatGPT que te cuente un chiste, tiene un buen sentido del humor al estilo de grandpa jokes:
ChatGPT Sigue en Training
ChatGPT actualmente está en proceso de entrenamiento y mejora.
OpenAI recomienda que todo el contenido generado por ChatGPT sea revisado por un humano, listándolo como una buena práctica.
OpenAI sugiere mantener a los humanos en el ciclo:
"Siempre que sea posible, recomendamos que un humano revise las salidas antes de que se utilicen en la práctica.
Esto es especialmente crítico en dominios de alto riesgo y para la generación de código.
Los humanos deben estar al tanto de las limitaciones del sistema y tener acceso a cualquier información necesaria para verificar las salidas (por ejemplo, si la aplicación resume notas, un humano debería tener fácil acceso a las notas originales para referirse a ellas).”
Conclusión
ChatGPT es una buena herramienta para los profesionales del marketing digital, pero es importante tener en cuenta que siempre se deben revisar los contenidos generados por la inteligencia artificial para optimizar el contenido creado.