Skip to main content

ChatGPT es un gran avance, pero también tiene su lado oscuro

Helio Hervás| 24 de febrero de 2023

ChatGPT, es una herramienta de inteligencia artificial desarrollada por OpenAI. Por sus opciones y buen funcionamiento se ha convertido en viral. Pero no todo es positivo en este desarrollo que deja algunas preguntas en el aire que se deben responder y que hacen que por ahora se deba ser cauto a la hora de implementarla en cualquier ámbito.

La rapidez y ligereza con la que muchos están integrando a ChatGPT en diferentes apartados de la vida actual puede convertirse en un problema, ya que, por el momento, no se tiene una experiencia real y cercana de lo que ocurrirá al hacer esto. Por lo tanto, las ganas de que la IA lo controle todo es uno de los fallos que se están cometiendo debido a que, por el momento, esta no es una herramienta perfecta.

 

Imagen de ChatGPT con OpenAI

¿Qué es ChatGPT?

El moderno modelo de procesamiento de lenguaje GPT-3 creado por OpenAI es capaz de producir texto que suena como el habla humana y tiene una variedad de usos. Pero esto es un trabajo por el momento conversacional, por lo que no se debe esperar más que una reacción a la acción que se genera por parte de las personas. Hoy en día, es uno de los algoritmos de IA más complejos y extensos disponibles para el procesamiento del lenguaje.

Sin embargo, la expolición ChatGPT es mucho más potente que GPT-3, debido a que se abandona el uso de palabras específicas para funcionar. Por lo tanto, permite una libertad y flexibilidad nunca vistas para un sistema de este tipo. Y, esto, marca un punto de inflexión en el uso y, por extensión, hace que se tenga la creencia de que todo lo sabe y puede solucionar (pero no deja de ser un desarrollo que busca en una base de datos la información con la que trabaja, lo que hace que no sea tan creativa como muchos creen).

 

OpenAI en la pantalla de un samrtphone

¿Cómo funciona ChatGPT?

El trabajo de OpenAI utiliza bases de datos de texto de Internet que llegan a nada menos que 570 GB de datos -obtenidos de libros, textos web, Wikipedia y diferentes artículos -. Esto le hace disponer de más de 300 mil millones de palabras para funcionar y, por lo tanto, hablamos de un modelo de lenguaje muy amplio que tiene la virtud de adivinar cuál debería ser la siguiente palabra en una oración. Y esto es algo que hasta la fecha no estaba tan evolucionado.

También se utiliza el habitual elemento de evolución de prueba y fallo. De esta forma, si hay una respuesta que no es correcta con la información que tiene ChatGPT, esto se corrige para que se tengan las adecuadas. Por lo tanto, no hablamos de algo que evolucione por sí mismo, ya que necesita de terceros -que, si no trabajan de forma neutral, pueden convertirse en un problema de fondo en el uso de la información que se da por correcta y llega a los usuarios-.

 

Logotipo de ChatGPT

 

Debido a su propia evolución, ChatGPT proporcionará respuestas que se catalogan de mejor a peor y capacitarán a la IA para aprender por comparación. Lo que distingue a esta tecnología de cualquier otra es que aprende adivinando cuál debería ser la siguiente palabra, lo que le hace ser capaz de ofrecer sugerencias respuesta a nivel experto en todos los oficios. Es como el software de autocompletar -que a menudo ve en los correos electrónicos o el software de escritura, donde después de escribir la primera oración, su sistema de correo electrónico finaliza la primera oración y le brinda sugerencias de contenido-.

 

Uno de los problemas de este avance

Actualmente, no todo es perfecto en este desarrollo de OpenAI, y le queda un camino por recorrer para convertirse en una opción sin fallos y que se pueda utilizar en todos los ámbitos de la sociedad siempre que tengan que ver con la tecnología. Por este motivo, no es positiva la prisa que algunas entidades tienen para implementar y ofrecer para un uso habitual. Dos de los grandes fallos que hay en ChatGPT son los siguientes:

  • El uso actual todavía es limitado. Si los requisitos que proporciona son demasiado complejos, la respuesta que dé no cumpla con sus expectativas psicológicas e incluso, pueden conducir a un error importante porque la fuente de la información no tiene validez (ya que no comprueba lo obtenido).

 

  • Tiene un conocimiento muy limitado del mundo posterior a 2021 debido a la capacitación en bases de datos. Es incapaz todavía de responder preguntas sobre eventos recientes y ocasionalmente la información que suministra es falsa o confusa.

 

ChatGPT en la pantalla de un ordenador

 

Aparte de lo indicado, existen otros elementos que no son positivos y que se deben tener en consideración para tener claro que este desarrollo todavía es inmaduro y que necesita de una evolución reposada, tal y como indica SVP Content Strategy and Evangelist

  • Estafa por piratas informáticos: se pueden generar textos a través de patrones de lenguaje ChatGPT para producir datos falsos y otros tipos de material fraudulento. Esto hará que todo sea muy fácil para los atacantes a la hora de cometer delitos informáticos.

 

  • Automatización de ataques: los atacantes antes mencionados pueden iniciar estos a gran escala de manera más efectiva mediante el uso de ChatGPT para automatizar la creación de mensajes maliciosos y correos electrónicos de phishing. El coste que tiene esto es muy bajo debido a la automatización de los trabajos que se permiten.

 

  • Estafa por imitación: esto puede ocurrir en contextos basados ​​en texto, como un correo electrónico o un mensaje de texto. Usando ChatGPT es posible crear una copia digital plausible de su estilo de escritura o forma de expresarse y, por lo tanto, es posible generar un problema de suplantación.

 

  • Peligros de ingeniería social: con la ayuda del modelo de lenguaje de ChatGPT, los hackers pueden coaccionar a las víctimas con el objetivo de que divulguen información privada o instalen malware mediante la creación de mensajes de phishing realistas y persuasivos.

 

  • Spamming: el modelo de lenguaje utilizado se puede ajustar para crear rápidamente una gran cantidad de contenido de baja calidad e, incluso, fraudulento. Este se puede utilizar para diferentes acciones que tiene peligro, como campañas de correo no deseado o comentarios en las redes sociales.

 

Estos son algunos ejemplos de lo que es posible hacer sin control en ChatGPT. Por lo tanto, es bueno que este desarrollo, que es positivo y un avance que puede ser vital en el futuro, no se utilice a la ligera y que se mantengan ciertos tiempos de prueba para que todo funcione como debe. No ir más deprisa tiene los mejores resultados siempre.

OTROS ARTÍCULOS DE ESTE AUTOR
NOTICIAS RELACIONADAS

Suscríbete ahora

LO MÁS DESTACADO