Es un modelo de IA basado en LLM (Large Language Model) o lo que es lo mismo, algoritmos de Inteligencia Artificial Generativa, que producen texto para conversar.
Sin embargo, se ha hecho muy popular entre la población a la hora de producir textos y completar respuestas, pero si le preguntamos por datos concretos como el que busca en una enciclopedia un dato concreto, puede acabar inventándose lo que le de la gana.
Esta IA ha sido entrenada para mantener conversaciones con cualquier persona. Sus algoritmos deberían ser capaces de entender lo que le preguntas con precisión, incluyendo adjetivos y variaciones que se añaden en las frases.
Lo mas sorprendente de esta IA es que es capaz de darte respuestas muy acertadas y completas, incluso de varios párrafos. Esta IA es tan potente y capaz de generar respuestas completas que hay quien dice que podría acabar con Google y buscadores similares.
Aunque en muchos temas es poco precisa, sobre todo en nombres y algunos conceptos, por lo que todavia no está a la altura de permitirte copiar y pegar aunque hace que sientas que en ese momento está mas cerca.
Brecha de seguridad
En Marzo de este mismo año, un fallo de seguridad permitió a ciertos usuarios ver los títulos de conversaciones de otros usuarios. El consejero delegado de OpenAI, declaró que los usuarios no podrían ver el contenido de las conversaciones y poco después de haber corregido el fallo, informes posteriores mostraron que el fallo era mas grave de lo que se creia en un principio y OpenAI informó que se filtraron datos de los usuarios tales como nombre y apellidos, dirección de correo, dirección de pago, los últimos 4 dígitos de la tarjeta de crédito y fecha de caducidad de la misma.
Falsas Respuestas
Se ha cuestionado la exactitud de los hechos de ChatGPT ya que simplemente trata de completar estadisticamente un texto, es capaz de inventar respuestas. Ax Sharma de Bleeping Computer y Checkpoint Research señalan que esta IA es capaz de escribir malware y correos electrónicos de phishing.
Utilidades que se le pueden dar a ChatGPT
ChatGPT puede ser utilizado para encontrar por ejemplo evaluar la fortificación de un fichero Python, para ayudar a los pentester a encontrar vulnerabilidades, para securizar código,…..
También se puede utilizar para asistencia al cliente, generar contenido, asistencia educativa y análisis de sentimientos, esto último resulta útil en el análisis de redes sociales y/o investigación de mercado.
Hay que tener mucho cuidado a la hora de utilizar ChatGPT ya que también se puede utilizar para cosas no lícitas, y el desconocimiento no exime de la responsabilidad.
¿Cuáles son las limitaciones a la hora de utilizar ChatGPT?
A pesar de parecer muy impresionante, tiene todavia limitaciones, una de las cuales es la incapacidad de responder preguntas redactadas de manera específicas, ya que requieren una nueva redacción para la pregunta realizada.
El problema principal, es que si bien las respuestas que proporciona ChatGPT tienen una alta tasa de incorrección. Los críticos argumentan que estas herramientas son muy buenas para poner las palabras en un orden que tenga sentido.
Bibliografia:
https://www.elladodelmal.com/2023/01/como-buscar-vulnerabilidades-en.html