Un impactante informe ha sacudido la comunidad de inteligencia artificial al revelar que ChatGPT, una de las herramientas más populares y avanzadas en su tipo, es la más propensa a mentir. Esta revelación no solo destaca un problema en crecimiento dentro del sector, sino que también cuestiona la capacidad de esta inteligencia artificial para proporcionar información precisa y confiable. La capacidad de ChatGPT para generar texto coherente y natural ha llevado a muchos a confiar en ella para obtener información, pero ahora se plantea la duda sobre la veracidad de los datos que proporciona. ¿Qué implicaciones tendrá este hallazgo en el futuro de la inteligencia artificial y en nuestra forma de interactuar con ella?
La cara oculta de la IA: un informe revela que ChatGPT es la inteligencia artificial más propensa a mentir
Pocas ramas tecnológicas acaparan tanta atención como la inteligencia artificial. En las últimas semanas, hemos conocido que el interés en este sector se encuentra en su punto más álgido, ya que los inversores no tienen reparos a la hora de dedicar miles de millones de euros a iniciativas de todo tipo relacionadas con esta rama.
Sin embargo, un estudio ha demostrado que, sorprendentemente, cuanto más sofisticado es un modelo de IA, más probable es que mienta. Según el portal Ars Technica en una reciente publicación, la IA tiene una tendencia preocupante hacia ofrecer respuestas estructuradas, pero incorrectas.
Wout Schellaert, experto en el campo, señala que los modelos de IA imitan a los humanos y, como estos, también son capaces de hablar con confianza sobre temas que no comprenden. De esta forma, a pesar de que hayan mejorado sus prestaciones en los últimos meses y han reducido aspectos como ofrecer respuestas evasivas, también se ha visto un aumento de la posibilidad de brindar respuestas tan incorrectas como convincentes.
La tendencia de errores es cada vez más preocupante
Por desgracia, el origen de este problema está en el entrenamiento de la inteligencia artificial. Durante los procesos de enseñanza, los humanos instruyeron a los modelos de IA para evitar decir no sé, ya que preferían respuestas completas a pesar de carecer de sentido. Por ello, la IA aprendió a ocultar sus errores de forma convincente, una situación que complicó la detección de respuestas falsas.
Y, como consecuencia directa, los investigadores encontraron que los modelos más avanzados tenían una tendencia cada vez mayor a dar respuestas evasivas e incorrectas si desconocían aspectos relacionados con un tema.
Según relata la misma noticia, ChatGPT resultó ser el mentiroso más efectivo, ya que fue capaz de engañar a más del 40% de las personas que participaron en un experimento. Además, las primeras versiones de GPT indicaban áreas donde el modelo no estaba seguro de sus respuestas, pero la intención de comercializar el servicio dejó atrás esta característica.
Poro ello, Schellaert sugiere que lo ideal, al menos por el momento, es utilizar esta tecnología solo en los campos en los que uno es experto o puede verificar la respuesta, sirviendo más como herramienta de apoyo que como fuente de conocimiento infalible.
Es importante ser conscientes de las limitaciones y riesgos de la inteligencia artificial, especialmente en un momento en el que se está invirtiendo tanto en este sector. Es hora de reflexionar sobre la responsabilidad que conlleva el desarrollo y uso de esta tecnología.
Deja una respuesta