Investigadores de varias partes del mundo han descubrieron el “hilo negro”, de lo que podría ser la tendencia entre científicos e investigadores que usan generadores de texto apoyados por I.A. para crear contenido. Se ha desarrollado una manera de generar contenido a través de un sistema de texto probabilístico como el GPT 3, con el objetivo de que el programa escribir dichos artículos para posteriormente ser publicados.
Sin embargo, un investigador llamado Guillaume Cabanac encontró algo que le llaman “Frases torturadas” generado por inteligencia artificial, esta provocando que dichos contenidos no sean tan buenos.
¿Cómo funciona?
Las frases torturadas no son más que un conjunto de errores ocasionados por el sistema GPT 3. Dichos errores provocan que los enunciados sintéticos, sustituyan de manera incoherente términos usados por la comunidad científica; lenguaje irreconocible al de cualquier ser humano y citas literarias de textos científicos que jamás existieron. Lo que sugiere una abstracción del material de apoyo por parte de la I.A.
La forma en que Cabanac y sus colegas encontraron esta situación, fue al momento de consultar una revista de renombre en la divulgación de material científico y encontraron unas frases que reflejaban ser sinónimos absurdos. Ésta reemplazaba términos como Inteligencia artificial por “conciencia falsa”, Big data por “información enorme”, entre otras, que por lógica son resultado de una mala traducción.
Lo que más preocupo al grupo de investigadores, es la posibilidad de encontrar contenido científico inexacto, igualmente publicado a través de este método. Ya que en la actualidad, es se pueden encontrar artículos con estos fallos de lenguaje.
¿Por qué surgen estos errores?
Independientemente del buen o mal funcionamiento del sistema GPT 3 (y de lo extraño que parezca ver como una I.A, se refiere a sí misma como una conciencia…), uno de los factores sorprendentes es la aparente poca supervisión que hay a la hora de publicar los artículos científicos. Estos investigadores, a través de la plataforma Dimensions, han encontrado más de 30 artículos publicados en la revista Microprocessors and Microsystems y más de 860 artículos con al menos, una de estas frases.
A pesar de que esto comenzó a surgir en febrero del 2018, los datos señalan a que en los últimos 6 meses ha habido un alarmante crecimiento en la publicación y aparición de al menos una de estas “frases torturadas” en textos científicos. Por lo que se debería, según el informe Cabanac, poner en revisión esas investigaciones y de ser necesario retractarse de ellas. Pues como ya se mencionó antes, es posible que estas contengan información inexacta.
No cabe duda la innovación que presenta la comunidad científica en el desarrollo de nuevas tecnologías, descubrimientos y avances que benefician nuestro crecimiento como especie. Y gran parte de esto se logra del trabajo en conjunto en las investigaciones que se publican y divulgan en plataformas que se encargan de sacarlas a la luz. Pero la responsabilidad y complejidad que una Inteligencia Artificial puede tener en la tarea de publicar dichos artículos, no parece ser suficiente.
