Quote from Deleted user on December 13, 2023, 4:52 pm

ChatGPT: Ética y desafíos en la tecnología de procesamiento de lenguaje natural

Autores: Ansel Y. Rodríguez González y Humberto Pérez Espinoza

La irrupción de ChatGPT como un torpedo de guerra a generado alarmas en todas las áreas y ámbitos que pueden verse afectado de una u otra manera. Esta nueva herramienta está siendo aplicada —con mucha utilidad— en distintos contextos, pero muy especial el educativo donde los académicos, administradores y, también, los estudiantes se han preguntado hasta qué punto puede llegar la aplicación de ChatGPT y cuán ético es. El artículo ChatGPT: Ética y desafíos en la tecnología de procesamiento de lenguaje natural nos da una muestra de esas implicaciones y ofrece un análisis desde las distintas perspectivas sobre la utilización de esta herramienta en general.

 Tal y como se conoce, ChatGPT es una herramienta de inteligencia artificial en la cual una persona le escribe unos comandos desde una computadora. Los comandos pueden ser desde preguntas hasta instrucciones para que realice un trabajo escrito como un ensayo o monografía. Entre los usos más comunes, se encuentra su utilización como un asistente virtual en el cual el usuario puede “relacionarse” con la herramienta y mantener una especie de conversación; es utilizado como un traductor el cual tiene la capacidad de realizar traducciones significativamente grandes y mucho más acertadas; y, más alineado a las redes sociales, como un creador de contenido en el cual se utilizada para crear textos para páginas webs como noticias (Rodríguez González y Pérez Espinoza, 2023). Desde una perspectiva más analítica, este artículo también menciona los pros y contras de la aplicación. Desde luego que generar textos independientemente de la longitud es una de sus mayores virtudes con una sintaxis y fluidez (Rodríguez González y Pérez Espinoza, 2023) que fácilmente puede confundir a cualquier persona.

Ahora bien, tal y como reseña este artículo, no todo es miel sobre hojuelas con ChatGPT: también la aplicación cuenta con sus limitaciones que van desde su operabilidad de texto, entiéndase que sus textos provienen de unas bases de datos y, por ende, son limitados; no puede entender el mundo ni la sociedad y no todos los que lo utilizan lo hacen con buenas intenciones, también puede ser una herramienta utilizada con fines malévolos (Rodríguez González y Pérez Espinoza, 2023, p. 18).

Ante este panorama, muchos de nosotros, incluyéndome, se cuestiona cuán ético es la utilización de esta herramienta como ayuda independientemente de cuál ha sido el rol, si protagónico o secundario. Los propios autores examinan está faceta ética de la aplicación. Dentro de las implicaciones éticas de ChatGPT encontramos (Rodríguez González y Pérez Espinoza, 2023):

• La discriminación se puede dar mediante el sesgo que pueden contener los datos donde ChatGPT recupera información, lo que quiere decir es que, si alguna base de datos incluye información que contengan o se puedan interpretar como racistas, misóginos o prejuiciosos, así mismo se reflejaran en la respuesta (Rodríguez González y Pérez Espinoza, 2023, p. 19).

 

• ChatGPT es una herramienta que está conectada a la red lo que redunda en que no está exenta de ataques piratas y que algún tipo de información de usuarios o público en general quede comprometida (Rodríguez González y Pérez Espinoza, 2023, p. 19).

• Atado al último punto, ChatGPT es un sistema que es gratuito y que puede ser utilizado por cualquier persona con una computadora por lo que el uso que se le dé a este sistema no necesariamente sea con un fin benévolo y con un impacto negativo para la humanidad (Rodríguez González y Pérez Espinoza, 2023, p. 19).

Cabe resaltar que este artículo explora y analiza en otras dimensiones la creación y uso de esta herramienta. Tal y como guía este artículo, —y un dicho que yo utilizo muchas veces— la tecnología es igual que las armas de fuego: no son ni buenas ni mala, todo depende del uso que la sociedad le dé. A eso mismo nos lleva este artículo: nos invita a analizar y explorar crítica y objetivamente las virtudes, bondades y consecuencias del uso de herramientas de inteligencia artificial.

Referencia

Rodríguez González, A. Y. y Pérez Espinoza, H. (2023). ChatGPT: Ética y desafíos en la tecnología de procesamiento de lenguaje natural. https://www.researchgate.net/profile/Ansel-Rodriguez-Gonzalez-2/publication/373947360_ChatGPT_Etica_y_desafios_en_la_tecnologia_de_procesamiento_de_lenguaje_natural/links/65048a319fdf0c69dfce35f2/ChatGPT-Etica-y-desafios-en-la-tecnologia-de-procesamiento-de-lenguaje-natural.pdf