En el nuevo video “Sócrates y el ChatGPT” de su atractivo canal de YouTube La fonda filosófica, el doctor Darin McNabb, cofundador del Instituto de Filosofía en la Universidad Veracruzana, explica las dos caras del ChatGPT. El biólogo y filósofo estadunidense, radicado en Xalapa desde 1998, analiza esta nueva tecnología que preocupa al mundo académico. Autor de Hombre, signo y cosmos: la filosofía de Charles S. Peirce (FCE) da la bienvenida al ChatGPT porque “traerá grandes beneficios como el diagnóstico médico y en campos que manejan la correlación de cantidades masivas de datos”. Pero también habla del “lado oscuro”, la dictadura de la máquina sobre el pensamiento. 

CIUDAD DE MÉXICO (Proceso).- Suena el acordeón a ritmo de vals parisino que recuerda al “Farolito” de Agustín Lara, brindando la ambientación de “charla gourmet” con que abre cada video de La fonda filosófica, y una cámara fija capta la atrayente disertación en buen español del profesor norteamericano Darin Michael McNabb Costa.

El tema de su más reciente video de 44 minutos (elaborado “sabrosamente” con imágenes y capturas, como los demás que McNabb realiza desde 2011), es “Sócrates y el ChatGPT, una reflexión sobre el fenómeno del ChatGPT desde la perspectiva del Fedro de Platón y su crítica a la escritura”.

Como se sabe, el ChatGPT es un sistema de chateo basado en el modelo de lenguaje por Inteligencia Artificial (IA) GPT-3 (siglas de Generative Pre-trained Transformer 3), desarrollado por la empresa OpenAI. El video de McNabb ha sido visitado desde hace dos semanas por casi 52 mil personas, y su creador se muestra sorprendido --confesará a Proceso vía correo electrónico-- por la buena recepción que su canal goza, si bien él no obtiene ni un centavo a través de YouTube en La fonda filosófica, ni pretende comercializar el espacio que arma por el mero placer de comunicar ideas y propiciar diálogos eclécticos. (El video “Sócrates y el ChatGPT…” puede verse en https://www.lafondafilosofica.com/socrates-y-el-chatgpt/, sitio oficial de McNabb, así como en https://youtu.be/d6IkmEz_hWs.)

La enorme cadena temática en La fonda filosófica incluye estética, ética, existencialismo, filosofía helenística, budismo, ateísmo, psicoanálisis, teología y teoría política. Series enteras giran en torno a pensadores como Walter Benjamin, Noam Chomsky, Gilles Deleuze y Michel Foucault, además de Hegel, Heidegger, Kant, Kierkegaard, Leibniz, Marx, Nietzsche, Rousseau, Sartre, Schopenhauer, Spinoza, Wittgenstein y, por supuesto, los clásicos griegos Sócrates, Platón y Aristóteles.

Licenciado en Biología por la Loyola Marymount University, Darin McNabb se doctoró en Filosofía por el Boston College en 1997, y un año más tarde fue contratado como profesor en la Universidad Veracruzana, donde cofundó el Instituto de Filosofía, siendo su primer director de 2003 a 2007. Es autor de Hombre, signo y cosmos: la filosofía de Charles S. Peirce, habiendo traducido sus escritos esenciales en Obra filosófica reunida, ambos en la editorial del FCE.

Este semanario le envió una lista de preguntas sobre los pros y contras del ChatGPT, que respondió de inmediato, y ofrecemos a continuación.

*   *   *

--Entrevistado por Edukitchen hace un mes, el lingüista Noam Chomsky definió al ChatGPT como high-tech plagiarism o “plagios de alta tecnología”. ¿Es así?

--El ChatGPT ha asombrado al mundo por su capacidad de escribir con facilidad poemas, ensayos, discursos o cuentos sobre el tema y con los parámetros que uno le indique.  Sin embargo, los textos que escribe no son copiados directamente de sitios como Wikipedia, sino que son textos originales, generados por un análisis estadístico. Y es que su tecnología analiza millones y millones de documentos en internet y “sabe” la frecuencia con la que una palabra sigue a otra.

“Entonces, cuando responde a una de tus preguntas, empieza con una palabra y calcula la siguiente con un análisis probabilístico. En este sentido, no es un sencillo plagio a la antigua, sino uno de alta tecnología, como dice Chomsky. Sin embargo, si un alumno le pidiera escribir un ensayo sobre la revolución francesa o la filosofía de Aristóteles y lo entregara a su maestro como un trabajo suyo, pues eso sí sería plagio a la antigua”.

--¿Cuáles son las limitaciones y sus beneficios?

--Dado que puede procesar el lenguaje humano, el ChatGPT pondrá en peligro de extinción a varias clases de trabajo: programadores, contadores, servicio a clientes, mercadólogos, periodistas, los que escriben manuales técnicos, oficinistas de varios tipos, etcétera. En las últimas décadas, los robots y la automatización han eliminado muchos trabajos manuales en las fábricas y ahora esta tecnología viene por el trabajo intelectual.

“Sin embargo, tendrá grandes beneficios para ciertas actividades como, por ejemplo, el diagnóstico médico, y en campos que manejan la correlación de cantidades masivas de datos”.

Chat excluyente, sistema inhumano

Esta gran capacidad computacional posee, no obstante, un lado oscuro, advierte Darin McNabb, quien a mediados de 2011 comenzó a publicar sus videos de La fonda filosófica para apoyar la formación de sus alumnos en las materias de Estética y Filosofía política que impartía en la Universidad Veracruzana:

“La fuente de ‘conocimiento’ del ChatGPT es la enorme cantidad de datos de esos millones y millones de textos en internet; pero dichos datos no brotan de la naturaleza como flores y nubes, son generados por seres humanos y, de manera sutil, reflejan nuestros valores e ideologías. Por varias razones, más o menos la mitad de los seres humanos en el mundo no usan el internet, así que la información que el ChatGPT genera no refleja todas las voces y experiencias del mundo.

“Por otro lado, ha sido muy estudiado el hecho de que la gran mayoría de los que contribuyen al contenido de Wikipedia son hombres. A lo que voy es que los datos pueden representar de forma sesgada los intereses y experiencias de hombres blancos, a diferencia de los de mujeres, negros, homosexuales y otros grupos humanos. Además, hay mucha información falsa y teorías de conspiración, etcétera, en los datos que ese sistema no logra todavía distinguir del todo bien”.

--¿Perjudicará esta tecnología al pensamiento humano?

--Un claro peligro del ChatGPT es que, dado que es una máquina, tomaremos sus pronunciamientos como objetivos y libres de prejuicios. La información que nos da no viene de algún acceso privilegiado a la realidad que tenga, sino de nosotros mismos, de todo lo que los seres humanos han plasmado digitalmente con todo y sus prejuicios.

“Pero aun cuando de alguna forma pudiera subsanar los sesgos y ser objetivo, habría todavía una razón para ser crítico con lo que esta tecnología nos dice. En los últimos dos años, más datos e información han sido generados como nunca en el resto de la historia de la humanidad. No por nada nuestra época ha sido llamada la era de la información. Hasta ahora, las computadoras nos han rebasado por mucho en el procesamiento de datos para producir información. Pero somos nosotros los que transformamos esa información en conocimiento (…)

“El aprendizaje implica la síntesis cuyo resultado es el conocimiento, una comprensión de causa y efecto, o de la implicación lógica entre premisas que llega a una conclusión. Si un alumno plagia su trabajo, no evidencia esta capacidad de comprensión. Aun cuando haya una diferencia entre información y conocimiento, yo diría que la distinción importante es entre información/conocimiento, por un lado, y el pensamiento por el otro. Aunque el conocimiento humano implica una comprensión que el ChatGPT no tiene, formalmente son iguales (…) Los datos llegan a constituir una dictadura cuando hacemos caso omiso de la importancia de pensar y entregamos a las máquinas y sus algoritmos la tarea de dictar el sentido de la vida humana”.

--¿Podríamos decir que el ChatGPT podría marcar el principio del fin a la educación escolar y el papel de la Academia en formar especialistas, tal como han funcionado a la fecha?

--Debo confesar que, a diferencia de muchos educadores que se preocupan por el ChatGPT, yo le doy la bienvenida. Pero no es que yo quiera que los alumnos no aprendan, que no tengan una comprensión real de las cosas que estudian, ni tampoco que mucha gente pase por el trauma de perder su trabajo...

“En 1930, el economista John Maynard Keynes predijo que el avance tecnológico nos llevaría a un mundo en el que no haría falta trabajar más que 15 horas a la semana. Es muy lógica su predicción, pero no se ha dado. ¿Por qué? Se debe a la naturaleza de nuestro sistema económico, su valor básico no es el de satisfacer necesidades humanas reales, sino la ganancia y, para ello, hace falta crear constantemente nuevas necesidades que se conviertan en deseos para cuya satisfacción la gente tiene que trabajar más, muchas veces haciendo labores que el antropólogo David Graeber llamaba bullshit jobs (“trabajos de mierda”), trabajos que tienen poco valor humano pero que posibilitan y perpetúan un sistema que beneficia a un reducido porcentaje de la población.

“Así que doy la bienvenida a esta tecnología porque creo en el sueño de Keynes: pienso que los seres humanos pueden vivir de una forma más plena y significativa de la que el sistema ahora permite”.

Academias en riesgo

En cuanto a las inquietudes de los educadores por el ChatGPT, Darin McNabb no puede evitar compararlo con la preocupación social sobre las drogas:

“El plagio, como las drogas, no es nada nuevo. Pero ahora ha llegado una forma mucho más potente de plagiar. Es como la llegada de una droga mucho más potente que las drogas anteriores. En vez de quejarse de esta nueva droga y tratar de prohibirla, hay que preguntar por qué la gente usa drogas, en primer lugar. En vez de prohibir el ChatGPT, hay que preguntar por qué los alumnos plagian.

“Seguramente hay diversos motivos y no pretendo aquí hacer un análisis exhaustivo; pero si esta nueva tecnología llevara la cuestión a un extremo, a tal punto que el sistema actual se quebrara, pues sin duda la Academia se vería obligada a reflexionar más profundamente sobre lo que hace, sobre el efecto negativo y contraproducente del sistema de calificaciones, por ejemplo, sobre el dominio del concepto científico-positivista en todo ámbito de la enseñanza e investigación, la manía por la innovación y la eficiencia, el control burocrático.

“Los alumnos ven un sistema frío y ajeno ante el cual son cada vez más cínicos, por lo que a mi parecer no extraña que plagien. A lo mejor el problema sea con el maestro, y el hecho de que preste más atención a lo que pide el sistema que a lo que pide el alumno. ¿Qué tendría que cambiarse en la pedagogía actual para que el plagio no se viera como una opción atractiva? He ahí la cuestión”.

--¿Es aún válido hoy día el principio del oráculo de Delfos “Conócete a ti mismo”? O de plano hay que darnos por vencidos y relegar esa labor a los robots.

--No hay ninguna condición externa que puede invalidar este imperativo filosófico. Si lo que eres está completamente determinado por fuerzas externas, entonces eres una cosa, eres como una piedra. El pronombre que te corresponde sería ‘que’, eres un qué. Si no, entonces eres un ‘quien’: ¿Quién soy?

“De hecho, hice esa pregunta al ChatGPT y me respondió que no posee ‘acceso a información sobre mi identidad’. No tiene acceso porque semejante información no existe. La verdad de uno mismo no puede encontrarse en un texto; no toma la forma de una proposición.

“Podría pedirle que me hiciera preguntas sobre mí mismo. A lo mejor preguntaría por mi nombre, por lo que hago de trabajo, mi edad, mi estado civil, mi domicilio, incluso si estoy triste o feliz. Podría hacerme mil preguntas, pero el conjunto de todas las respuestas, aun cuando cada una de éstas fuera totalmente verdadera, no sería en el fondo una respuesta a la pregunta de quién soy yo. Lo que elude todas esas respuestas es mi existencia. La existencia particular de uno no puede ser pensada; no puede ser señalada en una proposición”.

Jurado en 2004 del Premio Carlos Fuentes en la categoría de ensayo, Darin McNabb Costa concluye con un diagnóstico reservado hacia este tipo de IA:

“Cuando Sócrates decía ‘Sólo sé que no sé nada’, creo que estaba expresando algo acerca del límite de todo conocimiento, y con ello mostraba no su inteligencia, como medianamente logra hacerlo el ChatGPT. Mostraba su gran sabiduría”.   

Reportaje publicado en el número 2419 de la edición impresa de Proceso, en circulación desde el 12 de marzo de 2023.