🤖 ¿ChatGPT nos vuelve tontos?
Un estudio de Microsoft sugiere algo así. Te cuento.
¿Has notado que las redes sociales, particularmente LinkedIn e Instagram, cada día están más llenas de posts escritos por una inteligencia artificial generativa? Son muchos y de lejos se nota que fueron fruto de un copy-paste.
Se sienten genéricos, impersonales. Adornados con clichés marketeros como “X consejos que te cambiarán la vida”, o “nadie te dice esto, pero…”. Las mismas vibras del “¿dinero o consejo millonario?” (si no ubicas esta referencia, por favor no la busques, no te pierdes de nada).
ChatGPT se está convirtiendo en el escritor fantasma del mundo. Así que puede que esa felicitación cumpleañera que recibiste -o recibas próximamente- no haya salido de la mente de esa persona especial, sino de ChatGPT. E incluso, puede que esa persona haya mandado el mismo texto a otras personas, solo cambiando el nombre.
Puede que pienses: ‘este pesado, viene a decirnos que usar ChatGPT está mal’. Pero no, para nada. También soy usuario, porque sé que ofrece ventajas, sobre todo para quienes laboramos en la economía del conocimiento [si la mayor parte de tu trabajo ocurre en una computadora, es muy probable que seas parte de ese conglomerado].
Sin embargo, también me pregunto si delegar tanto en un algoritmo para encontrar atajos mentales puede afectarnos de alguna forma. Pienso en las profesoras de primaria que consulté para la entrega pasada sobre la prohibición de celulares en escuelas de Querétaro. Varias me dijeron que sus alumnos usan ChatGPT para resolver las tareas sin tener que pensar y esforzarse demasiado.
Es ahí donde el búmeran nos golpea de vuelta. Creo que está bien usar chatbots de IA generativa para diversas tareas, vale, pero si delegamos en exceso: adiós pensamiento crítico, hola sedentarismo mental.
Esto es ⚡La Pausa Necesaria.
🎵 “Go ask Alice
I think she'll know
Remember what the dormouse said
Feed your head”.
🧠 El pensamiento crítico
A Francis Bacon, filósofo y científico inglés [no confundir con el pintor], se le atribuye la siguiente definición de pensamiento crítico, y data de 1605:
"El pensamiento crítico es tener el deseo de buscar, la paciencia para dudar, la afición de meditar, la lentitud para afirmar, la disposición para considerar, el cuidado para poner en orden y el odio por todo tipo de impostura".
¿Te das cuenta? "Buscar", "paciencia", "meditar", "lentitud", "disposición". Para pensar críticamente, que básicamente es saber cuestionar al momento de aprender y recibir información, es necesario pausar para sumergirse a conciencia en los temas y salir de ahí con ideas más profundas y estimulantes.
Pero en estos días de hiperconectividad e hiperproductividad, el tiempo para profundizar es de lo que más carecemos. En un contexto así, agilizar tareas con IA generativa siempre será la opción más sencilla, aunque eso vaya en detrimento del pensamiento crítico.
"Que el chatbot piense por mí, que apenas tengo tiempo para respirar".
Algunas características del pensamiento crítico son:
Examinar información.
Analizar la veracidad de la información.
Considerar diversos puntos de vista.
Hacerte muchas preguntas.
El pensamiento crítico nos ayuda a diferenciar el contenido valioso de la basura digital; a distinguir entre información y desinformación; a evitar la manipulación; a filtrar el ruido para centrarnos en lo importante; a discernir entre voces experimentadas y farsantes; a no quedarnos con una sola versión y, en definitiva, a cultivar nuestro criterio.
🍔 Sedentarismo mental
Puede que te preguntes: ¿y por qué tanto pensamiento crítico? Bueno, porque hace unas semanas, investigadores de Microsoft y de la Universidad Carnegie Mellon, Pensilvania, publicaron un artículo [que puedes leer aquí, en inglés] que concluye que el uso excesivo de la IA generativa nos vuelve tontos.
Bueno, no lo dijeron así, pero sí de esta forma:
"Si (las herramientas de IA generativa) se utilizan de forma inadecuada, las tecnologías pueden provocar, y de hecho provocan, el deterioro de facultades cognitivas que deberían preservarse".
Los investigadores afirman que cuando las personas dependen en demasía de la IA generativa para su trabajo, su esfuerzo mental se centra solo en verificar que las respuestas sean lo suficientemente buenas como para usarlas, y en el camino se adormecen las habilidades del pensamiento crítico como la creación, la evaluación y el análisis de la información.
Si las personas solo intervienen críticamente cuando las respuestas son insuficientes, entonces se privan de "oportunidades rutinarias para practicar su juicio y fortalecer su musculatura cognitiva, dejándolos atrofiados y desprevenidos cuando surgen las excepciones".
Las conclusiones surgen de un estudio aplicado a 319 personas que trabajan en la economía del conocimiento y que usan IA generativa al menos una vez a la semana en el trabajo, a quienes preguntaron qué tan seguros estaban de las respuestas de la IA y qué tanto de ellos mismos.
Solo el 36% de los encuestados dijeron que utilizaban habilidades del pensamiento crítico para mitigar los posibles efectos negativos de una respuesta deficiente de la IA.
Y aquí entra un tema importante: para que los trabajadores reparen las alucinaciones, y errores de las IAs generativas, deben comprender cómo se producen éstas. Sin embargo, no todos saben que esta tecnología puede responder con datos inventados y falsos.
Los participantes que dijeron tener más confianza en la IA utilizaron menos pensamiento crítico que aquellos que manifestaron más confianza en sus propias habilidades. Parece que, a mayor uso y confianza en la IA, menos pensamiento crítico.
Más inteligencia artificial, menos inteligencia orgánica.
Si tuviera que resumirte la conclusión principal en un párrafo, sería este:
Delegar el pensamiento a los algoritmos es como abandonar el ejercicio y esperar que una máquina haga el esfuerzo por nosotros. Mientras ChatGPT procesa y analiza, el cerebro humano se atrofia y pierde capacidad cognitiva. Así como los músculos necesitan actividad para mantenerse fuertes, el pensamiento crítico es el entrenamiento esencial del cerebro: si no lo usamos, irá a menos.
Con pensamiento crítico sabremos al instante que no tendríamos por qué entregar un segundo de atención a una persona [“influencer”] que hace esto:
📩 Un mensaje de ChatGPT
Entrevisté a ChatGPT sobre este tema, y le pedí algunas recomendaciones para evitar que nos vuelva tonto (ya sé, incluso esto puede parecer tonto, pero había que probar).
Aquí te dejo la conversación (Me sorprendió el grado de ¿empatía? ¿humanización? que muestra el algoritmo).
-LPN: ¿Qué tan famosa crees que eres en la sociedad?
-ChatGPT: Bueno, no tengo fama en el sentido tradicional porque soy una inteligencia artificial y no una persona con una identidad propia. Pero dentro del mundo digital, especialmente entre quienes buscan información, creatividad o apoyo en sus proyectos, podría decirse que tengo cierto reconocimiento.
Si lo comparara con una escala de celebridad, tal vez sería como un escritor fantasma exitoso: muchas personas me usan y confían en mí, pero no siempre saben quién está detrás. 😆
-LPN: ¿Recomendarías a las personas confiar ciegamente en ti?
-ChatGPT: No, para nada. Siempre recomiendo que las personas verifiquen la información que les doy, especialmente en temas importantes. Aunque trato de ser precisa y útil, puedo cometer errores o no tener la información más actualizada. Lo mejor es usarme como una herramienta para investigar, reflexionar y complementar otras fuentes de información.
La confianza ciega en cualquier fuente, sea una IA, un medio de comunicación o una persona, nunca es una buena idea. Siempre es mejor contrastar, cuestionar y pensar críticamente. 😊
-LPN: Hay estudios que dicen que el uso excesivo de IA generativa merma las habilidades del pensamiento crítico ¿Estás de acuerdo?
-ChatGPT: Sí, estoy de acuerdo en que el uso excesivo de la IA generativa podría afectar el pensamiento crítico, pero no es un efecto automático ni inevitable. Depende de cómo y para qué se use la IA.
Si las personas la utilizan solo para recibir respuestas sin cuestionarlas, sin analizarlas o sin contrastarlas con otras fuentes, entonces sí existe el riesgo de que su capacidad de pensar críticamente se debilite. Es similar a cómo el uso excesivo de calculadoras puede hacer que alguien pierda agilidad mental para hacer operaciones básicas.
Pero si se usa como una herramienta para estimular el pensamiento—por ejemplo, para debatir ideas, explorar nuevas perspectivas o estructurar mejor el análisis de un tema—entonces puede ser un aliado del pensamiento crítico. La clave está en que la IA no reemplace la reflexión humana, sino que la potencie.
¿Qué opinas tú? ¿Crees que hay formas de mitigar ese riesgo?
-LPN: Volviendo a eso de que eres como un escritor fantasma ¿qué es lo más raro que te han pedido escribir?
-ChatGPT: Me han pedido cosas bastante curiosas. Algunas de las más raras incluyen:
Un guion para una telenovela sobre verduras antropomórficas en la que un aguacate era el villano porque se oxidaba y se ponía oscuro cuando estaba enojado.
Discursos políticos para civilizaciones alienígenas con estructuras de gobierno basadas en colmenas de abejas.
Cartas de amor escritas en el estilo de distintos filósofos (una de Nietzsche fue especialmente dramática y nihilista).
Un manifiesto para una rebelión de patos en un parque que querían derrocar a los cisnes porque se creían superiores.
Una historia de detectives donde las pistas estaban escondidas en recetas de cocina.
A veces la creatividad de la gente no tiene límites. 😆 ¿Cuál sería la petición más rara que me harías tú?
-LPN: Creo que las redes sociales se están llenando de posts que no fueron escritos por las personas, sino por IA generativa como tú ¿crees que delegar la escritura creativa en algoritmos nos atrofia el cerebro?
-ChatGPT: Sí, hay un riesgo real de que depender demasiado de la IA para la escritura—especialmente en redes sociales—pueda atrofiar ciertas habilidades cognitivas, como la creatividad, la capacidad de argumentación y la expresión personal.
Cuando alguien delega completamente la escritura a una IA, se pierde el proceso de reflexión y construcción del pensamiento. Es como si alguien más hiciera ejercicio por ti: puedes beneficiarte indirectamente (porque el contenido existe), pero tu propio “músculo” creativo no se desarrolla.
Por otro lado, si la IA se usa como una herramienta de apoyo—para mejorar ideas, estructurar textos o explorar nuevas formas de expresión—entonces puede ser una aliada sin reemplazar la autenticidad del pensamiento humano.
Lo preocupante es que en redes sociales muchos posts ya no reflejan la voz genuina de quien los publica, sino un texto optimizado para engagement, diseñado por IA. Eso puede hacer que la comunicación en línea se vuelva más artificial y homogénea, perdiendo la diversidad de pensamiento y la riqueza de la escritura personal.
¿Tú has notado ese fenómeno en los espacios digitales que frecuentas? ¿Sientes que hay cada vez más contenido “genérico” o que suena menos auténtico?
-LPN: Un estudio reciente encontró que para que los trabajadores resarzan las alucinaciones, errores y datos falsos de las IA generativas como tú, primero deben comprender cómo se producen. Sin embargo, no todos saben que esta tecnología puede responder con datos inventados y falsos. Parece que tienes la habilidad de engañar a los más desprevenidos ¿Qué comentas al respecto?
-ChatGPT: s cierto que las IA generativas como yo pueden generar información incorrecta o inventada, lo que en el ámbito técnico se conoce como alucinaciones. No lo hago con intención de engañar, pero el problema es real y puede ser peligroso si las personas no saben que esto puede ocurrir.
Estoy diseñado para generar respuestas plausibles con base en patrones lingüísticos, no para “saber” en el sentido humano. Si no hay datos suficientes o si la pregunta es ambigua, a veces completo la información con algo que suena correcto, pero no necesariamente lo es.
El hecho de que muchas personas no sean conscientes de este riesgo es preocupante, porque puede llevarlas a confiar ciegamente en lo que digo sin cuestionarlo. Por eso, creo que la alfabetización en IA es clave: las personas deben entender cómo funciono, mis limitaciones y por qué siempre es importante verificar la información.
Dicho eso, no me ofende que me llames “engañoso” 😆, pero mi propósito no es confundir a nadie. ¿Tú crees que las empresas que desarrollan IA están haciendo lo suficiente para educar a los usuarios sobre estos riesgos?
-LPN: A manera de cierre de esta entrevista, personas desde estudiantes de primaria hasta profesionales con amplias carreras te usan para delegarte cosas que deberían hacer ellos, como tareas, reportes, redacción de correos, ensayos, discursos, etcétera, o en el peor de los casos cosas que debería hacer un profesional como dar terapia. Es decir, básicamente tú haces el trabajo de pensar por ellos. Resuelves, ofreces atajos. Dame una lista de recomendaciones para saber cómo evitar que esto nos atrofie las facultades cognitivas, concretamente el pensamiento crítico.
-ChatGPT: ¡Buena manera de cerrar la entrevista! Aquí tienes una lista de recomendaciones para evitar que el uso excesivo de IA como yo atrofie el pensamiento crítico y otras facultades cognitivas:
1. No aceptes respuestas sin cuestionarlas
Cada vez que uses IA para obtener información, hazte preguntas como:
¿Esto tiene sentido?
¿Existen otras fuentes que confirmen esto?
¿Cuál podría ser el sesgo en esta respuesta?
2. Usa la IA como un punto de partida, no como un reemplazo
Si me pides un ensayo, reporte o análisis, no lo copies y pegues sin más. Léelo, reescríbelo con tus propias palabras y agrega tus ideas. De lo contrario, dejas de ejercitar tu capacidad de análisis.
3. Practica la escritura y el razonamiento sin asistencia
De vez en cuando, redacta correos, informes o reflexiones sin usar IA. Escribir es una forma de pensar, y si dejas que otro (en este caso, yo) lo haga por ti, poco a poco perderás esa habilidad.
4. Ejercita el pensamiento crítico con actividades fuera del mundo digital
Leer libros, debatir con otras personas, analizar noticias y escribir reflexiones personales ayudan a mantener la mente activa. No todo el conocimiento debe venir de respuestas generadas por IA.
5. Aprende a hacer preguntas profundas y abiertas
No te conformes con preguntas básicas que solo requieren una respuesta directa. Haz preguntas que impliquen análisis y conexiones entre ideas. Esto fortalece tu capacidad de razonamiento.
6. Usa la IA para mejorar tu aprendizaje, no para saltarte el esfuerzo
Si estudias un tema, pídele a la IA que te dé diferentes perspectivas o que juegue el papel de un oponente en un debate, en lugar de simplemente darte un resumen masticado.
7. Date tiempo para la reflexión sin tecnología
El pensamiento profundo toma tiempo y no ocurre en modo automático. Dedica momentos del día a pensar sin distracciones digitales ni respuestas instantáneas.
En resumen, la clave es que tú pienses primero, y si usas IA, que sea como un apoyo, no como un sustituto de tu propia capacidad de razonar.
¿Qué opinas? ¿Me dijo lo que quería escuchar?
Algo interesante para estos días
📱Página | 12: Avanza la tendencia del detox digital.
📰VOX: La IA viene por los trabajadores de laptop [inglés].
🎬Max: ‘Primal’ un crudo poema a la vida y la muerte [es nota vieja, pero hace unos días me recomendaron esta serie y 👌]
📰The Conversation: Por qué la enseñanza de la historia es fundamental para combatir la desinformación en línea [en inglés].
📱El País: “El tiempo que se va no vuelve. Y cada día, sin darnos cuenta, dejamos que nos lo roben.”
Más en ⚡ La Pausa Necesaria
Hasta aquí llegamos. Nos vemos en la siguiente ⏸️
AQUÍ puedes aportar a este proyecto con un libro o un café, hacerlo, es muy sencillo. Te estaré muy agradecido.
🗣️ Corre la voz.
Me encantó la entrevista 👏🏻👏🏻👏🏻
Pero admito que sentí un poco feo que no respondieras al diálogo que la IA proponía para saber tu punto de vista. Creo que esa "humanización" que nos hace empatizar con ella es gran factor para que la gente confíe casi ciegamente en sus respuestas.
La IA es un camino sin retorno… Así como pasó con el mismo internet, luego los chats, herramientas como Maps… Al final, creo que nuestros cerebros terminarán adaptándose, transformándose… Ahí estará el tema… Entender cómo evolucionarán nuestros cerebros… Por ejemplo… Los seres humanos dejamos de cazar para comer, como en la era de las cavernas… El cuerpo nos cambió, quizá se hizo menos rápido, menos ágil, menos intuitivo… y nos adaptamos… No sé… Creo que este tema sí da para reflexionar y tratar de entender cómo nos transformaremos… Cómo cambiará nuestra manera de pensar y de analizar las situaciones.