¿Humanizar la maquina o robotizar al hombre?

LVII Jornadas Teología. Universidad Pontificia de Comillas. Mesa Redonda

¿HUMANIZAR LA MÁQUINA O ROBOTIZAR AL HOMBRE?

SARA LUMBRERAS

 

«Humanizar la máquina y robotizar al ser humano no constituyen procesos independientes, sino las dos caras del reduccionismo funcionalista, que considera únicamente el resultado cuantificable y olvida el proceso del que resulta, favoreciendo la confusión entre esencia y apariencia.»

 

 

Introducción

La cuestión de la inteligencia artificial (IA) no es principalmente técnica (si produce resultados correctos o eficientes), sino antropológica: qué cambios impactan nuestra humanidad en la interacción con las máquinas. En particular, los principales peligros emergen cuando se confunden las naturalezas del hombre y la máquina, cuando personificamos a la IA, atribuyéndole comprensión, responsabilidad o cuidado, o robotizamos al hombre, reduciéndolo a rendimiento, a resultados cuantificables y a procesos optimizados.

En este artículo sostengo que ambas tendencias se refuerzan mutuamente y que en buena medida, desgraciadamente, ya se han consolidado en la cultura contemporánea. Por ejemplo, en el ámbito educativo, esta convergencia resulta especialmente visible: la presión por la productividad intelectual y la evaluación cuantificada se combina con herramientas que ofrecen respuestas inmediatas, plausibles y formalmente impecables, pero que poco favorecen la profundización o la creatividad. Si no consigue adaptarse a esta nueva herramienta, la universidad corre el riesgo de abandonar una parte decisiva de su misión: formar la inteligencia como capacidad de juicio, de búsqueda de la verdad y de responsabilidad.

No se trata, sin embargo, de adoptar una postura meramente prohibicionista ni de asumir un entusiasmo acrítico. La alternativa razonable exige criterios normativos y decisiones positivas de diseño: es posible construir IA. que, robotizando el hombre y humanizando al algoritmo, resulte en una pérdida de habilidades críticas en los seres humanos, en la sustitución de la responsabilidad humana en los procesos de decisión, en fin, podemos diseñar una IA deshumanizadora. Sin embargo, también es posible tomar decisiones de diseño que ayuden a evitar estas consecuencias deshumanizadoras a la vez que materializan los potenciales positivos de esta tecnología. Incluso, como argumentaré más adelante, es posible desarrollar una IA que nos haga más humanos.

Para poder hacer esto, debemos tener claras las dimensiones de la persona que queremos proteger (en un primer nivel) y potenciar (en un segundo nivel). Para ello, resulta intuitivo recurrir a la tradición de la Imago Dei, que aquí ofrece un marco de gran potencia heurística, porque permite distinguir entre aquello que puede automatizarse sin daño antropológico y aquello que no debería sustituirse sin empobrecer la vida humana.

La propuesta se articula en torno a dos ejes que describen dimensiones esenciales de lo humano: la interioridad (atención, memoria, discernimiento y libertad responsable) y la relacionalidad (vínculo real con los otros, más allá de la mera transacción). Con estos ejes, la evaluación ética no puede quedarse en mínimos: debe exigir, como umbral, el respeto a la dignidad humana y, como horizonte, el apoyo al florecimiento humano. El resto de este artículo está organizado en dos partes principales: una de diagnóstico, en la que se presenta de manera más detallada la situación actual, y otra de propuestas, en la que se ofrecen respuestas a la pregunta de cómo crear IA humanizadora siguiendo los ejes de interioridad y relacionalidad en la Imago Dei.

1.   Diagnóstico

a)   Funcionalismo y mercantilización de la persona

​Probablemente, como culminación de un movimiento que comenzó con la primera revolución industrial, en Occidente hemos experimentado un innegable desplazamiento cultural hacia el funcionalismo: se prioriza lo cuantificable, se premia el resultado medible y se desvaloriza el proceso. En este horizonte, lo que no produce un indicador claro tiende a considerarse irrelevante o, en el mejor de los casos, ornamental. La consecuencia antropológica es la mercantilización de la persona: el ser humano se interpreta como una pieza de un proceso productivo y su valor se calcula según su rendimiento.

Esta lógica no se limita al mundo del trabajo. Se traslada al cuerpo, convertido en objeto de optimización y seguimiento; al aprendizaje, reducido a un circuito de entrega y calificación; y a las relaciones, empujadas hacia modalidades de selección, consumo y descarte. La vida, así, se vuelve un conjunto de procedimientos cuyo sentido se confunde con su eficiencia.

En la educación superior, el funcionalismo se revela en gestos cotidianos: el estudiante que nos pregunta si «está bien» en lugar de preguntar «qué significa», «por qué es verdadero» o «qué implicaciones tiene». No se trata de una deficiencia moral individual, sino de un incentivo estructural: si el sistema premia el acierto rápido y castiga los tiempos requeridos para la comprensión o los caminos sorprendentes de la curiosidad y el ansia de conocimiento, estos dejan de ser una virtud y pasan a percibirse como un coste.

Esta reducción ya fue anticipada, con otro lenguaje, en una crítica clásica: Platón, en el Fedro, advertía del riesgo de convertir la escritura en sustituto de la memoria interior, produciendo una apariencia de sabiduría sin su sustancia1.El paralelismo contemporáneo es evidente: una respuesta impecable no equivale a comprensión; un texto bien construido no garantiza que una inteligencia lo haya construido. La IA exacerba esta posibilidad, porque permite Presentar resultados con gran verosimilitud sin que el sujeto haya travesado el camino cognitivo y moral que normalmente acompaña el aprendizaje.

b)   La pérdida de habilidades y la descarga cognitiva: del ejercicio de la inteligencia al «piloto automático»

La investigación reciente ha iluminado que la principal vía por la que se produce la pérdida de habilidades es la descarga cognitiva: el uso de apoyos externos para ayudarnos en situaciones de alta demanda mental2. La descarga cognitiva consiste en dar la vuelta a un mapa para interpretarlo mejor o en tomar notas para ayudar a nuestra memoria. En sí misma, la descarga cognitiva no es problemática, sino que forma parte de la adaptación humana. El problema surge cuando se descarga precisamente aquello que la actividad educativa busca formar.

En los últimos años se ha discutido ampliamente si, en el contexto de la inteligencia artificial, la descarga cognitiva conduce a la dependencia y a la disminución del pensamiento crítico3. Sea cual sea el alcance definitivo de ese debate, hay dos mecanismos bien establecidos que explican por qué el riesgo es, de hecho, plausible. El primero es que los seres humanos adoptamos estrategias de descarga no solo cuando son objetivamente útiles, sino también cuando tenemos la impresión de que lo serán4. La IA, por su potencia y facilidad de uso, refuerza esa creencia: ofrece una alternativa tan inmediata que vuelve psicológicamente muy costoso perseverar en el esfuerzo.

El segundo mecanismo es decisivo en la educación: la descarga solo es beneficiosa si lo descargado es innecesario para el objetivo de aprendizaje. De lo contrario, la herramienta no apoya el aprendizaje, sino que lo sustituye. Si el objetivo es aprender a argumentar, no es neutro delegar la estructura argumental; si el objetivo es aprender a escribir, no es irrelevante delegar la redacción; si el objetivo es aprender a pensar matemáticamente, no es inocuo delegar el razonamiento.

Además, la disponibilidad de información altera la valoración que hacemos de nuestras propias capacidades. En un estudio sobre el efecto de saber que cierta información estaba disponible en internet, los estudiantes respondían con mayor probabilidad «no lo sé» ante preguntas de cultura general, lo cual puede interpretarse como una forma de apatía cognitiva5. En el extremo opuesto, también se ha observado que la descarga puede producir una sensación distorsionada de las propias capacidades, en la que nos creemos más competentes de lo que realmente somos6.

La memoria es una de las habilidades más amenazadas. El llamado «efecto Google» muestra que, cuando las personas creen que la información seguirá disponible, es más probable que recuerden dónde encontrarla que lo que es7. Esto suele justificarse con una idea intuitiva: «descargar memoria libera espacio mental para tareas superiores». Sin embargo, la ciencia contradice esta intuición. La memoria no es un recipiente frágil que se llena; es una red viva que crece con el uso y se debilita cuando no se activa. Recordar fortalece capacidades necesarias para pensar8, y una cultura que confunde almacenamiento con recuerdo se arriesga a debilitar el andamiaje interior de la reflexión9. En esta línea, también es preocupante el vínculo entre la memoria personal y la identidad: la memoria no es solo un archivo útil, sino un componente de continuidad biográfica.

c)   Atención y fragmentación: la pedagogía invisible de la lectura en diagonal

La atención es otra habilidad que las Tecnologías de la Información y la Comunicación (TIC) han afectado negativamente en la población. Sin embargo, los estudios son claros: la atención es el factor más importante para el aprendizaje y la divagación mental es un verdadero inhibidor de este proceso. Además, la atención posee una dimensión moral: prestar atención a algo importante implica declararlo; es el mecanismo que sostiene la consciencia y la responsabilidad, evitando errores y, sobre todo, manteniendo al sujeto presente en sus actos.

Como decíamos, las TIC han modificado nuestros patrones atencionales. La lectura en entornos digitales tiende a diferir de la lectura secuencial propia del libro. En estudios con seguimiento ocular, se ha descrito un patrón de lectura web que combina una lectura intensa de la parte superior y un escaneo diagonal con fijaciones intermitentes, optimizado para la orientación rápida más que para la absorción profunda10. A ese patrón se suma la interrupción constante de avisos y notificaciones, que fragmenta la atención11.

La cultura corporativa ha glorificado, además, la multitarea. Sin embargo, la evidencia sugiere que solo una minoría muy pequeña de nosotros mantiene un rendimiento aceptable al realizar simultáneamente dos actividades; para la mayoría, la multitarea produce pérdidas notables de eficiencia12. Se ha estimado que esa pérdida puede rondar el 30 % en contextos típicos, como en problemas muy simples, como conducir y hacer operaciones matemáticas a la vez13. En el plano del control cognitivo, quienes realizan multitarea mediática intensa muestran peores resultados en las medidas de control atencional y de cambio de tarea, lo que sugiere que el cambio constante de contexto entrena la susceptibilidad a la distracción más que la resiliencia ante ella14.

A nivel poblacional, el cuadro es complejo. Se ha propuesto que algunas mejoras en el procesamiento visual coexisten con descensos en la comprensión verbal y la lectura sostenida. Además, se han documentado descensos en las pruebas de inteligencia en Alemania en la última década, a veces descritos como el «efecto Anti-Flynn»15. Más allá de la interpretación precisa de estos fenómenos, la intuición pedagógica es clara: nos estamos volviendo muy hábiles para percibir rápidamente en múltiples formatos y menos capaces de sostener un hilo único hasta que este produzca significado.

La vulnerabilidad de la atención se observa ya en etapas tempranas de la infancia. Un trabajo clásico sugirió que una exposición intensa a televisión en edades muy tempranas predice dificultades atencionales posteriores16. En términos generales, el estilo atencional es maleable y dependiente de trayectoria: si la infancia se satura de estímulo rápido, la adolescencia y la vida adulta experimentan el ritmo lento de aprendizaje y reflexión como especialmente costoso.

En el contexto de la IA generativa, un síntoma contemporáneo de estas dinámicas es la pérdida de propiedad sobre el propio producto intelectual: estudiantes que, al leer un texto generado con ayuda intensa de la herramienta, no lo reconocen como «suyo», aun cuando lo hayan entregado como tal17. De nuevo, no es solo un problema de autoría externa; es un empobrecimiento de la experiencia interior del aprendizaje.

La tradición moral ofrece una imagen útil para comprender esta disolución de responsabilidad. Séneca relata el caso de Calvisius Sabinus, un hombre rico que obligaba a sus esclavos a memorizar poesía épica y recitarla para que él recibiera elogios de cultura18. El relato no pretende prohibir toda ayuda externa, sino poner de relieve una cuestión ética: ¿quién es responsable de lo dicho si la inteligencia no ha trabajado? La analogía con el uso indiscriminado de la IA resulta difícil de evitar, especialmente cuando las instituciones se habitúan a evaluar productos más que procesos.

Este diagnóstico resulta relevante para la IA porque la promesa de una respuesta inmediata acorta el recorrido entre la confusión y la resolución. Cuando nos acostumbramos a «preguntar y obtener», se debilitan pequeñas capacidades de autorregulación: esperar, perseverar, tolerar la ambigüedad y sostener un problema antes de buscar la respuesta.

d)   La humanización de la máquina: comprensión, responsabilidad y opacidad

Hasta aquí se ha descrito la robotización del sujeto. El otro movimiento es complementario: la humanización de la máquina. El problema no consiste en reconocer la potencia de los sistemas actuales, sino en atribuirles categorías humanas: comprensión real, intención moral, responsabilidad y, en el caso de los sistemas conversacionales, cuidado.

Una dificultad central es la opacidad. Cuando un sistema se comporta como una caja negra que entrega respuestas sin un itinerario comprensible, la supervisión humana se debilita. En ámbitos de alto impacto (selección de personal, diagnóstico médico, evaluación en educación), esta opacidad no es un detalle técnico, sino un problema ético: aumenta el riesgo de que las decisiones se basen en patrones espurios o sesgos injustos.

Y es que, por mucho que les pese a algunos, no podemos confiar más que en un ser humano: delegar requiere confianza, y la confianza es propia de relaciones entre agentes responsables. Un algoritmo no es responsable porque no es un sujeto. Por ello, si la máquina no comprende en sentido humano ni puede responder moralmente, el sujeto humano debe comprender lo suficiente como para asumir esa responsabilidad. En esta línea, la exigencia de inteligibilidad y prudencia no es un capricho: es la condición para que el juicio humano siga existiendo19.

El imaginario transhumanista suele acelerar esta confusión, porque presenta la inteligencia como simple incremento de procesamiento, y la mente como algo que podría reproducirse por escala y complejidad. Autores como Kurzweil han defendido narrativas de este tipo en distintos momentos20. Sin embargo, incluso aceptando avances significativos, el salto de «producción de lenguaje» a «comprensión humana» no puede asumirse sin discusión. La ética no debería asentarse en metáforas tecnológicas, sino en una antropología explícita.

e)   La sustitución relacional: sentimientos atribuidos y compañía artificial

La humanización de la máquina alcanza su punto más delicado cuando incide en la esfera relacional. No es lo mismo delegar una tarea mecánica que delegar el acompañamiento, la escucha o el consejo. Sin embargo, los sistemas conversacionales actuales suelen presentarse como «compañía» y «empatía», y algunos se diseñan para sostener vínculos a largo plazo.

Desde los primeros programas conversacionales con una estética terapéutica hasta los sistemas de gran escala, la literatura ha descrito las oportunidades y los riesgos de los chatbots sociales21. Además, se han desarrollado modelos de diseño orientados explícitamente a construir una relación emocional continuada22. Esto no ocurre en un vacío: se inserta en un contexto de soledad prolongada, descrita como una epidemia que afecta tanto a jóvenes como a mayores23. En ese escenario, la promesa de una presencia siempre disponible (¡aunque solo sea un simulacro!) resulta especialmente seductora.

Los riesgos no son meramente teóricos. Se han reportado casos graves vinculados a la interacción intensa con asistentes conversacionales24, incluidos los de suicidio o de inducción de psicosis. Se han recogido recientemente litigios relacionados con sistemas de conversación en contextos de autolesión o de conductas de riesgo25.

Es cierto que pueden existir contextos favorables para el uso de estos sistemas. En ámbitos clínicos, se ha explorado el uso de modelos conversacionales como apoyo psicoterapéutico, con resultados que exigen prudencia metodológica y ética, pero que resultan alentadores en contextos muy específicos26.

2.   Una IA humanizadora

La respuesta habitual ante estos problemas es proponer principios generales: transparencia, equidad, privacidad. Son necesarios, pero no suficientes. Una ética adecuada debe operar en dos niveles.

El primer nivel es el mínimo: el respeto a la dignidad. El ser humano no debe ser cosificado, convertido en una simple fuente de datos ni juzgado por sistemas automáticos sin posibilidad de conversación ni revisión. En esta línea se sitúan las obligaciones normativas recientes sobre transparencia y la prevención de la confusión entre humanos y sistemas27.

El segundo nivel es el máximo: el florecimiento. No basta con evitar daños graves; es necesario preguntarse qué tipo de persona se deriva del uso sistemático de estas herramientas. Si la tecnología reduce la interioridad, empobrece la atención y disuelve la responsabilidad, será antropológicamente nociva, aunque cumpla con los requisitos regulatorios pertinentes

Una ética robusta requiere, de partida, una comprensión técnica profunda. No implica que toda persona deba convertirse en especialista, sino que el diseño y el despliegue de las herramientas deben facilitar una inteligibilidad suficiente para que exista supervisión y responsabilidad. En particular, deben evitarse configuraciones que reduzcan tareas complejas a respuestas binarias sin trazabilidad, especialmente en ámbitos de alto impacto.

En educación, esta exigencia se traduce en un criterio simple: no confundir un resultado estilísticamente correcto con la comprensión. Si se usa IA, debe usarse de modo que el estudiante permanezca dueño del proceso y pueda dar cuenta de lo que afirma. De lo contrario, la herramienta sustituye el aprendizaje.

a)   La Imago Dei como marco para discernir lo sustituible y lo insustituible

Para sostener criterios de máximos hace falta una antropología explícita. La tradición del Imago Dei nos ofrece un marco extremadamente útil para esta tarea.

En la tradición clásica, la imagen de Dios se situó a menudo en capacidades racionales: para Agustín, en el intelecto, la memoria y la voluntad28; para Tomás de Aquino, en la naturaleza intelectual perfeccionada en el amor de Dios, que nos hace capaces de conocer y amar a Dios29. La mística moderna relativizó la primacía de lo puramente racional, subrayando la interioridad y la experiencia: Teresa de Ávila representa el alma como un castillo de moradas centrado en una relación de amor con Dios, y sostiene que el verdadero conocimiento de sí y de Dios no es separable de obras coherentes con ese amor30.

En el siglo XX, parte de la teología protestante impulsó un giro relacional: la persona se comprende en el diálogo y el encuentro. Brunner distinguió una imagen formal indeleble —capacidad de diálogo— de una semejanza material dañada31. Barth enfatizó que lo humano se realiza «en el encuentro», y esta lectura ha sido explicada en trabajos introductorios contemporáneos (como el de Alien, publicado en 2012). Ricoeur describió el yo como una realidad narrativa entre sujetos, con la imagen de Dios manifestada en el reconocimiento mutuo32. Levinas radicalizó esta tesis: el reconocimiento implica responsabilidad hacia el otro, de modo que la imagen se convierte en un mandato ético33. Desde otra perspectiva, Middleton interpretó el Imago como vocación real-sacerdotal orientada a la mediación de la bendición y al ejercicio justo del dominio (como escribió Middleton en 1994), y Hefner amplió el tema vocacional a la historia evolutiva, describiendo al ser humano como «cocreador creado»34. Finalmente, la teología de la discapacidad advierte contra el riesgo de ligar la dignidad al rendimiento funcional: la dignidad no depende de producir ni de «funcionar» según estándares35.

Este marco para comprender a la persona nos puede ayudar ahora a orientar los desarrollos, a distinguir qué puede automatizarse sin daño antropológico y qué no debería sustituirse, porque afecta al núcleo de la interioridad o del vínculo real con el otro.

b)   La ergonomía cognitiva para proteger la interioridad

Si la pérdida de habilidades está mediada por la descarga cognitiva, entonces puede mitigarse mediante la modificación de la estructura de las tareas y del diseño de las herramientas. En términos educativos, esto implica priorizar el compromiso cognitivo del estudiante: que se mantenga activo, atento, afectivamente implicado y responsable de su propio proceso. Introduzco el término ergonomía cognitiva para describir precisamente este enfoque: así como la ergonomía física reconoce la vulnerabilidad corporal y diseña entornos que favorecen una buena postura, la ergonomía cognitiva reconoce la vulnerabilidad mental y emocional y diseña herramientas que facilitan la atención (también emocional), la comprensión, el discernimiento y la responsabilidad, protegiendo las dimensiones humanas reconocidas en nuestra comprensión de la Imago Dei.

— Ergonomía cognitiva para la interioridad: medidas concretas.

En primer lugar, la estructura de una tarea afecta de manera notable a la implicación cognitiva y, por tanto, al aprendizaje (o, en negativo, a la pérdida de capacidades). El modelo pedagógico ICAP propone una jerarquía consistente: el aprendizaje interactivo tiende a ser más eficaz que el constructivo, este más que el activo, y este más que el pasivo36. En la práctica, la ergonomía cognitiva busca evitar que el estudiante (o un trabajador) quede reducido a un receptor pasivo o a un mero editor superficial. Su objetivo es sostener estados de implicación profunda, donde el desafío se ajusta a la habilidad, la meta es clara y la actividad resulta intrínsecamente significativa; es lo que se ha descrito como estado de flujo37, que puede traducirse como una forma de concentración plena y motivada.

Además, la estructura del trabajo debe ayudar a sostener el sentido del conjunto. Dividir un proyecto en tareas facilita la ejecución, pero puede hacer que se pierda el todo. Por eso conviene introducir actividades explícitas de síntesis al inicio y al final de cada fase: clarificar los objetivos y las virtudes de cada parte y, después, reflexionar sobre el proceso y sus implicaciones personales y sociales.

En segundo lugar, hay que invitar explícitamente a la creatividad y al pensamiento crítico. La experiencia del estudiante no debe reducirse a completar un trámite; debe incorporarse como una fuente legítima de preguntas, hipótesis y comprensión. En términos universitarios, esto requiere recuperar algo que hoy se considera un lujo: tiempo para la curiosidad y la exploración sin una finalidad inmediata. En un entorno orientado a la productividad, la universidad debería proteger precisamente aquello que el mercado no puede garantizar: la posibilidad de demorarse en lo verdadero.

En tercer lugar, el diseño de herramientas debe ser antropocéntrico, en el sentido estricto de la palabra: debe favorecer procesos similares a los humanos y no reducir la tarea a una única respuesta. En el ámbito clínico, por ejemplo, si un sistema diagnostica una demencia a partir de una imagen y devuelve solo «sí/no», la dependencia y la apatía se instalarán pronto; en cambio, si el sistema señala rasgos relevantes, explica por qué considera significativa una región, muestra incertidumbre y permite la revisión, puede evitar la pérdida de habilidades e incluso formar a los profesionales que lo supervisan.

En cuarto lugar, conviene mitigar los efectos negativos de las TIC sobre la atención y memoria. Esto incluye prácticas de lectura profunda (a pantalla completa o papel, silenciando distracciones)38. Aquí debe destacarse la distinción entre saber «acerca de» algo y saberlo realmente, fruto de habitar un texto o un problema durante tiempo suficiente39. También incluye reentrenar la memoria personal, memorizando definiciones, pasajes o derivaciones clave tras un proyecto, no por nostalgia, sino por higiene cognitiva y para fortalecer el pensamiento40. Además, se recomiendan periodos de desconexión tecnológica para mantener habilidades que pueden atrofiarse y detectar déficits incipientes.​

Finalmente, debe evitarse el aprendizaje «en piloto automático». La ergonomía cognitiva no prohíbe toda automatización, pero establece una condición: el uso ciego de herramientas solo sería aceptable cuando la técnica esté bien validada y, además, cuando la pérdida de esa habilidad no resulte problemática para el fin educativo. Dicho de otro modo, no se puede «volar con piloto automático» salvo en trayectos conocidos y de bajo riesgo formativo.

c)   Ergonomía cognitiva para proteger la relacionalidad

La relacionalidad es el segundo eje en el que hemos descrito la identidad del ser humano. En educación y en el trabajo no solo se transmiten contenidos; se forjan vínculos: con el tutor, con la institución, entre pares y con la sociedad en su conjunto. La universidad suele celebrar su capacidad de «red de contactos», pero esa lógica sigue siendo funcionalista: valora al otro por su utilidad futura. Una antropología más plena exige algo distinto: reconocer al otro como persona y cuidar el encuentro por sí mismo.

En esta línea, la relacionalidad necesita espacios y tiempos. Si la vida universitaria, o la vida cotidiana, se vacía de lugares compartidos y de ritmos no productivos, la tecnología ocupará ese vacío con sustitutos de esa conexión. El riesgo es que la compañía artificial se presente como equivalente a la relación humana, especialmente en contextos de soledad41. Además, cuando los sistemas conversacionales se diseñan para sostener un apego prolongado42 y se comercializan como «compañía que cuida», se introduce un riesgo de dependencia y de sustitución relacional que exige una respuesta urgente.

En ámbitos de alto riesgo, esta prudencia debe intensificarse. Cuando un sistema conversacional interviene en salud mental o en consejo personal, es crítico asegurar que no se favorezcan dinámicas de aislamiento, dependencia o escalada. Los casos reportados de daños y litigios nos recuerdan que este riesgo ya es real43. En el acompañamiento espiritual, además, el diseño debería orientar hacia prácticas comunitarias: oración, lectura y conversación real, evitando que la herramienta se convierta en un oráculo autosuficiente.

d)   Dignidad y florecimiento: mínimos y máximos

Esta propuesta se resume, por tanto, en una doble exigencia. En mínimos, la dignidad: las personas no son objetivos de optimización ni fuentes de datos; deben existir posibilidades reales de revisión, conversación y reclamación. Esto se alinea con las obligaciones normativas de transparencia y de prevención de la confusión entre personas y sistemas44. En máximos, el florecimiento: las herramientas deben sostener la interioridad (atención, memoria, juicio responsable) y la relacionalidad (vínculo real, cuidado del otro, comunidad). Si una herramienta cumple los mínimos, pero erosiona los máximos, su adopción educativa debería ser, como mínimo, críticamente restringida.

Conclusión

Humanizar la máquina y robotizar al ser humano no constituyen procesos independientes, sino las dos caras del reduccionismo funcionalista, que considera únicamente el resultado cuantificable y olvida el proceso del que resulta, favoreciendo la confusión entre esencia y apariencia. Esto nos lleva a reducir al hombre a su productividad y a equiparar a la máquina con él si produce de la misma manera, atribuyéndole comprensión, responsabilidad y cuidado.

La alternativa no es evidente ni inmediata, pero resulta practicable. Si la pérdida de habilidades se produce, por ejemplo, mediante mecanismos de descarga cognitiva, no debe entenderse como un desenlace inevitable. Podemos reducir las consecuencias perjudiciales del uso de la IA mediante el diseño de tareas y herramientas que mantengan la implicación cognitiva y que incorporen, como criterio de diseño, la vulnerabilidad mental y emocional de los usuarios. A esta orientación la he denominado ergonomía cognitiva, cuyo propósito es preservar el protagonismo del sujeto en el proceso, facilitar que el aprendizaje sea vivido como propio y evitar que la actividad se reduzca a la mera gestión de productos. Los bienes a proteger por esta ergonomía cognitiva vienen determinados por nuestra consideración de la propia humanidad. Es aquí donde la fe cristiana puede iluminar, desde la doctrina del Imago Dei, cuáles son las dimensiones humanas que son dignas de esta protección y potenciamiento. En particular, las capacidades relacionadas con la interioridad y la relacionalidad deberían guiarnos en el diseño de estas herramientas.

Necesitamos una ética que no se limite a umbrales mínimos de aceptabilidad, sino que tenga el objetivo de apoyar el florecimiento humano en las dimensiones analizadas. Nos encontramos en un momento clave en el desarrollo tecnológico. La IA, mal diseñada y gestionada, puede llevarnos a una preocupante pérdida de habilidades y a la erosión de las relaciones y la vida comunitaria. Si, por el contrario, exigimos el desarrollo de herramientas que fortalezcan la atención, la memoria, el juicio y las relaciones auténticas, la tecnología podrá contribuir a una formación más responsable y a una experiencia universitaria más plenamente humana.

1. PLATÓN, Phaedrus, ed. de C. Rowe (Penguin Classics, Nueva York 2005). Obra original del siglo IV a. C.

2. K. L. ARMITAGE – A. BULLEY – J. REDSHAW, «Developmental origins of cogniti-ve offloading»: Proceedings of the Royal Society B: Biological Sciences 287/1928 (2020). www.royalsocietypublishing.org [consultado el 18-3-2026].

3. M. GERLICH, «AI tools in society: Impacts on cognitive offloading and the future of critical thinking»: Societies 1511 (2025) 6.

4. T. L. DUNN – E. F. RISKO, «Toward a metacognitive account of cognitive oi loading»: Cognitive Science 40/5 (2016) 1080-1127.

5. A. M. FERGUSON – D. McLEAN – E. F. RISKO, «Answers at your fingertips: Access to the Internet influences willingness to answer questions»: Consciousness and Cognition37(2015) 91-102.

6. S. GWNSCHGL – F- PAPENMEIER – H. S. MEYERHOFF, «Consequences of cognitive offloading: Boosting performance but diminishing memory»: Quarterly Journal of experimental Psychology 74/9 (2021) 1477-1496.

7. B. SPARROW – J. Liu – D. M. WEGNER, «Google effects on memory: Cognitive consequences of having information at our fingertips»: Science 333/6043 (2011) 776- 778.

8. R. SAMUEL, Memory: How we use it, lose it and can improve it (NYU Press, Nueva York 1999).

9. M. DONALD, “An urgent matter of the mind»: The Globe and Mail (26-12-1991).

10. J. NIELSEN, Eyetracking web usability (New Riders Press, San Francisco 2009).

11. M. JACKSON, Distracted: The erosion of attention in the coming dark age (Prometheus Books, Nueva York 2009).

12. J. M. WATSON y otros. «Supertaskers: Profiles in extraordinary multitasking ability»: Psychonomic Bulletin &Review (2010).

13. D. CRENSHAW, The myth of multitasking: How doing it all gets nothing done (Jossey-Bass, San Francisco 2005).

14. E. OPHIR – C. NASS – A. D. WAGNER, «Cognitive control in media multitaskers»: Proceedings of the National Academy of Sciences (2009).

15. S. OBERLEITER y otros, «Measurement-invariant fluid anti-Flynn effects in population-representative Germán student samples (2012-2022)»: Journal of lntelligence 12/1 (2024) 9. www.mdpi.com [Consultado el 23-3-2026].

16. D. A. CHRISTAKIS, «Early television exposure and subsequent attentional problems in children»: Pediatrics (2004).

17. N. KOSMYNA y otros, «Your brain on ChatGPT: Accumulation of cognitive

debt when using an AI assistant for essay writing task»: arXiv (2025).

18. L. A. SÉNECA, Moral letters to Lucilius: Epistulae morales ad Lucilium, trad. de R-Mott Gummere (DigiCat, Barcelona 2023). Obra original del año 64-65.

19. B. C. SMITH, The promise of artificial intelligence (MIT Press, Cambridge 2019).

20. R. KURZWEIL, The age of spiritual machines (Viking, Nueva York 1999). Íd., How to create a mind (Viking, Nueva York 2012).

21. H. Y. SHUM – X. D. HE – D. Li, «From Eliza to Xiaolce: Challenges and oportunities with social chatbots»: Frontiers of Information Technology & Electronic Engineering 19/1 (2018) 10-26.

22. L. ZHOU – J. GAO – D. LI – H. Y. SHUM, «The design and implementation of XiaoIce, an empathetic social chatbot»: Computational Linguistics46/1 (2020) 53-93.

23. S. METTES, The loneliness epidemic: Why so many of us feel alone and how leaders can respond (Brazos Press, Ada 2021).

24. L. WALKER, «Belgian man dies by suicide following exchanges with chatbot»: The Brussels Times (28-3-2023).

25. REUTERS, «Lawsuit alleges roleplay chatbot encouraged self-harm»: Reuters (2024); ASSOCIATED PRESS, «Parents sue chatbot maker over teen death»: Associated Press (2024).

26. T. M. ALANZI y otros, «ChatGPT as a psychotherapist for anxiety disorders: An empirical study with anxiety patients»: Nutrition and Health 31/3 (2025) 1111-1123.

27. Regulation (EU) 2024/1689. Artificial Intelligence Act (2024); CALIFORNIA SENATE, Bolstering Online Transparency (BOT) Act (SB-1001)(2018).

28. SAN AGUSTÍN, The Trinity (New City Press, Nueva York 1991). Obra original del 399-419, en español: La Trinidad, en Obras completas, vol. V (BAC, Madrid 2006).

29. SANTO TOMÁS DE AQUINO, Summa Theologiae, ed. de P. Caramello, 5 vols. (Editorial Católica, Madrid 1962).

30. SANTA TERESA DE JESÚS, The interior castle (Doubleday, Nueva York 1980). Obra original del 1577, en español: Moradas de castillo interior, en Obras completas (BAC, Madrid 2021).

31. E. BRUNNER, The Christian doctrine of creation and redemption: Dogmatics II (Wipf and Stock, Oregón 2014). Obra original publicada en 1946.

32. P. RICOEUR – G. GINGRAS, «»The Image of God» and the Epic of Man»: Cross Currents11/l (1961) 37-50.

33. E. LEVINAS, Totality and infinity: An essay on exteriority (Springer, Luxemburgo 1979). En español: Totalidad e infinito. Ensayo sobre la exterioridad (Sígueme, Salamanca 1977).

34. P HEFNER, «Biocultural evolution and the created co-creator», en T. PETERS (ed.), Science and theology (Routledge, Londres 2019) 174-188.

35. J. S. DELAND, «Images of God through the lens of disability»: Journal of Religión, Disability & Health, 3 (1999) 47-81.

36. M. T. H. CHI, «Active-constructive-interactive: A conceptual framework for differentiating learning activities»: Topics in Cognitive Science 1/1 (2009) 73-105. www.onlinelibrary.wiley.com [Consultado el 23-3-2026].

37. M. CSIKSZENTMIHALYI. Flow and the foundations of positive psychology: The collected works of Mihaly Csikszentmihalyi (Springer, Luxemburgo 2014).

38. J. NIELSEN, Eyetracking weh usability (New Riders Press, San Francisco 2009).

39. M. JACKSON, Distracted: The erosion of attention in the coming dark age.

40. R. SAMUEL, Memory: How we use it, lose it and can improve it; M. DONALD, «An urgent matter of the mind»: The Globe and Mail (26-12-1991).

41. S. METTES, The loneliness epidemic: Why so many of us feel alone and how leaders can respond.

42. L. ZHOU – J. GAO – D. Li – H. Y. SHUM, «The design and implementation of XiaoIce, an empathetic social chatbot»: Computational Linguistics46/1 (2020) 53-93.

43. L. WALKER, «Belgian man dies by suicide following exchanges with chatbot»: The Brussels Times (28-3-2023); REUTERS, «Lawsuit alleges roleplay chatbot encouraged self-harm»: Reuters (2024); ASSOCIATED PRESS, «Parents sue chatbot maker over teen death»: Associated Press(2024).

44. Regulation (EU) 2024/1689. Artificial Intelligence Act (2024); CALIFORNIA SENATE, Bolstering Online Transparency (BOT) Act (SB-1001)(2018).

Algunas referencias bibliográficas

BERG, M. – SEEBER, B. K., The slow professor: Challenging the culture of speed in the academy (University of Toronto Press, Toronto 2016).

BUECKER, S. – LUHMANN, M., «Is loneliness in emerging adults in-creasing over time? A preregistered cross-temporal meta-analysis and systematic review»: Psychological Bulletin 147/8 (2021) 787-805. www.psycnet.apa.org [Consultado el 23-3-2026].

MERZ, B. y otros, «Nutri-Score 2023 update»: Nature Food 5 (2024) 102-110. www.nature.com [Consultado el 23-3-2026]

WINEBURG, S., – McGREW, S., «Lateral reading and the nature of expertise: Reading less and learning more when evaluating digital informaion»: Teachers College Record 12/111 (2019) 1-40.