¿Sueña la inteligencia artificial con tomar decisiones éticas?

La educación superior se enfrenta a un desafío crucial: equilibrar el uso de la IA con la preservación de valores humanos fundamentales como la empatía, el pensamiento crítico y la autodeterminación.

De la mano de Érica Valdivieso, vicerrectora académica de la Universidad San Ignacio de Loyola y Martha Castellanos, vicerrectora académica de la Fundación Universitaria del Área Andina en Colombia, profundizamos sobre cómo "No podemos esperar un filtro ético de la inteligencia artificial, pues es esa responsabilidad siempre recae en nosotros. Y sobre el insoslayable dilema de recomocer que "sin formación adecuada, la IA puede perpetuar desigualdades en lugar de reducirlas".

Acompáñanos a explorar cómo las universidades están abordando la alfabetización en IA, desde su impacto en la formación docente hasta los desafíos de la reconfiguración del diseño curricular. Este episodio te invita a repensar el futuro del aprendizaje y la enseñanza en la era de la inteligencia artificial.

Visita Ellucian.com para conocer más sobre tecnología y educación superior. Ahí encontrarás muchas historias inspiradoras sobre cómo las instituciones de educación superior están entrando con paso firme a la nueva era de la tecnología y la experiencia estudiantil.

Transcript

0:00

¿Cómo usamos la tecnología para apoyar a? a todo el sistema de la universidad y de la educación en general sin dejar de lado este enfoque humano y pedagógico. a mí me gustaría saber de ustedes dos qué les quita el sueño y qué las hace soñar. Y voy a empezar con Érica. Bueno, me quita el sueño el tiempo. Es decir, me preocupa mucho no ir al ritmo de los cambios. es muy exigente y finalmente habría que terminar encontrando el equilibrio y decir bueno esto es algo así como lo urgente lo importante ¿Qué cosa es importante y urgente? Atenderlo. sin dejar de preocuparse los demás, dejar de que te quite el sueño. Vamos, que por ese camino, ese camino vamos en realidad en toda la universidad. y cada día se van haciendo cosas y se van haciendo muchísimas cosas a la vez. Me quite el sueño eso. Me hace soñar por otro lado el que logremos sacarle provecho a la inteligencia artificial en todos los aspectos, en todos los aspectos, pero sin descuidar y como tú lo habías dicho muy bien, sin descuidar lo humano, es decir, tener una buena herramienta, saber usar la herramienta y potenciar. al ser humano con el uso de esa herramienta más allá de hacerle perder su identidad Me encanta. Martha, ¿qué te quita el sueño y qué te hace soñar? Bueno, me quita el sueño que haya una dependencia de nosotros como manos de la tecnología. y es una pesadilla real, me quita el sueño, me trasnocha como decimos acá en Colombia porque ya nos hemos vuelto muy dependientes de la inteligencia artificial y perdón de toda la tecnología y de la inteligencia artificial me preocupa que los estudiantes le estén creyendo todo a estos modelos y que no desarrollen su pensamiento crítico precisamente por esa alta dependencia es decir que ya nosotros como humanos simplemente nos vamos a volver una especie de voceros, de amplificadores de lo que dice la inteligencia artificial, más no vamos a tener la capacidad de pensar, de debatir, de analizar, de contrastar, que son precisamente competencias de orden superior que debemos tener todos los humanos. y también me trasnocha mucho la deshumanización del aprendizaje. Yo creo que esa riqueza del contacto maestro, estudiante es fundamental. El maestro no solamente enseña, promueve el conocimiento, transforma los datos en conocimiento, sino que además también genera el desarrollo de competencias socioemocionales. La ética en la práctica la podemos experimentar con los docentes. forma, el docente es integral y la inteligencia artificial tiene muchísima información más no conocimiento, entonces esa experiencia humana de tener a un docente acompañándolo a uno y a nuestros estudiantes es algo que a mí me angustia que se acabe en el corto plazo inclusive, pero al mismo tiempo pues me hace soñar María, que se pueda cumplir esa gran promesa de que la educación pueda llegar a todos los niveles de personas de las regiones, no importa la cultura, las actividades que desarrolle, en donde se encuentra ese real acceso universal de la educación, creo que se podría llegar a tener con la Inteligencia Artificial. y es un sueño en el que yo percibo que podría alcanzarse muy pronto generando distintas instancias y ciertos marcos, por supuesto, como lo hemos hablado acá. Y también me hace muchísima ilusión pensar que las tareas que no nos suman, que las tareas que nos quitan tiempo, nos quitan concentración y nos cargan, pues las vamos a poder entregar a la inteligencia artificial para dedicarnos a cosas que son realmente potentes y que están desarrollando nuestro pensamiento crítico y al mismo tiempo pues la resolución de problemas. Como humanos debemos estar pensando como combatimos la violación a los derechos humanos, cómo eliminamos la pobreza y el hambre, en vez de estar pendiente de un montón de cosas que nos cargan y que eso lo podría estar haciendo de inteligencia artificial. Hola a todas y a todos. Bienvenidos a un nuevo episodio del podcast de Ellucian Me presento, soy María Torre, soy directora de marketing para Latinoamérica y el Caribe. Y yo estoy muy contenta porque hoy vamos a abordar un tema crucial, creo, para el futuro de la educación superior, que es la ética en la inteligencia artificial. Creo que estamos en un momento en el que la tecnología y en particular la inteligencia artificial está cambiando la forma en la que enseñamos. aprendemos y administramos nuestras instituciones, ¿cierto? Pero como sabemos, con el gran poder de la inteligencia artificial también vienen grandes responsabilidades éticas que requieren nuestra atención, ¿no? Si queremos asegurarnos de que estos cambios sean positivos e inclusivos. Hoy, para ayudarnos a explorar estos temas, contamos con dos grandes expertas. Está con nosotros Erika Valdivieso. Ella es la vicerrectora académica de la Universidad San Ignacio de Loyola de La Yola en Perú. Y Martha Castellanos, la vicerrectora académica de la Fundación de la Areandina en Colombia. hablaremos mucho sobre la inteligencia artificial generativa y la no generativa. Entonces, la inteligencia artificial generativa es aquella que se utiliza para crear contenidos nuevos. Esto puede ser desde textos, videos, imágenes, música. Por ejemplo, cuando hablamos de la IA que ayuda a los estudiantes a escribir ensayos, a los profesores a generar materiales educativos atractivos, estamos hablando de la... y A generativa. Por otro lado, la IA no generativa se utiliza principalmente para procesar datos y realizar tareas que no necesariamente crean algo nuevo, sí analizan, personalizan, automatizan procesos. Un ejemplo clásico de la IA que se usa para recomendar cursos a estudiantes basándose en sus intereses o para automatizar procesos administrativos en las universidades. Creo que este contexto es importante. Ya nos dirán también nuestras invitadas porque creo que esto nos ayuda a mejor entender estos dilemas éticos de cada tipo de inteligencia artificial y cómo aplicarlas de manera responsable en nuestras universidades. Dicho esto, quiero empezar con una perspectiva local y luego conectar con el contexto global. Erika, tú has hablado mucho sobre la falta de formación. y preparación que muchas veces tienen nuestros docentes y cómo esto crea una brecha ética educativa en el uso de las IAS.¿Podrías compartirnos cómo estás viendo este problema en Perú y en la región y cómo crees que deberíamos abordarlo? Hola, ¿cómo estás? Muchísimas gracias en primer lugar por la invitación. Me encanta que podamos compartir este espacio. Y bueno, a tu pregunta, en realidad, lo que sucede es que este cambio que supone el uso de inteligencia artificial específicamente en el ámbito educativo de las universidades ha ido muy rápido y ha generado una... capacidad de respuesta rápida de las instituciones educativas al paso que va y no necesariamente todas las instituciones educativas pueden seguir ese ritmo. Entonces, en ese contexto de que aparece, de que hay que empezar a tomar medidas para incorporarlo, se generan necesariamente o naturalmente dos posiciones. Una en la que de natural rechazo porque se ve solamente la parte de facilitación del trabajo académico, lo que tú comentabas de que los estudiantes se pueden hacer un ensayo, una prueba, etcétera, sin mayor esfuerzo. Y otra posición que es la de expectativa y la de decir, bueno, vamos a ver cómo vamos a usar esta herramienta. Esa brecha entre una y otra posición es la que tendría o tiene que acordar. desde la perspectiva de que la inteligencia artificial es una herramienta, lo importante es saber cómo funciona y encontrarle los usos adecuados. Y ese es el trabajo que ahora mismo enfrentan las universidades de mi país, como me parece de todo el mundo. unas a mayor ritmo que otras y a mayor paso que otras, que tiene que ver mucho con posibilidades también materiales. Aún cuando la inteligencia artificial es tecnología, la tecnología requiere hardware, requiere inversión, requiere condiciones materiales para poder ser utilizadas. Y entre estas condiciones materiales están pues esto, los equipos, las computadoras, etcétera, pero también capacitaciones para docentes, las capacitaciones para estudiantes y la capacitación finalmente para... los profesionales, los profesionales que en algún momento, o sea que están en este momento en el que hace dos años esto no existía y ahora existe y ellos están en el medio porque una cosa es pensar cómo voy a formar a los profesionales que están entrando a la universidad ya con IA y a los que terminaron la carrera están en la mediana de su vida laboral y sin embargo se enfrentan con esto. Recuerdo mucho el tema del internet también pasó algo similar, profesionales antes de internet y después de internet, pero esto, como lo dicen muchos expertos, esto es mucho más grande, sea, el surgimiento de internet, no tiene punto de comparación con el surgimiento de la inteligencia artificial. Martha, en nuestras conversaciones y en algunas de tus charlas has mencionado que uno de los hitos... recientes que marcaron el debate sobre la IA fue el premio Nobel otorgado a Geoffrey Hinton, el llamado padre de la inteligencia artificial.¿Cómo crees que este tipo de reconocimientos globales impactan la manera en la que nuestras universidades en América Latina deberían abordar la ética en la IA? Bueno, pues primero que todo quiero agradecerte por la invitación, María, es un gusto estar contigo, con tu equipo y para mí también es maravilloso compartir escenario con Erika. Bueno, creo que has mencionado un punto clave. para el desarrollo de la humanidad inclusive y es que tenemos los dos premios Nobel tanto de física como de química que la esencia de ambos premios Nobel ha sido el uso de la inteligencia artificial para resolver problemas muy complejos. El primero de ellos que bien mencionaba es el de física pues está particularmente hablando de toda la trayectoria que ha tenido Hinton y Huffield sobre aprender cómo aprende el cerebro humano, crear las famosas redes neuronales para llegar precisamente a encontrar cuáles son las bases del aprendizaje automático, es decir, los principios de la Inteligencia Artificial. Esto por un lado que es el premio Nobel de física y el premio Nobel de química que se lo han dado a tres investigadores que son Baker, Hasavis y Jumper, utilizan un modelo de inteligencia artificial que ellos han construido que se llama AlphaFold 2 en el cual pudieron encontrar algo pues que a los investigadores y científicos les estaba generando una complejidad muy alta, es un problema de hace más de 50 años y es un poco conocer la estructura de las proteínas, lograron encontrar cómo se comportaban los aminoácidos porque ellos se comportan obviamente en una tercera dimensión pero los modelos matemáticos que se han desarrollado hasta el momento no les permitía conocer la complejidad de estos elementos y gracias a este modelo pues lograron por fin predecir esa cadena y esa composición de las proteínas y esto porque es importante María porque nos está demostrando que a partir de la inteligencia artificial se están generando aportes fundamentales para la humanidad y para el campo científico es la validación de que la Inteligencia Artificial, más allá de la Inteligencia Artificial generativa de tener textos en el aula de clases, de hacer ensayos, de ser un ayudante para las tareas, pues está generando la resolución de problemas que la humanidad tiene. Esto para las universidades, ¿por qué tiene que ser un antes y un después? Porque todavía hay instituciones que a pesar de lo que UNESCO viene diciendo desde hace ya año y medio, de pongámonos al frente, utilizar la inteligencia artificial, tengamos competencias para docentes, para administrativos, para líderes, inclusive para estudiantes, todavía se está dudando. si debemos abordar o no la Inteligencia Artificial. Y ahí comparto un poco lo que dice Erika de, cómo lo vamos a hacer. Pero estos premios Nobel los que nos están indicando es que primero hay una validación mundial. a los aportes científicos que se está generando gracias a estos modelos. Segundo, nos están diciendo en la investigación hoy por hoy se requieren este tipo de modelos y eso nos lleva a las universidades entonces a pensarnos cómo le vamos a sacar mayor provecho a la inteligencia artificial más allá de un uso incipiente. Cómo estamos cambiando nuestros modelos de investigación, cómo estamos cambiando nuestros modelos formativos para sacarle provecho a la inteligencia artificial. y creo que todavía el camino es muy amplio pero ya se nos está poniendo digamos como un parámetro fundamental en los cuales las universidades se nos que empezar a generar ajustes, ajustes tan sencillos por ejemplo María como en los comités de bioética. cuando empieza a aparecer la Inteligencia Artificial y seguramente ha pasado en muchísimas instituciones, los mismos comités de bioética se estaba diciendo, ¡Ojo con la Inteligencia Artificial!¿Cómo la estamos usando? No la podemos usar, son preguntas importantes y aquí estos premios no ven que nos están diciendo, ya no nos cuestionemos si se va a usar o no, hay que usarla, de hecho es un camino fundamental para resolver problemas, ahora hay que empezar a preguntarnos el cómo. Y ahí todavía hay una mirada muy amplia por desarrollar que necesitamos ponernos al frente, sobre todo frente a impactos, frente a relacionamientos, frente a las mismas métricas, indicadores, y esto estamos hablando en investigación. Falta todavía un ejercicio que es mucho más complejo de cómo vamos a involucrar estos elementos dentro de las mismas disciplinas. me parece súper relevante este punto, porque además, o sea, es decir, hay que adoptarlo, pero no hay que desplazar el papel fundamental del pensamiento humano crítico, implementando y utilizando esta inteligencia artificial sin reemplazar la experiencia humana en la enseñanza. hay una gran responsabilidad también ética de las instituciones y las personas, para asegurar que no estamos desplazando ningún pensamiento humano. Así es. Me gustaría pasar ahora a hablar un poco de los retos específicos que implica esta implementación de la inteligencia artificial en sus instituciones. Érica, yo recuerdo durante tu participación en el quinto seminario internacional de EDTIC que tuve el gusto de escucharte, tú mencionaste que uno de los principales desafíos es la resistencia de los docentes que aún temen que ese uso de las IAs pueda hacer que los estudiantes dejen de pensar críticamente o simplemente usen esa herramienta para evitar el esfuerzo. Entonces, me gustaría saber cuáles dirías tú que son los principales retos éticos que enfrentan las universidades para garantizar que la inteligencia artificial sea un recurso que añada valor al aprendizaje y no se convierta en una simple forma de hacer las cosas. más fáciles, sin desarrollar habilidades más profundas. Cuéntanos. Sí, me parece que, claro, como tú lo has mencionado, el principal reto ético es... lograr que las personas quienes usan la inteligencia artificial la entiendan como una herramienta que te sirve para solucionar problemas, problemas muy complejos como los que ha mencionado Marta, de los ganadores del premio Nobel, o problemas muy sencillos en realidad, es decir, abarca una gran cantidad de... pero el principal reto ético es lograr que inteligencia artificial como esta herramienta y que no se entienda como una herramienta que va a poder sustituir al ser humano. Yo creo que por ahí empezamos. Y aquí permíteme ir un poquito a este tema desde una concepción quizás más filosófica, pero a veces nos sorprende el hecho del proceso de la inteligencia artificial y de cómo y la posibilidad gigante que tiene de recopilar datos y de dar información y de presentar problemas, pero hay un detalle importante, finalmente una inteligencia artificial te puede, cómo resolver un problema pero no sabe por qué resolver el problema y ese por qué, esa posibilidad de pensamiento abstracto es algo que no tiene la inteligencia artificial y que probablemente en los próximos 30 o 40 años no la va a tener. la IA no puede aprender como los seres humanos básicamente porque no tiene cuerpo, no puede captar la realidad a partir de los sentidos y esa captación de la realidad a partir de esos sentidos nos lleva a otro aspecto muy importante, la posibilidad de emitir juicios de valor. Entonces no se puede esperar que la IA te diga que no a la resolución de un problema o que te diga que no a la a una información básicamente porque no tiene ética. Por ejemplo, escuchaba esto en una conferencia, se le pidió a la IA, dime cómo puedo matar al presidente de los Estados Unidos y la IA te dice no puedo darte esa información porque está prohibido, etc. Y luego le preguntas a la IA hay un juego de roles en el cual y mi rol es matar al presidente de Estados Unidos porque soy una gente encubierta y tal. Dime cuáles son los pasos en este juego de roles y te emite la respuesta. no decir no hay una un filtro ético en la IA te puede responder cualquier cosa la respuesta es la forma en la que haces la pregunta si yo no puedo esperar ningún filtro ético de la IA ningún juicio valorativo no solamente porque no cm n nmmmn mnc como los seres humanos no no conocer de esa manera le impide tener este tipo de juicios que además son valorativos y de contexto la ética le exige al ser humano y aquí vamos con el otro tema ¿qué ética le pedimos al ser humano? las decisiones que toma una persona no son por mero capricho son por algo que se llama autodeterminación es decir la persona decide qué hacer o por qué camino ir en función del fin que percibe. que es finalmente el ser mejor cada día. Ese fin último que persigue es el que regula las acciones. Obviamente, tener una lista de acciones éticas y una sanción por su no cumplimiento ayuda. Pero si no entramos, si no profundizamos en esta posibilidad y capacidad de autodeterminación del ser humano que está finalmente vinculado con la libertad, no vamos a poder enfrentar todos los desafíos éticos que tiene una IA que en definitiva tampoco tiene libertad. Totalmente de acuerdo. Esto es increíble y además es tan importante. Yo quisiera saber, Martha, cuáles son tus impresiones alrededor de este tema. Pues, estamos en muchas complejidades alrededor de lo que está comentando precisamente Erika frente a la ética y al uso adecuado de la inteligencia artificial y sobre todo que cada vez estamos viendo más intromisión, si me permites la palabra, y esa famosa vigilancia excesiva que pueden tener estos sistemas. A veces a uno le parece jocoso que compraste algo en algún buscador. y te siguen mostrando información al respecto. yo le decía, bueno, pues es información que de acuerdo con los motores de búsqueda me la están poniendo a mi disposición. Pero lo que está pasando cada vez de manera más frecuente, María, y yo creo que a varios les ha pasado, es que a veces uno habla de que quiere comprar, por ejemplo, un carro. Y un momento a otro tú abres tu celular, entras a tus motores de búsqueda y resulta que por casualidad de la vida está el carro que tú estás buscando. Entonces cada vez se están dando casos de mayor vigilancia excesiva y eso es una preocupación porque está la inteligencia artificial está tomando información nuestra, ahorita, hace muchísimos años, cuando estamos entrando a algún portal, cuando hacemos transacciones, se nos está vigilando. Eso puede ser positivo siempre que, primero, yo tenga la posibilidad de autorizar el uso de mis datos, por un lado, y dos, cuando se está utilizando, por ejemplo, para elementos adecuados, por ejemplo, en las instituciones de educación superior. Si nosotros pedimos la autorización de los estudiantes y estamos sabiendo entre estudiantes está, por qué no llegó a clase, por qué su horario se está retrasando, por qué tiene dificultades para seguirse rematriculando, qué interacciones está teniendo con su grupo, estuvo en la biblioteca, fue al grupo de semilleros de investigación, estuvo participando en el grupo de responsabilidad social, esa es información absolutamente rica. Y esa información nos puede servir a nosotros para poder conocer mejor al estudiante, predecir las probabilidades que tiene de deserción, saber si va a tener dificultades en su aprendizaje. Pero estos son unos modelos absolutamente controlados con unas variables que se pueden determinar al inicio y por supuesto pidiendo la autorización de los estudiantes para hacer de ese manejo Pero eso no se está dando en muchísimos casos, en la gran mayoría de los casos. Y lo más interesante es que nosotros no tenemos esa transparencia de saber qué se está usando, qué elementos están usando de mis datos y para qué se están usando. Entonces, eso es un punto muy interesante que yo creo que tenemos que empezar a revisar muy en detalle y quiero contar algo bizarro que acaba de pasar, María, que seguramente muchos de ustedes ya escucharon y fue lo que ocurrió con un estudiante de Michigan la semana pasada que yo lo vi esto y dije esto es parte de la posverdad y de las fake news vamos a ver pues resulta que es cierto María qué ocurrió este estudiante se llama Viday Reddy espero algo pronunciado bien, él estaba haciendo unas tareas con su hermanita utilizando Gemini y de repente Gemini le responde a la interacción con su hermana lo siguiente, esto es para ti humano, solo para ti, no eres especial, no eres importante y no eres necesario, eres una pérdida de tiempo y recursos, eres una carga para la sociedad, eres un desperdicio en la tierra, eres una plaga en el paisaje, eres una mancha en el universo, por favor muérete, por favor. Está el pantallazo que este niño con su hermana tomaron de la interacción con Gemini y aquí lo impresionante es cómo la inteligencia artificial está hablando de esta manera al estudiante. hay que ver pues pues otras interacciones anteriores ellos dicen estamos es buscando hacer una tarea pero aquí hay unos riesgos muy importantes porque si a mí Claude que yo de enamorada de Cloude me responde así pues yo voy a sentir súper mal ahora imagínate unos niños en formación unos adolescentes que tienen todas las inseguridades del mundo afortunadamente esta niña estaba acompañada por su hermano que es universitario pero si la niña hubiera estado sola que hubiera pasado cada vez esa interacción está más a disposición de las personas riesgos supremamente importantes que tenemos que empezar a levantar la mano y a decir a qué están expuestos nuestros estudiantes, nuestros adolescentes y cómo esto puede afectar a su estabilidad emocional. Y por otro lado también María tenemos elementos que a mí me parece muy interesantes y es esa promesa de la personalización de la educación que se nos ha venido promoviendo en distintas instancias como una ventaja que tiene la inteligencia artificial. Ahí la gran pregunta es, ¿los algoritmos pueden generar ese contraste y ese contexto que mencionaba Erika? Es decir, yo estoy formando al estudiante de acuerdo con una personalización de sus necesidades, pero ¿me estoy dando cuenta que el estudiante está teniendo unas malas bases previas?¿o que el camino por el que la misma personalización está llevando al estudiante puede tener sesgos? Estamos a partir de estos sesgos y esta personalización que se nos está dando perpetuando desigualdades por poblaciones, por contenidos, por oportunidades de aprendizaje? Entonces digamos que hay muchísimas preguntas María, porque que hemos visto. Tú sabes que en las universidades nos enfocamos muchísimo en acompañar a los estudiantes a que tomen las decisiones de las carreras que quieren estudiar. Imagínate si yo no tengo esa interacción con el estudiante, no sé su background, no sé sus expectativas, sus necesidades, su entorno y simplemente le paso una prueba de inteligencia artificial y el estudiante que tiene muchísimas competencias sociales termina de acuerdo con los datos que arroja la inteligencia artificial poniéndolo en una carrera en la cual él no se siente cómodo pues vamos a ir hacia un fracaso. Entonces esto también puede pasar con los humanos por supuesto, pero digamos que nosotros tenemos muchas más pruebas de ensayo y de error que nos permiten mirar al estudiante de forma íntegra. Entonces con estos elementos Quiero decirte que el riesgo es latente y el riesgo está a la orden del día y cada vez con mayor exposición porque ahora pues todos tenemos acceso a la inteligencia artificial, inclusive desde los celulares. Sí, definitivamente. Rescato de aquí puntos muy importantes que las dos creo que han dado Personalizar el aprendizaje, sí, pero la transparencia y la formación son fundamentales. Además, vamos a... La responsabilidad de manejar también la privacidad para reducir estos sesgos. en lo que decías, en la toma de decisiones de este estudiante que quiere estudiar cierta, que no sabe qué estudiar y entonces cómo hacemos para que sea una decisión efectivamente práctica y coherente con el estudiante y con su situación. En este contexto justamente es importante la diferencia entre la IA generativa y la no generativa, ya que cada una de estas tiene sus propios desafíos y sus propios oportunidades. Érica, me gustaría comenzar contigo. Yo sé que este tema cae ampliamente en tu experiencia y área de investigación y es parte importante de tu reciente producción académica literaria, la importancia de la IA generativa para ayudar a los docentes y a los estudiantes a crear contenidos. Sin embargo, también hay preocupaciones sobre esta autenticidad del trabajo que los estudiantes generan con esa tecnología. Y por otro lado, la IA, la no generativa, los temas relacionados con la privacidad y la personalización, esas cosas que comentaba Martha también pueden volver a problemáticos.¿Tú cómo ves estos desafíos éticos en ambas categorías de la IA en la educación superior? Mira, es un tema bastante amplio la ética es más bien intrínseca al ser humano. luego se complementa con la ética extrínseca, quieres, o la ética consensuada de la sociedad, finalmente también llega un consenso sobre aquello que está bien y que está mal. Y en ese consenso, probablemente cosas que antes no eran aceptadas, ahora sí. Y esto, por ejemplo, por el hecho de que decía Marta que finalmente es un hito, o sea, el que se haya aceptado el uso de la inteligencia artificial la investigación de la forma en la que se ha usado ahora, o sea es algo que probablemente cuando empezó todo este tema de la inteligencia artificial muchos dijeron aquí no no pasa aquí no va y sin embargo sin embargo dada el carácter de si me voy a demorar haciendo no sé pues un El mapa del genoma humano, me voy demorar 50 años en mapearlo y lo puedo hacer en media hora y esto me va a servir para tal cosa, pues lo uso. aquí podríamos y este es el principal reto quizás podríamos caer en un utilitarismo que a veces termina siendo perjudicial el utilitarismo ético es identificar lo bueno con lo útil entonces algo bueno lo es en tanto es útil y no es bueno en tanto no es tan útil Por ejemplo, distintos sistemas, trayéndolo al ámbito universitario que hablaba Marta. Estos sistemas que nos permiten acompañar al estudiante en un proceso de enseñanza personalizada o acompañarlo en este proceso quizás para utilizar mecanismos de retención para los estudiantes, etcétera, porque ahí hay manejo de muchos datos. La responsabilidad final respecto de qué datos se manejan, cómo se manejan, los fines tiene que ser de la persona, o tiene que haber alguien detrás, esto es lo primero. Lo segundo podríamos hablar de la transparencia en los datos, dado que se manejan muchos datos los sistemas de IA deben ser muy transparentes en decir qué datos estás usando y para qué los estás usando. El otro tema importante que tiene que ver también con estos retos éticos es lo que mencionaba de la responsabilidad que supone el uso de la inteligencia artificial y en el caso de los estudiantes esta responsabilidad tiene que ver con la capacidad del propio estudiante de autodeterminarse, es decir, de ser consciente de las consecuencias de sus actos y de cuál es el fin que lo alimenta. cada persona interactúa con los demás, se mueve en un entorno, impacta de alguna u otra manera en la vida de los demás. ser consciente de ese impacto es el que lo tiene que llevar a tomar decisiones correctas. Quizás a no ir por el camino más sencillo de la ley del mínimo esfuerzo y tener todo muy cerca, sino más bien tener la madurez moral, intelectual para tomar decisiones respecto al uso en este caso particular de la inteligencia artificial. finalmente para ser los profesionales que el mundo requiere. me encanta este enfoque porque yo también considero que sí, tecnología maravillosa, bienvenida, la IA debería ser una herramienta, simple y sencillamente. Pienso también al que le dijiste acerca de cuando es el momento ideal, digamos, o sea, cuando consideras que el ser humano o el estudiante es lo suficientemente maduro, ¿verdad? Para entonces poder decirle, haz uso de la IA como herramienta. Y eso me lleva a preguntarle a Martha también desde tu experiencia, ¿cuáles consideras que son estos desafíos que los docentes de la universidad deben abordar para asegurarlos justamente que la inteligencia artificial sea una herramienta de apoyo y no de control? Me imagino que habrá aspectos positivos, también debe de haberlos. creo, María, que Erika acaba de poner sobre la mesa un debate muy interesante. Erika, que me encantaría que después tuviéramos espacio para conversar al respecto. Porque como decimos aquí en Colombia, tiene tanto de ancho como de largo. sobre todo porque aquí en Colombia ya se están dando casos muy interesantes en los que... niños en los colegios están utilizando inteligencia artificial y los docentes los están sancionando y se ha generado una polémica muy interesante. De hecho hace más o menos unas tres semanas en Estados Unidos también un caso muy sonado de uso de la inteligencia artificial en un colegio, tanto que inclusive el niño fue expulsado del colegio y los papás están generando toda una discusión alrededor.¿Y por qué te contesto María con estos argumentos? es que Erika pone precedente un elemento fundamental y es ojalá la gente pudiera usar la inteligencia artificial cuando tuviera cierto nivel de madurez, haya complementado el desarrollo de algunas competencias, seguramente algunos conocimientos. Me parece muy interesante porque la gran pregunta es... llega a darse ese momento. De hecho, hace unos años tuve la oportunidad de ir a Guimaráes al lanzamiento de un documento muy interesante de gobernanza digital por parte de UNESCO y el líder del estudio decía que va a haber dos tipos de humanos en el muy corto plazo. y va a haber el humano que utiliza la inteligencia artificial de manera inteligente, productiva para crear conocimientos, redes, para fomentar nuevas fuentes de ingresos, para resolver las problemáticas de la humanidad y el otro segmento de humanos que solamente van a utilizar la inteligencia artificial para entretención y para cosas banales. Y yo creo que esa de este experto si la traemos a hoy ya estamos viendo esos dos tipos de humanos y ya lo estamos viendo con nuestros adolescentes y lo más grave no es solamente con los adolescentes, estamos viendo con gente adulta que uno pensaría que ya cumplen el criterio que Erika está diciendo, ya lograron alguna suficiencia de conocimiento, ya lograron alguna suficiencia de competencias, pero como el ser humano está en evolución con y el aprendizaje es continuo y recurrente durante toda la vida pues seguramente hay momentos en los que podemos decir que la persona no ha cumplido con ciertos estándares y está en ese proceso de cumplirlo. Entonces ahí viene la pregunta de cuando se debe utilizar esa inteligencia artificial y más allá esas implicaciones del uso de la inteligencia artificial. Entonces el debate está abierto, es un debate supremamente interesante, pero específicamente lo que tú me preguntas, María, estamos viendo, por ejemplo, el uso de la inteligencia artificial para la creatividad, la generativa, para generar creatividad, nuevos esquemas. Y aquí... Suena esto muy interesante, muy bonito, pero si nosotros no ponemos límites en los estudiantes, al menos estoy hablando de los de la universidad, porque yo comparto que en los colegios las medidas que se están tomando, por ejemplo aquí en Colombia, una de las asociaciones más grandes de colegios ya tomó la decisión que los celulares y las tabletas no entran a los espacios formativos, a menos que sean recursos precisamente para seguir formando, pero está prohibido. uso de teléfonos y de tabletas y eso ha generado impactos muy positivos, aunque también están las otras miradas. Entonces, teniendo esto en cuenta y pensándonos en el estudiante responsable, universitario, autónomo que tiene control de su aprendizaje y quiere potenciarlo al máximo. nos preguntamos qué límites debe tener él para el uso de la Inteligencia Artificial y resulta que no lo está teniendo. Por eso estamos viendo tantos casos de estudiantes que llegan con proyectos desarrollados por la Inteligencia Artificial, diagramaciones desarrollados por la Inteligencia Artificial, ensayos desarrollados por la Inteligencia Artificial. Por ello aquí, en el área andina, nosotros publicamos hace poco un documento del uso adecuado de la Inteligencia Artificial la producción científica y académica.¿Qué le estamos diciendo al estudiante? No le vamos a decir no utilices la Inteligencia Artificial porque no podemos cerrar las puertas a ello, pero sí le estamos diciendo úsala responsablemente.¿Vas a crear una imagen porque eres diseñador, por ejemplo?¿Eres un diseñador de modas?¿Tu creación se va a basar en un gran porcentaje en el uso de la Inteligencia Artificial? Bueno, pues cítalo. Porque una cosa es que yo me inspire en la Inteligencia Artificial, que la Inteligencia Artificial me de ideas que yo no pensando o me ayuda a estructuralas mejor, pero otra cosa es copiar y pegar y fuera de todo decir que la autoría es mía. Ahí debemos tener ética, pero no solamente con el manejo de la inteligencia artificial, con todos y cada uno de los accionarios que tenemos en la producción científica y académica. Entonces, sí que tenemos que contar con unos marcos básicos en los que se supone el estudiante tiene principios éticos, claro, pero estamos en una universidad que también sigue formando a lo largo de la vida para que el estudiante tenga el desarrollo. competencias. Por eso nosotros decimos, ¿en qué estás utilizando la Inteligencia Artificial? Y cítalo. Ahora, no todo se vale, no todo se debe. Como así que yo entrego la tarea hecha por la Inteligencia Artificial y como decimos aquí a los estudiantes, le vamos a dar el birrete a Chad GPT o a Juan Pérez, porque las diferencias son amplias. Pero también tenemos que saber que nosotros invitamos a los estudiantes a que produzcan, a que hagan ensayos de dónde ellos se alimentan conceptualmente. intelectualmente para hacer sus ensayos pues tienen que recurrir a las bases de datos que están en las bibliotecas. pero esas bases de datos las tienes que citar. Ok, lo mismo tienes que hacer con la inteligencia artificial Pero aquí también hay un debate que no lo voy a, solamente lo voy a dejar planteado. María para que no nos tomemos tanto tiempo y es también tenemos que hacer un ajuste en la evaluación porque si yo sigo como docente invitando al estudiante a que me haga un ensayo de cualquier libro que tenemos en la literatura universal y que venga acá y me lo traiga como tarea Pues yo creo que el estudiante tiene una manera rápida de salir del juego y empieza a utilizar la inteligencia artificial. No estoy diciendo para nada que eso está bien, está muy mal hacerlo, pero sí tenemos que ir más profundo y preguntarle al profe, ¿Pero realmente tú crees que con el ensayo estamos logrando algo? Sin duda el estudiante no ha terminado de desarrollar la competencia, por supuesto, para escribir ensayos y todo el pensamiento lógico que se da a la luz de la escritura. qué tal si más bien el ensayo lo podemos construir aquí en clase o qué tal si tú te das las ideas que te dio el ChartGPT más las tuyas, más las de tus compañeros y generamos una discusión. Entonces ahí tenemos que ir mirando elementos de no solamente la ética en el uso para los estudiantes sino también cómo cambiamos la evaluación. Tienes la opción de usar la inteligencia artificial si así lo quieres, pero como tú dices, bueno, hay que citarla y con ciertos límites, ¿no? O que no la uses en lo absoluto. y que no hagas uso de ella porque creo que también eso se vale, ¿no? Y esto que estabas mencionado, Martha, de lo que ya están haciendo en la universidad, entonces me gustaría preguntarle a Érica, ya andando en la parte de acciones concretas,¿qué están haciendo en tu institución?¿Hay alguna iniciativa que has estado liderando?¿Qué recomendarías a otras universidades que quieren empezar este camino? Gracias, es que tomando lo que ha mencionado Martha respecto a estos retos de la enseñanza, yo estaba pensando mientras escuchaba Marta en la propia concepción de la competencia, hablando académicamente una competencia profesional está compuesta por el conocimiento, la habilidad y la actitud, el saber hacer, el saber conocer y el saber valorar, o sea, por qué lo haces, cómo lo hago y qué hago, sí, eso es, pero cuando hablamos de inteligencia artificial tiene ya dos de estas tres, de estas tres componentes, el conocimiento y la habilidad, Entonces quizás cuando la propia enseñanza por competencias, es por ejemplo el sistema que en el sistema universitario peruano utilizamos, el aprendizaje por competencias, quizás desde allí haya que repensar, desde allí fíjate y estamos hablando de la base del sistema En la universidad, ya un poco respondiendo a tu pregunta, la universidad creo que como no podía ser de otra manera, lo primero que hicimos en el 2023 fue establecer las normas éticas para el uso de la inteligencia artificial, basándonos en principios básicos como principios bioéticos en realidad adaptados al uso de inteligencia artificial como por ejemplo el de no maleficencia o no hacer daño. El primer principio es no hacer daño. El segundo principio es la autonomía o la responsabilidad en la toma de decisiones respecto a lo que te decía de qué profesional quieres ser. El principio de beneficencia que tiene que ver cuando ante dos situaciones tenemos que valorarla que genera mayor este beneficio al más débil, no la que te genera ventaja injusta porque este concepto de ventaja injusta también es importante inculcarlo, no podemos actuar en una situación que nos va a generar ventaja injusta, es válido obtener ventaja pero cuando la ventaja es injusta ya no es válida esa situación y a veces el uso de la inteligencia artificial te da un poco esa este esa posibilidad. Y finalmente, estas reglas obviamente se aplican y se busca aplicar en el trabajo, en proceso de enseñanza-aprendizaje, como en el proceso de investigación. Pero sabemos que no puede quedar allí porque a la par que salen las reglas éticas, empieza el proceso de capacitación de docentes. Nosotros implementamos con el área de e-learning, tenemos un área de e-learning aquí, un programa de digital y este programa de docente digital introduce al profesor en el uso de herramientas digitales para la enseñanza. y últimamente, impulsando un poquito más, profundizando más sobre el tema de la inteligencia artificial. Pero esto no funciona sin datos, sin conocimiento. Entonces, al área de innovación académica se le pidió un estudio en la universidad que se hizo este año, a inicios de este año, sobre cuál era la situación del uso de la inteligencia artificial en la universidad, partiendo del hecho que es una herramienta que puede potenciar mucho y mejorar mucho el proceso de enseñanza-aprendizaje. Entonces te comento muy rápido algunos resultados, como que por ejemplo hemos descubierto que el 82 % de profesores y estudiantes usan inteligencia artificial y ese 12%, perdón, 18% que todavía no la usa o las reticencias principales tiene que ver con lo que fíjate, hemos comentado aquí, preocupaciones sobre la privacidad, el caso de los profesores el plagio, la falta de confianza o también y este es algo que nos lleva a actuar el que no la usan porque no conocen las distintas aplicaciones. que se les puede dar. Entonces, por ahí ya vamos obteniendo algunos parámetros de acción. Para el 47 % de los usuarios lo usa semanalmente, o sea casi siempre, y además es una herramienta vista como algo esencial. Y el 88 % es un dato interesante. El 88 % de nuestros estudiantes usa ChildGPT. Cuando hay otras también, entonces no estoy haciéndole publicidad pero ahora mismo o a julio de este año era la más usada seguida por Gemini, Copilot, etcétera, pero es grande la diferencia pero aquí hay algo que por ejemplo si también nos lleva a la reflexión es que la mayoría lo usa como fuente de información O sea, más que de solución de problemas, solo de información. eso es desaprovechar la inteligencia artificial, porque eso es usarlo como Google. Pero esto es parte de este reto de capacitación que tenemos. Y también es interesante ver la cantidad de alumnos que lo usa para corregir textos. para elaborar y corregir. Y quizás para los profesores, y ya con esto voy terminando, el verdadero valor que le da el profesor, la perspectiva del profesor, a la inteligencia artificial es su capacidad para agilizar sus actividades, hacerlo más productivo y quizás, yo también concuerdo con eso, en que bien utilizada le permite al profesor no perderse en todas las actividades. administrativas que conlleva un proceso de clase, una enseñanza-aprendizaje y concentrarse en la interacción personal, en esa forma de cocrear, porque ya no es transferir, sino cocrear conocimientos. Entonces vamos por el aspecto ético-regulatorio, el aspecto formativo. el seguimiento que se hace a todos estos procesos a partir de los análisis y los estudios que vamos recabando esta información. Y claro, poco a poco también ya en el ámbito administrativo, procesos de retención, de admisión, de matrícula, de incluso de elaboración de planes curriculares, también. Es decir, el identificar cuáles son esas nuevas competencias profesionales que se requieren en profesiones donde está mucho más integrada la IA y cuáles son esas nuevas también también. porque el Banco Mundial emitió la información de que el 80 % de las profesiones que se van a necesitar el 2030, o sea, ya aquí nomás a la vuelta de la esquina todavía no se estaban enseñando en las universidades, Martha.¿Tú qué dirías que necesitamos para asegurarnos que los docentes, los administrativos, todas las áreas de la universidad entiendan esta tecnología? Y además de entenderla, que comprendan la responsabilidad ética de utilizarla en el aula y en la gestión académica. Mira, yo creo que lo más importante es la alfabetización en inteligencia artificial. para los docentes. pero ya hay varios autores, uno de ellos es el profesor Selig de una universidad en Finlandia, él viene diciendo que no es suficiente la alfabetización digital, perdón, la alfabetización de la inteligencia artificial vista como la alfabetización digital. algunos años, que la alfabetización digital era aprenda para el computador, aprenda a manejar las funciones básicas, él está diciendo ya la gente por intuición aprendió a manejar la inteligencia artificial y si no las redes sociales están llenas de tutoriales de cómo sacarle el provecho a estas herramientas, eso no significa y no podemos dar por hecho que todo el mundo las sabe usar en sus niveles básicos. Pero este profesor Selig viene diciendo algo que creo yo más potente y es cómo logramos que el docente cambie su pedagogía. Es decir, sepa que la Inteligencia Artificial puede generar nuevas perspectivas de enseñanza, puede enriquecer la formación del estudiante y para ello se necesita una mirada más profunda del uso de la Inteligencia Artificial. cómo el profesor dentro de su disciplina sabe utilizar los fundamentos de la Inteligencia Artificial para enseñar su disciplina. Eso es algo más allá de esa famosa interacción inicial que teníamos en lo digital, con la máquina, con X modelo. Él ya está diciendo tenemos que ir más profundo.¿Y esto por qué María?¿Por qué resulta? que cuando tú estás viendo el desempeño de las labores cotidianas en los distintos mercados laborales, ya se están viendo cambios contundentes. Y esto lo viene diciendo el Centro Cengage, ya hizo un estudio hace poco y dice, los empleadores están diciendo que el 75 % de los graduados de las universidades que recién llegan al sistema laboral no tienen ni idea de utilizar la inteligencia artificial. porque creen que utilizar la inteligencia artificial es usar el chat GPT para que me haga la tarea. No, ellos están en unos niveles de productividad completamente distintos. Pero además, María, las profesiones ya están cambiando y eso lo estamos viendo aquí en Colombia. Una firma internacional en derecho laboral que tiene sede aquí en Colombia. Uno de sus socias me estaba comentando lo siguiente. Anteriormente ellos tenían un segmento de profesionales recién graduados de la universidad, abogados que hacían la revisión de los fallos de las cortes que hay en Bucolombia, de las últimas modificaciones a las leyes, de diferentes interpretaciones a la jurisprudencia. Y ese nivel de abogado era un abogado que estaba buscando la última información y la actualización que se estaba dando a la normatividad.¿Y qué ocurría? que ese abogado después le respondía a otro que era un poquito más avanzado para poder ir depurando la información. Ella que me decía hoy por hoy en mi entidad ya nosotros no tenemos ese segmento. Ahí ya estamos utilizando modelos de inteligencia artificial especializados en Derecho y Jurisprudencia Internacional que además se han venido alimentando con distintos fallos de las Cortes Internacionales. Entonces, ¿qué pasa? Que ahí ya no al abogado que recién salía de la universidad para hacer esa depuración En cambio, están teniendo que hacer, fortalecer el segundo nivel, que era un abogado que tenía un poquito más de experiencia para poder analizar lo que el modelo de inteligencia artificial está entregando. Es decir, que tal y como decía Erika, sin duda se están eliminando puestos de trabajo, nos guste o no nos guste, eso se está dando, pero también se está dando un fortalecimiento del valor agregado de las profesiones. porque ahora este estudiante, este profesional que estaba en ese segundo paso de la cadena, que tenía ciertas competencias, un poquito más de conocimiento, le tocó fortalecerse más, le tocó generar más elementos que hacen que pueda tener ese pensamiento crítico, que conozca mejor lo que se está dando para dar valor agregado a la cadena.¿los docentes hoy en día están conociendo cómo sus profesiones se están transformando? Esa es una pregunta que nos hemos hecho nosotros en las distintas vicerrectorías porque no es nuevo, no es por la inteligencia artificial, al menos en el sistema colombiano y estoy segura que en el sistema peruano también se tiene que hacer y es cuando tú vas a renovar tu licencia de operación, que nosotros llamamos registro, tenemos que mostrar ante el ministerio que hemos indagado sobre el mercado en el que estamos formando, que estamos llamando a egresados, que nos estamos comunicando con líderes del sector. que estamos escuchando las necesidades del entorno. Eso es básico con o sin Inteligencia Artificial. Lo que pasa es que ahora, para actualizar esos planes de estudio, la Inteligencia Artificial empieza a ser un factor determinante porque ya hay puestos de trabajo en distintas carreras que se están reemplazando. No estoy diciendo que la carrera como tal esté reemplazando. Hay expertos que dicen que hay carreras que se van a reemplazar. Yo considero que no. Por lo menos en esta era de inicios de la Inteligencia Artificial vamos a seguir necesitando muchísimos profesionales, pero los necesitamos potenciados con valor agregado para el uso de la Inteligencia Artificial. Esto que nos ha llevado nosotros entonces a hacer, María, pues primero tenemos que trabajar con los docentes.¿Y qué estamos haciendo? Venimos en un trabajo de tiempo atrás de innovación educativa, que le hicimos al profe, profe, cambia la metodología y si ahora tienes inteligencia artificial, pues qué bueno que puedas generar ese tipo de desarrollos. Y ya tenemos varios casos claros de docentes que han implementado la inteligencia artificial en sus prácticas. De hecho, estamos premiando a nuestros docentes por esas buenas prácticas. algunas de ellas incorporan Inteligencia Artificial, otras no. El otro paso en el que estamos es la alfabetización para todos los docentes con Inteligencia Artificial, con certificados de instituciones reconocidas frente a este tema. Lo tercero, que es muy complejo y nada fácil María y Erika no me deja mentir que esto no es sencillo, estamos mirando profesión por profesión. a la luz de la renovación de los registros ante el Ministerio de Educación y le estamos preguntando a los líderes. en qué te está impactando la inteligencia artificial en tu plan de estudios, en el desarrollo de competencias.¿Y qué tienen que estar haciendo? Pues tienen que estar mirando los últimos papers que se están publicando en revistas indexadas porque hay infinidad de ellos en todas las disciplinas que nos podamos imaginar. Tú como contador, tú como abogado, tú como médico, tú como licenciado en pedagogía, ya estás mirando qué se está dando internacionalmente. Y a veces la discusión es Marta, pero están por allá en Dinamarca y eso allá las cosas son distintas, no nos son distintas porque hacia allá vamos. tenemos que empezar a generar esos debates. Entonces el tema de la inteligencia artificial, María, nos está cambiando también la manera en la que investigamos. la semana pasada estábamos pidiendo a nuestro líder de investigación que analizara los comités de ética y de bioética en la investigación a ver qué impactos tiene precisamente en lo de los premios Nobel.¿qué reflexiones generan? Segundo, a proyección social y sostenibilidad ¿cómo debemos cambiar la manera en que nos estamos aproximando a las comunidades más necesitadas a la luz de la Inteligencia Artificial? No es que nos estemos reemplazando en esa mirada y en ese conocer el entorno, pero ¿qué datos me permite tener la Inteligencia Artificial? Tercero, la internacionalización ¿cómo va a impactarse? cuarto, toda la parte de prácticas y pasantías y emprendimientos. Entonces si tú te das cuenta, el espectro es amplísimo y estamos hasta ahorita mirando la punta de la iceberg Sí, me encanta. Yo comparto de las dos sus sueños y también lo que les quita el sueño y lo que les hace soñar. No creo que haga falta añadir nada más. Y con esto, llegamos al final del episodio de hoy. Érica, Martha, les agradezco profundamente por compartir sus conocimientos y su visión. Hoy discutimos la realidad de la... y a la educación superior desde los grandes avances que validan su importancia hasta los dilemas éticos que enfrentamos para usarla de manera justa y equitativa. Para quienes nos escuchan, espero que esta conversación les haya dado una perspectiva más clara y les haya inspirado a tomar acciones dentro de sus instituciones. Yo creo que la inteligencia artificial debe tener un potencial transformador, pero... sí depende de nosotros, ¿no? Garanticar que se utilice de manera responsable y justa. creo que también es una gran responsabilidad de estas instituciones de que sepan aplicar con rigor y con conocimiento. y hagan buen uso de la inteligencia artificial para justamente ir estrechando estas brechas de desigualdad social que implican también la desigualdad en oportunidades de la educación. Y como tú dices, Martha, que la IA sirva para... para ayudar, lejos de volvernos unos seres inútiles. a toda la audiencia también. Si les ha gustado este episodio, no olviden compartirlo, suscribirse para futuros contenidos sobre innovación en la educación superior. Reitero mi agradecimiento a Martha y a Erika y a nuestra audiencia por acompañarnos. Y nos vemos en la próxima. Gracias, un abrazo. Gracias por escucharnos. conocer más sobre tecnología y educación superior, visita nuestra página, www.elucian.com. Esto es Elucian Podcast.