El pasado jueves 13 de abril, organizamos un Webinar con el fin de generar un espacio de reflexión y diálogo sobre “Educación en valores, sostenibilidad, e inteligencia artificial: retos y oportunidades”.
En los últimos meses el tema de la inteligencia artificial (IA) ha generado bastante ruido, así como una mezcla de entusiasmo, admiración, dudas, miedo, desconfianza e interés. Sentimientos que nos deben llevar a una cierta precaución. Pero realmente, ¿qué es la Inteligencia Artificial y cuáles pueden ser sus implicaciones para la educación?
Hace dos semanas, la UNESCO hizo un llamando a los gobiernos para que apliquen la Recomendación sobre la Ética de la Inteligencia Artificial, el primer marco normativo mundial adoptado en noviembre del 2021, que orienta a los países para el uso ético de la inteligencia artificial y sobre cómo maximizar los beneficios de la IA y reducir los riesgos que esta conlleva. La UNESCO hizo este llamado luego de que en los últimos meses se haya acelerado la creación de nuevos instrumentos de IA y se haya popularizado cada vez más el uso de esta, como por ejemplo el ChatGPT. En este contexto, la directora general de la UNESCO afirmó que “El mundo necesita normas éticas más estrictas para la inteligencia artificial: este es el gran reto de nuestro tiempo.”
Por otro lado, también a finales de marzo, un grupo de expertos en inteligencia artificial y ejecutivos de la industria firmaron una carta abierta “pidiendo una pausa de seis meses en el desarrollo de sistemas más potentes que el recientemente lanzado GPT-4 de OpenAI.” Una buena pregunta podría ser ¿Por qué estos expertos en tecnología piden tal pausa? Dicha carta dice que «los sistemas de IA con inteligencia humana-competitiva pueden plantear profundos riesgos para la sociedad y la humanidad», indica además que “la IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra, y debe planificarse y administrarse con el cuidado y los recursos correspondientes”.
De todas maneras, universidades y escuelas alrededor del mundo probablemente se están preguntando ¿qué hacemos y cómo podemos adaptarnos a esta nueva realidad? La reacción puede ser diversa: “cerramos las puertas, damos la espalda, buscamos maneras de incorporarla, aceptamos con los ojos cerrados o desarrollamos directrices éticas claras para guiar el desarrollo y uso de las herramientas de IA, etc…”
El evento generó un espacio para aclarar algunos retos y oportunidades que podemos encontrar con el uso de la inteligencia artificial y la importancia de fomentar la ética en torno a su uso y la educación en valores. Como se mencionó en el Webinar, “como cualquier otra herramienta tecnológica, mucho depende del uso que le damos, así como un cuchillo puede ser usado para cortar el pan, también puede ser usado para matar.” De ahí la importancia de aclarar las implicaciones de la IA en la educación y de fomentar el uso ético de la misma, ya que existe la posibilidad de dar un mal uso a dichas herramientas.
La Carta de la Tierra nos recuerda que “a mayor libertad, conocimiento y poder, se presenta una correspondiente responsabilidad por promover el bien común” y cuando el conocimiento sea limitado, es necesario proceder con precaución. (Principio 2b y 6)
El webinar contó con la participación de los siguientes ponentes:
- Eglis Chacón: Analista de Políticas y parte del equipo de investigación y prospectiva de UNESCO IESALC.
- María Vilches: Profesora catedrática retirada de la Universidad Ana G. Méndez de Puerto Rico, docente e investigadora del Centro Carta de la Tierra en Educación para el Desarrollo Sostenible.
- Arnoldo Madrigal Pastor: Ingeniero de Sistemas por la Universidad de Costa Rica y MBA por el Instituto Tecnológico de Costa Rica, con más de 30 años de experiencia en proyectos informáticos.
Abordamos preguntas como:
– ¿Cuáles retos y riesgos que presenta el uso masivo de sistemas de inteligencia artificial para la humanidad?
– ¿Cuál es el papel de la educación en valores y ética frente al uso de la IA, y en la inclusión de transparencia, rigor, ética y propósitos humanísticos en estos sistemas?
Empezamos el webinar invitando, tanto a los ponentes, como a los participantes del evento, a que compartieran sus sentimientos, dudas o preguntas sobre el tema de la IA. Algunas de las inquietudes compartidas fueron:
- Si la IA, depende en grande parte del tipo de información que se alimenta, ¿cómo hacemos para evitar la manipulación de la misma, es decir, ¿qué hacemos si la IA es alimentada solamente con ciertos puntos de vista o información sesgada?
- ¿En qué aspectos sigue siendo ético la utilización de la IA dentro del sector del desarrollo humano?
- Cuando la IA quita el empleo a personas y las pone en situación vulnerable, ¿es ético?
- ¿Será que el uso excesivo de la inteligencia artificial va a reducir nuestro pensamiento crítico y fomentar una sola forma “correcta” de pensar?
- ¿Qué tanto la IA puede limitar o reducir el desarrollo de la capacidad de la Inteligencia humana, principalmente en las y los niños y sus procesos de desarrollo cognitivo?
- ¿Podría la inteligencia artificial contribuir a la transformación social hacia la sustentabilidad?
- ¿Cuáles retos y riesgos que presenta el uso masivo de sistemas de inteligencia artificial para la humanidad?
De nuestros ponentes escuchamos las siguientes reflexiones iniciales:
“Sin duda estamos expuestos a las diversas potencialidades que puede tener la IA. La IA se nutre principalmente de información. Sabemos que es una herramienta y su uso está siendo bastante discutido debido al potencial impacto puede tener para contribuir a los avances de las cosas. Pero posiblemente, las personas tienen más dudas que respuestas sobre esto. De ahí la relevancia de estos espacios de discusión para aclarar qué es y cómo podemos usar esta herramienta en favor de la humanidad. Ya que como es una herramienta tecnológica que se nutre de información, y al saber que la información es diversa, debemos tener cuidado con qué tipo de información se alimenta. Y como utilizamos esta información.”
Eglis Chacón
“Tengo sentimientos encontrados… esta última ola que ha habido sobre todo de la IA regenerativa nos produce un cierto nivel de preocupación sobre el impacto que esta puede tener en el proceso de aprendizaje que se están dando en nuestras escuelas o de manera informal. Todavía no estamos conscientes de las potencialidades de estas herramientas que se están desarrollando y tenemos que sentarnos a discutir y buscar alternativas, para ver los impactos en términos éticos que esto puede presentar para nosotros en el planeta. Me surgen preguntas, por ejemplo, si vamos a seguir desarrollando esta dependencia en la tecnología de la IA, ¿cómo será el desarrollo afectivo y emocional de las próximas generaciones y de qué manera esta va a ser accesible a todos? Por lo que no podemos abrazar todo esto con los ojos cerrados, necesitamos tener las precauciones necesarias…?
María Vilches
«Es importante aprender a utilizar la tecnología de manera ética… La IA no es nada nuevo. La IA existe aproximadamente desde 1945… Todos estamos usando la IA ya desde hace muchos años cada vez que usamos el “Waze”, cada vez que “Siri” le responde una pregunta, cuando usas “Alexa”… también en “Google Maps”… El tema es que el computador es la maquina del tiempo mientras nosotros los humanos nos movemos en segundos y minutos, el computador se mueve en micro y nanos segundos, en millonésimas de millonésimas de un segundo, entonces estamos peleando con una tecnología que puede procesar más rápido que nosotros muchas cosas. Recordemos que algo como el ChatGTP, si no le damos contexto, él no sabrá qué contestar… Lo que me preocupa es que muchas de las herramientas de IA todavía no están probadas suficientemente, el mismo ChatGPT esta aprendiendo… Entonces, la advertencia que se están haciendo tiene dos corrientes, por un lado, los que hablan de la necesidad de una regulación y por otro los que advierten que ‘lo paren’ pero ellos pueden ser los que más se benefician de esto, o sea, ‘paren porque yo voy primero’ (hay que tener cuidado ahí). Pero si es legítimo pensar que podríamos estar desarrollando herramientas que no sabemos dónde va a parar…. Entonces es importante considerar estos ingredientes: la calidad de la información, las inclinaciones o preferencias que tengan los diseñadores del software y la manipulación de los datos, estos son de preocupación”.
Arnoldo Madrigal
Hubo una importante contribución por parte de los participantes quienes resaltaron, entre otros, la importancia de asegurar la inclusión social en estos procesos. Además, escribieron:
- “La Inteligencia artificial, como toda alternativa tecnológica, tiene sus pros y contras, lo importante es usarla con criterios éticos y con responsabilidad para aprovechar sus beneficios y mitigar sus riesgos”.
- La IA jamás va a sustituir aspectos netamente humanos como el AMOR, la COMPASIÓN y la CONCIENCIA. Un abrazo sincero, la escucha atenta de otro ser humano, los regalos de la naturaleza (atardeceres, aromas de las flores, el viento, el canto de las aves, etc.).
Al final de la sesión se reafirmó la necesidad de fortalecer, a través de la educación, la sensibilidad y esencia del ser humano, fomentando los valores éticos y la capacidad humana de usar dichas herramientas de manera ética y responsable, discerniendo el bien del malo y buscando contribuir con el bien común. Se sintió la necesidad de seguir dialogando y aprendiendo sobre este tema para seguir aclarando:
- ¿Cuáles son las implicaciones de la IA para nuestra vida y trabajo?
- ¿Cómo pueden las instituciones educativas adaptarse a los avances en IA?
- ¿Cómo puede la IA ayudarnos a acelerar la tan necesaria transformación social hacia la sostenibilidad?
- Y ¿Cómo fomentar y fortalecer los valores y la sensibilidad humana a través de los procesos de educación frente a los avances de la tecnología y conocimiento?
La moderadora cerró el evento trayendo el comentario de una de las participantes, Blanca Pastrana, quien escribió:
“Creo que el verdadero reto en la educación actualmente es PRIMERO: Educar para «SER» (ser un mejor ser humano para convivir con todos los seres vivos en el planeta, educar para tener INTELIGENCIA EMOCIONAL, educar para seres humanos felices que no necesitan de nada externo para tener paz en su corazón, seres humanos con valores). Actualmente la educación está enfocada en el «TENER». Una vez priorizada la educación existencial, ahora sí bienvenida la inteligencia artificial.”
El evento fue moderado por Mirian Vilela, directora de la Carta de la Tierra Internacional y organizado por nuestra Cátedra UNESCO en Educación para el Desarrollo Sostenible con la Carta de la Tierra que tiene un enfoque de trabajo desarrollando investigación y programas de educación en la intersección entre Sostenibilidad, Educación y Valores Éticos.
Referencias
https://www.unesco.org/es/articles/inteligencia-artificial-la-unesco-pide-los-gobiernos-que-apliquen-sin-demora-el-marco-etico-mundial y https://unesdoc.unesco.org/ark:/48223/pf0000381137_spa
https://www.unesco.org/es/artificial-intelligence/recommendation-ethics