La idea de que un algoritmo pueda decidir sobre el futuro de una persona, ya sea para recibir un tratamiento médico u otro, ordenar una lista de espera de trasplantes o intervenciones, concederle o denegarle un crédito, o proponerle un itinerario de aprendizaje diferente, resulta cuanto menos preocupante. Y más inquietante puede resultar saber que es algo que ya se hace; y que los sistemas expertos, en la mayoría de las tareas, tienen mejor rendimiento y fallan menos que los seres humanos.
No obstante, no podemos permitir que una decisión sobre el futuro de una persona no pueda explicarse, la respuesta no puede ser “porque lo ha dicho una máquina”. Es imprescindible que las decisiones apoyadas en datos sean trazables y no estén apoyadas en sesgos o injusticias. Numerosas publicaciones han abordado este tema, recomendamos la lectura de “Armas de destrucción matemática” de Cathy O’Neil o “Algoritmos de opresión” de Safiya Noble a quienes queráis profundizar en este tema.
Las cuestiones éticas cada vez tienen mayor presencia en los asuntos relacionados con las ciencias de datos; y en Europa podemos afirmar ser pioneros en atender estos nuevos desafíos: en marzo de 2024 se aprobó la conocida como AI Act, la “Ley de Inteligencia Artificial: acuerdo sobre reglas integrales para una IA confiable”. Esta ley nace con el espíritu de proteger al pueblo europeo del uso inapropiado de la inteligencia artificial, y poder establecer un marco de desarrollo seguro y transparente.
Entramos en la recta final de la actividad #DatosEduMOOC, y lo haremos tratando un temas cruciales como son la ética, la privacidad y el futuro de las analíticas de aprendizaje y ciencias de datos en educación. En este bloque profundizaremos en el concepto de sesgo, la importancia de la calidad de los datos para el entrenamiento en aprendizaje automático, la equidad algorítmica, la confiabilidad de los modelos, la privacidad y la protección de datos de carácter personal. Proporcionaremos algunos documentos de interés con recomendaciones de diferentes organizaciones internacionales para el uso de la IA y describiremos nuestro marco legislativo, nacional y supranacional. A colación, citamos el informe “Inteligencia Artificial y Educación” que publicaba hace unos días la Oficina de Ciencia y Tecnología del Congreso de los Diputados.
Nos despediremos de esta travesía formativa hablando sobre desafíos presentes y futuros, las tendencias emergentes y os propondremos una última tarea para cerrar el círculo: una propuesta globalizadora en la que tendremos que diseñar una estrategia de analíticas de aprendizaje para nuestros centros educativos.
Durante estas semanas hemos aprendido mucho de manera colectiva, prueba de ello son algunas de las entregas que habéis compartido en el curso. Compartimos algunos “dataset” que nos habéis ido dejando a lo largo de estas semanas.
Mª Carmen López también nos dejó su estupenda tabla con los datos de su alumnado clasificados. Se pueden consultar en el siguiente enlace.
Destacar también el trabajo de Cllorden, que ha presentado unas tablas muy completas recogiendo abundantes datos de su alumnado.
JMGB nos deja un trabajo creativo con una visualización muy visual y esquemática de los datos de su alumnado. Puede verse aquí.
Jesús Vera nos deja una completa tabla con los datos de su alumnado que puede consultarse aquí.
EvaMaria_Gomis que nos deja su tabla de datos clasificados y resume la importancia de utilizar los datos de forma responsable y ética para mejorar el aprendizaje de los estudiantes. Puede verse aquí.
Ana Lucía nos deja un completo cuadro con los datos de su alumnado, puedes ver su trabajo en este enlace.
Y Aitor Santxo que en este caso nos presenta una tabla con datos de directores y directoras, que podemos ver aquí.
Ya estamos deseando ver las entregas de esta última unidad y seguir compartiendo y aprendiendo mucho y juntos. ¡Vamos a por el último empujón!
Como siempre os invitamos también a participar en X con la etiqueta #DatosEduMOOC y revisar en el blog AprenDiario los resúmenes de las semanas anteriores.