Educación automatizada: STI y derechos humanos

Trabajo de investigación presentado durante el 2º cuatrimestre del año 2021 por el alumno Sebastián Weinmeister en el contexto de la asignatura «Inteligencia Artificial y Derecho», dictada por la Profesora Cecilia C. Danesi en la Facultad de Derecho de la Universidad de Buenos Aires.




Introducción

La inteligencia artificial (IA) es protagonista en los tiempos que corren. A pasos vertiginosos constituye, para muchos, una cuarta revolución industrial.

En la actualidad vemos como la tecnología, la robótica y los sistemas de IA forman parte de cada vez más aspectos de la vida de la sociedad y los individuos. En este contexto, es necesario preguntarnos en qué aspectos la convivencia con toda esta tecnología abona a la evolución de las sociedades y al mejoramiento de la calidad de vida de los individuos. A su vez, es menester preguntarnos hasta qué punto esta potencial evolución no se da en detrimento de los derechos de los sujetos.

En el presente ensayo se pretende analizar la relación entre la inteligencia artificial y la educación, haciendo foco en los sistemas de tutores inteligentes (STI), cada vez más presentes en algunos sistemas educativos. De la utilización de estos sistemas en la actualidad y sus posibles usos en el futuro, se pretende discernir acerca de las potenciales tensiones con los derechos humanos.


Educación, escuela y tecnología

La idea de educar a los nuevos integrantes de la sociedad ha resultado siempre importante para las diferentes comunidades a lo largo de la historia. Esto se ha visto reflejado en diferentes artefactos e instituciones creadas por el ser humano, siendo la escuela la más importante.

A partir de la revolución francesa, la educación ha sido conceptualizada como un Derecho a lo largo y ancho del mundo. En el pasaje del siglo XIX al siglo XX, la escuela se convirtió en la forma educativa hegemónica en todo el planeta, alcanzando progresivamente a la gran mayoría de los habitantes de las naciones[1].

A lo largo de la historia, diferentes tecnologías han significado un salto cualitativo para que la educación se concrete. Libros, lápices y computadoras han llegado paulatinamente a la vida educativa y se instalaron de modo que para las diferentes generaciones resulta difícil de imaginar la educación sin alguna de estas tecnologías. Es que “cada uno de estos elementos supone un avance “técnico” que abre nuevas posibilidades en cada contexto determinado”[2]. Ahora bien, pensar en sistemas de IA adentrándose en las escuelas, supone nuevos desafíos. Son estas las nuevas tecnologías del siglo XXI, pero presentan características puntuales que las hacen diferentes a las otras.

Los sistemas de IA realizan operaciones similares a las de la mente humana, poseen capacidad de autonomía y autoaprendizaje. Esto implica que dichos sistemas tienen la capacidad de tomar decisiones de forma autónoma y aprender de las interacciones que realizan para llevar a cabo predicciones a futuro[3]. En lo que aquí nos interesa, podemos encontrarnos con sistemas de IA capaces, por ejemplo, de emular la labor docente haciendo un seguimiento personalizado de los estudiantes, y eventualmente, decidir qué y cómo enseñar.


STI: la inteligencia artificial en la educación

En la búsqueda de una educación más personalizada y con los avances tecnológicos del presente siglo, surgieron los sistemas de tutoría inteligente (STI). Estos sistemas realizan “un seguimiento del proceso de aprendizaje de los estudiantes mediante el monitoreo de sus acciones y la consecuente creación de su perfil de aprendizaje”[4]. No se limitan sólo a la evaluación de los estudiantes, sino que actúan como entrenadores y ofrecen sugerencias en el proceso de resolución de cualquier actividad pedagógica. Se basan en tres componentes principales: conocimiento de los contenidos, conocimiento del estudiante y conocimiento de estrategias o metodologías de aprendizaje[5]. A esto debe sumarse la interface, que permite la interacción eficiente con el estudiante e implica el conocimiento por parte del sistema de presentar los contenidos de manera “amigable”.

Los STI actúan como tutores particulares del estudiante, pudiendo juzgar qué sabe, cómo va en su progreso y qué herramientas necesita, sin que para esto sea necesaria la presencia de un tutor humano. Ya han existido varios conocidos STI, desarrollados en diferentes contextos, tales como Scholar, Sophie y Andes[6]. En la actualidad, China se caracteriza por una multitud de proyectos que experimentan en este sentido. Uno de ellos es el STI Squirrel Ai Learning.

El STI Squirrel está pensado cómo un sistema de apoyo extracurricular (no se piensa, por ahora, como reemplazo del docente, sino como un apoyo) y pretende, “por un precio asequible”, ofrecer una enseñanza adaptada a cada alumno. El sistema realiza un diagnóstico de las áreas en las que el estudiante necesita mayor apoyo, y en base a esto, desarrolla un plan que se va autoajustando a lo largo del tiempo. “Cuántos más estudiantes participan, más se refuerza al algoritmo, que reconoce conexiones entre conceptos y es capaz de ajustar más al detalle los planes que necesita cada alumno”[7]. Este sistema puntual, no les presenta a los estudiantes la posibilidad de aprender contenidos que estén por “fuera” del currículum escolar establecido. Se da en el marco de un país que tiene un fuerte sistema de evaluaciones estandarizadas, de modo que está pensado para que cada uno de los estudiantes (expuestos a una fuerte presión producto del mismo sistema educativo), alcance su máximo potencial posible pudiendo aprobar esas evaluaciones.

Al igual que muchos otros STI, Squirrel se “construye” en 3 etapas. Teniendo una plataforma gestor del aprendizaje, se selecciona el módulo del alumno, que permite ver las debilidades y fortalezas del alumno, así como su modo de razonar en diversas situaciones. A partir de allí, el sistema podrá clasificarlo dentro de parámetros preestablecidos. Luego, se selecciona el módulo del tutor, que codifica los métodos de enseñanza más adecuados y selecciona la intervención educativa adecuada para el alumno. Finalmente, se selecciona el módulo de dominio, que muestra una ruta de aprendizaje, almacena datos y produce una serie de informes que permiten verificar el progreso de cada estudiante.

Más allá de la escolarización obligatoria, en muchos otros ámbitos educativos los STI vienen siendo utilizados de manera cada vez más progresiva. Los STI se han ido sofisticando a lo largo del tiempo, llegando en la actualidad a contemplarse factores emocionales de los estudiantes en los denominados Sistemas Tutores Inteligentes Afectivos (STIA)[8].

Dado este estado de cosas y teniendo en cuenta que el progreso de los STI se da de modo cada vez más acelerado, conviene preguntarse si la implementación de estos sistemas no vulnera, de alguna manera, los derechos humanos.


Derechos Humanos y STI: algunas alertas

La educación es un derecho humano fundamental, reconocido en la Declaración Universal de Derechos Humanos y en numerosos instrumentos de Derecho Internacional. Entre sus postulados, entendemos que debe ser accesible para todos, sin discriminación alguna[9]. Sin embargo, en la práctica, vemos que la accesibilidad económica de los sujetos termina constituyendo un rasgo diferenciador en el efectivo cumplimiento de este derecho. Ocurre que hoy el acceso internet y a diferentes dispositivos como una computadora, no se encuentra al alcance de todos, pese a que se ha considerado de vital importancia para el acceso al conocimiento[10]. En este sentido, vale constatar de qué forma se está dando la aplicación de los STI, y la IA en general, en el campo educativo. El alcance que está teniendo en la actualidad este tipo de sistemas se reduce a las poblaciones de mayores recursos de los países más desarrollados. Conviene preguntarse, entonces, si estos sistemas no contribuyen a acrecentar las desigualdades existentes en el acceso a la educación.

Por otro lado, es bueno recordar que al hablar de STI en el ámbito escolar, estamos haciendo referencia al uso de IA con niños, niñas y adolescentes. Es poca y reciente la regulación sobre IA alrededor del mundo, pero no hay que perder de vista que, además, ésta se centra mayormente en usuarios adultos. Unicef llama la atención sobre esta cuestión solicitando que “se tenga suficientemente en cuenta las necesidades y derechos particulares de los niños”[11] en torno a su vínculo con la tecnología y la IA. Desde este lugar, es necesario contemplar la opinión de los niños, niñas y adolescentes en el uso de la IA con ellos, teniendo en cuenta siempre su interés superior.

En lo que respecta al interés de los niños, niñas y adolescentes, hay que considerar la importancia que reviste para ellos el contacto con un “lugar otro” (la escuela), donde se encuentren protegidos y tengan la posibilidad de tener contacto con sus pares[12]. Vale preguntarse si la utilización de STI no podría alejar a los niños de la escuela y de otros niños, reduciéndoles capacidad de sociabilización. Cuestiones como la empatía, el respeto por los derechos humanos[13], la solidaridad, precisan del contacto con otros. Más aún, en ese contacto ocurren muchos de los acontecimientos que generan aprendizajes valiosos a los que podría resultar difícil llegar si los STI pasaran a ocupar la mayor parte o la totalidad del tiempo de escolarización de los sujetos.

En otra línea de ideas, es importante señalar que los STI no son trazables, con lo cual es muy difícil rastrear el entramado de toma de decisiones de los sistemas. “Una IA basada en un enfoque de derechos humanos debe poder explicar, paso a paso, las operaciones técnicas que realiza desde el inicio hasta el fin de un proceso determinado”[14] y esto, por el momento, no se encuentra previsto en los STI. De esta forma, puede haber sesgos, por ejemplo, en razón del género o la cultura a la cual pertenece el estudiante, y aún no se encuentran previstos abordajes al respecto.

También es conveniente detenerse en el análisis de datos con los que cuenta un STI. Un sistema de estas características está preparado para predecir los modos de razonamiento que posee una persona, se supone, para brindarle una enseñanza acorde. Sin embargo, el hecho de que todos los proyectos vigentes actualmente de STI estén a cargo de empresas privadas, debería ser regulado de modo que esos datos se utilicen de manera ética. No hay que olvidar, dado este estado de cosas, que la educación es un derecho cuyo efectivo cumplimiento los Estados deben asegurar, y es su responsabilidad la regulación de las entidades privadas que se desempeñan en este ámbito.

Finalmente, no puede dejar de mencionarse el potencial peligro que resuena en trabajadores y trabajadoras de la educación al momento de hablar de STI. Si bien en la actualidad dichos sistemas funcionan como apoyo a la labor docente, no dejan de aparecer algunos discursos que proponen que paulatinamente se los reemplace. La gran mayoría de los pedagogos, sin embargo, coinciden en la actualidad con que sería un error considerar a la educación como un proceso meramente automático, por tratarse, precisamente, de una práctica social y cultural. Al respecto vale traer la siguiente cita:

“No obstante la disponibilidad de múltiples tecnologías, ninguna puede sustituir la labor de los profesionales del sector social. En educación, por ejemplo, aunque la IA permita tener currículos personalizados para cada estudiante, los resultados serán insuficientes si no existe la guía y pedagogía de un buen maestro en el proceso. Los médicos y los maestros, entre otros muchos, son el factor más importante para que funcionen la salud y la educación. El problema entonces no es la tecnología necesariamente; el problema ha sido un diseño equivocado en el cual se parte de la falsa premisa de que esos profesionales podrían ser reemplazados.”[15]

Sin perder de vista que trabajar es un derecho humano, vale decir que el hecho de que la educación se encuentre tutelada, implica el derecho a educarse, pero también a educar. Si bien los STI pueden resultar útiles para el aprendizaje de ciertas prácticas y conceptos, no debe dejar de ser, en todo caso, un apoyo regulado que no reemplace la relación docente-alumno, sino que la complemente.


Algunas conclusiones

Los STI llegaron para quedarse y, seguramente, continuarán con su expansión a lo largo de los años. Considero que seguramente sean útiles para el aprendizaje personalizado de ciertas prácticas automáticas y conceptos que podrían resultar más comprensibles. Sin embargo, debe tenerse especial atención en la relación dada entre estos sistemas de IA y los niños, niñas y adolescentes. A su vez, debe contemplarse la utilización de los STI y su correspondiente programación con una perspectiva de derechos humanos. Los Estados deben asegurar, si los consideran beneficiosos para la educación, el acceso a todas las personas.

Finalmente, considero que la práctica educativa no debe deshumanizarse, ni debe perderse de vista el importante rol de sociabilización que poseen las escuelas, que también deben tener como eje transversal la construcción de una humanidad más justa y solidaria. Desde esta perspectiva, considero que los STI deben utilizarse de modo regulado y, en todo caso, como complemento de la labor del docente humano, quien debe tener el derecho a conocer y prepararse para trabajar con este tipo de sistemas de IA.


Bibliografía

Areco Elsa Millán, “El impacto de las nuevas tecnologías en la educación”, disponible al 27/09/2021 en http://blogs.udima.es/educatic/el-impacto-de-las-nuevas-tecnologias-en-la-educacion/

BID, “La inteligencia artificial al servicio del bien social en América Latina y el Caribe: panorámica regional e instantánea de doce países”, 2020.

Cataldi Zulma y Lage Fernando, “Modelado del Estudiante en Sistemas de Tutores Inteligentes”, TE&ET, Buenos Aires, 2008.

Cerletti Alejandro, “Repetición, novedad y sujeto en la educación. Un enfoque filosófico y político”, Editorial Del Estante, Buenos Aires, 2008.

Corvalán Juan, “Inteligencia artificial y derechos humanos”, 2018.

Danesi Cecilia y Mitelli Noelia, “Asistentes Jurídicos digitales: el impacto de la inteligencia artificial en el proceso”

Pineau, Pablo, “La escuela como máquina de educar”, Ed. Paidós, Buenos Aires, 2009.

Ponce Jorge, Pintado Pablo y Biset Julio, “Análisis de implementaciones de sistemas tutores inteligentes y afectivos. Revisión sistemática”, REFCalE, 2019.

Sanchez Vila Eduardo y Lama Penin Manuel, “Técnicas de la inteligencia artificial aplicadas a la educación”, Revista Iberoamericana de inteligencia artificial, Valencia, 2007.

Unicef, “Estado Mundial de la infancia 2017: Niños en un mundo digital”, 2017, p.35.

Zarzalejos Ana, “Esta startup china de Inteligencia Artificial quiere revolucionar la manera en la que se estudia en los colegios, pero sin sustituir profesores”, disponible al 27/09/2021 en https://www.businessinsider.es/squirrel-ai-inteligencia-artificial-revolucionar-colegios-472481


Referecnias [1] Pineau, Pablo, “La escuela como máquina de educar”, Ed. Paidós, Buenos Aires, 2009. [2] Areco Elsa Millán, “El impacto de las nuevas tecnologías en la educación”, disponible al 27/09/2021 en http://blogs.udima.es/educatic/el-impacto-de-las-nuevas-tecnologias-en-la-educacion/ [3] Danesi Cecilia y Mitelli Noelia, “Asistentes Jurídicos digitales: el impacto de la inteligencia artificial en el proceso” [4] Ponce Jorge, Pintado Pablo y Biset Julio, “Análisis de implementaciones de sistemas tutores inteligentes y afectivos. Revisión sistemática”, REFCalE, 2019, p.219. [5] Sanchez Vila Eduardo y Lama Penin Manuel, “Técnicas de la inteligencia artificial aplicadas a la educación”, Revista Iberoamericana de inteligencia artificial, Valencia, 2007. [6] Cataldi Zulma y Lage Fernando, “Modelado del Estudiante en Sistemas de Tutores Inteligentes”, TE&ET, Buenos Aires, 2008. [7] Zarzalejos Ana, “Esta startup china de Inteligencia Artificial quiere revolucionar la manera en la que se estudia en los colegios, pero sin sustituir profesores”, disponible al 27/09/2021 en https://www.businessinsider.es/squirrel-ai-inteligencia-artificial-revolucionar-colegios-472481 [8] Ponce Jorge, Pintado Pablo y Biset Julio, “Análisis de implementaciones de sistemas tutores inteligentes y afectivos. Revisión sistemática”, REFCalE, 2019. [9] Convención relativa a la Lucha contra las Discriminaciones en la Esfera de la Enseñanza, Art 1. [10] Consejo de Derechos Humanos, A/HRC/20/L.13 Asamblea General. [11] Unicef, “Estado Mundial de la infancia 2017: Niños en un mundo digital”, 2017, p.35. [12] Cerletti Alejandro, “Repetición, novedad y sujeto en la educación. Un enfoque filosófico y político”, Editorial Del Estante, Buenos Aires, 2008. [13] Parte necesaria de la educación obligatoria, de acuerdo con la Convención sobre los Derechos de los niños, niñas y adolescentes. [14] Corvalán Juan, “Inteligencia artificial y derechos humanos”, 2018. [15] BID, “La inteligencia artificial al servicio del bien social en América Latina y el Caribe: panorámica regional e instantánea de doce países”, 2020.