Inteligencia Artificial, Rasgos Faciales Distintivos con Trastornos Congénitos y el Derecho

Trabajo de investigación presentado durante el 2º cuatrimestre del año 2021 por el alumno Francisco José Monge en el contexto de la asignatura «Inteligencia Artificial y Derecho», dictada por la Profesora Cecilia C. Danesi en la Facultad de Derecho de la Universidad de Buenos Aires.




I- INTRODUCCIÓN


1.- Propósitos

El objetivo de esta investigación será determinar posibles problemáticas de la Inteligencia Artificial elegida, respecto de los Derechos Humanos, como así también determinar si cumple con la protección de datos personales. Además, analizar desde una óptica normativa, las distintas regulaciones respecto de esta temática. -

Podemos mencionar que la temática elegida puede extenderse en el desarrollo si nos introducimos en materia de la responsabilidad civil o derecho del consumidor. Temas que serán para otra oportunidad.


2.- Preguntas

Algunas interrogantes que intentare responder a lo largo del trabajo respecto de la aplicación Face2gene, en relación a un punto tan sensible como la medicina, son. ¿La IA en análisis incluye sesgos étnicos? ¿Qué derechos humanos deben protegerse? ¿Cumple con la normativa aplicable de protección de datos personales?


3.- Justificación

Si debemos justificar la conveniencia de esta investigación, entiendo que la importancia radica en la prevención de posibles afectaciones a los derechos de las personas que utilicen la aplicación, como para quienes tengan su información cargada en la misma. Asimismo, identificar la regulación existente, para exigir que se cumpla y si es posible desarrollar alguna óptica de normativa posible. -

Tomar conocimiento sobre esta temática, puede ser de utilidad para concientizar, fundamentalmente, a aquellas personas que desconozcan del derecho aplicable en la IA.-


4.- Hipótesis

La regulación en materia de Inteligencia Artificial va a evitar que los desarrolladores de IA, sigan perpetuando sesgos raciales y va exigir que estén en constante perfeccionamiento de las mismas, a través de entrenamientos. Como así también en materia de protección de datos sensibles, como lo es la información de la salud de quienes la utilicen, creando sistemas que cumplan con las exigencias de las regulaciones al respecto.


II. DESARROLLO.


1.-Face2Gene y el funcionamiento de DeepGestalt

La empresa llamada FDNA especializada en crear tecnologías de fenotipado basadas en IA, es la creadora de Face2Gene que es un conjunto de aplicaciones (CLINIC – FORUMS – LIBRARY – LABS – RESEARCH – ACADEMY) [1], la cual utiliza una inteligencia artificial llamada DeepGestalt, que facilitan evaluaciones genéticas completas y precisas.-

El objetivo de esta empresa es buscar conocimientos fundamentales para las enfermedades raras y trastornos genéticos. Con el fin de mejorar la investigación médica innovadora, facilitar el diagnóstico acelerado de los pacientes y respaldar el desarrollo de terapias más eficientes que salven vidas. -

Para ello, lo que hacen a través del escaneo biométrico, es extraer datos de las manifestaciones físicas en la morfología facial, que contiene información del genotipo («Conjunto de los genes de un individuo, de acuerdo con su composición alélica.»[2]) y fenotipo («Manifestación variable del genotipo de un organismo en un determinado ambiente.»[3]). Para esclarecer las definiciones mencionadas debo decir que Gen es la «secuencia de ADN que constituye la unidad funcional para la transmisión de los caracteres hereditarios.»[4]; y Alelo es «cada una de las formas alternativas de un gen que ocupan el mismo lugar en los cromosomas homólogos y cuya expresión determina las características del mismo rasgo de organización, como el color de los ojos.»[5].-

Lo que hace la IA, utilizando Machine Learning (aprendizaje automático) y Deep Learning (aprendizaje profundo), es construir clasificaciones específicas del síndrome, es decir que convierte la foto de un paciente en descriptores faciales matemáticos, los cuales se comparan con una base de datos y cuantifica la similitud, lo que denominan puntaje Gestáltico. Sugiere rasgos fenotípicos y genes para ayudar en la anotación de características y la priorización del síndrome[6].


2.- Sesgos Étnicos.

Sin profundizar demasiado, entendiendo que es un tema amplio para desarrollar, debo mencionar que un estudio llevado a cabo en 2017 encontró que la tasa de reconocimiento de Face2Gene respecto del síndrome de Down (SD) en niños belgas blancos era de un 80% y entre los niños congoleños negros era de un 36,8%. Sin perjuicio de ello, entrenaron el algoritmo con un conjunto de fotografías de personas africanas con SD y sin SD, logrando que el reconocimiento en África aumentara al 94,7%.[7].

Lo que quiero indicar con el estudio mencionado es que los hechos demuestran que, con el entrenamiento y seguimiento de la IA, desde el comienzo de su vida y mientras dure la misma, podemos lograr disminuir los sesgos. -

Por lo que la posibilidad de recurrir contra la determinación y la discriminación algorítmicas injustas, establecido en el punto 29 - Principio de equidad y no discriminación - del Anteproyecto de Recomendación sobre la Ética de la Inteligencia Artificial de la UNESCO, es sumamente importante para reducir al mínimo o evitar perpetuar los sesgos étnicos y sociotécnicos. -

Ya que, si creamos normas en este sentido, los responsables de la Inteligencia Artificial se verían exigidos, en cierta medida, para estar en constante seguimiento y perfeccionamiento de estos sistemas.


3.- Derechos Humanos Afectados.

Haciendo una revisión de la Declaración Universal de Derechos Humanos, puedo decir que el artículo 2° remarca lo ya hablado respecto de los sesgos étnicos, debido a que no permite distinción alguna de raza y color. Como así también el artículo 25° en cuanto que declara que toda persona tiene derecho a la salud y la asistencia médica. -

Asimismo, la Convención Internacional sobre eliminación de todas las formas de discriminación racial, estipula en su artículo 5° que los Estados parte se comprometen a prohibir y eliminar la discriminación racial en todas sus formas, sin distinción de raza, color u origen étnico, motivo por el cual es imperante que se creen regulaciones en este sentido respecto de la Inteligencia Artificial. -

Por último, debo mencionar la Declaración de Toronto: Protección de los derechos a la igualdad y la no discriminación de los sistemas de aprendizaje automático[8], realizada por organizaciones como Amnistía Internacional [9], Access Now [10] y otras, el 16 de mayo del 2018, la cual expone el deber de los Estados de prevenir la discriminación en el diseño o la implementación de los sistemas de aprendizaje automático en contextos públicos o mediante asociaciones público-privadas. -

Incluso trata la responsabilidad de los actores privados, tanto para el desarrollo como para la implementación de los sistemas de aprendizaje automático. Como detectar los posibles resultados discriminatorios a través de la identificación y evaluación de riesgos, y sometiendo a los sistemas a auditorías externas independientes cuando quepa la posibilidad de que se violen derechos humanos. –


4.- Normativa aplicable en materia de protección de datos personales

Dentro del ordenamiento argentino encontramos en primer lugar el Habeas Data Art. 43 de la Constitución Nacional [11], que permite a un individuo conocer la información personas que se encuentra en registros o bancos de datos, permitiendo – según el caso – modificarlos, rectificarlos, ampliarlos, proteger los datos sensibles, suprimirlos, actualizarlos, etc.-

Asimismo, en segundo lugar, encontramos regulado en la Ley de Protección de Datos Personales (Ley n°25.326). La cual utilizaremos para verificar si Face2Gene cumple con los requisitos exigidos para proteger los datos privados de los individuos. -

En principio, debemos saber que, para ser divulgada la información brindada, debe ser un consentimiento libre, expreso e informado[12]. Por lo que responde la aplicación en su página web a los médicos que deseen utilizar estas aplicaciones ¿Necesito obtener un consentimiento adicional del paciente para usar Face2Gene?, explica que la información de los pacientes quedará resguardada en una biblioteca de casos privados al que solo podrá acceder el doctor. Será necesario el consentimiento del paciente si desea compartir la información con otros usuarios del sistema, para el cual tienen un modelo de consentimiento para ese propósito[13].-

También explican en sus normas de seguridad y privacidad, que las fotos de los pacientes se convierten en una descripción digital anónima del rostro y las imágenes originales se consideran información de salud personal[14].-

Cabe destacar que si por algún motivo los datos que fueran objeto del tratamiento fueron utilizados para finalidades distintas o es incompatible con aquellas que motivaron la obtención, estará incumpliendo con lo normado en el artículo 4° inc. 3° de la Ley 25.326.-

Por ultimo el Reglamento General de Protección de Datos (RGPD) de la Unión Europea 2016/679[15], es un instrumento normativo actualizado y que en la categoría que denominan «especiales de tratamiento de datos», conocida en nuestro ordenamiento como «datos sensibles», en comparación con nuestra legislación argentina, incorpora algunos conceptos como, datos genéticos y datos biométricos, que son dirigidos a identificar -de manera unívoca – a una persona física. -

Lo mencionado en el párrafo que precede, puede ser un tema de suma importancia para incorporar en una futura modificación de la Ley de Protección de Datos Personales, de la legislación argentina.

III. CONCLUSIONES

Habiendo desarrollado los puntos de investigación y en comparación con la normativa tanto a nivel nacional como internacional, entiendo que respecto de los sesgos que pueden desarrollar las IA, estas deben ser entrenadas con diversa cantidad de datos de todo tipo de razas étnicas, para evitar que se perpetúen y sigan generando así discriminación entre los seres humanos. Para ello desde un punto de vista jurídico, va a ser imprescindible regulación nacional que se encamine en exigir auditorias externas de la aplicación, como así se mencionó respecto de lo que dice la Declaración de Toronto. -

Respecto de lo visto en materia de protección de datos personales, sin perjuicio de encontrar regulado de forma exacta ciertos puntos de información personal, entiendo que será necesario que incorpore nuevos conceptos, como datos biométricos y datos biogenéticos, como bien vimos que se encuentran regulados en el RGPD de la Unión Europea, de manera tal que puedan identificarse correctamente al ser datos sensibles.

Además, hallo prudente que se creen organismos especializados en verificar que los entes públicos y privados cumplan con métodos de seguridad aprobados, a fin de prevenir posibles problemáticas en relación filtración de datos sensibles. -

Finalizando con las conclusiones, encuentro que la inteligencia artificial abordada en la investigación trabaja en sintonía con las regulaciones existentes. -


IV. REFERENCIAS [1] «Home - Face2Gene.» Disponible en: https://www.face2gene.com/.[sitio consultado el 26-9-2021] [2] «genotipo | Definición | Diccionario de la lengua española | RAE - ASALE.» Disponible en: https://dle.rae.es/genotipo. [sitio consultado el 26-9-2021] [3] «fenotipo | Definición | Diccionario de la lengua española | RAE - ASALE.» Disponible en: https://dle.rae.es/fenotipo. [sitio consultado el 26-9-2021] [4] «gen | Definición | Diccionario de la lengua española | RAE – ASALE.» Disponible en: https://dle.rae.es/gen. [sitio consultado el 26-9-2021] [5] «alelo | Definición | Diccionario de la lengua española | RAE – ASALE.» Disponible en: https://dle.rae.es/alelo. [sitio consultado el 26-9-2021] [6] «Face2Gene Technology - How It Works.» Disponible en: https://www.face2gene.com/technology-facial-recognition-feature-detection-phenotype-analysis/. [sitio consultado el 26-9-2021] [7] LUMAKA, Aimé, et al. Facial dysmorphism is influenced by ethnic background of the patient and of the evaluator. Clinical genetics, 2017, vol. 92, no 2, p. 166-171. Disponible en: https://onlinelibrary.wiley.com/doi/abs/10.1111/cge.12948 [8] «The Toronto Declaration: Protecting the right to equality and non-discrimination in machine learning systems» Disponible en: https://www.accessnow.org/cms/assets/uploads/2018/08/The-Toronto-Declaration_ENG_08-2018.pdf. [sitio consultado el 26-9-2021] [9] «Inicio | Amnistía Internacional - Amnesty International» Disponible en: https://www.amnesty.org/es/. [sitio consultado el 26-9-2021] [10] «Home - Access Now» Disponible en: https://www.accessnow.org/. [sitio consultado el 26-9-2021] [11] Constitución de la Nación Argentina [Const.] (1994) Artículo 43 [Parte primera]. 2da Ed. Elegis, Buenos Aires. [12] Congreso de la Nación Argentina (30 de Octubre de 2000). Artículo 4 inc. 3° [Capítulo 2] Ley de Protección de los Datos Personales [Ley 25.326 de 2000]. [13] «Help Center - Face2Gene» Disponible en: https://www.face2gene.com/help/. [sitio consultado el 26-9-2021] [14]«Face2Gene Security & Privacy» Disponible en: https://www.face2gene.com/security-privacy/. [sitio consultado el 26-9-2021] [15] Reglamento relativo a la protección de datos de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos y por el que se deroga la Directiva 95/46/CE (Reglamento general de protección de datos), 25-05-2018 (e.v.24-05-2016), [L 119, 4.5.2016, p. 1–88]


V. BIBLIOGRAFIA

Revista:

· Danesi, Cecilia Celeste, Inteligencia artificial y Derecho, revista Inteligencia Artificial, Tecnologías Emergentes y Derecho: reflexiones interdisciplinarias, Vol. 1, Hammurabi, Buenos Aires, 2020.

Ley:

· Constitución de la Nación Argentina [Const.] (1994) Artículo 43 [Parte primera]. 2da Ed. Elegis, Buenos Aires.

· Congreso de la Nación Argentina (30 de octubre de 2000). Artículo 4 inc. 3° [Capítulo 2] Ley de Protección de los Datos Personales [Ley 25.326 de 2000].

· Reglamento relativo a la protección de datos de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos y por el que se deroga la Directiva 95/46/CE (Reglamento general de protección de datos), 25-05-2018 (e.v.24-05-2016), [L 119, 4.5.2016, p. 1–88].-

Páginas Web:

· «Face2Gene.» Disponible en: https://www.face2gene.com/. [sitio consultado el 26-9-2021].

· «Diccionario de la lengua española | RAE - ASALE.» Disponible en: https://dle.rae.es/genotipo. [sitio consultado el 26-9-2021].

· LUMAKA, Aimé, et al. Facial dysmorphism is influenced by ethnic background of the patient and of the evaluator. Clinical genetics, 2017, vol. 92, no 2, p. 166-171. Disponible en:

https://onlinelibrary.wiley.com/doi/abs/10.1111/cge.12948[sitio consultado el 26-9-2021].

· «The Toronto Declaration: Protecting the right to equality and non-discrimination in machine learning systems». Disponible en: https://www.accessnow.org/cms/assets/uploads/2018/08/The-Toronto-Declaration_ENG_08-2018.pdf. [sitio consultado el 26-9-2021].

· «Amnistía Internacional - Amnesty International». Disponible en: https://www.amnesty.org/es/. [sitio consultado el 26-9-2021].

· «Access Now» Disponible en: https://www.accessnow.org/. [sitio consultado el 26-9-2021].-