Neurotecnología y Derechos Humanos: problemáticas en torno a la IA y soluciones emergentes
Trabajo de investigación presentado durante el 2º bimestre del año 2021 por la alumna María Agostina Orsi en el contexto de la asignatura «Inteligencia Artificial y Derecho», dictada por la Profesora Cecilia C. Danesi en la Facultad de Derecho de la Universidad de Buenos Aires.
Introducción
La presente investigación versará sobre el uso de la Inteligencia Artificial en el campo de las neurociencias, su ámbito de aplicación, cuestiones a tener en cuenta a la hora de implementar esta tecnología y qué tipo de marco normativo podría ser adecuado para tratar la misma. Abordaré el debate en torno a las afectaciones de algunos derechos humanos, el surgimiento de los denominados neuroderechos y por qué es necesario un marco normativo que contemple estas cuestiones.
Específicamente me centraré en el sistema de IA aplicado al procedimiento que en la neurobiología se denomina neuromodulación. Este tiene como fin el tratamiento de ciertos síntomas, padecimientos mentales de las personas, por medio de la implementación de estimuladores en ciertos blancos cerebrales. Puntualmente, a esta técnica se le denomina estimulación cerebral profunda.
Este tipo de IA logra estimular, disminuir o detener la actividad de determinados circuitos del sistema nervioso con precisión y anticipación. Por medio de ciertos dispositivos, guiados por este tipo de programas, receptan lo que sucede en el cerebro y a su vez actúan sobre la actividad del mismo.
El tener una tecnología que no solo lee la información del cerebro humano, sino que puede actuar sobre el mismo, ha tenido una clara repercusión en el ámbito jurídico, y esta es la base sobre la que los denominados neuroderechos surgen. Varios grupos de expertos argumentan que debemos implementar un marco jurídico que proteja aquellas “situaciones que suceden dentro de nuestra cabeza”.
Las neurociencias: neurotecnología y la aplicación de la IA
Para intentar adentrarnos a esta área de investigación podríamos comenzar definiendo qué son las neurociencias. En unas pocas palabras y con el fin de realizar una primera aproximación, podemos decir que la neurociencia es el estudio del sistema nervioso[1], esta busca entender cómo funciona el mismo, como produce y regula pensamientos, emociones, conductas y funciones vitales básicas. En otras palabras, cómo funciona el cerebro humano.
A lo largo de los años, con los avances en la tecnología, esta última ha sido aplicada en el campo de las neurociencias y ha dado resultado a lo que hoy se conoce como neurotecnología. Esta se define como aquella tecnología desarrollada “para entender el cerebro, visualizar sus procesos e, incluso, controlar, reparar o mejorar sus funciones."[2]
Aquí, en el área de la neurotecnología es donde entra en juego la IA. Con el paso del tiempo, la implementación de sistemas de IA aplicados a las neurociencias ha incrementado. Por más que la misma se utiliza en diversos ámbitos y para diferentes cuestiones, particularmente me centraré en lo que se conoce como neuromodulación (neuromodulation).
La neuromodulación y el sistema de IA
La neuromodulación es un procedimiento que tiene como fin tratar ciertos síntomas, padecimientos mentales de las personas. Esto se realiza con la implementación de estimuladores en ciertos blancos cerebrales. A esta técnica se la conoce como estimulación cerebral profunda, DBS, por sus siglas en inglés, Deep Brain Stimulation.
La DBS moderna es un procedimiento que viene utilizándose hace años en el campo de las neurociencias. Sin embargo, toma más relevancia en el año 2013 con el lanzamiento de los proyectos BRAIN, Brain Research through Advancing Innovative Neurotechnologies[3], en Estados Unidos, y, paralelamente en Europa, con el proyecto HBP, Human Brain Project.[4]
MedTronic es una de las principales empresas que se dedica a trabajar con la estimulación DBS, y comercializa productos (hardwares y softwares) que funcionan con esta tecnología. Al día de la fecha, uno de los más recientes es el denominado SenSight™ directional DBS lead system.[5]
Este consiste en: una aplicación, que puede ser descargada en algún dispositivo inteligente, un artefacto en donde se monitorea la actividad cerebral, y por la cual se envían señales al cerebro (información que paralelamente figura en la aplicación); y dos agujas con cables muy pequeños que funcionan como implantes, que se colocarán en el cerebro de la persona afectada (intervención quirúrgica no invasiva). Estos enviarán descargas eléctricas (electrodos) al cerebro cuando el sistema lo crea pertinente.
La transmisión de esas señales está regulada por el software que vendrá programado en el artefacto y en la aplicación, el denominado Suretune™ 4 Software.[6]
Este sistema está realizado por profesionales del área de la IA, junto con expertos del campo de las neurociencias y la medicina. Por la manera en la que se encuentra configurado, logra estimular, disminuir o detener la actividad de determinados circuitos del sistema nervioso de la persona afectada con precisión y anticipación. Este dispositivo anteriormente descrito (hardware) guiado por este programa (software), recepta lo que sucede en el cerebro, lo registra, analiza, y según esa información el algoritmo actúa sobre la actividad del cerebro, realizándole una neuroestimulación a la persona.
Al día de la fecha, estos dispositivos han mostrado gran eficacia en aquellos pacientes diagnosticados con la enfermedad de párkinson y epilepsia[7].
Problemáticas en el ámbito jurídico, solución emergente: “neuroderechos”
Si bien podríamos decir que la manipulación de este tipo de tecnologías claramente puede tener repercusiones en casi todos los ámbitos del derecho, sea en el derecho público en general (en el derecho penal, por ejemplo) como también en el ámbito del derecho privado; en este caso me centraré en lo concerniente a los derechos humanos puesto que esta es la base y fundamento del surgimiento de una nueva propuesta de derechos que buscan proteger a las personas por el simple hecho de ser seres humanos.
El poseer una tecnología que no solo analiza y registra la información del cerebro humano, sino que a su vez puede actuar e inferir en los procesos que se realizan en el mismo es una cuestión que tiene una clara repercusión en el ámbito jurídico.
Esta podríamos decir que es la premisa por la cual surgen una nueva serie de derechos emergentes a nivel mundial, los denominados “neuroderechos”. Rafael Yuste, es el principal impulsor de los mismos, profesor de la Universidad de Columbia, experto en el área de neurotecnología, director del proyecto BRAIN y líder de la iniciativa NeuroRights Initiative[8] de la Universidad de Columbia en Estados Unidos.
Esta reúne a un grupo de expertos en la materia de todo el mundo que declaran que teniendo en cuenta los avances exponenciales en estas tecnologías, debemos comenzar a legislar alrededor de estos temas e implementar un marco jurídico que proteja a todas aquellas “situaciones que suceden dentro de nuestras cabezas”[9].
Rafael Yuste expone principalmente cinco neuroderechos esenciales que deberían regir en la materia y a su vez ser incluidos en la Declaración Universal de los Derechos Humanos (París 1948)[10]. Estos son: el derecho a la identidad personal, el derecho al libre albedrío, el derecho a la privacidad mental, el derecho al acceso equitativo al aumento neurocognitivo y el derecho a la protección contra los sesgos algorítmicos[11].
Privacidad. Nuevo tipo de datos: los neurodatos
El derecho a la privacidad mental argumenta que la actividad neuronal, la cual es el soporte de los procesos cognitivos, el pensamiento y lo que conocemos como la mente, no debería ser “extraída” del cerebro sin el consentimiento del individuo y bajo ninguna circunstancia ser utilizada con fines comerciales.
En este caso, surge el concepto de “neurodatos” una nueva especie de datos que hacen alusión a todos aquellos datos, a toda información que se produce en el cerebro de las personas humanas, “los datos en los que está escrito lo que somos”[12] en palabras de Yuste.
En concordancia con la legislación nacional vigente, este tipo de neurodatos podríamos considerarlos en un futuro dentro de la categoría de los denominados datos sensibles[13], aquellos datos que pueden ser susceptibles de discriminación y que por esta razón deben poseer un tratamiento mucho más riguroso y estricto que otro tipo de datos.
En las sesiones del congreso chileno para incorporar estos derechos a su Constitución, Yuste plantea que este nuevo tipo de datos deberían ser contemplados como “órganos humanos”, explica: “habrá una línea que no se puede cruzar porque quedarían establecidos como órganos humanos, que se pueden donar y recibir con fines médicos o altruistas, pero no comerciales”[14].
Identidad personal
El derecho a la identidad personal tiene su fundamento en la posibilidad de que, al conectar el cerebro a un sistema de IA, este último pudiera influenciar de alguna manera la personalidad del individuo. De este modo, en la medida que el cerebro estuviere conectado a un sistema, podría resultar en que los límites entre la conciencia personal y las entradas externas pudieran difuminarse, y así, la individualidad y la identidad de la persona se vería afectada. Por esta razón, los expertos argumentan que debemos prevenir que “el yo no se disuelva en la red”[15].
Libre albedrío
El derecho al libre albedrío implica que ningún tipo de tecnología al cual el cerebro esté conectado influencie la toma de decisiones de la persona. Esta debe decidir por sí sola sin estar condicionada por ningún sistema, ni este debe invadir el discernimiento, la intención y libertad del individuo. La persona debe tener la última palabra ante la toma de sus propias decisiones, sin manipulación neurotecnológica externa alguna.
Acceso equitativo
El derecho al acceso equitativo al aumento de neurocognición tiene su razón de ser en que, si nos encontramos ante la presencia de algoritmos que pueden mejorar la actividad cerebral, este acceso debe ser equitativo y justo para todas las personas, indistintamente de sus situaciones socioeconómicas.
Este neuroderecho tiene su fundamento en que el desarrollo de neurotecnologías tiene costos muy elevados y generalmente aquellos que financian los mismos suelen ser privados de cierto estrato socioeconómico elevado. Este derecho busca que el acceso a estas tecnologías no sea únicamente para un grupo, sino que, debe ser un derecho humano con acceso igualitario para todos, y de este modo, evitar que un grupo de personas posea capacidades sensoriales o cognitivas superiores a otras.
Sesgos: importancia del enfoque de género
El derecho a la protección de sesgos algorítmicos, plantea que los algoritmos deben ser supervisados durante todo su ciclo de vida, no únicamente durante su periodo de programación y de prueba, con el fin de proteger a las personas y así no verse afectadas por los mismos.
La protección ante los sesgos es de suma importancia puesto que los sistemas podrían llegar a generar diversos tipos de discriminaciones (por ejemplo, por ideología política de la persona, su etnia, entre otros).
Si bien la formación en cuanto a los sesgos debe ser integral, puesto que existen muchas cuestiones que pueden llegar a originar discriminaciones de distinto tipo. Personalmente creo que se debe prestar mucha atención a los sesgos que pudieren llegar a generar los sistemas en cuanto a las cuestiones de género. Especialmente por el hecho de que existe una evidente desigualdad, no solo en el área desarrolladora de los algoritmos, sino también en la neurotecnología y neurociencia, en donde son mayoritariamente varones quienes conforman estos grupos.[16] Esto podría resultar en que los sistemas pudieran presentar sesgos, lo que implicaría un grave problema en los resultados que arrojen.
Imaginemos que nos encontramos ante un sistema que identifica diferencias entre dos cerebros y a uno lo cataloga como “masculino” y a otro como “femenino”, esta cuestión ya presenta varias problemáticas, ¿qué factores utiliza el algoritmo para arrojar ese resultado? A su vez, imaginemos que ante esa respuesta el algoritmo decide potenciar en el cerebro que ha categorizado como “masculino” el procesamiento neuronal analítico, mientras que en el catalogado como “femenino” decide potenciar el procesamiento neuronal emocional.
Estas problemáticas podrían ser evitadas si supervisamos estos sistemas durante todo su ciclo de vida y a su vez, capacitamos a las personas entorno a estas cuestiones.
Conclusión
Si analizamos los neuroderechos con nuestra normativa interna podemos ver algunas similitudes.
Cuando hablamos del derecho a la privacidad mental, podemos hacer referencia, en primer lugar, al artículo 19 de nuestra Constitución Nacional. A su vez, al hablar de los neurodatos (que podríamos considerar como datos sensibles) y el derecho a la identidad personal, podemos relacionar estos con la Ley de Protección de Datos Personales (Ley 25.326), junto con el artículo 43 de nuestra Constitución.
Al tratar el libre albedrío, una aproximación que podemos realizar es el artículo 260 de nuestro CCCN que define el acto voluntario, como aquel que debe ser realizado con discernimiento, intención y libertad.
Y en cuanto al acceso equitativo y la protección ante sesgos, podemos nombrar el artículo 16 de nuestra Constitución, como también la ley 23.592 de Actos Discriminatorios.
Al comparar estos derechos emergentes con nuestra legislación podemos encontrar cierta armonía. Esto tiene su fundamento en que los neuroderechos fueron creados bajo la premisa de que funcionen como principios éticos rectores en la materia; de modo que, pudieran ser aplicados tanto a cualquier marco normativo interno, como a nivel internacional.
Legislar sobre esta materia, en un momento donde la neurotecnología avanza todos los días, es de suma importancia. En la medida que tengamos debates sobre estos temas, mejor será nuestra formación sobre los mismos, y más eficientes serán las herramientas que podremos crear para protegernos.
Bibliografía
Artículo: “Gender inequality in Latin American neuroscience community”. Publicación: IBRO Neuroscience Reports (enero, 2021).
http://servicios.infoleg.gob.ar/infolegInternet/anexos/60000-64999/64790/norma.htm
https://braininitiative.nih.gov/
https://concienciabiosocialblog.wordpress.com/2020/11/18/estableciendo-limites-a-la-neurociencia/
https://neurorightsfoundation.org/
https://open.spotify.com/episode/459nlPSvtRdmWZJIY42tZK?si=aN306TmBSJ-sNgcXA1B8QQ&dl_branch=1
https://www.darpa.mil/program/our-research/darpa-and-the-brain-initiative
https://www.humanbrainproject.eu/en/
https://www.iberdrola.com/innovacion/neurotecnologia
https://www.ncbi.nlm.nih.gov/pmc/articles/PMC3724171/
https://www.psychologytoday.com/us/blog/brain-chemistry/202006/neurorights-and-why-we-need-them
https://www.reuters.com/article/us-science-robomouse-idUSKBN0NL23R20150430
https://www.univision.com/noticias/opinion/latinoamerica-vanguardia-proteccion-privacidad-mental
https://www.youtube.com/watch?v=7xd7XmEiFNg
https://www.youtube.com/watch?v=PjWs3-KqCBc
Referencias
[1] https://espanol.nichd.nih.gov/salud/temas/neuro/informacion [2] https://www.iberdrola.com/innovacion/neurotecnologia [3] https://braininitiative.nih.gov/ [4] https://www.humanbrainproject.eu/en/ [5] https://www.medtronic.com/us-en/healthcare-professionals/products/neurological/deep-brain-stimulation-systems/sensight-lead.html [6] https://www.medtronic.com/us-en/healthcare-professionals/products/neurological/deep-brain-stimulation-systems/suretune-software.html [7] https://www.iberdrola.com/innovacion/neurotecnologia [8] https://neurorightsfoundation.org/ [9] https://open.spotify.com/episode/459nlPSvtRdmWZJIY42tZK?si=aN306TmBSJ-sNgcXA1B8QQ&dl_branch=1 [10] https://www.un.org/es/about-us/universal-declaration-of-human-rights [11]https://youtu.be/7xd7XmEiFNg [12] https://youtu.be/7xd7XmEiFNg [13] http://servicios.infoleg.gob.ar/infolegInternet/anexos/60000-64999/64790/norma.htm [14]https://www.senado.cl/inteligencia-artificial-y-neuroderechos-la-proteccion-de-nuestro/senado/2019-05-28/132221.html. [15]https://youtu.be/7xd7XmEiFNg [16]Artículo: “Gender inequality in Latin American neuroscience community”. Publicación: IBRO Neuroscience Reports (enero, 2021).