HUMANOIDES: ¿Cómo responden ante los daños causados?

Trabajo de investigación presentado durante el 2º cuatrimestre del año 2021 por la alumna Luz María Sarchi en el contexto de la asignatura «Inteligencia Artificial y Derecho», dictada por la Profesora Cecilia C. Danesi en la Facultad de Derecho de la Universidad de Buenos Aires.




Introducción

¿Qué tipo de robots conocemos? ¿Qué habilidades tienen? ¿Pueden reemplazarnos en nuestros puestos de trabajo? ¿Pueden quizás imitarnos? ¿Quiénes están a cargo de su entrenamiento? ¿Quién responde por los daños que podrían llegar a causar?

Boston Dynamics[1] es una empresa estadounidense con más de 25 años de trayectoria que se dedica a la ingeniería y robótica. Uno de sus principales objetivos a largo plazo ha sido la creación de robots de alto rendimiento, comparables con los humanos y otros animales. Quienes trabajan en esta empresa se han propuesto construir robots que dominen sus cuerpos con un fin específico: servir en el mercado empresarial. Entre ellos podemos mencionar a Spot (que ya se encuentra a la venta mediante la página web de la empresa), Handle, Pick y por último a ATLAS, un robot humanoide que actualmente sigue en desarrollo.

A lo largo de este trabajo me propondré contestar algunas de las incógnitas planteadas, focalizándome en explicar en qué consiste el proyecto ATLAS de esta poderosísima empresa y el impacto que puede llegar a causar el empleo de estas creaciones en la actualidad.


¿Qué es y cómo funciona ATLAS?

Posiblemente si te gusta la tecnología y estás al tanto de los últimos avances en robótica, alguna vez escuchaste o viste los impresionantes avances de ATLAS; sus videos nos han dejado boquiabiertos con sus movimientos, sus bailes y sobre todas las cosas con su inimaginable agilidad, que sigue día a día superándose.

ATLAS es un robot humanoide (lo que significa que posee apariencia o características similares a las humanas) que mide un metro y medio y pesa aproximadamente 80 kilos. Al igual que los humanos, es posible diferenciar entre la parte motora de su cuerpo y la parte cognitiva.

Su cuerpo está compuesto por 28 articulaciones en brazos y piernas. En la parte frontal de su cabeza posee una cámara que utiliza para monitorear sus movimientos. La mayoría de sus partes han sido impresas en 3D para poder lograr un cuerpo más liviano y dinámico; y se alimenta de una batería recargable de gran durabilidad diseñada por la misma empresa.

Con la descripción hecha hasta este momento parece una simple máquina con aspecto de humano, pero ¿qué hay respecto a la parte cognitiva? Los ingenieros nos contestarían con una sola palabra: percepción. A través de ésta los robots identifican los obstáculos, reconocen el problema que tienen en frente y lo resuelven actuando en consecuencia. Casi todos los sistemas de Inteligencia Artificial (en adelante, IA) funcionan a través de lo que conocemos como machine learning o incluso a partir de deep learning, pero este sistema escapa de lo convencional.

ATLAS percibe a través de un sistema de visión compuesto por cámaras y un líder[2], que facilita la detección de la profundidad de los objetos que se le presentan. Este sistema escanea la tridimensionalidad de la escena generando una nube de puntos, a partir de la cual se pueden aplicar los algoritmos tradicionales, mediante los cuales elige de qué manera moverse.

Ahora bien, no está de más preguntarnos cómo es que “elige”. Scott Kuindersma[3], ingeniero y líder del presente proyecto, en un encuentro virtual de “Robotics Today[4] en junio del 2020, explicó a la perfección cómo funciona la “mente” de estos robots. No se debe dejar de soslayar que no se trata de robots completamente autónomos, sino que son monitoreados por sus creadores. Éstos han elaborado una biblioteca de comportamientos entre los cuales el robot deberá elegir de acuerdo a las circunstancias en las que se encuentre. El objetivo final es crear una biblioteca con un sinfín de comportamientos para que ATLAS pueda seleccionar los que más se ajusten al tiempo y lugar en el que se encuentra.


¿Y qué pasaría si …?

Como ya expresé, ATLAS es un proyecto de Boston Dynamics que continúa en pleno desarrollo; su objetivo a largo plazo pretende crear avances en el control dinámico del cuerpo del robot, para llegar de ese modo a superar el rendimiento humano típico, lo que estimo lograrán en no mucho tiempo.

Pero, al margen de ello, propongo que imaginemos que ya llegó el día en que ATLAS sale al mercado, y que por la suma de algunos dólares lo podemos obtener y llevar con nosotros para realizar tareas en cualquier tipo de empresa y, por qué no, para ayudarnos en las tareas habituales del hogar.

Conforme a las reglas de la robótica establecidas por Isaac Asimov[5], los robots están diseñados para obedecer órdenes y nunca para dañar a los seres humanos. Pero, si pensamos en distintos escenarios en los que podrían implementarse estas nuevas tecnologías, no quedan dudas de que, aunque sin intenciones, esos daños son inevitables. En este punto debemos preguntarnos, ¿quién responde por los daños ocasionados?


¿Quién responde por los daños?

Al combinar las nuevas tecnologías con el derecho surge un vasto abanico de incógnitas y cuestionamientos que en la mayoría de los casos no tienen respuesta en la letra de la ley. Como sabemos, desde el comienzo de la historia de la humanidad, la sociedad ha ido mutando y cambiando al compás de las nuevas tecnologías, y el derecho siempre ha ido por detrás de esas nuevas invenciones. La situación actual no escapa de la regla, no existiendo a nivel nacional ni tampoco internacional respuestas a las lagunas normativas generadas como consecuencia de la velocidad con la que se producen los cambios.

A continuación, se hará foco en las áreas del derecho consumeril, civil y de daños, sin perjuicio del impacto que podría generarse en otras ramas, como podría ser en el derecho penal, entre otras.


Doctrina nacional

El ingreso al mercado de sistemas de IA como los robots, con la problemática jurídica que éstos traen aparejada, como ya se dijo, podría ser abordada por distintas ramas del derecho. Por un lado, analizaré la aplicación del derecho de consumo, y por el otro, su tratamiento bajo la óptica del derecho de daños.

Si quisiéramos plantear la problemática a la luz del derecho de los consumidores, la ley 24.240 en su artículo primero establece los límites del ámbito de aplicación, estableciendo que “se extiende a las situaciones dañosas derivadas de un producto elaborado, en la medida que comprende toda hipótesis en que el damnificado adquiere el producto como destinatario final o cuando, sin ser adquirente, está expuesto a una relación de consumo[6].

Stiglitz[7] (2015) señala que “el derecho del consumidor no se agota en la característica predominantemente preventiva de sus normas, sino que además regula el sistema de resarcimiento de los daños causados en el marco de las relaciones de consumo”. Dentro de la normativa de consumo encontramos una variada cantidad de normas que hacen alusión a los deberes que posee el proveedor para con los consumidores (como el deber de seguridad, el deber de información, el de buena fe – reconocido en el Código Civil y Comercial de la Nación –, entre otros) y, asimismo, se establece en el artículo 40[8] de la ley precedentemente mencionada la responsabilidad objetiva de toda la cadena de producción.

Queda en evidencia entonces que del análisis de este plexo normativo podríamos imputar la responsabilidad a Boston Dynamics por los defectos en ATLAS. Sin embargo, es necesario rever y actualizar la norma de manera tal que quede específicamente contemplada la realidad tecnológica existente.

No obstante ello, el Código Civil y Comercial de la Nación (en adelante CCCN) establece en su artículo 1716 el deber de reparar, por lo que, cuando un sujeto causa un daño o incumple una obligación debe reparar el daño causado[9]. Aun así, no existe ninguna figura que encuadre acabadamente con los nuevos sistemas desarrollados, ni tampoco que dé lugar a los que vendrán.

No es el objeto de este trabajo ahondar sobre el derecho de daños per se, pero parece necesario tratar ciertas cuestiones, como por ejemplo, cuál es la diferencia entre la responsabilidad subjetiva y objetiva. La responsabilidad subjetiva busca valorar la conducta de la persona que ha cometido el daño. La noción genérica de culpabilidad se manifiesta a través del dolo o de la culpa del agente dañoso. Del mismo modo, existen factores de atribución objetivos que prescinden de todo tipo de culpa, los que han surgido como respuesta ante la aparición de nuevos daños que han tenido lugar desde el siglo XVIII hasta nuestros tiempos. Como consecuencia de ello, ha cambiado el fundamento de la responsabilidad civil, siendo actualmente el daño injustamente sufrido el foco del sistema de reparación.

Basándose en el análisis de los factores de atribución objetivos que se presentan en el CCCN, se ha intentado encuadrar la responsabilidad de los robots en las figuras ya existentes. De las posibilidades que se han barajado, que cabe aclarar, todas derivan en la misma solución por tratarse siempre de responsabilidad objetiva, pueden mencionarse: dentro de la responsabilidad por el hecho ajeno, la responsabilidad de los padres respecto de sus hijos (art. 1754 CCCN) y la responsabilidad del principal por el hecho del dependiente (art. 1753 CCCN); la responsabilidad por daños causados por animales (art. 1759 CCCN); y lo concerniente a la teoría del riesgo creado (arts. 1757 y 1758 CCCN).

Respecto a las dos primeras opciones se asocia la posible responsabilidad de los robots a estas figuras por la autonomía parcial que poseen, puesto que son autónomos físicamente pero no así en lo que hace a la toma de decisiones. De igual manera, se vincula a los daños causados por animales por la imprevisibilidad de las conductas, cuestión que se deriva del comportamiento autónomo de los robots.

Por último, se sugiere que la teoría más adecuada para aplicar es la del riesgo creado. Esta sostiene que la intromisión de cosas viciosas o riesgosas en la sociedad es el motivo por el cual se debe responder. La legitimación va a estar en cabeza del dueño o guardián de la cosa viciosa o riesgosa. En este sentido, podría considerarse que el dueño es el titular del robot (para lo que sería sumamente útil la creación de un registro de robots donde poder localizar al responsable por los daños ocasionados[10]) y puede entenderse como guardián a quien está a cargo de su mantenimiento.

En lo que concierne específicamente a ATLAS, podríamos considerar aplicable la responsabilidad por el hecho ajeno, puesto que este robot posee autonomía física, pero no así de decisión, por estar sus comportamientos delimitados a los almacenados en la biblioteca. De igual modo, ATLAS podría quedar contemplado en una interpretación amplia y dinámica de la teoría del riesgo creado.


Doctrina internacional

En el marco de la Unión Europea se ha labrado un informe llamado “Liability For Artificial Intelligence And Other Emerging Digital Technologies” donde se han postulado algunas soluciones a estas nuevas problemáticas. Un claro ejemplo, aunque desestimado por gran parte de la doctrina, es la posibilidad de otorgarle personería jurídica a los robots, “siendo ello elemental para determinar no solo sus eventuales derechos, sino también sus obligaciones y responsabilidades para con los humanos y otros robots que convivan”[11]. Al respecto este informe ha sostenido que no es necesario de momento establecer una personalidad semejante, puesto que los daños causados por las tecnologías, incluso las totalmente autónomas, son generalmente atribuibles a los riesgos generados por las personas físicas o a las categorías de personas jurídicas existentes.

Otra propuesta con gran peso a nivel internacional ha sido la implementación de un seguro obligatorio de responsabilidad civil o de fondos de compensación que servirían como una “herramienta de tutela de los damnificados de las nuevas tecnologías, especialmente en los supuestos de daño notorio[12]. Sobre este punto se ha manifestado en el informe que, pese a que puede ser tomado como una opción, no puede ser la única respuesta y no puede sustituir completamente las normas de la responsabilidad civil.


Conclusión

El siglo XXI nos ha demostrado la velocidad con la que se suceden los cambios de la mano de sistemas de IA. Es por ello que resulta adecuado que este cambio sea acompañado de legislación lo suficientemente amplia y flexible para que queden abarcados de una vez estos sistemas que se caracterizan por su dinamismo.

Quizás hoy en día ATLAS sea solo un proyecto, pero su acelerada evolución debería sembrar una incógnita en cada uno de nosotros, los juristas del futuro, para crear normativa que se adecúe y pueda traer soluciones ante las nuevas problemáticas que estos sistemas acarrean.


Bibliografía

BORAGINA J, (2011) "Sistema de la ley 24.240 modificada por la ley 26.361, responsabilidad por daños causados por productos elaborados defectuosos". RCyS 2011-X-281.

Boston Dynamics – About Us. https://www.bostondynamics.com/about

DANESI, C. (2018), “¿Quién responde por los daños ocasionados por los robots?”. RCyS2018-XI, 24.

DANESI, C. (2018), La responsabilidad civil en la era de la Inteligencia Artificial en La Justicia Uruguaya, Revista Jurídica. Tomo 156, DA-51.

FOSSACECA (h.), C. – MOREYRA P. (2020) “Aproximaciones a la responsabilidad civil por la utilización de inteligencia artificial y derecho de los robots. Una mirada jurídica”, La Ley. RCyS2020-VIII, 20.

GAVALDÀ J. (2020), “Isaac Asimov, maestro de la ciencia ficción”. Historia National Geographic, https://historia.nationalgeographic.com.es/a/isaac-asimov-maestro-ciencia-ficcion_15035

HERNÁNDEZ C. y STIGLITZ G (2015), "Tratado de derecho del consumidor", La Ley. t. III, cap. XVIII.2.

Ley 24.240. Normas de Protección y Defensa de los Consumidores. Autoridad de Aplicación. Procedimiento y Sanciones. Disposiciones Finales. http://servicios.infoleg.gob.ar/infolegInternet/anexos/0-4999/638/texact.htm

Ley 26.994. Código Civil y Comercial De La Nación. http://servicios.infoleg.gob.ar/infolegInternet/anexos/235000-239999/235975/norma.htm

MELO, V. (2021), Responsabilidad por daños e inteligencia artificial: ¿vino nuevo en odres viejos?, La Ley. RCyS2021-III, 3.

Robotics Today (2020), "Recent Progress on Atlas, the World’s Most Dynamic Humanoid Robot" [video] https://www.youtube.com/watch?v=EGABAx52GKI&t=2940s

SANTANA VEGA, C. (2021), Los robots de Boston Dynamics no funcionan como tú crees... [video] https://www.youtube.com/watch?v=DnrmpgKJPsY

Resolución de la Unión Europea (2019), “Liability for Artificial Intelligence and other Emerging Digital Technologies”.


Referencias [1] https://www.bostondynamics.com/about [2] Los robots de Boston Dynamics no funcionan como tú crees... [video] https://www.youtube.com/watch?v=DnrmpgKJPsY [3] Líder del proyecto Atlas I + D en Boston Dynamics. Anteriormente, fue profesor asistente de ingeniería y ciencias de la computación en la Universidad de Harvard y director del Laboratorio de Robótica Agile de Harvard. (https://ww||w.linkedin.com/in/scott-kuindersma-06a38152/). [4]"Recent Progress on Atlas, the World’s Most Dynamic Humanoid Robot" [video] https://www.youtube.com/watch?v=EGABAx52GKI&t=2940s [5]https://historia.nationalgeographic.com.es/a/isaac-asimov-maestro-ciencia-ficcion_15035 [6] BORAGINA J, en "Sistema de la ley 24240 modificada por la ley 26361, responsabilidad por daños causados por productos elaborados defectuosos”. [7] HERNÁNDEZ C. y STIGLITZ G en "Tratado de derecho del consumidor". [8] ARTICULO 40. — Si el daño al consumidor resulta del vicio o riesgo de la cosa o de la prestación del servicio, responderán el productor, el fabricante, el importador, el distribuidor, el proveedor, el vendedor y quien haya puesto su marca en la cosa o servicio. El transportista responderá por los daños ocasionados a la cosa con motivo o en ocasión del servicio. La responsabilidad es solidaria, sin perjuicio de las acciones de repetición que correspondan. Sólo se liberará total o parcialmente quien demuestre que la causa del daño le ha sido ajena. [9] ARTICULO 1716.- Deber de reparar. La violación del deber de no dañar a otro, o el incumplimiento de una obligación, da lugar a la reparación del daño causado, conforme con las disposiciones de este Código. [10] DANESI, C. (2018), La responsabilidad civil en la era de la Inteligencia Artificial en La Justicia Uruguaya, Revista Jurídica. [11] FOSSACECA (h.), C. – MOREYRA P. (2020) “Aproximaciones a la responsabilidad civil por la utilización de inteligencia artificial y derecho de los robots. Una mirada jurídica”. [12] Ídem nota anterior.