Replika

Trabajo de investigación presentado durante el 1º bimestre del año 2021 por la alumna Noelia Grisel Linares en el contexto de la asignatura «Inteligencia Artificial y Derecho», dictada por la Profesora Cecilia C. Danesi en la Facultad de Derecho de la Universidad de Buenos Aires.




I - Introducción. Replika. ¿Qué es? - ¿Cómo es?

Replika es un Chatbot. ¿Qué es esto? “un chatbot es un programa informático que simula y procesa conversaciones humanas (ya sea escritas o habladas), permitiendo a los humanos interactuar con dispositivos digitales como si se estuvieran comunicando con una persona real.”[1]

Replika es un chatbot sofisticado que puede aprender y evolucionar para ofrecer niveles de personalización cada vez mayores a medida que reúne y procesa información. Se maneja con inteligencia artificial (IA) la cual utiliza algoritmos. En forma simple los “algoritmos son un conjunto de instrucciones o reglas definidas y no-ambiguas, ordenadas y finitas que permite, típicamente, solucionar un problema, a través de realizar un cómputo, mediante el procesar datos y mediante llevar a cabo determinadas tareas o actividades”[2]. Los algoritmos inteligentes son capaces de conocernos y tal es lo que sucede con Replika.

Fue creado por la rusa Eugenia Kuyda en un momento muy triste de su vida. Su mejor amigo y socio Roman había fallecido en un accidente de tránsito y, como lo extrañaba, decidió recolectar los mensajes que su amigo había enviado. En total recolecto más de 10.000 mensajes que Roman había enviado a todos sus amigos. Con esta base de datos ella creó una inteligencia artificial en formato chatbot que daba respuestas y hacía chistes replicando a Roman. Luego que este chatbot se diera a conocer Eugenia recibió pedidos de gente que querían replicar a sus seres queridos.

Como vemos Replika es un chatbot conversacional, donde una persona tiene una conversación con una IA como si estuviera hablando con otro humano, pero en este caso Replika te hará preguntas para conocerte más. De esta manera la IA ingresa en tu psiquis y va conociendo tus gustos, tus modos de conversación, tus problemas, tus alegrías y de a poco se va convirtiendo en tu mejor amigo/a. Ésta IA es una red neuronal que va aprendiendo todo del usuario y su contexto, de lo que éste le ofrezca, convirtiéndose de a poco en un doble suyo (para esto la aplicación utiliza tu cámara, tu micrófono, tus contactos telefónicos, tu almacenamiento y el de su nube).

En la revista GQ, se habla de Replika como la IA que consigue que tus tataranietos hablen contigo. “Luka, la startup con sede en San Francisco responsable de este curioso invento, quiere que Replika se convierta en una especie de legado digital, un gemelo que nos sobreviva y con el que puedan chatear nuestras parejas, nuestros hijos, nuestros nietos o nuestros tataranietos. También un amigo que nos entienda por completo y nos acompañe en los momentos más solitarios de nuestra vida. (…). O por qué no, en un sirviente digital que termine por hacer las tareas que menos nos agradan. (…) Replika es la penúltima oferta de un lucrativo negocio llamado 'el mercado de la muerte digital' y que la serie Black Mirror mostró de una manera tan alucinante y sugerente en su episodio 'Be Right Back'”.[3]

En el presente trabajo intentaremos identificar cómo reacciona el derecho frente a Replika.


II -Derecho al honor, a la intimidad y a la propia imagen.

En este caso quiero analizar qué problemas genera Replika con respecto a los derechos personalísimos de la persona, por eso primero haremos una breve descripción de los mismos.

Los derechos al honor, a la intimidad y a la propia imagen, son derechos personalísimos, los cuales son inherentes a la persona humana (para mi hacen a la personalidad de un ser humano, y es única por cada uno). Se oponen erga omnes y son innatos, inherentes y necesarios, porque nacen con la persona. Con respecto a la extinción de este tipo de derechos algunos dicen que mueren con la persona (“la extinción de la vida humana determina la inexistencia del sustrato que es requisito esencial de la personalidad: Esta se extingue con la muerte, por lo que el cadáver no puede ser titular de derecho alguno”[4]) y para otros no, sino que existe la “personalidad pretérita” (datos personales de las personas fallecidas y protección post mortem de los derechos al honor, intimidad y propia imagen).

Derecho al honor

“Toda persona tiene derecho al respeto de su honra y al reconocimiento de su dignidad. Nadie puede ser objeto de injerencias arbitrarias o abusivas en su vida privada, en la de su familia, en su domicilio o en su correspondencia, ni de ataques ilegales a su honra o reputación”[5].

Derecho a la intimidad

“El derecho a la privacidad o a la intimidad es, en lato sensu, aquel derecho humano por virtud del cual la persona, llámese física o moral, tiene la facultad o el poder de excluir o negar a las demás personas, del conocimiento de su vida personal, además de determinar en qué medida o grado esas dimensiones de la vida personal pueden ser legítimamente comunicados a otros”[6]. Aquí también podríamos decir que ingresa el derecho a los datos personales, porque son parte de la privacidad de la misma.

Derecho a la propia imagen

“Es aquel que permite impedir que por cualquier medio se capte, reproduzca, difunda o publique nuestra persona de un modo que permita identificarla sin nuestro consentimiento o el de la ley. Es un derecho que versa sobre un objeto interior de la persona sin perjuicio de su proyección en el exterior de la misma, que configura su integridad espiritual y que es innato, vitalicio, extrapatrimonial.”[7]. La imagen de una persona se forma por sus características físicas, sus gestos, su forma de hablar, vestir o de caminar, el lenguaje que utiliza, sus opiniones y como se desempeña con su entorno.

Legislación

En Argentina estos derechos están protegidos por la constitución nacional (artículos 19 y 75 inc. 22) y leyes complementarias (ley de propiedad intelectual, ley de datos personales- Ley 25.326-), por tratados internacionales como la declaración universal de los derechos humanos (art. 12), Declaración Americana de los derechos y deberes del hombre (art. 5), Declaración Americana sobre los derechos humanos (art. 11), entre otros, y las constituciones de la mayoría de los países del mundo contienen estos derechos dentro de su protección (Chile- art.19 inc.4 y 5-, Perú -Art.2.7-, España –art.18-, etc.).


III- Replika y Derecho. Conclusión.

“Una vertiente en concreto de la responsabilidad que pueden generar los chatbots reside en las afectaciones al derecho al honor, a la intimidad y a la propia imagen de terceros. En este sentido, uno de los puntos clave a tratar son los oscuros designios de los algoritmos generados a consecuencia del posible uso de inteligencia artificial que podrían ofrecer interacciones que interfieran directamente con los derechos personalísimos del usuario”[8].

El código civil y comercial de la nación (en adelante CCCN), en sus artículos 51 al 55, nos dice que la dignidad de la persona es inviolable, que su imagen para ser utilizada debe tener consentimiento expreso, que aquella persona que sufra una lección a su intimidad, a su honra, a su identidad, puede reclamar su prevención y la reparación de los daños sufridos según la responsabilidad establecida por el mismo código. Deja muy en claro que el consentimiento para el uso de las acciones referente a derechos personalísimos NO SE PRESUME, debe ser de manera expresa.

En este punto creo que se presenta el primer dilema con la IA, ésta no tiene el consentimiento expreso del usuario sino uno tácito que él mismo le da al utilizar la APP y al responder sus preguntas y compartirle su entorno. En este caso el mal uso de la intimidad del usuario podría causarle una deshonra, ya que la mayoría de las personas que la utiliza le cuentan a la IA todo como si fuera su psicólogo. Se presentaría según el artículo 1758 del CCCN una responsabilidad objetiva de parte de la empresa, si consideráramos a la IA como una cosa, o ciertas actividades; en este punto la legislación nos presenta la primera laguna, ¿cómo consideramos a la IA?.

El tratamiento de datos, en cualquiera de sus formas (todo lo inherente a la persona), requiere del consentimiento libre e informado de su titular para una o varias finalidades específicas (según la ley 25326), la IA no pide permiso para aprender del usuario, se cree implícito. Aquí podemos decir que no tiene un acceso lícito a nuestra información, que en ningun lugar de la APP nos informa sobre el uso de la misma para el entrenamiento de la IA. En pocas palabras Replika estaría utilizando los datos sin el consentimiento específico planteado por la legislación.

Si bien en la publicación de la revista GP los responsables de la IA respondieron que ellos no van a vender los datos, “Y si en un momento dado nos cansamos de ella, podemos borrar todo lo que la compañía haya recopilado de nosotros con tan solo solicitar la eliminación de la cuenta. Así de fácil es acabar con nuestro gemelo digital y hacer que nuestros tataranietos no nos conozcan nunca, más allá de las fotos que tenga de nosotros en las que se nos ven con las orejas de perro de los filtros de Instagram Stories”[9].

Hemos de ser conscientes que estos mecanismos no supervisados de aprendizaje podrían dar lugar a situaciones en las cuales el algoritmo tomara más información de la necesaria de las redes sociales, a las cuales el usuario le da acceso sin conocer qué será lo que tomará la misma de sus cuentas (en caso que el usuario no quiera darle acceso, la IA se vuelve insistente en poder acceder a ellas). Acá hay una grave violación a la intimidad por parte de Replika porque debería dar a conocer cuáles son los elementos o información que tomará de las redes del usuario.

En el proyecto de regulación de la inteligencia artificial en la UE, los sistemas de IA como los robots conversacionales, considerados de riesgos reducidos, están sujetos a unas obligaciones mínimas de transparencia, para que quienes interactúen con los contenidos tomen decisiones con conocimiento de causa. El usuario puede entonces decidir continuar o dejar de utilizar la aplicación. Estaríamos hablando de la posibilidad de que el usuario conozca todo de la IA antes de utilizar, y de esta manera poder tomar una decisión más sabia.

La protección de los derechos privados de los ciudadanos en una sociedad tecnificada sin una regulación clara está llevando a los Estados Unidos, a regular la protección de datos al estilo civil law en su totalidad, creando un precedente jurídico, como sucede en el estado de Louisiana el cual no se rige por el Common Law sino por el civil law, no siendo los jueces quienes tienen capacidad legisladora, sino únicamente su parlamento.

En este último caso podemos entender que con cada incidente que se presente con Replika, o con un chatbot, o una IA, la justicia estadounidense ira haciendo la base para la defensa de los derechos personales de las personas.


Conclusión:

Replika debería realizar un contrato con sus usuarios para asegurar la confidencialidad de su personalidad. Que su doble no será usado con fines comerciales, y que con un simple botón de borrado la información almacenada se eliminará definitivamente y no quedará rastro de la misma que pueda ser utilizada en un futuro, sin el consentimiento de su titular.

Creo que es correcto entender, con lo expuesto en el ítem anterior, que la responsabilidad de la violación de estos derechos a través de la intromisión de terceros (Ejemplo: por un hacker) a la base de la IA, será responsabilidad objetiva de Replika (de sus autoridades), ante el daño y perjuicios que pueda causarle a su dueño, por los artículos 1758 del CCYCN, que debe brindarle un servicio de seguridad y confidencialidad de sus datos. Y lo verdaderamente relevante es que como estos sistemas poseen conexión permanente a internet y deben recibir actualizaciones en forma cotidiana, no puede eximirse de la responsabilidad haciendo culpable al usuario[10].

Como Facebook, Replika debería tener la posibilidad que el usuario pida un informe de la información que tiene sobre él, conocer la base de datos que la IA se fue formando para aprender de él.

Es necesario y de manera urgente que los países comiencen a actualizar sus legislaciones con respecto al avance de la tecnología en cada una de las ramas del derecho, ya sea penal, civil o comercial, porque es relevante que las personas cuenten con una protección íntegra a cada uno de sus derechos, sin quedar al margen de los avances y desprotegidos por la falta de preocupación de los legisladores de cada nación.


Comentarios:

Cabe advertir que también puede llegar a ocasionar esta IA un problema con las normas de violencia de género en el delito de acoso, el mismo no se encuentra actualizado para estos fines, creo que el acto de que una persona replique a otra sin su consentimiento a través del robo de datos e imagen de la víctima, por su obsesión con ésta, debería ser considerado del tipo Acoso dentro de la violencia de genero. En Argentina tenemos la ley 26485 que trata la violencia de género y a nivel mundial, aquellos países que se adhirieron, la Convención Interamericana para Prevenir, Sancionar y Erradicar la Violencia contra la Mujer, conocida como Convención de Belém do Pará.

Son lagunas que aún no están cubiertas y a las cuales hay que tratar para que los derechos estén protegidos ante los avances de la tecnología en la sociedad.

Pero en este trabajo solo abordamos el derecho privado con relación a los derechos referentes a la personalidad de la persona.


IV- Información utilizada – bibliografía, paginas

https://www.ambitojuridico.com/noticias/columnista-impreso/tic/chatbots-en-el-derecho.

https://www.revistagq.com/noticias/tecnologia/articulos/replika-aplicacion-iphone-android/29707

https://adefinitivas.com/ademas/chatbots-para-conversar-con-fallecidos/

https://d3cra5ec8gdi8w.cloudfront.net/uploads/documentos/2014/06/10/documentos_1862014revisado_6f969637.pdf

https://adefinitivas.com/ademas/chatbots-para-conversar-con-fallecidos/

http://www.saij.gob.ar/pablo-carlos-barbieri-derecho-imagen-personal-nuevo-codigo-civil-comercial-paso-adelante-dacf140721-2014-10-02/123456789-0abc-defg1270-41fcanirtcod

http://www.saij.gob.ar/maria-carmen-cucco-alconada-derecho-imagen-redes-sociales-dacf180045-2018-03-12/123456789-0abc-defg5400-81fcanirtcod

https://www.scielo.cl/scielo.php?script=sci_arttext&pid=S0718-00122007000200011

https://ecija.com/wp-content/uploads/2018/10/ECIJA_Chatbot-Chocolate_Paper_Aspectos-jur%C3%ADdicos-y-de-mercado_Chatbots-compressed.pdf

https://andro4all.com/2019/02/replika-aplicacion-android

https://repositorio.uca.edu.ar/bitstream/123456789/2641/1/1489-5294-1-PB.pdf

http://www.saij.gob.ar/mario-masciotra-voz-imagen-ambito-aplicacion-ley-proteccion-datos-personales-dacf040044-2004-04-28/123456789-0abc-defg4400-40fcanirtcod

https://www.unav.edu/documents/4889803/17397978/38_Guadalaviar_Te+replikas.pdf

http://servicios.infoleg.gob.ar/infolegInternet/anexos/60000-64999/64790/texact.htm

Constitución nacional + tratados internacionales. Infojus. Edición 2013.

DANESI Inteligencia Artificial y Derecho. Revista IA, TE y Derecho. Hammurabi

https://ec.europa.eu/info/strategy/priorities-2019-2024/europe-fit-digital-age/excellence-trust-artificial-intelligence_es


V- Referencias

[1] Disponible en https://www.oracle.com/ar/chatbots/what-is-a-chatbot/ [2] Profesora Noelia Mitelli. clase 12-08-2021 [3] Disponible en https://www.revistagq.com/noticias/tecnologia/articulos/replika-aplicacion-iphone-android/29707 [4]Jorge A. Guzmán Lozano, nombra a Tobías, J. W., en su trabajo la naturaleza jurídica del cadáver: revisión y tendencia para la UCA en su Pág.4. https://repositorio.uca.edu.ar/bitstream/123456789/2641/1/1489-5294-1-PB.pdf [5] Disponible en http://www.derecho.uba.ar/publicaciones/libros/pdf/la-cadh-y-su-proyeccion-en-el-derecho-argentino/011-petrino-honra-y-dignidad-la-cadh-y-su-proyeccion-en-el-da.pdf [6] Disponible en http://www.ordenjuridico.gob.mx/Congreso/pdf/86.pdf [7] Disponible en https://salud.gob.ar/dels/entradas/derecho-la-imagen [8] Disponible en https://ecija.com/wp-content/uploads/2018/10/ECIJA_Chatbot-Chocolate_Paper_Aspectos-jur%C3%ADdicos-y-de-mercado_Chatbots-compressed.pdf [9] https://www.revistagq.com/noticias/tecnologia/articulos/replika-aplicacion-iphone-android/29707 [10] DANESI Inteligencia Artificial y Derecho. Revista IA, TE y Derecho. Hammurabi