Los preocupantes sesgos de los algoritmos de Google para detectar "hate speech"

La lamentable transmisión del atentado terrorista de Nueva Zelanda a través de la conocida red social "Facebook", ha revivido arduos debates acerca del contenido que se publica en internet.

De allí se derivan dos cuestiones sumamente relevantes para el Derecho: la responsabilidad de los sitios web y/o de las redes sociales por el contenido que publican sus usuarios y, la prevención del daño mediante la censura de publicaciones a priori agraviantes, lo que indudablemente podría ir en desmedro de derechos fundamentales, como la libertad de expresión.

Precisamente, la clave para evitar la difusión de contenido lesivo es la inteligencia artificial, la cual, mediante sus algoritmos podría detectar fácilmente las publicaciones que menoscaben derechos de terceros. Pero esta valiosa herramienta presenta un preocupante problema: los sesgos de discriminación.

Les comparto un interesante artículo de la MIT Technology Review que aborda esta cuestión y, para los que deseen profundizar en el tema, los invito a las “XI Jornadas Nacionales sobre Imagen, Comunicación y Redes Sociales” (http://www.derecho.uba.ar/institucional/deinteres/2019/xi-jornadas-nacionales-sobre-imagen-comunicacion-y-redes-sociales) que se desarrollarán en el Salón Azul de la Facultad de Derecho de la Universidad de Buenos Aires el día martes 10 de septiembre próximo .



ENTED

Exploratorio de Nuevas Tecnologías, Educación y Derecho

Contáctanos
  • Facebook Basic Black
  • Twitter Basic Black
  • Instagram Basic Black

© 2019 por ENTED.