Las aplicaciones de citas móviles que permiten a los usuarios filtrar sus búsquedas por raza, o confiar en algoritmos que emparejan a personas de la misma raza, refuerzan las divisiones y los prejuicios raciales. según un nuevo artículo de investigadores de Cornell.

A medida que más y más relaciones comienzan en línea, Las aplicaciones de citas y encuentros deben desalentar la discriminación al ofrecer a los usuarios categorías distintas a la raza y el origen étnico para describirse a sí mismos. publicar mensajes comunitarios inclusivos, y escribir algoritmos que no discriminen, dijeron los autores.

"La serendipia se pierde cuando las personas pueden filtrar a otras personas, "dijo Jevan Hutson '16, M.P.S. '17, autor principal de "Debiasing Desire:Addressing Bias and Discrimination on Intimate Platforms, "coescrito con Jessie G. Taft '12, M.P.S. '18, un coordinador de investigación en Cornell Tech, y Solon Barocas y Karen Levy, profesores asistentes de ciencias de la información. "Las plataformas de citas tienen la oportunidad de alterar estructuras sociales particulares, pero pierde esos beneficios cuando tiene características de diseño que le permiten eliminar personas que son diferentes a usted ".

El papel, que los autores presentarán en la Conferencia ACM sobre trabajo cooperativo asistido por computadora y computación social el 6 de noviembre. cita una investigación existente sobre la discriminación en las aplicaciones de citas para mostrar cómo las decisiones de diseño simples podrían reducir los prejuicios contra las personas de todos los grupos marginados, incluidas las personas discapacitadas o transgénero. Aunque las preferencias de la pareja son extremadamente personales, los autores sostienen que la cultura da forma a nuestras preferencias, y las aplicaciones de citas influyen en nuestras decisiones.

"Es realmente un momento sin precedentes para las citas y las reuniones en línea. Más personas usan estas aplicaciones, y son infraestructuras críticas que no reciben mucha atención cuando se trata de prejuicios y discriminación, "dijo Hutson, ahora estudiante de la Facultad de Derecho de la Universidad de Washington. "La intimidad es muy privada, y con razón, pero nuestra vida privada tiene impactos en patrones socioeconómicos más amplios que son sistémicos ".

El quince por ciento de los estadounidenses informa que usa sitios de citas, y algunas investigaciones estiman que un tercio de los matrimonios, y el 60 por ciento de las relaciones entre personas del mismo sexo, comenzaron en línea. Tinder y Grindr tienen decenas de millones de usuarios, y Tinder dice que ha facilitado 20 mil millones de conexiones desde su lanzamiento.

Las investigaciones muestran que las desigualdades raciales en las citas en línea están muy extendidas. Por ejemplo, los hombres y mujeres negros tienen 10 veces más probabilidades de enviar mensajes a los blancos que los blancos de enviar mensajes a los negros. Permitir que los usuarios busquen, clasificar y filtrar socios potenciales por raza no solo permite que las personas actúen fácilmente sobre preferencias discriminatorias, les impide conectarse con socios que tal vez no se hayan dado cuenta de que les gustaría.

Las aplicaciones también pueden crear sesgos. El artículo cita investigaciones que muestran que los hombres que usaban las plataformas veían menos favorablemente el multiculturalismo, y el racismo sexual como más aceptable.

Los usuarios que reciben mensajes de personas de otras razas tienen más probabilidades de participar en intercambios interraciales de lo que lo harían de otra manera. Esto sugiere que diseñar plataformas para facilitar el encuentro de personas de diferentes razas podría superar los prejuicios, dijeron los autores.

La aplicación de conexión gay con sede en Japón 9Monsters agrupa a los usuarios en nueve categorías de monstruos ficticios, "que puede ayudar a los usuarios a mirar más allá de otras formas de diferencia, como la raza, etnia y habilidad, ", dice el periódico. Otras aplicaciones utilizan filtros basados ​​en características como opiniones políticas, historial de relaciones y educación, en lugar de raza.

"Definitivamente hay mucho espacio para idear diferentes formas para que las personas se conozcan entre sí, "Dijo Hutson.

Los algoritmos pueden introducir discriminación, intencionalmente o no. En 2016, un reportero de Buzzfeed descubrió que la aplicación de citas CoffeeMeetsBagel mostraba a los usuarios solo socios potenciales de su misma raza, incluso cuando los usuarios dijeron que no tenían preferencia. Un experimento realizado por OKCupid, en el que se les dijo a los usuarios que eran "altamente compatibles" con personas que el algoritmo en realidad consideraba malas coincidencias, descubrió que los usuarios tenían más probabilidades de tener interacciones exitosas cuando se les decía que eran compatibles, lo que indica el gran poder de la sugerencia.

Además de repensar la forma en que se realizan las búsquedas, publicar políticas o mensajes que fomenten un entorno más inclusivo, o prohibir explícitamente cierto idioma, podría disminuir el sesgo contra los usuarios de cualquier grupo marginado. Por ejemplo, Grindr publicó un artículo titulado "14 mensajes que las personas trans quieren que dejes de enviar en aplicaciones de citas" en su sitio de medios, y la aplicación de citas gay Hornet prohíbe a los usuarios referirse a la raza o las preferencias raciales en sus perfiles.

Cambios como estos podrían tener un gran impacto en la sociedad, los autores dijeron, a medida que la popularidad de las aplicaciones de citas sigue creciendo y se inician menos relaciones en lugares como bares, barrios y lugares de trabajo. Sin embargo, aunque los espacios físicos están sujetos a leyes contra la discriminación, las aplicaciones en línea no lo son.

"Un bar aleatorio en Dakota del Norte con 10 clientes al día está sujeto a más directivas de derechos civiles que una plataforma que tiene 9 millones de visitantes todos los días, "Eso es un desequilibrio que no tiene sentido", dijo Hutson.

Todavía, los autores dijeron, los tribunales y las legislaturas han mostrado renuencia a involucrarse en relaciones íntimas, y es poco probable que estas aplicaciones se regulen pronto.

"Dado que estas plataformas son cada vez más conscientes del impacto que tienen en la discriminación racial, Creemos que no es un gran esfuerzo para ellos adoptar un enfoque más orientado a la justicia en su propio diseño, ", Dijo Taft." Estamos tratando de crear conciencia de que esto es algo que los diseñadores, y la gente en general, debería estar pensando más ".