Las tiendas en línea pueden usar algoritmos para cobrar a algunos clientes precios más altos que a otros. Las leyes europeas solo ofrecen una protección limitada contra dicha diferenciación de precios. Frederik Zuiderveen Borgesius, Catedrático de TIC y Derecho Privado en Radboud University, ha escrito sobre este mismo tema en un artículo que se publicó en la European Business Law Review.
Las tiendas en línea como Bol.com y Amazon utilizan muchos algoritmos para tentar a los consumidores a gastar su dinero más rápidamente. El usuario medio probablemente esté acostumbrado a ver productos recomendados que se basan en compras anteriores y notificaciones parpadeantes cuando se agotan las existencias. pero, ¿y si se usara un algoritmo para mostrar un precio minorista individual para cada cliente? Las tiendas online pueden ajustar los precios de determinados códigos postales, o incluso clientes individuales sobre la base de direcciones IP y otras características.
Discriminación algorítmica y libertad contractual
Las tiendas que utilizan algoritmos rara vez albergan una intención discriminatoria, pero el uso de algoritmos también puede conducir sin querer a la discriminación. Este fue el caso cuando una institución de tutoría estadounidense cobró precios más altos para ciertas áreas. Los residentes de estos barrios eran principalmente personas de origen asiático, que tuvo que pagar más por las tutorías. En algunos casos, la diferencia de precio para cada curso fue tan alta como $ 1, 800.
En principio, la ley permite la diferenciación de precios. La libertad contractual juega un papel importante en la legislación europea, lo que implica que los vendedores pueden determinar su propio precio minorista. Pero si la diferenciación de precios conduce a la discriminación de grupos con características protegidas, como la etnia o el género, entrará en juego la ley de no discriminación.
Las normas europeas de no discriminación protegen contra diversas formas de discriminación, incluida la discriminación basada en la etnia y el género. La discriminación indirecta también está prohibida. En breve, la discriminación indirecta ocurre si una práctica es neutral a primera vista, pero aún conduce a la discriminación de personas con una determinada etnia (o una característica protegida).
Difícil de descubrir
Si una tienda online adapta sus precios al código postal del cliente, esto se considera una práctica neutral. Sin embargo, si las personas que viven en esa zona son en su mayoría de origen inmigrante, la práctica puede entrañar una forma prohibida de discriminación indirecta. Por tanto, la ley de no discriminación parece proteger a las personas contra determinadas formas de diferenciación de precios.
"Pero la protección contra la diferenciación de precios es limitada", explica Zuiderveen Borgesius. Para empezar, la discriminación algorítmica puede permanecer oculta. "Supongamos que una tienda en línea cobra un precio más alto en un área donde la mayoría de los residentes son de origen turco. Es difícil para las personas de esta área ver una diferencia en los precios. Es solo cuando estos precios se comparan con los precios de otra persona fuera de el área en la que puede ver la diferencia. E incluso si algunos consumidores se dieron cuenta de que pagaron más que otros, todavía no sabrían que las personas de origen turco pagan más en general. Por eso, los consumidores aún no serían conscientes de la discriminación indirecta. Si los consumidores no se dan cuenta de que están siendo objeto de discriminación, no ejercerán su derecho a la no discriminación ".
Un segundo problema es que la prohibición de la discriminación indirecta incluye una excepción matizada, que a menudo es difícil de aplicar en un caso específico. La discriminación indirecta no está prohibida si la empresa persigue un objetivo legítimo y su práctica neutral constituye un medio razonable (proporcional).
"Si una empresa intenta obtener beneficios adicionales, un juez probablemente lo consideraría un objetivo legítimo ", dice Zuiderveen Borgesius. Más compleja es la cuestión de si la diferenciación de precios es un medio razonable. Esta respuesta depende de muchos factores. ¿Qué tan grande es la diferencia de precio? ¿Se trata de caviar u otros productos de lujo? o productos de supermercado que la gente usa a diario? Una regla tan matizada tiene ventajas, pero el matiz se produce a expensas de la claridad. En suma, No existe una regla estricta que dicte claramente qué tipos de diferenciación de precios están permitidos y cuáles están prohibidos.
Preferencias de navegador y nuevos tipos de discriminación
Zuiderveen Borgesius:"Además, Los algoritmos permiten distinguir entre consumidores sobre la base de un gran número de características. Las leyes europeas reconocen la discriminación basada en la etnia, género, y otras características similares. Sin embargo, el navegador que utiliza o el área del código postal en el que vive no es una característica protegida. En consecuencia, una tienda en línea podría hacer que las personas paguen más cuando usan un determinado navegador. La ley de no discriminación dice poco sobre esto, siempre que la práctica no afecte a personas con una determinada etnia u otra característica protegida ".
Aunque en la actualidad apenas parece haber tiendas online que utilicen algoritmos para determinar diferentes precios para distintos consumidores, Existe una gran posibilidad de que esto cambie en el futuro. Es en parte por esta razón que el ministro holandés Sander Dekker anunció en una carta a la Cámara de Representantes que los Ministerios del Interior y Justicia y Seguridad están investigando cómo se puede prevenir la discriminación al ofrecer bienes y servicios. Zuiderveen Borgesius:"Es probable que se necesite una nueva legislación para brindar una mejor protección. Cuando se trata de la cuestión de cómo podemos proteger a las personas de los efectos discriminatorios de los algoritmos, se necesitan más investigaciones y debates ".
