Apple Inc. y Goldman Sachs Group Inc., dos de las empresas más reconocidas en tecnología y finanzas, están atrapados en un creciente debate sobre si los prestamistas discriminan involuntariamente cuando usan modelos complejos para determinar cómo los estadounidenses piden dinero prestado.

En sábado, Bloomberg informó que un regulador de Wall Street había abierto una investigación sobre las prácticas de las tarjetas de crédito de Goldman después de que un tweet viral de un empresario tecnológico alegara que los algoritmos de Apple Card discriminaban a su esposa.

Ahora, otro usuario de alto perfil de la Apple Card, el cofundador de Apple, Steve Wozniak, está pidiendo que el gobierno se involucre. citando la excesiva dependencia empresarial de una tecnología misteriosa.

"Este tipo de injusticias me molestan y van en contra del principio de la verdad. No tenemos transparencia sobre cómo estas empresas configuran y operan estas cosas, ", Dijo Wozniak en una entrevista el domingo." Nuestro gobierno no es lo suficientemente fuerte en los temas de regulación. Los consumidores solo pueden ser representados por el gobierno porque las grandes corporaciones solo se representan a sí mismas ".

Wozniak dijo que puede pedir prestado 10 veces más que su esposa en sus Apple Cards a pesar de que comparten cuentas bancarias y de otras tarjetas de crédito. y que otros prestamistas los traten por igual.

"Obviamente, los algoritmos tienen fallas, ", Dijo Wozniak." Una gran cantidad de personas dirían:"Amamos nuestra tecnología, pero ya no tenemos el control". Creo que ese es el caso ".

Tweets virales

Los prestamistas han promovido los modelos porque se supone que deben nivelar el campo de juego entre los diferentes prestatarios al eliminar el error humano y centrarse solo en los datos.

"Nuestras decisiones crediticias se basan en la solvencia del cliente y no en factores como el género, raza, la edad, orientación sexual o cualquier otra base prohibida por la ley, ", dijo el portavoz de Goldman, Andrew Williams, después de que el Departamento de Servicios Financieros de Nueva York abriera una investigación sobre las prácticas de las tarjetas bancarias.

La investigación se inició en respuesta a una serie de publicaciones en Twitter de David Heinemeier Hansson que criticaron a la Apple Card por darle 20 veces el límite de crédito que obtuvo su esposa. Los tweets, muchos de los cuales contienen blasfemias, inmediatamente ganó tracción en línea y una respuesta en Twitter de Wozniak.

Hansson no reveló ninguna información específica relacionada con los ingresos de la pareja, pero dijo que presentaron declaraciones de impuestos conjuntas y que su esposa tiene un mejor puntaje crediticio que él. Wozniak dijo que él y su esposa también presentan declaraciones conjuntas y comparten tarjetas de crédito y cuentas bancarias.

"El departamento llevará a cabo una investigación para determinar si se violó la ley de Nueva York y garantizar que todos los consumidores sean tratados por igual independientemente del sexo, "dijo un portavoz de Linda Lacewell, el superintendente del NY DFS. "Cualquier algoritmo que intencionalmente o no resulte en un trato discriminatorio hacia las mujeres o cualquier otra clase protegida de personas viola la ley de Nueva York".

Es la segunda acción de este tipo en las últimas semanas por parte del regulador, que abrió una investigación contra el gigante de la salud UnitedHealth Group Inc. después de que un estudio encontró que un algoritmo favorecía a los pacientes blancos sobre los negros.

"Las nuevas tecnologías no pueden dejar atrás a ciertos consumidores ni afianzar la discriminación, Lacewell dijo en un comunicado el domingo. También solicitó quejas de los consumidores agraviados en Twitter.

Los prestamistas tradicionales están aumentando el uso de máquinas para decidir quién recibe cuánto crédito como parte de una estrategia para reducir costos e impulsar las solicitudes de préstamos. Mientras tanto, las empresas de tecnología se están moviendo en el terreno de la industria de servicios financieros, con empresas como Amazon, Manzana, Facebook y Google amenazan las lucrativas líneas comerciales de los bancos al ofrecer préstamos y opciones de pago.

Escrutinio del Congreso

Los algoritmos han sido objeto de escrutinio en el Congreso. En junio, el Comité de Servicios Financieros de la Cámara de Representantes escuchó sobre ejemplos de toma de decisiones algorítmicas en los que los investigadores han encontrado casos de sesgos dirigidos a grupos específicos, incluso cuando no había ninguna intención de discriminar.

Algunos legisladores ya están exigiendo una respuesta federal. Senadora Elizabeth Warren, un demócrata de Massachusetts y aspirante a desafiar al presidente Donald Trump en las elecciones de 2020, dijo a los reguladores federales en junio que el gobierno "tendrá que tomar medidas para garantizar que las leyes contra la discriminación sigan el ritmo de la innovación".

Para Goldman, sus crecientes ambiciones para Main Street están generando un mayor escrutinio y un nuevo conjunto de desafíos que no había enfrentado anteriormente. Apple Card es una empresa conjunta entre Apple y el banco con sede en Nueva York, que es responsable de todas las decisiones de crédito en la tarjeta. Se lanzó a principios de este año:el gigante tecnológico lo comercializa como "creado por Apple, no un banco ", y los ejecutivos de ambas firmas lo aclamaron como el lanzamiento más exitoso de la historia.

Hansson dijo que Goldman no está tomando en serio el sesgo involuntario.

"Tan pronto como esto se convirtió en un problema de relaciones públicas, inmediatamente aumentaron su límite de crédito sin pedir ninguna documentación adicional, ", dijo sobre su esposa en una entrevista el sábado." No creo que hubiera alguna persona infame que quisiera discriminar. Pero eso no importa. ¿Cómo saber que no hay ningún problema con el algoritmo de aprendizaje automático cuando nadie puede explicar cómo se tomó esta decisión? "

© 2019 Bloomberg Noticias
Distribuido por Tribune Content Agency, LLC.