Cada aspecto de la vida puede ser guiado por algoritmos de inteligencia artificial, desde elegir qué ruta tomar para su viaje diario al trabajo, para decidir con quién tener una cita, a cuestiones legales y judiciales complejas como la vigilancia policial predictiva.

Las grandes empresas de tecnología como Google y Facebook utilizan la inteligencia artificial para obtener información sobre su enorme tesoro de datos detallados de los clientes. Esto les permite monetizar las preferencias colectivas de los usuarios a través de prácticas como la micro-focalización, una estrategia utilizada por los anunciantes para orientar sus anuncios a grupos específicos de usuarios.

En paralelo, mucha gente ahora confía en plataformas y algoritmos más que en sus propios gobiernos y sociedad civil. Un estudio de octubre de 2018 sugirió que las personas demuestran "apreciación del algoritmo, "en la medida en que dependerían más de los consejos cuando creen que proviene de un algoritmo que de un humano.

En el pasado, Los expertos en tecnología se han preocupado por una "brecha digital" entre quienes pueden acceder a las computadoras e Internet y quienes no. Los hogares con menos acceso a las tecnologías digitales se encuentran en desventaja en cuanto a su capacidad para ganar dinero y acumular habilidades.

Pero, a medida que proliferan los dispositivos digitales, la brecha ya no se trata solo de acceso. ¿Cómo lidian las personas con la sobrecarga de información y la plétora de decisiones algorítmicas que impregnan todos los aspectos de sus vidas?

Los usuarios más inteligentes se están alejando de los dispositivos y se están dando cuenta de cómo los algoritmos afectan sus vidas. Mientras tanto, los consumidores que tienen menos información confían aún más en algoritmos para guiar sus decisiones.

La salsa secreta detrás de la inteligencia artificial

La principal razón de la nueva brecha digital, en mi opinión como alguien que estudia sistemas de información, es que muy poca gente entiende cómo funcionan los algoritmos. Para la mayoría de los usuarios, los algoritmos se ven como una caja negra.

Los algoritmos de IA toman datos, ajustarlos a un modelo matemático y hacer una predicción, que van desde las canciones que podría disfrutar hasta los años que alguien debería pasar en la cárcel. Estos modelos se desarrollan y ajustan en base a datos pasados ​​y el éxito de modelos anteriores. La mayoría de las personas, incluso a veces los propios diseñadores de algoritmos, no saben realmente lo que hay dentro del modelo.

Los investigadores llevan mucho tiempo preocupados por la equidad algorítmica. Por ejemplo, La herramienta de reclutamiento basada en inteligencia artificial de Amazon resultó para descartar candidatas. El sistema de Amazon estaba extrayendo selectivamente palabras implícitas de género, palabras que los hombres probablemente usen en el habla cotidiana. como "ejecutado" y "capturado".

Otros estudios han demostrado que los algoritmos judiciales tienen prejuicios raciales, sentenciar a los acusados ​​negros pobres por más tiempo que a otros.

Como parte del Reglamento General de Protección de Datos recientemente aprobado en la Unión Europea, las personas tienen "derecho a una explicación" de los criterios que utilizan los algoritmos en sus decisiones. Esta legislación trata el proceso de toma de decisiones algorítmicas como un libro de recetas. Se piensa que si entiendes la receta, puedes entender cómo el algoritmo afecta tu vida.

Mientras tanto, algunos investigadores de IA han impulsado algoritmos que sean justos, responsable y transparente, así como interpretable, lo que significa que deben llegar a sus decisiones a través de procesos que los humanos puedan comprender y en los que puedan confiar.

¿Qué efecto tendrá la transparencia? En un estudio, Los estudiantes fueron calificados por un algoritmo y ofrecieron diferentes niveles de explicación sobre cómo se ajustaban las calificaciones de sus compañeros para llegar a una calificación final. Los estudiantes con explicaciones más transparentes en realidad confiaban menos en el algoritmo. Esta, de nuevo, sugiere una brecha digital:la conciencia algorítmica no conduce a una mayor confianza en el sistema.

Pero la transparencia no es una panacea. Incluso cuando se esboza el proceso general de un algoritmo, los detalles pueden ser demasiado complejos para que los comprendan los usuarios. La transparencia ayudará solo a los usuarios que sean lo suficientemente sofisticados para comprender las complejidades de los algoritmos.

Por ejemplo, en 2014, Ben Bernanke, el ex presidente de la Reserva Federal, Inicialmente se le negó un refinanciamiento hipotecario mediante un sistema automatizado. La mayoría de las personas que solicitan un refinanciamiento hipotecario de este tipo no entenderían cómo los algoritmos pueden determinar su solvencia.

Optar por no participar en el nuevo ecosistema de información

Si bien los algoritmos influyen en gran parte en la vida de las personas, solo una pequeña fracción de los participantes son lo suficientemente sofisticados como para participar plenamente en cómo los algoritmos afectan su vida.

No hay muchas estadísticas sobre la cantidad de personas que conocen los algoritmos. Los estudios han encontrado evidencia de ansiedad algorítmica, lo que lleva a un profundo desequilibrio de poder entre las plataformas que implementan algoritmos y los usuarios que dependen de ellos.

Un estudio sobre el uso de Facebook descubrió que cuando los participantes conocían el algoritmo de Facebook para seleccionar fuentes de noticias, Aproximadamente el 83% de los participantes modificaron su comportamiento para intentar aprovechar el algoritmo, mientras que alrededor del 10% disminuyó su uso de Facebook.

Un informe de noviembre de 2018 del Pew Research Center encontró que una gran mayoría del público tenía preocupaciones significativas sobre el uso de algoritmos para usos particulares. Encontró que el 66% pensó que no sería justo que los algoritmos calculen puntajes de finanzas personales, mientras que el 57% dijo lo mismo sobre la selección automática de currículums.

Una pequeña fracción de las personas ejerce cierto control sobre cómo los algoritmos utilizan sus datos personales. Por ejemplo, la plataforma Hu-Manity permite a los usuarios la opción de controlar la cantidad de datos que se recopilan. La enciclopedia en línea Everipedia ofrece a los usuarios la posibilidad de participar en el proceso de curación, lo que significa que los usuarios también pueden controlar cómo se agrega y se les presenta la información.

Sin embargo, una gran mayoría de plataformas no brindan tal flexibilidad a sus usuarios finales ni el derecho a elegir cómo el algoritmo usa sus preferencias para seleccionar sus noticias o recomendarles contenido. Si hay opciones, es posible que los usuarios no los conozcan. Alrededor del 74% de los usuarios de Facebook dijeron en una encuesta que no sabían cómo la plataforma caracteriza sus intereses personales.

En mi opinión, la nueva alfabetización digital no es usar una computadora o estar en Internet, sino comprender y evaluar las consecuencias de un estilo de vida siempre conectado.

Este estilo de vida tiene un impacto significativo en la forma en que las personas interactúan con los demás; sobre su capacidad para prestar atención a la nueva información; y sobre la complejidad de sus procesos de toma de decisiones.

El aumento de la ansiedad algorítmica también puede reflejarse en cambios paralelos en la economía. Un pequeño grupo de personas está capturando los beneficios de la automatización, mientras que muchos trabajadores se encuentran en una situación precaria.

Optar por no participar en la curación algorítmica es un lujo, y algún día podría ser un símbolo de riqueza disponible solo para unos pocos. La pregunta es, entonces, cuáles serán los daños mensurables para quienes se encuentran en el lado equivocado de la brecha digital.

Este artículo se ha vuelto a publicar de The Conversation con una licencia de Creative Commons. Lea el artículo original.