Investigadores de la Universidad de Toronto y la Universidad de Cambridge están investigando las formas en que el prejuicio contra las personas basado en la edad puede codificarse en tecnologías como la inteligencia artificial, que muchos de nosotros enfrentamos a diario.

Este sesgo relacionado con la edad en la IA, también conocido como "envejecimiento digital", se explora en un nuevo artículo dirigido por Charlene Chu, científica afiliada del brazo de investigación KITE del Instituto de Rehabilitación de Toronto, parte de la Red de Salud Universitaria (UHN), y profesor asistente en la Facultad de Enfermería Lawrence S. Bloomberg.

El artículo se publicó recientemente en The Gerontologist .

"La pandemia de COVID-19 ha aumentado nuestra conciencia de cuán dependiente es nuestra sociedad de la tecnología", dice Chu. "Un gran número de adultos mayores están recurriendo a la tecnología en su vida diaria, lo que ha creado una sensación de urgencia para que los investigadores intenten comprender la discriminación por edad digital y los riesgos y daños asociados con los sesgos de la IA".

Chu y su equipo de investigación, compuesto por académicos legales, informáticos, filósofos y científicos sociales en bioética y gerontología, señalan que los estereotipos están profundamente arraigados en los algoritmos de IA, con investigaciones recientes que se centran en ejemplos de prejuicios raciales y de género. Sin embargo, las soluciones para abordar el sesgo de la IA no son simples, dice Chu. Ella y su equipo sugieren que hay una serie de "ciclos de injusticia" que ocurren en el desarrollo de tecnología, desde el diseño inicial hasta la prueba y la implementación.

"Cumulativamente, estos ciclos producen un sesgo implícito que se integra en la función de la tecnología que excluye a los adultos mayores de manera desproporcionada", dice.

Rebecca Biason de Bloomberg Nursing habló recientemente con Chu sobre su trabajo y las implicaciones de la discriminación por edad digital para los adultos mayores.

¿Cómo podrían la tecnología o las aplicaciones perpetuar la discriminación por edad digital?

Hay varias formas en que la tecnología impulsada por IA puede tener un sesgo relacionado con la edad; algunas son más obvias que otras. La mayoría de las aplicaciones creadas para adultos mayores tienden a centrarse en enfermedades crónicas y gestión de la atención médica, y rara vez se asocian con el placer o el ocio. En cambio, la tecnología creada para adultos mayores tiende a verlos con una lente biomédica, generando tecnología que se enfoca en una necesidad relacionada con la salud.

Esta representación de edad de los adultos mayores se filtra en el diseño de la tecnología. Los aspectos normales del envejecimiento, como las diferencias en la función motora o la percepción, no se tienen en cuenta. Este es uno de los "ciclos de injusticia" que perpetúa el sesgo relacionado con la edad descrito en mi artículo que sustenta la exclusión de las voces y los datos de los adultos mayores.

¿Cómo contribuye la exclusión de los adultos mayores a la discriminación por edad digital?

Los datos que se utilizan para construir varios modelos y algoritmos impactan posteriormente en el rendimiento del algoritmo. Específicamente para el sesgo relacionado con la edad, los adultos mayores son el grupo de personas que usan tecnología que crece más rápido, sin embargo, gran parte de los datos utilizados para construir sistemas de IA se basan en personas más jóvenes. Esto, a su vez, genera aplicaciones y tecnologías que no están diseñadas para adultos mayores, por lo que no las utilizan.

Este desajuste en el diseño y la tecnología contribuye a la falta de datos de los adultos mayores, lo que amplifica su exclusión a lo largo del proceso de creación de tecnología.

La discriminación por edad es el sesgo más aceptado socialmente a pesar de que es una eventualidad para todos nosotros. A medida que la demografía de las poblaciones comience a cambiar, más y más adultos mayores recurrirán a tecnología que no está diseñada para ellos.

Parte de nuestro trabajo futuro es ilustrar de manera efectiva cómo está integrado el envejecimiento dentro de la IA y el desarrollo tecnológico y sugerir formas de mitigarlo.

¿Cuáles son algunas de sus primeras recomendaciones para abordar la discriminación por edad digital de los adultos mayores?

La conciencia sobre la discriminación por edad digital es el primer paso, y es fundamental para avanzar. La edad se cruza con otras dimensiones de la vulnerabilidad y debe abordarse. Una recomendación estructural es discutir la necesidad de un codiseño interdisciplinario, es decir, incluir a los adultos mayores en el diseño tecnológico desde el principio y no al final, y conjuntos de datos que sean más representativos de los adultos mayores.

Una cosa que hizo mi equipo fue revisar el Inventario global de pautas de ética de la IA, que es un depósito que compila documentos de recomendaciones sobre cómo los sistemas de IA pueden llevar a cabo una toma de decisiones ética y automatizada. Muchas de estas pautas destacaron la equidad como un principio ético rector clave, así como la necesidad de reducir el sesgo. De estos casi 150 documentos creados por organizaciones establecidas, gobiernos y grupos internacionales, encontramos muy poca mención de la edad, el sesgo de edad o la discriminación por edad en comparación con los sesgos raciales o relacionados con el sexo.

Ahora, mi equipo está tratando de determinar las implicaciones sociales y éticas, así como el grado de daño que se está haciendo actualmente con respecto a la discriminación por edad digital. El trabajo es fundamental para llamar la atención sobre este tema a medida que nos propusimos definir el problema.