A medida que las tecnologías basadas en datos transforman el mundo y la inteligencia artificial plantea preguntas sobre sesgo, privacidad y transparencia, Suresh Venkatasubramanian ofrece su experiencia para ayudar a crear barandas para garantizar que las tecnologías se desarrollen e implementen de manera responsable.

"Necesitamos proteger al pueblo estadounidense y asegurarnos de que la tecnología se use de manera que refuerce nuestros valores más altos", dijo Venkatasubramanian, profesor de informática y ciencia de datos en la Universidad de Brown.

Inmediatamente después de un nombramiento de 15 meses recientemente concluido como asesor de la Oficina de Política Científica y Tecnológica de la Casa Blanca, Venkatasubramanian regresó a Washington, D.C., el martes 4 de octubre, para la presentación de "Un plan para un proyecto de ley de IA". of Rights:Making Automated Systems Work for the American People", durante una ceremonia en la Casa Blanca.

Venkatasubramanian dijo que el plan representa la culminación de 14 meses de investigación y colaboración liderada por la Oficina de Política Científica y Tecnológica con socios del gobierno federal, la academia, la sociedad civil, el sector privado y las comunidades de todo el país. Esa colaboración informó el desarrollo de la primera guía nacional centrada en el uso y la implementación de tecnologías automatizadas que tienen el potencial de afectar los derechos, las oportunidades y el acceso a los servicios de las personas.

"Como nación, hemos hecho esto antes con la privacidad del consumidor y la Declaración de derechos del paciente, por ejemplo", dijo Venkatasubramanian. "Los derechos civiles y las libertades civiles son una institución sagrada en nuestro país... Todos los países importantes y los bloques de países del mundo están pensando en lo que se necesita para gobernar los sistemas automatizados y tener en cuenta el sesgo, pero Estados Unidos no lo ha hecho, así que esto es algo que tardó mucho en llegar".

Venkatasubramanian es un investigador y educador inmerso en el desarrollo e impacto de la tecnología y la inteligencia artificial. La oportunidad de asesorar a nivel nacional se alineó no solo con su experiencia, sino también con sus preocupaciones sobre el uso ético de la tecnología y el sesgo incrustado en el diseño de algunas herramientas de IA, que pueden infundir prejuicios del pasado y perpetuar la discriminación.

Con motivo del anuncio de la Declaración de Derechos de AI, Venkatasubramanian, quien es subdirector de la Iniciativa de ciencia de datos de Brown, compartió ideas y perspectivas sobre su período en la Casa Blanca, su enfoque humanista de la informática y lo que espera lograr en Brown en los próximos años.

P:¿Por qué las "barandillas" en torno al desarrollo y uso de la IA son un tema de importancia nacional?

Reconocemos que hay muchos beneficios potenciales de la automatización y la tecnología basada en datos:todas estas promesas de lo que podría ser. Pero también vemos que las promesas a menudo tienden a no pagar. Por ejemplo, podemos intentar construir un sistema de inteligencia artificial para asegurarnos de que no podemos discriminar en el sistema de justicia penal, pero los sistemas que extraen datos de arrestos anteriores están irrevocablemente contaminados por la historia de injusticia racial en el sistema de justicia penal. Y luego implementada a escala, esta mancha se propaga. Todos los datos que se introducen en un sistema solo amplificarán los sesgos en los datos, a menos que existan medidas de protección rigurosas y cuidadosamente diseñadas.

Estos sistemas tecnológicos impactan nuestros derechos civiles y libertades civiles con respecto a todo:crédito, la oportunidad de obtener aprobación para una hipoteca y propiedad de la tierra, bienestar infantil, acceso a beneficios, ser contratado para trabajos, todas las oportunidades de progreso. Cuando implementemos estos sistemas, debemos asegurarnos de que sean consistentes con los valores que creemos que deberían tener, y que estén construidos de manera transparente y responsable ante el público. No es algo que podamos abofetear después del hecho.

P:Como científico informático, ¿por qué le preocupa el impacto de la tecnología en la sociedad?

He estado estudiando estos temas durante casi una década, pensando en lo que vendrá después y cómo será el mundo cuando los algoritmos sean ubicuos. Hace diez años, una preocupación que pensé que probablemente tendríamos era si podemos confiar en que estos sistemas funcionen de la manera en que se supone que deben hacerlo, y cómo sabemos que estos sistemas son responsables ante el público y nuestros representantes.

Te guste o no, la tecnología está aquí y ya está afectando todo lo que te da forma. Estás, sin tu conocimiento, adaptando tu forma de vivir y funcionar para hacerte más legible a la tecnología. Te estás volviendo legible por máquina, en lugar de hacer que las máquinas sean legibles por humanos. Si no prestamos atención a esto, la tecnología impulsará la forma en que vivimos como sociedad en lugar de que la sociedad cree tecnología que nos ayude a prosperar y ser nosotros mismos. No me gusta asustar a la gente, pero es verdad y es importante.

P:¿La IA es buena o mala?

Tampoco, de verdad. No es la tecnología lo que es bueno o malo, la IA o no. Es el impacto, los daños, lo que debería preocuparnos. Una hoja de cálculo de Excel que produce un puntaje que confina a alguien a detención antes de ser juzgado es tan malo como un sofisticado sistema de inteligencia artificial que hace lo mismo. Y un algoritmo de aprendizaje profundo que puede ayudar a mejorar el rendimiento de los cultivos es asombroso y maravilloso. Es por eso que la Declaración de derechos de AI se enfoca en el impacto, en los derechos de las personas, las oportunidades y el acceso a los servicios, en lugar de la tecnología en sí misma, que cambia y evoluciona rápidamente.

P:¿Qué hará el Plan para una Declaración de Derechos de la IA?

Piense en los medicamentos recetados, por ejemplo. No tiene que preocuparse de que el medicamento que está tomando no haya sido probado, porque la FDA no permitirá que salga al mercado hasta que haya pasado por pruebas rigurosas. Del mismo modo, confiamos en que nuestros automóviles funcionarán y que se realizarán retiros del mercado regulares cada vez que la Administración Nacional de Seguridad del Tráfico en las Carreteras descubra un problema; y estamos seguros de que nuestros aviones funcionan y de que cada nuevo tipo de jet pasa por pruebas rigurosas antes de volar. Tenemos muchos ejemplos para extraer de donde no permitimos que se use nueva tecnología en personas sin verificarlo primero. Podemos considerar eso como una guía para lo que creemos que es importante, y la tecnología afecta a todos.

Esta Declaración de Derechos de AI es un modelo que va más allá de los principios. Brinda consejos prácticos a los desarrolladores, a la sociedad civil, a los defensores, a las corporaciones, a los gobiernos locales y a los gobiernos estatales. Hay varias palancas para avanzar:regulación, prácticas de la industria, orientación sobre lo que los gobiernos construirán o no. Aquí no hay una bala de plata, pero todas las palancas están al alcance de la mano. Se necesitará toda la sociedad para avanzar en este trabajo.

P:¿Cómo le impactó su experiencia como asesor de la Casa Blanca?

Fue un cambio de vida. Mi cerebro ahora funciona de maneras que no puedo, y no quiero, deshacer. Pienso constantemente en los puentes entre la investigación y la innovación, la sociedad y la política. Como país y como investigadores, todavía estamos aceptando esto. Durante mucho tiempo, hemos pensado en la tecnología como algo que usamos para mejorar la vida. Pero no estamos tan familiarizados con la tecnología como algo que cambia nuestro mundo. Tratar de formular políticas para todo un país, y de alguna manera, para todo el mundo, porque EE. UU. es un líder, es un desafío porque hay muchos intereses en competencia que debe equilibrar.

En mi tiempo en el gobierno, me impresionó lo complejos y sutiles que se desarrollan estos problemas en diferentes dominios:lo que tiene sentido cuando se piensa en herramientas de diagnóstico de salud realmente no funciona si se piensa en herramientas utilizadas en los tribunales. Tengo una apreciación más profunda de cuántas personas dedicadas hay dentro del gobierno que quieren marcar la diferencia y necesitan ayuda y ancho de banda para hacerlo.

Una cosa de la que me di cuenta en los años que pasé trabajando en espacios de políticas es que es fundamental ayudar a los formuladores de políticas a comprender que la tecnología no es una caja negra:es maleable y evoluciona, y ayuda a dar forma a las políticas de maneras que no podríamos. suponer. Las opciones de diseño de tecnología son opciones de política, de muchas maneras. Llegar a un acuerdo sobre cómo la tecnología y las políticas se influyen mutuamente requiere mucha educación, tanto para los tecnólogos como para los formuladores de políticas. + Explora más

La Casa Blanca presenta la 'Declaración de Derechos' de inteligencia artificial