El gobierno de Biden dio a conocer el martes un conjunto de objetivos de gran alcance destinados a evitar los daños causados ​​por el aumento de los sistemas de inteligencia artificial, incluidas pautas sobre cómo proteger los datos personales de las personas y limitar la vigilancia.

El Plan para una Declaración de Derechos de la IA en particular no establece acciones de cumplimiento específicas, sino que pretende ser un llamado a la acción de la Casa Blanca para que el gobierno de los EE. UU. proteja los derechos digitales y civiles en un mundo impulsado por la IA, dijeron los funcionarios.

"Esta es la administración Biden-Harris que realmente dice que necesitamos trabajar juntos, no solo en todo el gobierno, sino en todos los sectores, para realmente poner la equidad en el centro y los derechos civiles en el centro de las formas en que hacemos, usamos y rigen las tecnologías", dijo Alondra Nelson, subdirectora de ciencia y sociedad de la Oficina de Política Científica y Tecnológica de la Casa Blanca. "Podemos y debemos esperar más y exigir más de nuestras tecnologías".

La oficina dijo que el libro blanco representa un gran avance en la agenda de la administración para responsabilizar a las empresas de tecnología y destacó los compromisos de varias agencias federales para sopesar nuevas reglas y estudiar los impactos específicos de las tecnologías de IA. El documento surgió después de una consulta de un año con más de dos docenas de departamentos diferentes, y también incorpora comentarios de grupos de la sociedad civil, tecnólogos, investigadores de la industria y empresas tecnológicas, incluidas Palantir y Microsoft.

Presenta cinco principios básicos que, según la Casa Blanca, deberían integrarse en los sistemas de IA para limitar los impactos del sesgo algorítmico, dar a los usuarios control sobre sus datos y garantizar que los sistemas automatizados se utilicen de forma segura y transparente.

Los principios no vinculantes citan investigaciones académicas, estudios de agencias e informes de noticias que han documentado daños en el mundo real causados ​​por herramientas impulsadas por IA, incluidas herramientas de reconocimiento facial que contribuyeron a arrestos injustificados y un sistema automatizado que discriminó a los solicitantes de préstamos que asistieron a un evento históricamente negro. Colegio o Universidad.

El libro blanco también dijo que tanto los padres como los trabajadores sociales podrían beneficiarse al saber si las agencias de bienestar infantil estaban usando algoritmos para ayudar a decidir cuándo se debe investigar a las familias por maltrato.

Earlier this year, after the publication of an AP review of an algorithmic tool used in a Pennsylvania child welfare system, OSTP staffers reached out to sources quoted in the article to learn more, according to multiple people who participated in the call. AP's investigation found that the Allegheny County tool in its first years of operation showed a pattern of flagging a disproportionate number of Black children for a "mandatory" neglect investigation, when compared with white children.

In May, sources said Carnegie Mellon University researchers and staffers from the American Civil Liberties Union spoke with OSTP officials about child welfare agencies' use of algorithms. Nelson said protecting children from technology harms remains an area of concern.

"If a tool or an automated system is disproportionately harming a vulnerable community, there should be, one would hope, that there would be levers and opportunities to address that through some of the specific applications and prescriptive suggestions," said Nelson, who also serves as deputy assistant to President Joe Biden.

OSTP did not provide additional comment about the May meeting.

Still, because many AI-powered tools are developed, adopted or funded at the state and local level, the federal government has limited oversight regarding their use. The white paper makes no specific mention of how the Biden administration could influence specific policies at state or local levels, but a senior administration official said the administration was exploring how to align federal grants with AI guidance.

The white paper does not have power over tech companies that develop the tools nor does it include any new legislative proposals. Nelson said agencies would continue to use existing rules to prevent automated systems from unfairly disadvantaging people.

The white paper also did not specifically address AI-powered technologies funded through the Department of Justice, whose civil rights division separately has been examining algorithmic harms, bias and discrimination, Nelson said.

Tucked between the calls for greater oversight, the white paper also said when appropriately implemented, AI systems have the power to bring about lasting benefits to society, such as helping farmers grow food more efficiently or identifying diseases.

"Fueled by the power of American innovation, these tools hold the potential to redefine every part of our society and make life better for everyone. This important progress must not come at the price of civil rights or democratic values," the document said. + Explora más

White House proposes tech 'bill of rights' to limit AI harms

© 2022 Prensa Asociada. Reservados todos los derechos. Este material no se puede publicar, transmitir, reescribir ni redistribuir sin permiso.