Nuestra relación con las empresas de tecnología ha cambiado significativamente durante los últimos 18 meses. Violaciones continuas de datos, y las revelaciones que rodearon el escándalo de Cambridge Analytica, han expresado inquietudes sobre quién es el propietario de nuestros datos, y cómo se utiliza y comparte.

Las empresas de tecnología se han comprometido a hacerlo mejor. Tras su interrogatorio tanto en el Congreso de los Estados Unidos como en el Parlamento de la UE, CEO de Facebook, Mark Zuckerberg, dijo que Facebook cambiará la forma en que comparte datos con proveedores externos. Existe alguna evidencia de que esto está ocurriendo, particularmente con los anunciantes.

Pero, ¿las empresas de tecnología realmente han cambiado sus formas? Después de todo, Los datos son ahora un activo primordial en la economía moderna.

Para averiguar si ha habido una realineación significativa entre las expectativas de la comunidad y el comportamiento empresarial, Analizamos los principios e iniciativas de ética de datos que varias organizaciones globales han comprometido desde que estallaron los diversos escándalos.

Lo que encontramos es preocupante. Algunas de las organizaciones más grandes no han alterado las prácticas de manera demostrable, en su lugar, suscribirse a iniciativas éticas que no se hacen cumplir ni se pueden hacer cumplir.

Cómo rastreamos esta información

Antes de discutir nuestros hallazgos, algunos puntos de aclaración.

Primeramente, los problemas de los datos, inteligencia artificial (IA), el aprendizaje automático y los algoritmos son difíciles de diferenciar, y se cuestiona su alcance. De hecho, para la mayoría de estas organizaciones, los conceptos se agrupan, mientras que para los investigadores y los responsables de la formulación de políticas presentan desafíos claramente diferentes.

Por ejemplo, aprendizaje automático, mientras que una rama de la IA, se trata de construir máquinas para que aprendan por sí mismas sin supervisión. Como tal, Los responsables de la formulación de políticas deben asegurarse de que los algoritmos de aprendizaje automático estén libres de sesgos y tomen en consideración diversas cuestiones sociales y económicas. en lugar de tratar a todos por igual.

En segundo lugar, los policias, las declaraciones y directrices de las empresas que analizamos no están ubicadas en el centro, presentado consistentemente o simple de descifrar.

Teniendo en cuenta la falta de un enfoque coherente de la ética de los datos adoptado por las empresas de tecnología, nuestro método consistía en examinar los pasos visibles realizados, y examinar los amplios principios éticos adoptados.

Cinco amplias categorías de ética de datos

Algunas compañías, como Microsoft, IBM, y Google, han publicado sus propios principios éticos de IA.

Más empresas, incluidos Facebook y Amazon, han optado por mantener un enfoque ético independiente al unirse a consorcios, como Partnership on AI (PAI) y el Information and Technology Industry Council (ITI). Estos dos consorcios han publicado declaraciones que contienen principios éticos. Los principios son voluntarios, y no tienen requisitos de informes, normas objetivas o supervisión.

Examinamos el contenido de las directrices éticas publicadas de estas empresas y consorcios, y descubrió que los principios se dividían en cinco categorías amplias.

1. Intimidad :la privacidad está ampliamente reconocida como un área de importancia, destacando que el enfoque de la mayoría de estas organizaciones es una relación tradicional consumidor / proveedor. Es decir, los datos proporcionados por los consumidores ahora son propiedad de la empresa, quién usará estos datos, pero respeta la confidencialidad
2. gobernancia :estos principios se refieren a la responsabilidad en la gestión de datos, garantizar la calidad y precisión de los datos, y la aplicación ética de algoritmos. El enfoque aquí está en los procesos internos que deben seguirse
3. justicia :imparcialidad significa usar datos y algoritmos de una manera que respete a la persona detrás de los datos. Eso significa tener en cuenta la seguridad, y reconocer el impacto que el uso de datos puede tener en la vida de las personas. Esto incluye el reconocimiento de cómo los algoritmos que se basan en datos históricos o una programación defectuosa pueden discriminar a las comunidades marginadas.
4. beneficio compartido :se refiere a la idea de que los datos son propiedad de quienes los producen y, como tal, debe haber un control conjunto de los datos, así como beneficios compartidos. Notamos una falta de consenso o intención de adherirse a esta categoría.
5. transparencia :es aquí donde comienza a surgir una comprensión más matizada de la propiedad de los datos. La transparencia se refiere esencialmente a ser abierto sobre la forma en que se recopilan y utilizan los datos, además de evitar la recopilación de datos innecesaria. Dado el imperativo comercial de las empresas de proteger la investigación y el desarrollo confidenciales, No es de extrañar que este principio solo sea reconocido por un puñado de jugadores.

La equidad y la transparencia son importantes

Nuestra investigación sugiere que las conversaciones sobre la ética de los datos se centran en gran medida en la privacidad y la gobernanza. Pero estos principios son los mínimos esperados en un marco legal. Si algo, los escándalos del pasado nos han demostrado que esto no es suficiente.

Facebook es notable como empresa que mantiene un enfoque de la ética a distancia. Es miembro del Partnership on AI and Information and Technology Industry Council, pero ha evitado la publicación de sus propios principios de ética de datos. Y aunque ha habido rumores sobre el llamado detector de sesgos de aprendizaje automático "Fairness Flow", y rumores de un equipo de ética en Facebook, Los detalles de cualquiera de estos desarrollos son esquemáticos.

Mientras tanto, La medida en que la Asociación sobre IA y el Consejo de la Industria de la Información y Tecnología influyen en el comportamiento de las empresas miembro es muy cuestionable. La Asociación sobre IA, que tiene más de 70 miembros, se formó en 2016, pero aún tiene que demostrar resultados tangibles más allá de la publicación de principios clave.

Se requiere una mejor regulación

Para las empresas de tecnología, puede haber una compensación entre el tratamiento ético de los datos y la cantidad de dinero que pueden ganar con esos datos. También existe una falta de consenso entre las empresas sobre cómo es el enfoque ético correcto. Entonces, para proteger al público, Se necesita orientación y supervisión externas.

Desafortunadamente, En la actualidad, el gobierno ha mantenido su enfoque en la nueva Legislación sobre intercambio y divulgación de datos del gobierno australiano sobre privacidad, un principio que está cubierto en la legislación en otros lugares.

Los eventos relacionados con los datos de los últimos años han confirmado que necesitamos un mayor enfoque en los datos como un derecho ciudadano, no solo un derecho del consumidor. Como tal, necesitamos un mayor enfoque en la equidad, Transparencia y beneficio compartido:todas las áreas que actualmente están siendo desatendidas tanto por las empresas como por el gobierno.

Este artículo se ha vuelto a publicar de The Conversation con una licencia de Creative Commons. Lea el artículo original.