El fundador de DuckDuckGo, Gabriel Weinberg, se encuentra entre los profetas digitales que nos advierten sobre cómo Google, el Goliat que ha estado desafiando durante 10 años con su motor de búsqueda sin seguimiento basado en Paoli, y otros gigantes de la información están exprimiendo la privacidad personal y el contenido independiente:"Si las personas consumen todas las cosas de Inquirer de forma gratuita en Facebook o Google, es una propuesta perdida para ti ".

Echa un vistazo a lo que ha pasado con FunnyOrDie.com, él dijo, que "acaba de anunciar despidos de la mitad del personal. Facebook ha tomado su contenido y, con eso, su audiencia, obligándolos a pagar para colocar sus propios videos nuevos. Y siguen aumentando el precio; es prohibitivamente caro. Tu contenido se vuelve viral y no gana dinero ".

Pero, ¿no es como oponerse al progreso quejarse de que Internet es un dispositivo para enriquecer a los magnates de la tecnología a expensas del sector público? ¿No son los algoritmos de Internet los que nos dicen qué videos de YouTube mirar? qué viejos compañeros de clase hacer amigos en Facebook, y qué celebridades usan ropa más fresca en Instragram, basado en matemáticas, demografía y lógica?

Es peor que "basura adentro, la basura fuera, ", Dice Weinberg. Cuenta cómo algunos de sus héroes, los reporteros de investigación, trabajando para organizaciones de noticias de estilo antiguo y nuevo, han encontrado "sesgos significativos en los algoritmos".

Vea el trabajo de Kashmir Hill para Gizmodo:su eliminación del "Internet de las cosas, "que muestra cómo las empresas recopilan e interpretan sus datos de los dispositivos y servicios por los que paga, en "La casa que me espió"; y cómo Google usa su poder para sofocar ideas que no le gustan.

El gobierno no está listo para protegernos Weinberg dice:El Congreso permitió que la antigua prohibición de que su proveedor de servicios de Internet vendiera el historial de su navegador expirara el año pasado. Entonces Verizon, Comcast y otros "ISP ahora pueden recopilar y vender sus datos, en el lugar que visita. Mucho resulta no estar encriptado. Los programas de Hulu no se han cifrado. "Tus preferencias son más fáciles de rastrear, listar y vender.

Por lo tanto, es muy preocupante cómo incluso las agencias gubernamentales están haciendo funcionar los datos personales, sin importar la precisión y la privacidad.

Así es como funciona:los contratistas / consultores de TI acuden a las agencias gubernamentales "y dicen:Su antiguo sistema no es bueno. Haremos uno mejor para ti "Dice Weinberg." Los algoritmos a menudo no son complicados. Pero aún pueden estar intrínsecamente sesgados. Y cada vez hay consecuencias no deseadas ".

¿No son públicas las aplicaciones gubernamentales de datos personales? No:"Como obtienen el algoritmo de una empresa, es 'propietario'. Pero hay un argumento que deberían estar disponibles para el público, bajo leyes de transparencia. Entonces, las organizaciones de noticias y los abogados pro bono están demandando para obtener los algoritmos, "Weinberg me lo dijo.

O la agencia justificará una nueva y costosa aplicación de procesamiento de datos personales, diciendo, "'Esto es Inteligencia Artificial'". Como si eso solo fuera una razón para usar la nueva herramienta. Pero es una herramienta que alguien creó con información limitada, probablemente en secreto, con consecuencias no deseadas pero significativas, poner a algunas personas en desventaja, y sesgos en los resultados. Esto debería ser público. "Cuando te enteres, deberías decirte a ti mismo, ¡Quizás pueda descubrir esto! "

Weinberg admira cómo la organización sin fines de lucro ProPublica utilizó las solicitudes de la ley de libertad de información (también conocido como derecho a saber) para mostrar cómo los jueces del estado de Nueva York "compraron un algoritmo para ayudar en las sugerencias de sentencia" que tuvieron el efecto de concentrar el sesgo percibido. en lugar de hacer que la sentencia sea desapasionada. Weinberg dice que los programas de financiamiento público que utilizan algoritmos similares pueden afianzar de manera similar el carácter económico de los vecindarios. (Para obtener más información sobre cómo la ciencia de datos daña las políticas públicas, Weinberg recomienda el libro de Cathy O'Neil "Armas de destrucción matemática").

Pregunté por NeoGov, el sistema de contratación digital que se supone que deben usar Pensilvania y otros 25 estados para reemplazar el antiguo sistema de exámenes estatales de empleo. "Parece que vale la pena comprobar si hay sesgos no deseados, "Dice Weinberg.

O considere el impacto político de YouTube:"Su objetivo es lograr que los usuarios sigan viendo videos 'relacionados'. Estos tienden a ser extremos, e indignante y empujar a los espectadores hacia posiciones extremadamente indignantes. Incluso si eso no es lo que se pretendía ". Como señala Wired aquí. Consulte también el artículo reciente de Guardian que presenta las observaciones del ex ingeniero de Google Guillame Cashlot sobre" cómo el algoritmo de YouTube distorsiona la verdad ".

¿Cómo podemos relajar las redes sociales para encontrar lo que el viejo futurista Vance Packard llamó "persuasores ocultos" y el profesor de leyes de Columbia Tim Wu llama los comerciantes de atención? "Julia Angwin fue pionera en esta área del periodismo, "comenzando en el Wall Street Journal y pasando a ProPublica, Dice Weinberg. (Vea la investigación de Angwin que rastrea la recopilación de información de Google bajo el supuesto modo incógnito de su navegador Chrome).

Véase también el trabajo de Angwin para el Wall Street Journal, con la ayuda de Weinberg, que ha otorgado subvenciones para que los reporteros contraten asistencia en programación. "Encontramos una gran cantidad de" personalización "en las búsquedas de incógnito, en torno a temas que incluyen el control de armas, aborto, cambio climático. Había 'palabras clave mágicas' que agregarían artículos de noticias adicionales que Google dijo que usted 'buscó anteriormente'.

"Resultó que 'Obama' era una palabra clave mágica y 'Romney' no lo era. Había millones de ideas y elementos adicionales de Romney. Fue lo contrario de lo que sucedió en las elecciones Trump / Clinton, "cuando los videos de Trump recibieron mucha más atención que los videos de Clinton porque eran más atrevidos y atraían a más espectadores, garantizar que se sirvan más videos de Trump a los espectadores. "¿No intencional? Pero efectivo."

Angwin también mostró cómo "Amazon estaba promocionando sus propios productos sobre otros, aunque el precio no es más bajo". Consulte también su serie ProPublica sobre "sesgo de máquina". Los informes de Angwin, Weinberg dice:"ha iniciado más de esto en otras organizaciones". Se pueden / se han utilizado métodos similares para mostrar, por ejemplo, lo que parece un prejuicio racial en las pólizas de seguros cotizadas en línea. "También existe la idea de cobrar a las personas precios diferentes en función de sus datos o ubicación". ¿Qué bases tienen las aseguradoras de automóviles? sitios de viajes, los bancos y los minoristas utilizan para cotizar a algunos lectores precios más altos, algunos más bajos? ¿Es algo tan burdo como un código postal? tan tenue como un historial de visitas a un sitio de compras?

Es la burbuja del filtro, como el izquierdista Eli Pariser llamó al fenómeno en su libro de 2011. "No está equilibrado, "dice Weinberg." Puede aplicar esto a Netflix, Gorjeo, YouTube, Facebook, en términos de la burbuja de filtro individualizada y lo que están promoviendo en general. Examine los resultados de la búsqueda. Compare usuarios en diferentes ubicaciones y circunstancias. Pregunte:¿Caen los resultados de la búsqueda? no justamente, a través de líneas políticas y raciales? "

Se necesita trabajo pero no es complejo Agrega Weinberg. "Estos son estudios repetibles. El aspecto tecnológico de esto no es demasiado complicado. Cuando lees uno, consultar las metodologías publicadas. Realizan un "rastreo automático". Un pasante de pregrado podría ejecutar los números, cualquier programador. Tal vez pretendan que son consumidores que completan un formulario de solicitud en línea, y obtenga las cotizaciones ".

Observé cómo las organizaciones de noticias profesionales normalmente evitan que los reporteros mientan sobre sus identidades. Pero, "¿Qué hay de malo en probar diferentes posibles residencias o ingresos?" preguntó.

"Alguien siempre puede obtener los datos. La parte más difícil es analizar los datos y asegurarse de no llegar a una conclusión falsa. Una vez que sepa lo que está buscando, no es tan difícil. Hay muchas herramientas disponibles. Es interesante, es importante, repetir estudios; es como la ciencia se puede aplicar en muchas áreas ". Lo que funciona en el análisis de Amazon funcionará con su minorista local, también. Y con las grandes empresas financieras, Allstate y Nationwide, Fidelity y BlackRock, Fanáticos contra Dick.

Weinberg busca patrocinar informes más profesionales, incluido el trabajo centrado en Filadelfia. "Estoy interesado en cualquiera que ponga en práctica estas cosas. Estoy interesado en esta área, Yo vivo aqui. Me interesa cualquier informe sobre un análisis profundo de lo que están haciendo las empresas de tecnología. Relacionado con lo que estamos haciendo (en DuckDuckGo) o no. Creo que es pernicioso para todos ".

© 2018 The Philadelphia Inquirer
Distribuido por Tribune Content Agency, LLC.