Las empresas de redes sociales han adoptado herramientas de inteligencia artificial para limpiar sus plataformas de discursos de odio, propaganda terrorista y otros contenidos considerados nocivos. Pero, ¿esas herramientas censurarán otros contenidos? ¿Puede un programa juzgar el valor del discurso?

El fundador de Facebook, Mark Zuckerberg, dijo al Congreso la semana pasada que su compañía está desarrollando rápidamente herramientas de inteligencia artificial para "identificar ciertas clases de mala actividad de manera proactiva y señalarlas a nuestro equipo".

Es uno de los varios movimientos de Facebook en su lucha contra la erosión de la confianza de los consumidores en la recolección de datos de los usuarios. su vulnerabilidad pasada a la desinformación política dirigida y la opacidad de las fórmulas sobre las que se basan sus fuentes de noticias.

Algunos tecnólogos creen que las herramientas de inteligencia artificial no resolverán estos problemas a los que se enfrentan Facebook y otras empresas de redes sociales.

"El problema es que la vigilancia es el modelo de negocio de Facebook:vigilancia para facilitar la manipulación psicológica, "dijo Bruce Schneier, un conocido experto en seguridad y especialista en privacidad. "Ya sea que lo hagan personas o (inteligencia artificial) está en el ruido".

Zuckerberg dijo que su Menlo Park, Calif., La empresa confía tanto en las herramientas de inteligencia artificial como en miles de empleados para revisar el contenido. A finales de año, él dijo, unos 20, 000 empleados de Facebook estarán "trabajando en seguridad y revisión de contenido".

La compañía está desarrollando sus herramientas de inteligencia artificial para rastrear el discurso de odio y las noticias falsas en su plataforma y ve las herramientas como una "forma escalable de identificar y erradicar la mayor parte de este contenido dañino". " él dijo, lo que indica varias veces durante 10 horas de testimonio en dos días que los algoritmos de Facebook pueden encontrar contenido objetable más rápido que los humanos.

"Hoy dia, mientras nos sentamos aquí, 99 por ciento del contenido de ISIS y al-Qaida que eliminamos en Facebook, nuestros sistemas de inteligencia artificial se señalan antes de que cualquier humano lo vea, "Zuckerberg dijo en una audiencia en el Senado, refiriéndose a los grupos islámicos extremistas.

Los sistemas de inteligencia artificial funcionan en conjunto con un equipo de humanos contra el terrorismo que, según Zuckerberg, cuenta con 200 empleados. "Creo que tenemos capacidad en 30 idiomas en los que estamos trabajando, " él dijo.

Otras herramientas de inteligencia artificial existentes "hacen un mejor trabajo identificando cuentas falsas que pueden estar intentando interferir en las elecciones o difundir información errónea, ", dijo. Después de que cuentas falsas colocaran información política en Facebook que interrumpió las elecciones de 2016, Facebook eliminó de forma proactiva "decenas de miles de cuentas falsas" antes de las elecciones francesas y alemanas de 2017, y la elección especial de Alabama para un escaño vacante en el Senado en diciembre pasado, añadió.

Facebook está lejos de ser el único entre las empresas de redes sociales que aprovechan la inteligencia artificial para ayudar a los humanos a monitorear el contenido.

"Las herramientas de inteligencia artificial en conjunto con los humanos pueden funcionar mejor de lo que cualquiera puede hacerlo por sí solo, "dijo Wendell Wallach, un investigador en The Hastings Center, un instituto de investigación bioética en Garrison, Nueva York.

Pero Wallach señaló que muchos usuarios no comprenden la inteligencia artificial, y Big Tech puede enfrentar una reacción violenta como la que enfrentan las preocupaciones alimentarias por los ingredientes genéticamente modificados (OGM).

"Las empresas líderes en IA, que son las mismas que las empresas digitales líderes en este momento, comprender que hay un elefante parecido a un OMG que podría saltar del armario de la IA, "Dijo Wallach.

Ya, La preocupación está aumentando entre los conservadores en Capitol Hill de que plataformas como Facebook se inclinan hacia la izquierda política, si las herramientas de inteligencia artificial o los humanos están involucrados en la toma de decisiones de contenido.

"¿Reconoces a esta gente?" Representante Billy Long, R-Mo., preguntó Zuckerberg mientras sostenía una foto de dos hermanas.

"¿Eso es Diamante y Seda?" Zuckerberg preguntó:refiriéndose a dos personalidades negras de las redes sociales que son fervientes partidarios del presidente Donald Trump.

En efecto, era, Long dijo, y Facebook los había considerado "inseguros".

"¿Qué hay de inseguro en dos mujeres negras que apoyan al presidente Donald J. Trump?"

Zuckerberg señaló más tarde que su equipo de Facebook "cometió un error de cumplimiento, y ya nos hemos puesto en contacto con ellos para revertirlo ".

Las herramientas de inteligencia artificial se destacan en la identificación de información destacada a partir de una gran cantidad de datos, pero tienen dificultades para comprender el contexto. especialmente en el lenguaje hablado, dijeron los expertos.

"Exactamente la misma oración, dependiendo de la relación entre dos individuos, podría ser una expresión de odio o una expresión de cariño, "dijo David Danks, experto en ética en torno a sistemas autónomos en la Universidad Carnegie Mellon. Citó el uso de la "palabra N, "que entre algunas personas puede ser un término amistoso, pero también se considera un discurso de odio en otros contextos.

Cualquier error que cometan las herramientas de inteligencia artificial en tales campos de minas lingüísticos podría interpretarse como censura o sesgo político que podría disminuir aún más la confianza en las empresas de redes sociales.

"El público general, Creo, confía mucho menos en estas empresas, "Dijo Danks.

Finalmente, él dijo, los algoritmos y las herramientas de inteligencia artificial de un puñado de empresas ganarán una mayor confianza pública, incluso cuando los consumidores no entienden cómo operan.

"No entiendo de muchas formas cómo funciona mi coche, pero sigo confiando en que funcionará en todas las formas en que lo necesito. "Dijo Danks.

Así como los bibliotecarios alguna vez usaron el juicio subjetivo para sacar libros de los estantes, Las empresas de redes sociales también pueden enfrentar críticas por el hecho de que las herramientas de inteligencia artificial pueden extralimitarse.

"Twitter se enfrenta a esto, "dijo James J. Hughes, director ejecutivo del Instituto de Ética y Tecnologías Emergentes, en Boston. "Pinterest e Instagram siempre están eliminando sitios web de artistas que tienen cuerpos desnudos cuando creen que son pornografía, cuando no lo son.

"Y lo están haciendo basándose en algoritmos de inteligencia artificial que señalan cuánta carne desnuda hay en la imagen".

En su testimonio, Zuckerberg dijo que las herramientas de inteligencia artificial eran cada vez más hábiles para "identificar cuentas falsas que pueden estar intentando interferir en las elecciones o difundir información errónea".

Facebook ha admitido que una agencia rusa usó Facebook para difundir información errónea que llegó a 126 millones de personas en el momento de la votación presidencial de 2016. y que los datos personales de 87 millones de personas pueden haber sido mal utilizados por la firma Cambridge Analytica para apuntar a los votantes a favor de Trump.

Zuckerberg dijo a los senadores que la demora de Facebook en identificar los esfuerzos rusos para interferir en las elecciones es "uno de mis mayores arrepentimientos en la gestión de la empresa" y se comprometió a hacerlo mejor para combatir la manipulación para las elecciones de este año.

Mientras los legisladores debatían sobre si Facebook y otras empresas de redes sociales necesitan regulación, Zuckerberg se enfrentó repetidamente a preguntas sobre la naturaleza de su empresa. ¿También es una empresa de medios porque produce contenido? ¿Una empresa de software? ¿Una empresa de servicios financieros que respalda las transferencias de dinero?

"Considero que somos una empresa de tecnología, porque lo principal que hacemos es tener ingenieros que escriban código y creen productos y servicios para otras personas, ", Dijo Zuckerberg en una audiencia en la Cámara.

Los expertos dicen que la respuesta no aborda problemas complejos en torno a plataformas que se parecen cada vez más a servicios públicos.

"La compañía eléctrica no puede decir, No nos gustan sus opiniones políticas, por lo tanto, no le vamos a dar electricidad. ", Dijo Danks." Si alguien es eliminado de Facebook, ¿Eso equivale a que la compañía eléctrica les corte la electricidad? ¿O es más como la persona que es realmente ruidosa y desagradable en un bar, y el dueño dice, '¿Necesitas irte ahora'? "

© 2018 McClatchy Washington Bureau
Distribuido por Tribune Content Agency, LLC.