Cuando se supo que la masacre en Nueva Zelanda se transmitió en vivo en Facebook, Inmediatamente pensé en Robert Godwin Sr.En 2017, Godwin fue asesinado en Cleveland, Ohio, y los informes iniciales indicaron que el atacante lo transmitió en Facebook Live, en ese momento una característica relativamente nueva de la red social. Facebook luego aclaró que el video gráfico fue subido después del evento. pero el incidente llamó la atención del público sobre los riesgos de la violencia por transmisión en vivo.

A raíz del asesinato de Godwin, Recomendé que las transmisiones de Facebook Live se retrasen en el tiempo, al menos para los usuarios de Facebook que le habían dicho a la empresa que eran menores de 18 años. De esa forma, los usuarios adultos tendrían la oportunidad de marcar contenido inapropiado antes de que los niños estuvieran expuestos a él. Facebook Live ha transmitido asesinatos, así como otros delitos graves como agresión sexual, tortura y abuso infantil. Aunque la empresa ha contratado a más de 3, 000 moderadores de contenido humano adicionales, Facebook no es mejor para evitar que la violencia espantosa se transmita en vivo en línea sin ningún filtro o advertencia para los usuarios.

En las 24 horas posteriores a la masacre de Nueva Zelanda, Se cargaron 1,5 millones de videos e imágenes de los asesinatos en los servidores de Facebook, anunció la empresa. Facebook destacó el hecho de que 1,2 millones de ellos "fueron bloqueados en la carga". Sin embargo, como investigador y educador de redes sociales, Escuché eso como una admisión de que 300, 000 videos e imágenes de un asesinato en masa pasaron a través de sus sistemas automatizados y fueron visibles en la plataforma.

La compañía emitió recientemente algunos detalles analíticos y señaló que menos de 200 personas vieron la transmisión en vivo de la masacre. y que sorprendentemente, ningún usuario lo informó a Facebook hasta después de que terminó. Estos detalles dejan dolorosamente claro cuán dependiente es Facebook de los usuarios para marcar contenido dañino. También sugieren que las personas no saben cómo denunciar contenido inapropiado, o no tienen confianza en que la empresa actuará sobre la queja.

El video que quedó después de que terminó la transmisión en vivo se vio casi 4, 000 veces, lo que no incluye copias del video subidas a otros sitios y a Facebook por otros usuarios. No está claro cuántas de las personas que lo vieron eran menores; A los jóvenes de tan solo 13 años se les permite crear cuentas de Facebook y podrían haber encontrado imágenes sin filtro de odio asesino. Ya es hora de que la empresa dé un paso al frente y cumpla la promesa de su fundador y director ejecutivo, Mark Zuckerberg, hecho hace dos años, después del asesinato de Godwin:"Seguiremos haciendo todo lo posible para evitar que ocurran tragedias como esta".

Un simple retraso de tiempo

En la industria de la televisión, Los retrasos breves de unos pocos segundos son típicos durante las transmisiones de eventos en vivo. Ese tiempo permite que un moderador revise el contenido y confirme que es apropiado para una audiencia amplia.

Facebook confía en los usuarios como moderadores, y es posible que algunas transmisiones en vivo no tengan una gran audiencia, como la televisión, por lo que su retraso debería ser mayor, quizás unos minutos. Solo entonces, suficientes usuarios adultos lo habrían examinado y habrían tenido la oportunidad de informar sobre su contenido. Principales usuarios, incluyendo editores y corporaciones, se les podría permitir transmitir en vivo directamente después de completar un curso de capacitación. Facebook incluso podría permitir que las personas soliciten un moderador de la empresa para las próximas transmisiones en vivo.

Facebook aún no ha dado este paso relativamente simple, y la razón es clara. Los retrasos se apoderaron de la televisión solo porque los reguladores de la radiodifusión penalizaron a las emisoras por emitir contenido inapropiado durante los programas en vivo. Efectivamente, no existe una regulación para las empresas de redes sociales; solo cambian en busca de ganancias o para minimizar la protesta pública.

Si regular las redes sociales y cómo es una cuestión política, pero muchos políticos estadounidenses han desarrollado vínculos profundos con plataformas como Facebook. Algunos han confiado en las redes sociales para recolectar donaciones, Diríjase a sus seguidores con publicidad y ayúdelos a ser elegidos. Una vez en el cargo, continúan usando las redes sociales para comunicarse con sus seguidores con la esperanza de ser reelegidos.

Las agencias federales también usan las redes sociales para comunicarse con el público e influir en las opiniones de las personas, incluso en violación de la ley de los EE. UU. En mi opinión, El papel de Facebook como herramienta para ganar mantener y difundir el poder político hace que los políticos sean mucho menos propensos a controlarlo.

La regulación de EE. UU. No llegará pronto

El Congreso aún no ha tomado ninguna medida significativa para regular las empresas de redes sociales. A pesar de las fuertes declaraciones de los políticos e incluso los pedidos de audiencias sobre las redes sociales en respuesta al ataque de Nueva Zelanda, No es probable que los reguladores estadounidenses lideren el camino.

Los funcionarios de la Unión Europea se encargan de gran parte del trabajo, especialmente en torno a la privacidad. El gobierno de Nueva Zelanda ha dado un paso al frente, también, prohibir el video en vivo de la masacre de la mezquita, lo que significa que cualquiera que lo comparta podría afrontar hasta 10 dólares neozelandeses, 000 en multas y 14 años de prisión. Al menos dos personas ya han sido arrestadas por compartirlo en línea.

Facebook podría, y debería, actuar ahora

Gran parte de la discusión sobre la regulación de las redes sociales ha considerado el uso de leyes antimonopolio y antimonopolio para obligar a los gigantes tecnológicos enormes como Facebook a dividirse en empresas separadas más pequeñas. Pero si llega a pasar, será muy difícil:la separación de AT&T duró una década, desde la demanda de 1974 hasta el lanzamiento en 1984 de las empresas "Baby Bell".

En el intermedio, Habrá muchos más incidentes peligrosos y violentos que la gente intentará transmitir en vivo. Facebook debería evaluar el potencial de uso indebido de sus productos y suspenderlos si los efectos son perjudiciales para la sociedad.

Ningún niño debería ver el tipo de "contenido crudo y visceral" que se ha producido en Facebook Live, incluido el asesinato en masa. Tampoco creo que los usuarios adultos deban estar expuestos a presenciar actos tan atroces, ya que los estudios han demostrado que ver la violencia gráfica tiene riesgos para la salud, como el estrés postraumático.

Es por eso que ya no recomiendo solo un retraso de la transmisión en vivo para los usuarios adolescentes; fue un llamado para proteger a los niños, cuando es poco probable que se produzcan más cambios importantes en la plataforma. Pero todas las personas merecen redes sociales mejores y seguras. Ahora le pido a Mark Zuckerberg que cierre Facebook Live en aras de la salud y la seguridad públicas. En mi opinión, esa característica debe restaurarse solo si la empresa puede demostrar al público - y a los reguladores - que su diseño es más seguro.

Manejar la transmisión en vivo de manera segura incluye tener moderadores de contenido profesionales más que suficientes para manejar la carga de trabajo. Estos trabajadores también deben tener un acceso adecuado a apoyo para la salud mental y entornos de trabajo seguros. so that even Facebook employees and contractors are not unduly scarred by brutal violence posted online.

Este artículo se vuelve a publicar de The Conversation bajo una licencia Creative Commons. Lea el artículo original.