El acoso se ha vuelto omnipresente en las redes sociales y en el mundo en línea:Twitter ha sido criticado por cómo maneja el acoso, El algoritmo de tendencias de YouTube ha promovido ocasionalmente videos ofensivos, y denunciar abusos en Instagram sigue siendo bastante difícil.

Si bien las herramientas actuales para el acoso, como el bloqueo de usuarios o el filtrado de palabras de activación, ayudan parcialmente, Gran parte del maltrato en línea es tan sutil que un algoritmo por sí solo podría no captar varias señales.

Pero, ¿qué pasaría si las personas pudieran aprovechar a sus amigos para que los ayuden a moderar sus cuentas y protegerlos de los mensajes abusivos?

Un equipo del Laboratorio de Ciencias de la Computación e Inteligencia Artificial (CSAIL) del MIT utiliza ese enfoque con "Squadbox", una nueva herramienta de crowdsourcing que permite a las personas que han sido objeto de acoso coordinar "escuadrones" de amigos para filtrar mensajes y apoyarlos durante los ataques.

El equipo entrevistó a varios científicos, activistas, y personalidades de Youtube, y descubrió que muchas personas que son acosadas por correo electrónico dependen de sus amigos y familiares para protegerse de los mensajes abusivos.

El autor principal y profesor del MIT, David Karger, dice que Squadbox tiene como objetivo hacer que esta llamada "búsqueda de amigos" sea más eficiente y menos trabajo para sus moderadores.

"Si solo les das a los moderadores las claves de tu bandeja de entrada, ¿Cómo sabe el moderador cuando hay un correo electrónico que moderar? ¿y qué correo electrónico ya ha sido manejado por otros moderadores? ", dice Karger." Squadbox permite a los usuarios personalizar cómo se maneja el correo electrónico entrante, dividiendo el trabajo para asegurarse de que no haya duplicación de esfuerzos ".

Karger escribió el nuevo artículo con la estudiante de doctorado Amy Zhang y la ex estudiante del MIT y actual ingeniera de software Kaitlin Mahar. El equipo presentará el trabajo en abril en la Conferencia CHI de ACM sobre factores humanos en sistemas informáticos en Montreal. Canadá.

Moderación "proporcionada por amigos"

Con Squadbox, el "propietario" del equipo puede configurar filtros para reenviar automáticamente el contenido entrante a su canal de moderación. Una vez que llega un correo electrónico, un moderador decide qué correos electrónicos son acoso, y que se pueden reenviar a la bandeja de entrada de la persona.

Por ejemplo, digamos que un periodista quiere tener una dirección de correo electrónico pública para recibir sugerencias de noticias, pero teme tener uno debido a la frecuencia con la que es acosada por personas que no están de acuerdo con sus informes. Podría crear una cuenta de Squadbox con dos colegas cercanos como moderadores, y luego use su cuenta en cualquier lugar donde quiera compartir su dirección de correo electrónico. Cualquier correo electrónico que reciba en esa dirección pasa primero por su escuadrón.

"Las soluciones anteriores dependían completamente de técnicas automatizadas, o dependían demasiado de las soluciones sociales, como simplemente dar la información de la cuenta a un amigo, "dice Clifford Lampe, profesor de información en la Universidad de Michigan. "Esta línea de trabajo ayuda a proporcionar un mapa para una solución híbrida para el acoso que aumenta el apoyo humano con herramientas de una manera significativa".

Si bien el equipo planea ampliar las capacidades de Squadbox para trabajar con plataformas de redes sociales, dicen que el correo electrónico es un sistema particularmente útil para estudiar el acoso.

"Lo interesante del correo electrónico es que no está a la vista como Twitter o Facebook, ", dice Karger. Eso significa que los acosadores pueden sentirse menos responsables porque sus comentarios no son públicos".

Squadbox también permite a los usuarios crear "listas blancas" y "listas negras" de remitentes cuyos correos electrónicos se aprobarán o rechazarán automáticamente sin moderación. Los usuarios también pueden desactivar y reactivar el sistema, leer puntuaciones sobre la toxicidad de los mensajes, e incluso responder a los acosadores.

"El acoso es una experiencia inherentemente desalentadora, y dar opciones a los sobrevivientes les permite volver al control, "dice Emily May, cofundador y director ejecutivo de la iniciativa global contra el acoso Hollaback! "Squadbox está diseñado para no solo recordarles a las personas que tienen una comunidad a su alrededor, sino activar esa comunidad en su nombre ".

El equipo evaluó a Squadbox en cinco pares de amigos, y descubrió que el uso de amigos ayudaba con los temores a la privacidad y permitía tomar decisiones más personalizadas para las víctimas. Sin embargo, los usuarios siguen preocupados de que un amigo pueda ser sensible a tiempos de respuesta lentos, y que el sistema también podría estar "repartiendo" la carga. El equipo dice que tener varios moderadores podría ayudar con este problema.

"Squadbox ofrece un sistema tangible de apoyo para las personas que son acosadas en línea por el uso de otras personas, ", dice May." Necesitamos devolver el control a los sobrevivientes y crear comunidades lo suficientemente fuertes para declarar:esto no es el Internet que queremos. No es el mundo que queremos. Y no lo vamos a tolerar más ".