• Home
  • Química
  • Astronomía
  • Energía
  • Naturaleza
  • Biología
  • Física
  • Electrónica
  • Uso de la tecnología de inteligencia artificial para prevenir el ciberacoso

    Prabhu lanza ReThink en un episodio de Shark Tank de ABC. Crédito:Trisha Prabhu

    El 9 de septiembre 2013, después de soportar años de espantoso ciberacoso a manos de su Lakeland, Fla., compañeros de clase, Rebecca Sedwick, de 12 años, subió a la cima de una torre de agua y saltó hacia su muerte.

    Cientos de millas de distancia en Naperville, Voy a., Trisha Prabhu, de 13 años, leyó sobre el suicidio de Sedwick con una mezcla de angustia e indignación.

    "Pensé, ¿Cómo puede una chica un año menor que yo ser empujada a este punto? Decidí que ya no podía ser un espectador "dijo Prabhu, ahora un estudiante de primer año de Harvard. "Dado que el ciberacoso es un problema que afecta tanto a los adolescentes, Sentí que un adolescente debería ser el que encabece el próximo gran trabajo sobre cómo abordarlo. Entonces, sin ninguna autoridad o credenciales, Decidí que debería ser esa persona. Sentí que se lo debía a Rebecca, y todos los demás que habían perdido la vida o sus seres queridos por lo que realmente es una cosa sin sentido ".

    Prabhu se sumergió en las últimas investigaciones en psicología y sociología sobre el desenfrenado problema del ciberacoso. Le interesó saber que la corteza prefrontal, la parte del cerebro que controla la toma racional de decisiones, por lo general, no está completamente desarrollado hasta que una persona tiene 25 años.

    Sin embargo, acceso sin restricciones a las redes sociales, mensajes de texto, y los canales de comunicación en línea les dan a los adolescentes el poder de influirse entre sí, a menudo sin una comprensión básica de los conceptos de ciudadanía digital, ella dijo.

    "Pensé, ¿Qué pasa si puedo obligar a los adolescentes a pensar realmente en lo que están haciendo en las redes sociales y empoderarlos para que tomen la decisión correcta? Así nació ReThink, ", dijo." Nuestro punto crucial es una idea muy simple:si les damos a los adolescentes una segunda oportunidad para pensar en enviar mensajes ofensivos en las redes sociales, no solo no enviarán esos mensajes, lo harán por un gran margen ".

    Repensar, una aplicación para iPhone y Android, instala un teclado digital que reemplaza el teclado estándar de un teléfono inteligente. Parece idéntico y se integra perfectamente con otras aplicaciones, como clientes de correo electrónico y plataformas de redes sociales. La única diferencia:utiliza inteligencia artificial para identificar palabras ofensivas, y luego implementa alertas emergentes para darle al usuario la oportunidad de reconsiderar el envío de esas palabras en un correo electrónico, texto, o publicación en redes sociales.

    Desde que Prabhu lanzó la startup hace tres años, ReThink ha llegado a más de 2,5 millones de usuarios en todo el mundo. ReThink ganó recientemente la medalla de plata social Mckinley en el i3 Innovation Challenge de este año, patrocinado por el Centro de Tecnología y Emprendimiento de Harvard, y también reclamó uno de cuatro, $ 75, 000 grandes premios en el Reto de Innovación del Presidente de la Universidad.

    Muchos de los mayores desafíos que ha enfrentado Prabhu son técnicos. Desarrollar inteligencia artificial que pueda determinar eficazmente el sentimiento de un mensaje potencialmente ofensivo ("Te odio" frente a "Odio el clima, "por ejemplo) es un problema complejo. Era especialmente difícil garantizar que la aplicación se ejecutara sin problemas y al mismo tiempo incorporar modelos de aprendizaje automático semisupervisados ​​que mejoran continuamente la precisión.

    La creación de "palabras de activación" que sean ofensivas en cualquier contexto también resultó un desafío, especialmente al considerar otros idiomas (ReThink está disponible en inglés, Español e hindi).

    "Este es un problema bastante difícil en inglés, cual es mi lengua materna, debido a la jerga y las posibilidades lingüísticas ilimitadas a considerar. Es un proceso que nunca terminaremos porque, a medida que evoluciona el lenguaje, tendremos que evolucionar, también, ", dijo." Entrar en este espacio, Realmente nunca pensé en el lenguaje. Pero pensando en el acoso y el ciberacoso, realmente se reduce a cómo nos comunicamos. Hacer eso en una esfera global ha sido un viaje increíble, pero mucho trabajo duro ".

    El equipo de ReThink, que ahora está compuesto por ocho empleados que trabajan de forma remota, emplea a expertos en lingüística para ayudar a abordar esos desafíos. Prabhu dijo que el rápido crecimiento de ReThink, y el éxito de su modelo de negocio, son un testimonio de la eficacia del equipo dinámico y diverso de la empresa.

    Si bien la aplicación es gratuita para los usuarios, ReThink obtiene ingresos al asociarse con escuelas, que pagan una tarifa de suscripción anual por la implementación de la tecnología y el acceso a los datos del usuario.

    "Las escuelas, obviamente, enfrentan una gran responsabilidad cuando los estudiantes traen estos dispositivos al aula, ", dijo." Puede ser realmente complicado cuando suceden cosas trágicas y luego un distrito escolar se ve envuelto en una demanda de $ 20 millones. Es necesario que las escuelas eduquen a los niños sobre cómo usar la tecnología de manera responsable, porque la exposición y la educación no son lo mismo ".

    La compañía también está en camino de lanzar una compra en la aplicación para padres, ofreciendo más control sobre la aplicación y acceso a datos y análisis por una tarifa mensual de $ 1.

    La tecnología se está volviendo popular en muchos entornos. La empresa se asoció con el estado de Michigan para implementar la aplicación en todos los estudiantes de escuelas públicas; trabajó con el alcalde de Chicago para incorporarlo a las aulas de la ciudad; se asoció con el Departamento de Policía de Los Ángeles, que distribuyen la aplicación en un esfuerzo por combatir el 'sexting' desenfrenado; y recientemente unió fuerzas con el Departamento de Estado de EE. UU. para llevar ReThink a comunidades en 134 países, Dijo Prabhu.

    ReThink también lanzó una iniciativa de capítulo, empoderar a los estudiantes para que se conviertan en embajadores en la lucha contra el ciberacoso. La empresa proporciona materiales, planes de estudio, oradores de bullying en línea para eventos escolares, y otros recursos para grupos dirigidos por estudiantes en todo el país.

    "Internet puede y será reparado por esta generación de jóvenes. Fue creado por la generación anterior a nosotros, e hicieron mucho bien, pero también hubo muchas consecuencias no deseadas, ", dijo." Estamos tratando de criar a la próxima generación de líderes jóvenes a través de estos capítulos y ayudarlos a fomentar estas importantes conversaciones en sus comunidades ".

    El crecimiento meteórico de ReThink no muestra signos de desaceleración, y Prabhu tiene la intención de mantenerlo así. La compañía está lista para lanzar versiones de la aplicación en una docena de idiomas para fines del próximo año y está buscando asociarse con más escuelas internacionales y expandirse a nuevas, mercados globales.

    La empresa ahora centra su atención en la detección de imágenes, estudiar cómo se puede aplicar la tecnología ReThink cuando un usuario está a punto de compartir una imagen ofensiva en sitios de redes sociales como Instagram o Snapchat.

    Para Prabhu, el potencial de ReThink es estimulante, incluso si el camino por delante implicará muchos desafíos y muchos días largos y hasta altas horas de la noche.

    "Cuando está atrapado en las tareas comerciales diarias, a veces puede perder el "por qué" detrás del trabajo que está haciendo. La parte más gratificante para mí es cuando vuelvo a ese 'por qué, 'conocer a padres que han perdido hijos a causa de este problema, o hablar con otros jóvenes que han sido víctimas de acoso cibernético, ", dijo." Hay muchas personas que realmente sufren este problema. Realmente los atormenta ya menudo se sienten impotentes. Knowing that I can help them feel empowered, that I can fight for their ability to be safe and respected online, that is the most rewarding part of the work. That is what pushes me to keep going."


    © Ciencia https://es.scienceaq.com