Las escuelas están recurriendo cada vez más a soluciones respaldadas por inteligencia artificial para detener los trágicos actos de violencia estudiantil, como el tiroteo en la escuela secundaria Marjory Stoneman Douglas en Parkland, Florida, Hace un año.

Bark Technologies, Gaggle.Net, y Securly Inc. son tres empresas que emplean inteligencia artificial y aprendizaje automático para escanear los correos electrónicos de los estudiantes, textos, documentos, y en algunos casos, actividad de las redes sociales. Buscan señales de advertencia de acoso cibernético, sexting uso de drogas y alcohol, depresión, y señalar a los estudiantes que puedan representar un riesgo violento no solo para ellos mismos, pero compañeros de clase.

Cuando se encuentran problemas potenciales, y dependiendo de la gravedad, administradores escolares, padres, y en los casos más extremos, funcionarios encargados de hacer cumplir la ley, son alertados.

En el otoño de 2017, Bark realizó una prueba piloto con 25 escuelas. "Encontramos algunos problemas bastante alarmantes, incluyendo una amenaza de bombardeo y tiroteo en la escuela, "dice el director de padres de Bark, Titania Jordan.

Unos meses después, sucedió Parkland y sabíamos lo que teníamos, y cómo podría ayudar pero "no queríamos parecer oportunistas o sacar provecho de una tragedia, "Dijo Jordan.

El producto Bark es gratuito para las escuelas de EE. UU. A perpetuidad. La empresa dice que puede darse el lujo de regalar el servicio a las escuelas, por el dinero que genera con una versión dirigida a los padres.

Hay limitaciones.

• Ninguna de las compañías con las que USA TODAY habló para esta historia afirma tener la capacidad de detectar comportamientos sospechosos en todo momento. Vagamente definido, La inteligencia artificial describe máquinas que pueden demostrar el comportamiento humano y aprender de los datos que digieren. A veces surgen falsos positivos.
• Una escuela no puede vigilar el teléfono inteligente de un estudiante u otros dispositivos que no sean los que emitió, a menos que el estudiante haya iniciado sesión en una red social, u otra cuenta, utilizando el correo electrónico o las credenciales que proporcionó la escuela.
• Los estudiantes también suelen ser más conocedores de la tecnología que sus padres y no les informarán sobre todas las cuentas que tienen.

Si se detecta un problema, Bark envía una alerta por mensaje de texto y / o correo electrónico a los padres y las escuelas, con los pasos recomendados sobre cómo abordar el problema.

El producto principal de Bark cuesta $ 9 por mes, por familia, o $ 99 por año, e incluye monitoreo en más de 25 plataformas de redes sociales, desde Twitter e Instagram hasta Snapchat y YouTube.

La corteza se utiliza actualmente en más de 1, 100 distritos escolares, cubriendo 2,6 millones de niños. Si detecta algo que se considera excesivamente grave, como el secuestro de un niño o la amenaza de un tiroteo en la escuela, el problema se traslada al FBI.

Según Jordan, Bark envía entre 35, 000 y 55, 000 alertas cada día, muchos ejemplos justos de blasfemia. Pero se han informado al FBI 16 tiroteos escolares plausibles desde que Bark lanzó su producto escolar en febrero pasado. ella dice.

Prevención de muertes por suicidio

Manada, que tiene alrededor de 20 años, cobra a las escuelas $ 6 por estudiante, por año. Desde el 1 de julio la empresa afirma haber detenido 447 muertes por suicidio en el 1, 400 distritos escolares que utilizan su servicio, y que el año pasado evitó 542 muertes potenciales por suicidio.

Gaggle también dice que detuvo 240 casos el año pasado en los que un niño traía un arma a la escuela para dañar a otro estudiante o tenía la intención de hacerlo. Bajo tales circunstancias, Gaggle alertará inmediatamente a un contacto de emergencia en la escuela y, si es necesario, cumplimiento de la ley.

"Los estudios han demostrado que los niños se comunicarán antes de que ocurra un acto violento y se comunicarán electrónicamente. Si no tiene los medios para escuchar esos gritos de ayuda, tendrá niños en peligro, "dijo Bill McCullough, vicepresidente de ventas de Gaggle.

McCullough agrega que la empresa no se basa únicamente en el aprendizaje automático para determinar las amenazas. Si un escaneo de Gaggle de correos electrónicos y documentos emitidos por la escuela descubre a un niño en crisis, el contenido es analizado por expertos capacitados en seguridad humana que verifican si la amenaza es legítima y luego determinan su gravedad. Si la amenaza se considera menor, tal vez el uso de blasfemias, un estudiante puede ser advertido directamente. Si se considera que la vida de un estudiante está en peligro, se notifica inmediatamente a un contacto de emergencia en la escuela.

Por su parte, una tercera empresa, Con seguridad funciona con aproximadamente 2, 000 distritos escolares. Cobra $ 3 por estudiante por año por un producto estrella llamado Filtro, con complementos premium que pueden agregar alrededor de $ 2.50 por estudiante al costo.

Este pasado octubre, uno de los servicios premium de Securly conocido como 24 — combina inteligencia artificial con analistas humanos capacitados — señaló a un estudiante que había buscado en Google tanto "cómo hacer una bomba" como "cómo suicidarse". El analista se puso en contacto con la escuela.

Otro ejemplo reciente involucró a un estudiante que buscó "formas indoloras de suicidarse" y vio videos de YouTube sobre el tema.

¿Amenaza real o lenguaje inofensivo?

A medida que los sistemas de IA se han vuelto más sofisticados, también lo tiene la capacidad de las máquinas para aplicar análisis contextuales para determinar si existe un peligro real, o si los amigos en edad escolar están usando inofensivamente lo que parece un lenguaje amenazante para simplemente molestarse unos a otros, tal vez al jugar un juego.

"Nuestro algoritmo de aprendizaje automático es lo suficientemente inteligente como para saber la diferencia entre una preadolescente que envía mensajes de texto a otra interpolación" KMS ", que significa" suicidarme "si simplemente están avergonzados ... y usarlo como coloquialismo. (O) alguien con una propensión real a tener depresión, ansiedad o expresar el deseo de quitarse la vida o hacer daño, "Dice Jordan.

McCullough en Gaggle, dice que los algoritmos de la empresa se actualizan constantemente para detectar el tono de desesperación en un mensaje, para detectar símbolos y errores ortográficos, y analizar mejor el lenguaje.

"Hemos tenido suicidios que hemos detenido donde no hay ninguna palabra de" matar "o" suicidio "allí, Dice McCullough.

Gaggle puede incluso advertir a las autoridades de las amenazas que provienen no de un distrito escolar que supervisa, sino de fuera.

"Tuvimos un caso en el que una niña de tercer grado fue solicitada por una dirección de correo electrónico externa pidiendo fotos de desnudos o esa persona iba a matar a sus padres, ", Dice McCullough." Trató de enviar esas fotos, pero debido a que ejecutamos nuestro servicio en vivo, nunca salió de nuestro entorno ”. La persona fue arrestada.

Equilibrar la privacidad costo

Existe un "delicado equilibrio" en la privacidad, dice Rob McCartney, director de tecnología en el distrito escolar de Sioux Central en Iowa, que usa Bark. "Aunque el distrito escolar que administramos y mantenemos es propietario de las direcciones de correo electrónico de los estudiantes, el (estudiante) tiene derecho a una cantidad suficiente de privacidad sin que entremos, miremos y digamos, 'oh, este es tu novio, ¿O llegaste a casa tarde anoche? No estamos ahí para eso ".

Vinay Mahadik, CEO de Securly, también navega por la delgada línea entre la privacidad y la seguridad:"Hacemos un gran esfuerzo para tratar de ser una empresa responsable. Ni una sola vez un padre al que hemos atendido o un distrito escolar al que ayudamos ha regresado y nos ha dicho que esto es algo terrible que estás haciendo ".

McCartney aprecia que Bark sea gratis, dadas las estrictas restricciones presupuestarias que enfrentan muchos distritos escolares.

Pero Rich O'Malley, superintendente de las escuelas Florence 1 en Carolina del Sur, un distrito que paga por Gaggle, dice que "solo salvar una vida o poder tocar a un estudiante que tiene un problema lo hace invaluable. Como superintendente, probablemente el problema número uno que escucho de los padres es la seguridad escolar ".