Empresas de tecnología y académicos se han unido para lanzar un "desafío deepfake" para mejorar las herramientas para detectar videos y otros medios manipulados por inteligencia artificial.

La iniciativa anunciada el jueves incluye $ 10 millones de Facebook y tiene como objetivo frenar lo que se considera una gran amenaza para la integridad de la información en línea.

El esfuerzo cuenta con el apoyo de Microsoft y la Asociación de IA respaldada por la industria e incluye académicos del Instituto de Tecnología de Massachusetts, Universidad de Cornell, Universidad de Oxford, Universidad de California, Berkeley, Universidad de Maryland y Universidad de Albany.

Representa un esfuerzo amplio para combatir la difusión de videos o audios manipulados como parte de una campaña de desinformación.

"El objetivo del desafío es producir tecnología que todos puedan usar para detectar mejor cuándo se ha utilizado la IA para alterar un video con el fin de engañar al espectador". ", dijo el director técnico de Facebook, Mike Schroepfer.

Schroepfer dijo que las técnicas deepfake, que presentan videos realistas generados por IA de personas que hacen y dicen cosas ficticias, "tienen implicaciones significativas para determinar la legitimidad de la información presentada en línea. Sin embargo, la industria no tiene un gran conjunto de datos o puntos de referencia para detectarlos".

El desafío es el primer proyecto de un comité sobre inteligencia artificial e integridad de los medios creado por la Asociación sobre inteligencia artificial, un grupo cuya misión es promover usos beneficiosos de la inteligencia artificial y que cuenta con el respaldo de Apple, Amazonas, IBM y otras empresas de tecnología y organizaciones no gubernamentales.

Terah Lyons, director ejecutivo de la Asociación, dijo que el nuevo proyecto es parte de un esfuerzo para detener las falsificaciones generadas por IA, que "tienen importantes, implicaciones globales para la legitimidad de la información en línea, la calidad del discurso público, la salvaguardia de los derechos humanos y las libertades civiles, y la salud de las instituciones democráticas ".

Facebook dijo que estaba ofreciendo fondos para colaboraciones de investigación y premios por el desafío. y también entraría a la competición, pero no acepte nada del dinero del premio.

El profesor de Oxford Philip Torr, uno de los académicos participantes, dijo que se "necesitan con urgencia nuevas herramientas para detectar este tipo de medios manipulados".

"Medios manipulados que se publican en Internet, para crear teorías de conspiración falsas y manipular a la gente para obtener beneficios políticos, se está convirtiendo en un tema de importancia mundial, ya que es una amenaza fundamental para la democracia, "Torr dijo en un comunicado.

© 2019 AFP