A mediados de julio de 2019, Oakland, California, se convirtió en la tercera ciudad de EE. UU. en prohibir a los departamentos municipales el uso de tecnología de reconocimiento facial. Mientras tanto, El Congreso inició audiencias sobre cómo regularlo a nivel nacional. En un momento sorprendente de consenso bipartidista, lo único por lo que los legisladores pelearon fue por cuán extensas deberían ser las restricciones.

Esta respuesta a un poderoso La tecnología potencialmente invasiva es una señal de cómo el público y los legisladores podrían responder a futuros desarrollos tecnológicos, especialmente aquellos que utilizan inteligencia artificial. El reconocimiento facial no solo permite a Facebook automatizar el etiquetado de personas en las fotos, pero también potencia la capacidad de las fuerzas del orden para localizar a los sospechosos de delitos. Abundan las cuestiones éticas. Como lo expresó el Centro de Privacidad y Tecnología de Georgetown, el reconocimiento facial podría conducir a "un mundo en el que, una vez que pones un pie afuera, el gobierno puede realizar un seguimiento de cada uno de sus movimientos ". Y es solo el comienzo.

En el horizonte hay una avalancha de innovaciones digitales que podrían ser al menos tan poderosas, polémicos y de gran alcance:videos "deepfake" que muestran a personas haciendo cosas que nunca hicieron, el "Internet de las cosas" monitorea constantemente los hogares privados, realidad virtual manipuladora, autos autónomos que abruman a las comunidades y más.

Soy un investigador que estudia los impactos sociales de la tecnología digital, y es mi trabajo mantenerme informado sobre las próximas tecnologías y proyectar resultados futuros. Pero, con cada vez más innovación, cada vez hay menos tiempo para reflexionar sobre las consecuencias. Muchos de mis colegas sienten lo mismo.

Para domesticar esta marea que se precipita, la sociedad necesita presas y diques. Tal como ha comenzado a suceder con el reconocimiento facial, es hora de considerar prohibiciones legales y moratorias sobre otras tecnologías emergentes. Estos no necesitan ser permanentes o absolutos, pero la innovación no es un bien absoluto. Cuanto más poderosa es una tecnología, mayor cuidado requiere para operar con seguridad.

Poca urgencia

No existe una necesidad urgente de la mayoría de las nuevas tecnologías digitales. Algunas innovaciones, por supuesto, son casi completamente positivos:anestesia, Luz eléctrica, radio, vacunas. Pero la sociedad actual suele celebrar la innovación por sí misma, incluso cuando los beneficios son cuestionables, y cada vez más, los beneficios son realmente cuestionables.

¿Realmente vale la pena estar lleno de gente? cielo vibrante lleno de drones para obtener una entrega de bienes de consumo en una hora, en lugar de entrega en 24 horas, o incluso dos días? ¿Es la realidad virtual tan grandiosa que los niños deberían efectivamente, crecer con los ojos pegados a las pantallas de video? Cuando los gobiernos pueden llevar a cabo asesinatos difíciles de rastrear con drones, ¿Alguien está realmente a salvo? Escanear listas de posibles tecnologías futuras puede generar más miedo que esperanza.

Estos tipos de innovaciones fallan repetidamente en proporcionar mejoras generales de formas verdaderamente significativas, como lo profundamente que las personas se aman, cuán compasivamente se preocupa la gente, qué tan bien la sociedad apoya a los menos privilegiados, o con qué sabiduría los humanos administran el planeta. Si algo, la tecnología parece amplificar las debilidades morales de los humanos al mimar a las personas con comodidades para el consumidor y cámaras de eco. El último medio siglo ha sido testigo de una era dorada de la innovación digital, sin embargo, las tasas de pobreza se han estancado, la desigualdad se ha disparado y la sostenibilidad parece estar más lejos de su alcance.

La mayoría de los avances tecnológicos que se están realizando en la actualidad no abordarán esos problemas; abordarán molestias más pequeñas que simplemente no hay prisa por aliviar.

Daños casi seguros, pero confuso

Las nuevas tecnologías siempre tienen consecuencias no deseadas, a menudo negativas, y los innovadores siempre subestiman lo malas que serán. Los plaguicidas han causado flagelos a la salud pública. Las botellas de plástico han contaminado los océanos. Los teléfonos inteligentes están contribuyendo a una crisis de salud mental en la adolescencia.

Considere lo que podría hacer un sistema de inteligencia artificial si se le diera instrucciones para hacer algo obvio, como maximizar las ganancias, utilizando toda la información y herramientas a su alcance. Podría contener información personal vergonzosa a cambio de un rescate para obligar a los usuarios a comprar bienes, o extorsionar acciones criminales de personas con secretos más oscuros.

Nada ha impedido que los algoritmos de las tiendas online mientan para incrementar las ventas. ni frenó la capacidad real de Facebook para manipular el estado de ánimo de los usuarios. Las empresas de tecnología tratan habitualmente a sus clientes como conejillos de indias experimentales, y ya están aplicando sistemas de inteligencia artificial para una variedad de propósitos.

Si estos son solo los efectos conocidos de las empresas de tecnología; esfuerzos e innovaciones, Imagínese las consecuencias no deseadas que podrían acechar. La premisa del popular juego "Universal Paperclips" es que una IA centrada en optimizar un negocio acaba destruyendo el universo conocido. La ciencia ficción se está convirtiendo rápidamente en un hecho científico.

Difícil retroceder

Una vez desatado, Las tecnologías digitales son genios particularmente difíciles de volver a poner en la botella. En este sentido, se diferencian de otras tecnologías avanzadas. Poco después de la Segunda Guerra Mundial, Los activistas comenzaron a pedir la prohibición de las armas nucleares, que culminó en el Tratado de No Proliferación en 1970. El tratado ha sido eficaz para mantener una tecnología de 80 años limitada a solo ocho o nueve países; eso es una hazaña impresionante, especialmente a lo largo de la accidentada historia de la política global.

Armas nucleares, sin embargo, requieren importantes recursos para diseñar, construir, probar y desplegar. Por el contrario, las tecnologías digitales son fáciles de compartir, haciéndolos aún más difíciles de controlar. Se han robado y compartido en línea herramientas avanzadas de piratería:China ha utilizado técnicas desarrolladas por la Agencia de Seguridad Nacional de EE. UU. En ciberataques globales, Rusia y Corea del Norte. Su software ahora está disponible para cualquier persona con conexión a Internet.

Un desequilibrio de poder

Las empresas de tecnología que impulsan sus avances tienen dinero, influencia y tiempo de su lado. Los millones de dólares de cabildeo que gastan son monedas de bolsillo en comparación con sus ganancias multimillonarias, y pueden mantener la financiación de forma indefinida, esperando ciclos de noticias y energía activista.

En mi opinión, La incertidumbre sobre cómo las nuevas tecnologías afectarán a la sociedad en general significa que las fuerzas escépticas merecen más apoyo. Prohibiciones y moratorias significarían que ricos, las entidades poderosas tendrían que buscar el permiso legal y social antes de lanzar sus monstruos potenciales al mercado. No parece mucho pedir.

Hay muchas razones para seguir desarrollando nuevas tecnologías:seguir siendo competitivos a nivel mundial, promover el conocimiento humano y prepararse para posibles crisis futuras. La tecnología tiene sus beneficios. Pero ralentizar el ritmo de su avance le daría a la sociedad más tiempo para pensar en las consecuencias y debatir qué aspectos de las nuevas tecnologías son deseables. y cuál debería ser ilegal.

Este artículo se vuelve a publicar de The Conversation bajo una licencia Creative Commons. Lea el artículo original.