Cuando un fondo de capital riesgo respaldado por la CIA se interesó en la tecnología de escaneo facial de Rana el Kaliouby para detectar emociones, la científica informática y sus colegas hicieron un examen de conciencia y luego rechazaron el dinero.

"No nos interesan las aplicaciones en las que espías a las personas, "dijo el Kaliouby, el CEO y cofundador de la startup Affectiva de Boston. La empresa ha entrenado sus sistemas de inteligencia artificial para reconocer si las personas están felices o tristes, cansado o enojado, utilizando un repositorio fotográfico de más de 6 millones de rostros.

Los avances recientes en la visión por computadora impulsada por la inteligencia artificial han acelerado la carrera por los autos autónomos y han impulsado las funciones de etiquetado de fotografías cada vez más sofisticadas que se encuentran en Facebook y Google. Pero a medida que estos "ojos" curiosos de la IA encuentran nuevas aplicaciones en las líneas de pago de las tiendas, cámaras de cuerpos policiales y zonas de guerra, las empresas de tecnología que las desarrollan están luchando por equilibrar las oportunidades comerciales con decisiones morales difíciles que podrían desanimar a los clientes o sus propios trabajadores.

El Kaliouby dijo que no es difícil imaginar el uso del reconocimiento facial en tiempo real para detectar la deshonestidad, o en manos de un régimen autoritario, monitorear la reacción al discurso político con el fin de erradicar la disidencia. Pero la pequeña empresa que surgió de un laboratorio de investigación del MIT, ha establecido límites sobre lo que hará.

La empresa ha evitado "cualquier seguridad, aeropuerto, incluso cosas de detección de mentiras, "dijo el Kaliouby. En cambio, Affectiva se ha asociado con fabricantes de automóviles que intentan ayudar a los conductores de aspecto cansado a mantenerse despiertos, y con las marcas de consumo que quieren saber si las personas responden a un producto con alegría o disgusto.

Tal inquietud refleja nuevos escrúpulos sobre las capacidades y los posibles abusos de la omnipresencia, siempre observando los sistemas de cámaras de inteligencia artificial, incluso cuando las autoridades están cada vez más ansiosas por usarlos.

Inmediatamente después del tiroteo mortal del jueves en un periódico en Annapolis, Maryland, La policía dijo que recurrió al reconocimiento facial para identificar al sospechoso que no cooperaba. Lo hicieron tocando una base de datos estatal que incluye fotografías policiales de detenidos anteriores y, más controvertido, todos los que se inscribieron para obtener una licencia de conducir de Maryland.

La información inicial proporcionada a las autoridades policiales dijo que la policía había recurrido al reconocimiento facial porque el sospechoso había dañado sus huellas dactilares en un aparente intento de evitar la identificación. Ese informe resultó ser incorrecto y la policía dijo que usaron el reconocimiento facial debido a demoras en obtener la identificación de huellas dactilares.

En junio, El Aeropuerto Internacional de Orlando anunció planes para requerir escaneos de identificación facial de los pasajeros en todos los vuelos internacionales que llegan y salen para fines de este año. Varios otros aeropuertos de EE. UU. Ya han estado utilizando tales escaneos para algunos, pero no todos, salida de vuelos internacionales.

Las empresas y los municipios chinos ya están utilizando cámaras inteligentes para avergonzar a los peatones imprudentes en tiempo real y para vigilar a las minorías étnicas. sometiendo a algunos a detención y adoctrinamiento político. Mas cerca de casa, Las cámaras y sensores en el techo de la nueva tienda sin cajero de Amazon en Seattle tienen como objetivo hacer que el robo en tiendas sea obsoleto al rastrear cada artículo que los compradores recogen y devuelven.

Las preocupaciones sobre la tecnología pueden sacudir incluso a las empresas tecnológicas más grandes. Google, por ejemplo, dijo recientemente que saldrá de un contrato de defensa después de que los empleados protestaran por la aplicación militar de la tecnología de inteligencia artificial de la compañía. El trabajo involucró el análisis por computadora de imágenes de video de drones de Irak y otras zonas de conflicto.

Preocupaciones similares sobre los contratos gubernamentales han provocado discordias internas en Amazon y Microsoft. Desde entonces, Google ha publicado pautas de IA que enfatizan los usos que son "socialmente beneficiosos" y que evitan "prejuicios injustos".

Amazonas, sin embargo, hasta ahora ha desviado la creciente presión de los empleados y los defensores de la privacidad para detener Rekognition, una poderosa herramienta de reconocimiento facial que vende a los departamentos de policía y otras agencias gubernamentales.

Decir no a un trabajo por supuesto, generalmente significa que alguien más lo hará. El proyecto de metraje de drones que involucra a Google, apodado Proyecto Maven, con el objetivo de acelerar el trabajo de búsqueda de "patrones de vida, cosas que son sospechosas, indicaciones de posibles ataques, "dijo Robert Work, un ex alto funcionario del Pentágono que lanzó el proyecto en 2017.

Si bien duele perder Google porque son "muy, muy bueno en ello, "Trabajo dijo, otras empresas continuarán con esos esfuerzos.

El interés comercial y gubernamental en la visión por computadora se ha disparado desde los avances realizados a principios de esta década utilizando una "red neuronal" similar al cerebro para reconocer objetos en imágenes. Entrenar a las computadoras para identificar gatos en los videos de YouTube fue un desafío temprano en 2012. Ahora, Google tiene una aplicación para teléfonos inteligentes que puede decirte qué raza.

Una importante reunión de investigación:la Conferencia anual sobre visión por computadora y reconocimiento de patrones, celebrada en Salt Lake City en junio — se ha transformado de una reunión académica adormecida de "gente nerd" a una exposición de negocios de la fiebre del oro que atrae a grandes empresas y agencias gubernamentales, dijo Michael Brown, un científico informático en la Universidad de York de Toronto y un organizador de conferencias.

Brown dijo que a los investigadores se les han ofrecido trabajos bien pagados en el acto. Pero pocos de los miles de documentos técnicos presentados a la reunión abordan preocupaciones públicas más amplias sobre la privacidad, prejuicios u otros dilemas éticos. "Probablemente no estemos teniendo tanta discusión como deberíamos, " él dijo.

Las empresas emergentes están forjando sus propios caminos. Brian Brackeen, el director ejecutivo de la empresa de software de reconocimiento facial Kairos, con sede en Miami, ha establecido una política general contra la venta de la tecnología a las fuerzas del orden o para la vigilancia del gobierno, argumentando en un ensayo reciente que "abre la puerta a faltas graves por parte de los moralmente corruptos".

La startup Neurala, con sede en Boston, por el contrario, está desarrollando un software para Motorola que ayudará a las cámaras corporales usadas por la policía a encontrar a una persona entre la multitud en función de su apariencia y su apariencia. El CEO Max Versace dijo que "la IA es un espejo de la sociedad, "por lo que la empresa solo elige socios con principios.

"No somos parte de ese totalitario, Esquema orwelliano, " él dijo.

© 2018 The Associated Press. Reservados todos los derechos.