• Home
  • Química
  • Astronomía
  • Energía
  • Naturaleza
  • Biología
  • Física
  • Electrónica
  • Sesgo de IA:cómo determina la tecnología si consigues trabajo, obtener un préstamo o terminar en la cárcel

    Crédito:CC0 Public Domain

    Las empresas de casi todas las industrias implementan inteligencia artificial para simplificar los trabajos para el personal y las tareas para los consumidores.

    El software de computadora enseña a los agentes de servicio al cliente cómo ser más compasivos, las escuelas utilizan el aprendizaje automático para buscar armas y tiradores masivos en el campus, y los médicos utilizan la IA para trazar un mapa de la causa raíz de las enfermedades.

    Sectores como la ciberseguridad, El entretenimiento en línea y el comercio minorista utilizan la tecnología en combinación con amplias franjas de datos de clientes de formas revolucionarias para optimizar los servicios.

    Aunque estas aplicaciones pueden parecer inofensivas, quizás incluso útil, la IA es tan buena como la información que se le proporciona, lo que puede tener serias implicaciones.

    Puede que no te des cuenta pero la IA ayuda a determinar si califica para un préstamo en algunos casos. Hay productos en proceso que podrían hacer que la policía lo detenga porque el software lo identificó como otra persona.

    Imagínese si la gente en la calle pudiera tomarle una foto, luego, una computadora escaneó una base de datos para contarles todo sobre ti, o si la cámara de seguridad de un aeropuerto marcaba su rostro mientras un chico malo caminaba limpio a través de la TSA.

    Esas son posibilidades del mundo real cuando la tecnología que se supone que refuerza la conveniencia tiene prejuicios humanos incorporados en el marco.

    "La inteligencia artificial es una herramienta superpoderosa, y como cualquier herramienta realmente poderosa, se puede utilizar para hacer muchas cosas, algunas de las cuales son buenas y otras pueden ser problemáticas, "dijo Eric Sydell, vicepresidente ejecutivo de innovación en Shaker International, que desarrolla software habilitado para IA.

    "En las primeras etapas de cualquier nueva tecnología como esta, ve muchas empresas que intentan descubrir cómo incorporarlo a sus negocios, "Sydell dijo, "y algunos lo están haciendo mejor que otros".

    La inteligencia artificial tiende a ser un término general para describir las tareas realizadas por una computadora que normalmente requerirían un ser humano, como el reconocimiento de voz y la toma de decisiones.

    Ya sea intencional o no, los humanos emiten juicios que pueden extenderse al código creado para que lo siga la IA. Eso significa que la IA puede contener elementos raciales implícitos, prejuicios ideológicos y de género, lo que motivó una serie de esfuerzos regulatorios federales y estatales.

    Justicia penal

    En junio, Representante Don Beyer, D-Va., ofreció dos enmiendas a un proyecto de ley de asignaciones de la Cámara que evitaría que los fondos federales cubran la tecnología de reconocimiento facial por parte de las fuerzas del orden y requieran que la National Science Foundation informe al Congreso sobre los impactos sociales de la IA.

    "No creo que debamos prohibir que todos los dólares federales hagan toda la inteligencia artificial. Solo tenemos que hacerlo con cuidado, "Beyer le dijo a U.S. TODAY. Dijo que el aprendizaje por computadora y el software de reconocimiento facial podrían permitir a la policía identificar falsamente a alguien, incitando a un policía a buscar un arma en casos extremos.

    "Creo que muy pronto pediremos que se prohíba el uso de la tecnología de reconocimiento facial en cámaras corporales debido a las preocupaciones sobre el tiempo real, ", Dijo Beyer." Cuando los datos son inexactos, podría hacer que la situación se salga de control ".

    La IA se utiliza en análisis predictivos, en el que una computadora revela la probabilidad de que una persona cometa un delito. Aunque no está a la altura de las unidades policiales "previas al delito" del éxito de ciencia ficción de Tom Cruise "Minority Report", "La técnica ha enfrentado un escrutinio sobre si mejora la seguridad o simplemente perpetúa las desigualdades.

    Los estadounidenses han expresado un apoyo mixto a las aplicaciones de IA, y la mayoría (82%) está de acuerdo en que debe regularse, según un estudio de este año del Center for the Governance of AI y el Future of Humanity Institute de la Universidad de Oxford.

    Cuando se trata de reconocimiento facial específicamente, Los estadounidenses dicen que las agencias de aplicación de la ley harán un buen uso de la tecnología.

    Trabajos

    Numerosos estudios sugieren que la automatización destruirá puestos de trabajo para los humanos. Por ejemplo, Los académicos de Oxford Carl Benedikt Frey y Michael Osborne estimaron que el 47% de los trabajos estadounidenses corren un alto riesgo de automatización a mediados de la década de 2030.

    Como los trabajadores se preocupan por ser desplazados por las computadoras, otros son contratados gracias al software habilitado para IA.

    La tecnología puede hacer coincidir a los empleados que tienen las habilidades ideales para un entorno de trabajo específico con los empleadores que pueden estar demasiado ocupados para que los humanos examinen a los candidatos.

    Shaker International utiliza datos recopilados de pruebas, entrevistas de audio y currículums para predecir cómo podría comportarse una persona en el trabajo.

    Los "bits significativos" de información incluyen "cómo trabajará una persona, cuánto tiempo se quedarán, ¿Serán un vendedor de alto rendimiento o un trabajador de alta calidad? "Dijo Sydell.

    Usando IA, "Podemos deshacernos de los procesos que no funcionan bien o son redundantes. Y podemos brindar a los candidatos una mejor experiencia brindándoles retroalimentación en tiempo real durante todo el proceso, "Dijo Sydell.

    Dijo que si la IA se despliega mal, puede empeorar el entorno laboral, pero si se hace con cuidado puede conducir a lugares de trabajo más justos.

    Finanzas

    Para bien o para mal, la inteligencia artificial afecta las decisiones financieras que toman las personas, y lo ha hecho durante años. Desempeña un papel cada vez más importante en la forma en que los comerciantes invierten, y es particularmente eficaz para prevenir el fraude con tarjetas de crédito, dijeron los expertos.

    Donde las cosas se ponen cuestionables es cuando se usa la tecnología para decidir si eres digno de pedir prestado dinero a un banco.

    "Siempre que solicite un préstamo, puede haber IA para determinar si ese préstamo debe otorgarse o no, "dijo Kunal Verma, cofundador de AppZen, una plataforma de inteligencia artificial para equipos financieros con clientes como WeWork y Amazon.

    La tecnología a menudo se promociona como una evaluación más rápida y precisa de un posible prestatario de préstamos, ya que puede filtrar toneladas de datos en segundos. Sin embargo, hay margen para el error.

    Si la información introducida en un algoritmo muestra que vive en un área donde mucha gente ha incumplido con sus préstamos, el sistema puede determinar que usted no es confiable, Dijo Verma.

    "También puede suceder que el área tenga muchas personas de ciertas minorías u otras características que podrían llevar a un sesgo en el algoritmo, "Dijo Verma.

    Soluciones al sesgo

    El sesgo puede infiltrarse en casi todas las etapas del proceso de aprendizaje profundo; sin embargo, Los algoritmos también pueden ayudar a reducir las disparidades causadas por un juicio humano deficiente.

    Un tipo de solución implica alterar atributos sensibles en un conjunto de datos para compensar el resultado. Otra es la preselección de datos para mantener la precisión. De cualquier manera, cuantos más datos tenga una empresa, cuanto más justa pueda ser la IA, Dijo Sydell.

    "Hay una razón por la que Google Facebook y Amazon son líderes en IA, ", Dijo Sydell." Es porque tienen toneladas de datos para procesar. Otras empresas tienen acceso al mismo tipo de tecnología de IA, pero es posible que no tengan grandes cantidades de datos para usar y aplicar. Ese es el obstáculo ".

    Beyer, el político que quiere regular la IA, está a favor de que los humanos verifiquen las decisiones tomadas por computadoras "hasta que la tecnología sea perfecta, si alguna vez lo es ".

    Dijo que podría valer la pena cuestionar si la IA debería ser la solución a todos los problemas. incluso si alguien va a la cárcel.

    "Y cuando es perfecto, tenemos que empezar a pensar en la privacidad. Igual que, ¿Es razonable tomar una foto de alguien y pasarla por una base de datos? ", dijo Beyer." Si la IA puede leer una radiografía mucho más rápido, mucho más precisa y con menos prejuicios que un humano, eso es fantástico. Si le damos a la IA la capacidad de declarar la guerra, estamos en un gran problema ".

    (c) 2019 U.S. Today
    Distribuido por Tribune Content Agency, LLC.




    © Ciencia https://es.scienceaq.com