La sociedad está prestando más atención que nunca a la cuestión del sesgo en los sistemas de inteligencia artificial, y en particular los que se utilizan para reconocer y analizar imágenes de rostros. En IBM, Estamos tomando las siguientes medidas para garantizar que la tecnología de reconocimiento facial se construya y entrene de manera responsable:

(1) Uno de los mayores problemas que causan sesgos en el área del análisis facial es la falta de datos diversos para entrenar a los sistemas. Entonces, este otoño, Pondremos a disposición del público lo siguiente como herramienta para la industria de la tecnología y la comunidad de investigación:

1. Un conjunto de datos de entrenamiento de identidad y atributos faciales de más de 1 millón de imágenes para mejorar el entrenamiento del sistema de análisis facial creado por científicos de IBM Research. Está anotado con atributos e identidad, aprovechar las etiquetas geográficas de las imágenes de Flickr para equilibrar los datos de varios países y las herramientas de aprendizaje activo para reducir el sesgo de selección de la muestra. En la actualidad, el mayor conjunto de datos de atributos faciales disponible es 200, 000 imágenes, por lo que este nuevo conjunto de datos con un millón de imágenes será una mejora monumental. Adicionalmente, Los conjuntos de datos disponibles en la actualidad solo incluyen atributos (color de cabello, vello facial, etc.) o identidad (identificando que 5 imágenes son de la misma persona), pero no ambas. Este nuevo conjunto de datos cambia eso para hacer una sola capacidad para hacer coincidir atributos con un individuo.
2. Un conjunto de datos que incluye 36, 000 imágenes faciales, distribuidas por igual en todas las etnias, géneros y edades para proporcionar un conjunto de datos más diverso para que las personas lo utilicen en la evaluación de sus tecnologías. Esto ayudará específicamente a los diseñadores de algoritmos a identificar y abordar el sesgo en sus sistemas de análisis facial. El primer paso para abordar el sesgo es saber que existe, y eso es lo que permitirá este conjunto de datos.

(2) A principios de este año, aumentamos sustancialmente la precisión de nuestro servicio Watson Visual Recognition para el análisis facial, que demostró una disminución de casi diez veces en la tasa de error para el análisis facial. Y, Seguimos impulsando mejoras continuas. Se está llevando a cabo un taller técnico (por IBM Research en colaboración con la Universidad de Maryland) para identificar y reducir el sesgo en el análisis facial el 14 de septiembre. 2018 en conjunto con ECCV 2018. Los resultados de la competencia utilizando el conjunto de datos de imágenes faciales de IBM se anunciarán en el taller. Es más, nuestros investigadores continúan trabajando con una amplia gama de partes interesadas, usuarios y expertos para comprender otros sesgos y vulnerabilidades que pueden afectar la toma de decisiones de IA, para que podamos seguir mejorando nuestros sistemas ".

La IA tiene un poder significativo para mejorar la forma en que vivimos y trabajamos, pero solo si los sistemas de IA se desarrollan y entrenan de manera responsable, y producir resultados en los que confiamos. Asegurarse de que el sistema esté capacitado con datos equilibrados, y deshacerse de los prejuicios es fundamental para lograr esa confianza.

A medida que aumenta la adopción de IA, la cuestión de evitar que los sesgos entren en los sistemas de IA está pasando a un primer plano. Creemos que ninguna tecnología, sin importar cuán precisa sea, puede o debe reemplazar el juicio humano, intuición y experiencia. El poder de las innovaciones avanzadas, como AI, radica en su capacidad para aumentar, no reemplazar, toma de decisiones humana. Por lo tanto, es fundamental que cualquier organización que utilice inteligencia artificial, incluidas las capacidades de reconocimiento visual o análisis de video, capacite a los equipos que trabajan con ella para comprender los sesgos, incluyendo prejuicios implícitos e inconscientes, supervisarlo, y sepa cómo abordarlo.

Como empresa líder en impulsar la diversidad y la inclusión en el mundo empresarial, la discriminación de cualquier tipo va en contra de los valores de IBM. Estamos profundamente comprometidos con garantizar que las tecnologías de inteligencia artificial se desarrollen sin prejuicios.

Durante más de un siglo, IBM ha introducido de manera responsable tecnologías revolucionarias en el mundo. Estamos dedicados a brindar servicios de inteligencia artificial que se construyen de manera responsable, son imparciales y explicables. Nuestro negocio se ha guiado por un conjunto de principios de confianza y transparencia, lo que incluye nuestra firme convicción de que las empresas que están impulsando la IA tienen la responsabilidad de abordar el problema del sesgo de frente. Y trabajamos continuamente para evaluar y actualizar nuestros servicios, promoviéndolos de una manera confiable e inclusiva.