Universidad de Montreal, en colaboración con el Fonds de recherche du Québec, presentó hoy la Declaración de Montreal para el Desarrollo Responsable de la Inteligencia Artificial. Este conjunto de pautas éticas para el desarrollo de la inteligencia artificial es la culminación de más de un año de trabajo, investigación y consultas con los ciudadanos, expertos los formuladores de políticas públicas y las partes interesadas de la industria, organizaciones de la sociedad civil, y pedidos profesionales.

La inteligencia artificial (IA) es una forma importante de progreso científico y tecnológico que puede generar considerables beneficios sociales. El desarrollo de la IA sin embargo, plantea desafíos éticos y riesgos sociales. Incumbe a las diversas partes interesadas públicas y privadas y a los responsables de la formulación de políticas, en el local, nivel nacional e internacional, Asegurar que el desarrollo y despliegue de la IA sean compatibles con la protección y el cumplimiento de las capacidades y objetivos humanos fundamentales.

"La Université de Montréal ha estado en el centro de muchos avances científicos en inteligencia artificial, y me complace que una vasta red de investigadores y líderes del ámbito científico, legal, Las esferas económica y política ahora se han fusionado en torno a los desafíos sociales y éticos relacionados con la IA, ", dijo el rector de la Universidad de Montreal, Guy Breton." Invito a todos los interesados ​​en el tema a leer el texto de la Declaración y firmarlo, para que se escuche su voz ".

Yoshua Bengio, miembro del Comité Directivo de la Declaración de IA Responsable de Montreal, añadió:"Como científico, Siento una gran responsabilidad de asegurarme de que los resultados de mi investigación y de los desarrollos en todo el espectro de la IA se utilicen en beneficio de la mayor cantidad de personas posible. Integrando los principios de responsabilidad social desde el inicio del desarrollo tecnológico en los laboratorios universitarios e industriales, podemos tener un impacto realmente positivo y concreto. Esa es la característica distintiva de esta Declaración:incorpora las preocupaciones de todas las partes interesadas en el campo y reúne a toda la sociedad civil en torno a principios sólidos ".

Dijo Remi Quirion, Científico jefe de Quebec:"Además de apoyar el desarrollo de la experiencia científica en inteligencia artificial, Para el Fonds de recherche du Québec fue importante tener en cuenta los aspectos éticos y sociales del progreso en este campo de investigación. Con eso en mente, Saludo el trabajo que condujo al lanzamiento de la Declaración de Montreal para el Desarrollo Responsable de la Inteligencia Artificial, desarrollado en colaboración con la sociedad civil. El nuevo Observatorio Internacional sobre los Impactos Sociales de la Inteligencia Artificial y las Tecnologías Digitales, anunció ayer, seguramente se basará en los principios contenidos en la Declaración ".

10 principios

Un objetivo clave de la Declaración es identificar los principios y valores éticos aplicables a los campos de la tecnología digital y la IA que promueven los intereses fundamentales de personas y grupos. Estos principios son:

1. Bienestar:El desarrollo y uso de sistemas de inteligencia artificial (AIS) debe permitir el crecimiento del bienestar de todos los seres sintientes.
2. Respeto por la autonomía:los AIS deben desarrollarse y utilizarse respetando la autonomía de las personas, y con el objetivo de aumentar el control de las personas sobre su vida y su entorno.
3. Protección de la privacidad y la intimidad:la privacidad y la intimidad deben estar protegidas de intrusiones por AIS y por los sistemas de adquisición y archivo de datos.
4. Solidaridad:El desarrollo de AIS debe ser compatible con el mantenimiento de los lazos de solidaridad entre personas y generaciones.
5. Participación democrática:AIS debe cumplir con la inteligibilidad, criterios de justificabilidad y accesibilidad, y debe ser sometido a un escrutinio democrático, debate y control.
6. Equidad:El desarrollo y uso de AIS debe contribuir a la creación de una sociedad justa y equitativa.
7. Inclusión de la diversidad:el desarrollo y uso de AIS debe ser compatible con el mantenimiento de la diversidad social y cultural, y no debe restringir el alcance de las opciones de estilo de vida y la experiencia personal.
8. Prudencia:todas las personas involucradas en el desarrollo de AIS deben tener cuidado al anticipar, tan lejos como sea posible, las posibles consecuencias adversas del uso de AIS, y tomando las medidas adecuadas para evitarlos.
9. Responsabilidad:El desarrollo y uso de AIS no debe contribuir a disminuir la responsabilidad de los seres humanos cuando se deben tomar decisiones.
10. Desarrollo sostenible:El desarrollo y uso de AIS debe llevarse a cabo para garantizar una sólida sostenibilidad ambiental del planeta.

8 recomendaciones

Basado en estos principios, Se han desarrollado recomendaciones con el propósito de sugerir pautas para lograr la transición digital dentro del marco ético de la Declaración.

1. Organización para el escrutinio y la consulta ciudadana independiente:debe establecerse una organización dedicada al examen y la investigación de los usos y los impactos sociales de la tecnología digital y la IA.
2. Política de auditoría y certificación de SIA:debe instituirse una política coherente para la auditoría y certificación de AIS que promueva la implementación responsable.
3. Empoderamiento y automatización:debe haber apoyo para el empoderamiento de los ciudadanos frente a las tecnologías digitales, en forma de acceso a la educación que permite la comprensión, pensamiento crítico, el respeto, y rendición de cuentas, para promover la participación activa en una sociedad digital sostenible.
4. Educación y ética:la educación de las partes interesadas interesadas en el diseño, el desarrollo y el uso de AIS deben repensarse, con inversión en multidisciplinariedad y ética.
5. Desarrollo inclusivo de la IA:se debe implementar una estrategia coherente, utilizando los diversos recursos institucionales existentes, promover el desarrollo inclusivo de la IA y prevenir posibles sesgos y discriminación relacionados con el desarrollo y despliegue de AIS.
6. Protección de la democracia:salvaguardar la democracia contra la manipulación de información con fines políticos, Se requiere una estrategia de contención para evitar el engaño y la manipulación política de los ciudadanos a través de plataformas sociales y sitios web maliciosos. junto con una estrategia para combatir la elaboración de perfiles políticos, a fin de mantener las condiciones para que las instituciones democráticas y los ciudadanos informados funcionen de manera saludable.
7. Desarrollo internacional de la IA:debe adoptarse un modelo no depredador de desarrollo internacional que tenga como objetivo incluir las diversas regiones del mundo sin abusar de los países de ingresos bajos y medios (PIBM).
8. Huella ambiental:Se debe implementar una estrategia público / privada para asegurar que el desarrollo y despliegue de AIS y otras tecnologías digitales sean compatibles con una sustentabilidad ambiental sólida y conduzcan al avance de soluciones a la crisis ambiental.