Un nuevo artículo publicado en Comunicaciones de IA proporciona una visión integral del desarrollo de un marco ético, Código de conducta, y metodologías de diseño basadas en valores para investigadores de IA y desarrolladores de aplicaciones en Europa. La "Declaración de Barcelona para el correcto desarrollo y uso de la inteligencia artificial en Europa" se presentó en la primavera de 2017 en el evento B-Debate en Barcelona, estimular un mayor debate entre los responsables de la formulación de políticas, Líderes de la industria, investigadores y desarrolladores de aplicaciones sobre las oportunidades y los riesgos de la IA en el entorno actual de la "fiebre del oro".

Además de documentar la Declaración de Barcelona completa, el documento examina el fundamento detrás de esto, se centra en la seguridad, fiabilidad, y cuestiones éticas y evalúa el progreso de sus recomendaciones clave. Patrocinado por Biocat y l'Obra Social la Caixa, con el apoyo de ICREA, el Institut de Biologia Evolutiva, y el Institut d'Investigacio en Intelligencia Artificial, B-Debate reunió a los mejores expertos de Europa para discutir estrategias para hacer frente a los riesgos y beneficios de la IA. El evento fue único debido a la participación de desarrolladores e investigadores europeos en un discurso que anteriormente había sido dominado por científicos sociales de EE. UU. Y el Reino Unido. Expertos Legales, y empresas de consultoría empresarial. La Declaración de Barcelona fue firmada por la mayoría de los participantes y está disponible para su firma y discusión en la web.

"Dado el interés generalizado en la IA y el entusiasmo por desarrollar aplicaciones que afecten a las personas en su vida diaria, Es importante que la comunidad de investigación y desarrollo de aplicaciones participe en debates abiertos para evitar expectativas poco realistas. consecuencias no deseadas, y uso que cause efectos secundarios negativos o sufrimiento humano, "dijo Luc Steels, Doctor., Profesor de Investigación ICREA, Institución Catalana de Investigación y Estudios Avanzados (ICREA) - IBE (UPF / CSIC), Barcelona, quien con su co-investigador Ramón López de Mantaras, Doctor., Catedrático de Investigación del Consejo Superior de Investigaciones Científicas (CSIC) y Director del Instituto de Investigación en Inteligencia Artificial (IIIA) - CSIC, Bellaterra, Barcelona, organizó el evento de Barcelona.

Si bien la mayor parte de la actividad de IA se realiza en EE. UU. Y China, Las acciones recientes de la Comisión Europea y los gobiernos nacionales indican que la investigación y el desarrollo están aumentando en Europa. crecimiento que el discurso en torno a la Declaración está contribuyendo a dar forma. Un desarrollo prometedor fue la asignación reciente dentro del programa marco europeo H2020 para la creación de un ecosistema y una plataforma para estimular la investigación europea en IA. como se pide en la Declaración. El documento renueva su llamamiento a las empresas y agencias de financiación europeas para que inviertan en el desarrollo de la IA a una escala adecuada para el desafío. y de tal manera que todas las regiones y ciudadanos europeos puedan beneficiarse.

El debate B, Declaración de Barcelona, y un cuerpo de literatura en rápido crecimiento está planteando preguntas urgentes que continúan resonando:¿Está la IA lista para el despliegue a gran escala? La IA se utiliza ahora principalmente con fines comerciales, pero, ¿podemos también utilizar la IA para el bien común? ¿Qué aplicaciones debemos fomentar? ¿Cómo se pueden abordar los efectos negativos en el despliegue de la IA? ¿Cuáles son los avances técnicos recientes en IA y cómo afectan a las aplicaciones? ¿Cuál debería ser el papel de la IA en las redes sociales? ¿Cuáles son las mejores prácticas para el desarrollo y despliegue de IA?

"Si bien los rápidos avances de la IA se anticipan con entusiasmo, cierta ansiedad sobre el progreso es necesaria y justificable, ", comentaron Steels y López de Mantaras." El temor común de que el despliegue de la IA se salga de control puede parecer descabellado, pero ya hay consecuencias no deseadas que necesitan una reparación urgente. Por ejemplo, los algoritmos integrados en la web y las redes sociales tienen un impacto en quién habla con quién, cómo se selecciona y presenta la información, y cómo los hechos / falsedades se propagan y compiten en el espacio público. La IA debería (y podría) ayudar a apoyar la formación de consenso en lugar de destruirlo. Los sistemas de inteligencia artificial deberían dejar muy claro que son artificiales en lugar de humanos. Engañar a los humanos nunca debería ser un objetivo de la IA ".

También se están explorando preguntas sobre la confiabilidad y responsabilidad de los sistemas de inteligencia artificial basados ​​en el aprendizaje profundo que involucra un comportamiento gobernado por reglas (por ejemplo, toma de decisiones financieras, gestión de recursos humanos, o aplicación de la ley). Los prejuicios incrustados pueden evitar que los solicitantes de empleo calificados pasen la evaluación o dar lugar a decisiones injustas de libertad condicional. Los sistemas autónomos de IA plantean diferentes preocupaciones. ¿Necesitamos poner límites a las armas autónomas? ¿Quién es responsable cuando algo sale mal con un automóvil autónomo?

"La Declaración de Barcelona ha establecido un marco de gobernanza para integrar las mejores prácticas de forma proactiva, como parte del proceso de diseño. Creemos que la IA puede ser una fuerza para el bien de la sociedad, pero que existe un peligro suficiente de inapropiada, uso prematuro o malintencionado para justificar la necesidad de concienciar sobre las limitaciones de la IA y de una acción colectiva para garantizar que la IA se utilice efectivamente para el bien común en condiciones seguras, de confianza, y formas responsables, "explicaron Steels y López de Mantaras.

Aunque el panorama de la IA en Europa está cambiando rápidamente a través de todos estos debates y actividades, los investigadores concluyen que las cuestiones planteadas en la Declaración siguen siendo de gran relevancia, y renovar las recomendaciones en varias áreas prioritarias:

• Hoy en día existe una necesidad aún mayor de aclarar qué entendemos por IA cuando hablamos de cuestiones legales y éticas. Existe una falta de distinción entre la IA basada en el conocimiento, que modela el conocimiento humano en términos computacionales, o aprendizaje orientado a datos, comúnmente conocido como aprendizaje automático. Las cuestiones legales y éticas y las aplicaciones de ambos enfoques son diferentes, pero todo el potencial de la IA solo se logrará con una combinación de ellos.
• La cuestión de cuánta autonomía se debe otorgar a un sistema de IA es para muchas aplicaciones, como la tecnología de armas o los coches autónomos, de primordial importancia. Un enfoque es crear reglas de gobernanza y un marco legal que sea tanto una guía para los desarrolladores como un mecanismo mediante el cual aquellos afectados negativamente por la tecnología puedan buscar reparación.
• El enfoque debe pasar de las máquinas que reemplazan a los trabajadores humanos a complementar y aprovechar a los humanos para realizar tareas y tomar mejores decisiones. El debate sobre la automatización debería centrarse en la naturaleza cambiante del trabajo, no solo el número de trabajos.
• Hay un largo camino por recorrer para apoyar adecuadamente el desarrollo y despliegue de la IA en Europa. La Declaración ha contribuido a crear conciencia y ha dado un impulso adicional a las iniciativas gubernamentales. pero acciones concretas y asignaciones de fondos estables que impactan directamente en la implementación de la IA, investigar, y la educación en Europa todavía son raros.