En 1969, El pionero de la inteligencia artificial y premio Nobel Herbert Simon propuso una nueva ciencia, uno que se acercó al estudio de los objetos artificiales de la misma manera que se estudiarían los objetos naturales.

"Las ciencias naturales son conocimientos sobre objetos y fenómenos naturales, "Simon escribió." Nos preguntamos si no puede haber también ciencia 'artificial':conocimiento sobre objetos y fenómenos artificiales ".

Ahora, 50 años después, un equipo de investigadores de Harvard, MIT, Stanford, la Universidad de California, San Diego, Google, Facebook, Microsoft, y otras instituciones renuevan ese llamado. En un artículo reciente publicado en la revista Naturaleza , los investigadores propusieron una nueva, campo interdisciplinario (comportamiento de la máquina) que estudiaría la inteligencia artificial a través de la lente de la biología, ciencias económicas, psicología, y otras ciencias sociales y del comportamiento.

Máquinas inteligentes, los investigadores argumentan, ya no puede considerarse únicamente como productos de la ingeniería y la informática; bastante, deben ser vistos como una nueva clase de actores con sus propios comportamientos y ecología.

La Escuela de Ingeniería y Ciencias Aplicadas (SEAS) de Harvard John A. Paulson habló con David Parkes, el profesor George F. Colony de Ciencias de la Computación y coautor del artículo, sobre este campo emergente y lo que depara el futuro para las máquinas inteligentes.

Preguntas y respuestas:David Parkes

MARES:Durante tanto tiempo, el estudio de la inteligencia artificial y las máquinas inteligentes se ha limitado al ámbito de la informática, y los investigadores que construyeron las máquinas fueron los mismos que estudiaron su comportamiento. ¿Por qué es importante ampliar el alcance del estudio para incluir nuevos campos, incluyendo las ciencias sociales y del comportamiento?

PARQUES:Primero, Una separación entre los diseñadores y constructores de máquinas inteligentes y aquellos que estudian cómo se utilizan (o no) puede aportar un punto de vista independiente para desarrollar y probar los conjuntos correctos de hipótesis sobre el rendimiento de estas tecnologías. También hay razones pragmáticas, en que el estudio de las máquinas inteligentes se convierte en una ciencia del comportamiento, requiriendo tipos de experiencia muy diferentes. Otro punto es que los sistemas desarrollados en los estrechos confines de un laboratorio pueden comportarse de manera muy diferente "en la naturaleza, "cuando el comportamiento se convierte en un producto de la forma en que se utilizan, incluyendo las muchas formas que son diferentes de lo que pretendían sus diseñadores. Tay bot de Microsoft [que comenzó a publicar tweets ofensivos después de que los trolls "le enseñaron" su discurso de odio] es un ejemplo desafortunado pero no tan único.

SEAS:¿Cómo podrían crecer juntos los campos del comportamiento de las máquinas y las ciencias de la computación e informarse mutuamente en el futuro?

PARKES:Dado que la informática ha llegado a tener tal impacto, el campo ha llegado a abarcar lo que los economistas podrían llamar "análisis positivo, "es decir, un análisis que se basa en los estudios empíricos y experimentales de implementados, sistemas computacionales:la estructura de la World Wide Web, la propagación de información en las redes sociales, o la forma en que se utilizan los sistemas de tutoría interactiva, para dar solo tres ejemplos. Las máquinas inteligentes son un nuevo tipo de artefacto que debemos estudiar y comprender, y tendremos que hacer esto de una manera interdisciplinaria que incluya a los científicos informáticos que trabajan en colaboración con los científicos sociales, humanistas, éticos, eruditos legales, por nombrar unos cuantos. Mas ampliamente, el estudio del comportamiento de las máquinas se verá afectado por los avances en la ciencia de datos, al trabajar a escala con grandes cantidades de diferentes tipos de datos, y en el aprovechamiento de métodos de aprendizaje automático probabilístico y estadísticas para descubrir la causa y el efecto.

SEAS:Su trabajo se centra en la intersección de la inteligencia artificial y la economía. ¿Qué preguntas sobre el comportamiento de la máquina está más interesado en responder?

PARKES:Estoy interesado en un programa de investigación que estudia el comportamiento de las máquinas dentro de la economía algorítmica, incluidos los algoritmos de precios, algoritmos de recomendación, y sistemas de reputación, así como en el contexto de blockchains. Ya podemos ver una trayectoria hacia la automatización de muchos de los componentes centrales de lo que constituye un sistema económico, y la lente del comportamiento de la máquina es buena porque el comportamiento es emergente, lo que significa que se basa no solo en las interacciones individuales, sino también en las fuerzas sociales y económicas. Creo que los sistemas de recomendación como los empleados por Amazon son especialmente interesantes e importantes de estudiar porque ahí es donde veremos surgir preguntas espinosas en torno a la economía del comportamiento. marketing algorítmico, y ética ... Por ejemplo, ¿Está bien que un recomendador inteligente aproveche los "efectos del conjunto de opciones" para aumentar los ingresos?

SEAS:¿Qué son los efectos de conjuntos de opciones?

PARKES:Te muestro un barato, costo moderado, y una máquina de café cara y eliges la de precio moderado. Pero, si te muestro un moderado, costoso, y una máquina de súper lujo, ¿Eliges el…?

MARES:Caro. Mencionaste empresas privadas como Amazon y Microsoft. Los algoritmos patentados y de caja negra deben representar un desafío para comprender el comportamiento de la máquina. ¿Cómo podemos entender por qué una máquina se comporta de la forma en que lo hace cuando no sabemos qué es el algoritmo o cómo toma decisiones?

PARQUES:Curiosamente, los algoritmos no tienen por qué ser en sí mismos muy complicados. Los algoritmos para entrenar un sistema de aprendizaje profundo, que describen la arquitectura de un modelo y la forma en que se entrenará un modelo, Por lo general, se puede expresar en solo decenas de líneas de código (aunque código que luego se construye sobre otro, código de nivel inferior). Son los modelos entrenados los que son complejos y algo inescrutables, a menudo se considera una "caja negra". Pero no es inútil y hay muchas direcciones de investigación sensatas, por ejemplo, requiriendo modelos más simples, insistiendo en una explicación post hoc del comportamiento de modelos complejos, y el uso de análisis de visualización y sensibilidad para tratar de comprender la forma en que funcionan estos modelos y probar las teorías sobre el comportamiento.

SEAS:La inteligencia artificial ya juega un papel tan importante en nuestras vidas. ¿Cuál es la importancia de establecer ahora este nuevo campo de investigación? ¿Tienes miedo de que empiece demasiado tarde? cuando ya se han colocado gran parte de los cimientos de la IA?

PARQUES:Bueno, nunca es demasiado tarde, y estamos solo al comienzo de la ola de cambio que vendrá del desarrollo de máquinas inteligentes. Es necesario avanzar deliberadamente, con las medidas adecuadas de curiosidad, creatividad, y responsabilidad, al mismo tiempo, con el reconocimiento de que las personas y las máquinas continuarán uniéndose de formas nuevas e inesperadas. Lo importante es el reconocimiento de la necesidad de un estudio científico, y este artículo de revisión reúne los hilos en este emergente, campo interdisciplinario del comportamiento de las máquinas.

Esta historia se publica por cortesía de Harvard Gazette, Periódico oficial de la Universidad de Harvard. Para noticias universitarias adicionales, visite Harvard.edu.