Como parte del estudio de 100 años en curso de Stanford sobre inteligencia artificial, conocido como AI100, Recientemente, dos talleres consideraron los problemas de las tecnologías de atención y el modelado predictivo para informar el desarrollo futuro de las tecnologías de IA.

"Ahora estamos viendo un énfasis particular en las humanidades y cómo interactúan con la IA, "dijo Russ Altman, Profesor de ingeniería de Stanford y director de la facultad del AI100. El AI100 es un proyecto del Instituto Stanford de Inteligencia Artificial Centrada en el Hombre.

Después de la primera reunión del AI100, el grupo planeaba volver a reunirse cada cinco años para discutir el estado de la industria de la IA. La idea era que los informes de esas reuniones captaran el entusiasmo y las preocupaciones con respecto a las tecnologías de IA en ese momento, hacer predicciones para el próximo siglo y servir como un recurso para los responsables políticos y las partes interesadas de la industria que dan forma al futuro de la IA en la sociedad.

Pero la tecnología avanza más rápido de lo esperado, y los organizadores del AI100 sintieron que había temas que debatir antes de la próxima sesión programada. Los informes que resultaron de esos talleres pintan una imagen de las posibles dificultades de subcontratar nuestros problemas para que la tecnología los resuelva en lugar de abordar las causas. o permitir que los modelos predictivos obsoletos no se controlen. Juntos, proporcionan una instantánea intermedia que podría orientar las discusiones en la próxima reunión completa, dijo Altman.

"Los informes capturan la naturaleza cíclica de las opiniones y actitudes del público hacia la IA, "dijo Peter Stone, profesor de informática en la Universidad de Texas en Austin, quien se desempeñó como presidente del panel de estudio para el último informe, y ahora es presidente del comité permanente. "Hay momentos de exageración y entusiasmo con la IA, y hay momentos de decepción y desilusión; a estos los llamamos inviernos de IA ".

Este estudio longitudinal tiene como objetivo resumir todos los altibajos, creando una visión a largo plazo de la inteligencia artificial.

Alexa no se preocupa por ti

Aunque la inteligencia artificial está muy extendida en las aplicaciones sanitarias, Los participantes del taller que debatieron sobre la capacidad de la IA para cuidar llegaron a la conclusión de que el cuidado en sí mismo no es algo que pueda codificarse en tecnología. Basado en eso, recomiendan que las nuevas tecnologías se integren en las relaciones existentes de atención de persona a persona.

"El cuidado no es un problema a resolver, es una parte fundamental de vivir como humanos, "dijo Fay Niker, profesor de filosofía en la Universidad de Stirling, y presidente del taller Coding Caring. "La idea de una solución técnica para algo como la soledad, por ejemplo, es desconcertante ".

Los participantes del taller enmarcan las tecnologías del cuidado como herramientas para complementar las relaciones de cuidado humano, como las que existen entre un cuidador y quien recibe el cuidado. La tecnología ciertamente puede brindar recordatorios para tomar medicamentos o realizar un seguimiento de la información de salud, pero tiene una capacidad limitada para mostrar empatía o proporcionar apoyo emocional que no se puede mercantilizar o reducir a tareas orientadas a los resultados.

"Nos preocupa que la tecnología pueda congelar la interacción humana significativa, ", dijo Niker." La esperanza es que el informe AI2020, y otros trabajos en esta área, contribuirá a prevenir esta 'edad de hielo' desafiando y, por lo tanto, cambiando la cultura y el debate en torno al diseño y la implementación de tecnologías de cuidado en nuestras sociedades ".

Regulación de tecnologías predictivas

Las tecnologías de IA pueden ser capaces de aprender, pero no son inmunes a quedarse obsoletos, incitar a los participantes en el segundo taller a presentar el concepto de "fechas de vencimiento" para regular su implementación a lo largo del tiempo. "Se entrenan con datos del pasado para predecir el futuro, "dijo Altman." Las cosas cambian en cualquier campo, por lo que necesita hacer una actualización o una reevaluación ".

"Significa que tenemos que prestar atención a los nuevos datos, "dijo David Robinson, un científico visitante de la Facultad de Informática y Ciencias de la Información de Cornell, y uno de los organizadores del taller. A menos que se informe lo contrario, el algoritmo asumirá ciegamente que el mundo no ha cambiado, y proporcionará resultados sin integrar factores recién introducidos.

Las decisiones importantes pueden depender de estas tecnologías, incluida la evaluación de riesgos en el sistema de justicia penal y las evaluaciones realizadas por los servicios de protección infantil. Pero Robinson enfatizó que es la combinación neta de los resultados del algoritmo y la interpretación de quienes usan la tecnología lo que da como resultado una decisión final. Debería haber tanto escrutinio sobre la información que proporciona la IA como sobre los usuarios que interpretan los resultados del algoritmo.

Ambos talleres llegaron a la conclusión de que se necesita regulación para la tecnología de IA, según Altman, lo que no debería sorprender a quienes estén en sintonía con las referencias de la cultura popular del campo. Si la industria puede autorregularse, o qué otras entidades deberían supervisar el progreso en el campo, todavía está en cuestión.

Tanto los participantes como los organizadores sienten que el AI100 tiene un papel que desempeñar en el futuro de las tecnologías de IA. "Espero que realmente ayude a educar a las personas y al público en general sobre cómo pueden y deben interactuar con la IA, ", dijo Stone. Quizás aún más importante, Los responsables de la formulación de políticas y los expertos de la industria pueden hacer referencia a los resultados de los informes de IA. dando forma a cómo se desarrollan estas tecnologías.