Barbara Grosz tiene la fantasía de que cada vez que un informático se conecta para escribir un algoritmo o construir un sistema, un mensaje parpadeará en la pantalla que pregunta, "¿Ha pensado en las implicaciones éticas de lo que está haciendo?"

Hasta que llegue ese día Grosz, el Profesor Higgins de Ciencias Naturales en la Escuela de Ingeniería y Ciencias Aplicadas John A. Paulson de Harvard (SEAS), está trabajando para inculcar en la próxima generación de científicos informáticos una mentalidad que considere el impacto social de su trabajo, y las habilidades de razonamiento ético y comunicación para hacerlo.

"La ética impregna el diseño de casi todos los sistemas informáticos o algoritmos que existen en el mundo, ", Dijo Grosz." Queremos educar a nuestros estudiantes para que piensen no solo en los sistemas que podrían construir, pero si deberían construir esos sistemas y cómo deberían diseñarlos ".

En un momento en que los departamentos de ciencias de la computación de todo el país están lidiando con cómo formar graduados que entiendan tanto la ética como los algoritmos, Harvard está adoptando un enfoque novedoso.

En 2015, Grosz diseñó un nuevo curso llamado "Sistemas inteligentes:diseño y desafíos éticos". Experto en inteligencia artificial y pionero en el procesamiento del lenguaje natural, Grosz se dirigió a colegas del departamento de filosofía de Harvard para que enseñaran conjuntamente el curso. Intercalaron en el contenido técnico del curso una serie de acertijos éticos de la vida real y las teorías filosóficas relevantes necesarias para evaluarlos. Esto obligó a los estudiantes a enfrentarse a preguntas que, a diferencia de la mayoría de los problemas informáticos, no tengo una respuesta correcta obvia.

Los estudiantes respondieron. El curso atrajo rápidamente seguidores y en el segundo año 140 personas competían por 30 lugares. Hubo una demanda de más cursos de este tipo, no solo por parte de los estudiantes, pero también por los colegas de la facultad de informática de Grosz.

"La facultad pensó que esto era interesante e importante, pero no tenían experiencia en ética para enseñársela ellos mismos, " ella dijo.

En respuesta, Grosz y su colaboradora Alison Simmons, el profesor de filosofía Samuel H. Wolcott, desarrolló un modelo que se basa en la experiencia del departamento de filosofía y lo integra en una lista creciente de más de una docena de cursos de informática, desde la programación introductoria hasta la teoría a nivel de posgrado.

Bajo la iniciativa, denominado EthiCS incrustado, los estudiantes graduados de filosofía se emparejan con miembros de la facultad de ciencias de la computación. Juntos, revisan el material del curso y deciden sobre un tema éticamente rico que surgirá naturalmente del contenido. Un estudiante graduado identifica lecturas y desarrolla un estudio de caso, ocupaciones, y asignaciones que reforzarán el material. Los instructores de ciencias de la computación y filosofía enseñan uno al lado del otro cuando se lleva el material de Embedded EthiCS al aula.

Grosz y sus colegas de filosofía están en el centro de un movimiento que esperan se extienda a los programas de ciencias de la computación en todo el país. El enfoque de "pedagogía distribuida" de Harvard es diferente de muchos programas universitarios que tratan la ética al agregar un curso independiente, es decir, más a menudo que no, solo una electiva para los estudiantes de ciencias de la computación.

"Los cursos independientes pueden ser fantásticos, pero pueden enviar el mensaje de que la ética es algo en lo que piensas después de haber hecho tu trabajo de informática "real", ", Dijo Simmons." Queremos enviar el mensaje de que el razonamiento ético es parte de lo que haces como científico informático ".

Integrar la ética en el plan de estudios ayuda a los estudiantes de ciencias de la computación a ver cómo los problemas éticos pueden surgir en muchos contextos. cuestiones que van desde la forma en que las redes sociales facilitan la difusión de información falsa hasta la censura y las técnicas de aprendizaje automático que potencian las inferencias estadísticas en el empleo y en el sistema de justicia penal.

Los cursos de inteligencia artificial y aprendizaje automático son áreas obvias para las discusiones éticas, pero Embedded EthiCS también ha construido módulos para emparejamientos menos obvios, como el álgebra aplicada.

"Realmente queremos que los estudiantes se habitúen a pensar:¿Cómo podría surgir un problema ético en este contexto o en ese contexto?" Dijo Simmons.

David Parkes, Profesor George F. Colony de Ciencias de la Computación, imparte una amplia clase de pregrado sobre temas de economía algorítmica. "Sin esta iniciativa, Hubiera tenido problemas para elaborar las preguntas éticas correctas relacionadas con las reglas para igualar los mercados, o elegir objetivos para los sistemas de recomendación, "Ha sido una experiencia reveladora hacer que los estudiantes piensen detenidamente sobre cuestiones éticas".

Grosz reconoció que puede ser un desafío para los profesores de ciencias de la computación y sus estudiantes entender dilemas éticos a menudo opacos.

"Los informáticos están acostumbrados a que haya formas de demostrar que las respuestas de los conjuntos de problemas son correctas o que los algoritmos son eficientes, ", dijo." Terminar en una situación en la que diferentes valores conducen a compensaciones y formas de apoyar diferentes 'conclusiones correctas' es un cambio de mentalidad desafiante. Pero hacer que estos problemas normativos entren en la mente del diseñador de sistemas informáticos es crucial para la sociedad en este momento ".

Jeffrey Behrends, actualmente becario en residencia en el Centro de Ética Edmond J. Safra de Harvard, ha sido co-impartido en el curso de diseño y ética con Grosz. Behrends dijo que la experiencia reveló una mayor armonía entre los dos campos de lo que cabría esperar.

"Una vez que se les presenta a los estudiantes que no están familiarizados con la filosofía, se dan cuenta de que no es una empresa arcana que sea totalmente independiente de otras formas de pensar sobre el mundo, ", dijo." Muchos estudiantes que se sienten atraídos por la informática también se sienten atraídos por algunas de las metodologías de la filosofía, porque enfatizamos el pensamiento riguroso. Hacemos hincapié en una metodología para la resolución de problemas que no parece muy diferente de algunas de las metodologías para la resolución de problemas en ciencias de la computación ".

El modelo Embedded EthiCS ha atraído el interés de universidades y empresas de todo el país. Recientemente, expertos de más de 20 instituciones se reunieron en Harvard para un taller sobre los desafíos y las mejores prácticas para integrar la ética en los planes de estudio de ciencias de la computación. María Grey, investigador principal de Microsoft Research (y miembro del Centro Berkman Klein de Internet y Sociedad de Harvard), que ayudó a convocar la reunión, dijo que además de impecables dotes técnicas, Los empleadores buscan cada vez más personas que comprendan la necesidad de crear tecnología que sea accesible y socialmente responsable.

"Nuestro desafío en la industria es ayudar a los investigadores y profesionales a que no vean la ética como una casilla que debe marcarse al final, sino pensar en estas cosas desde el principio de un proyecto, "Dijo Gray.

Esas preocupaciones inspiraron recientemente a la Association for Computing Machinery (ACM), la sociedad de informática científica y educativa más grande del mundo, para actualizar su código ético por primera vez desde 1992.

Con la esperanza de difundir ampliamente el concepto de EthiCS integrado en el panorama de la informática, Grosz y sus colegas han escrito un artículo que se publicará en la revista. Comunicaciones de la ACM y lanzó un sitio web para que sirva como un repositorio de código abierto de los módulos de sus cursos más exitosos.

Visualizan un cambio cultural que conducirá a una nueva generación de profesionales de la informática con mentalidad ética.

"En nuestro mundo de sueños, El éxito conducirá a legisladores mejor informados y a nuevos modelos corporativos de organización que incorporen la ética en todas las etapas del diseño y el liderazgo corporativo. "Dice Behrends.

El experimento también ha dado lugar a conversaciones interesantes más allá del ámbito de la informática.

"Hemos estado haciendo esto en el contexto de la tecnología, pero incorporar la ética de esta manera es importante para todas las disciplinas científicas que están difundiendo cosas en el mundo, "Dijo Grosz." Para hacer eso, necesitaremos hacer crecer una generación de filósofos que piensen en las formas en que pueden tomar la ética filosófica y el pensamiento normativo, y llevarlo a toda la ciencia y la tecnología ".

Módulos del curso cuidadosamente diseñados

En el corazón del programa Embedded EthiCS están cuidadosamente diseñados, módulos específicos del curso, desarrollado en colaboración por profesores de informática y filosofía.

Un módulo creado para un curso impartido por el profesor Finale Doshi-Velez pide a los estudiantes que lidien con preguntas sobre cómo los modelos de aprendizaje automático pueden ser discriminatorios. y cómo se puede reducir esa discriminación. Una conferencia introductoria establece un marco filosófico de lo que es la discriminación, incluyendo los conceptos de trato e impacto dispares. Los estudiantes aprenden cómo eliminar la discriminación en el aprendizaje automático requiere más que simplemente reducir el sesgo en el sentido técnico. Incluso establecer una tarea socialmente buena puede no ser suficiente para reducir la discriminación, dado que el aprendizaje automático se basa en correlaciones útiles de predicción y esas correlaciones a veces dan como resultado una mayor desigualdad entre los grupos.

El módulo ilumina las ramificaciones y las posibles limitaciones de utilizar una definición de impacto dispar para identificar la discriminación. También introduce el trabajo técnico en informática sobre discriminación:criterios de equidad estadística. Un ejercicio en clase se centra en un caso en el que un algoritmo que predice el éxito de los solicitantes de empleo en puestos de ventas en un minorista importante da como resultado que se recomienden menos afroamericanos para puestos que los solicitantes blancos.

Una tarea fuera de clase les pide a los estudiantes que se basen en esta base para abordar un problema ético concreto que enfrentan los científicos informáticos que trabajan (es decir, ingenieros de software que trabajan para el Departamento de Trabajo). La tarea brinda a los estudiantes la oportunidad de aplicar el material a un problema del mundo real del tipo que podrían enfrentar en sus carreras, y les pide que articulen y defiendan su enfoque para resolver el problema.