Si, como Rip Van Winkle, ha estado dormido durante la última década y acaba de despertarse, Ese teléfono plegable que tienes se ha vuelto muy popular entre los tecnólogos retro y los supervivientes por igual, y, Oh sí, La Inteligencia Artificial (IA) te matará o te salvará.

La IA es la última de una larga lista de palabras de moda tecnológicas que se han apoderado de la sociedad, y si vamos a creerle a la gente de la respetada firma de analistas de tecnología Gartner Inc., 2018 será el año en el que la IA esté verdaderamente integrada en nuestra vida diaria. Por desconcertante que parezca la robótica surrealista que se está cocinando en Boston Dynamics o el despliegue de la IA de reconocimiento facial en las escuelas públicas chinas, esta tecnología es un producto de la condición humana y, como tal, estamos incrustando nuestra propia cultura dentro de su ADN codificado.

Los debates sobre la IA se centran actualmente en la noción de ética. En el estudio de la cultura, la ética está incrustada en los valores, y se han convertido en una parte importante de las deliberaciones sobre cómo la IA se integrará en nuestras vidas. Lo que no se ha discutido es cuyo ética, y en última instancia cuyos valores, estamos hablando de.

¿Es occidental contra oriental? ¿O es estadounidense contra todos los demás? Como los valores dentro de la cultura están influenciados por la comunidad y la sociedad en general, La ética depende del contexto cultural en el que se han desarrollado los valores comunitarios.

'Enculturación'

Por lo tanto, La cultura juega un papel importante en la formación de la IA a través de lo que se conoce como enculturación de esos datos.

Antropóloga Genevieve Bell, el anterior vicepresidente de Intel y visionario cultural, pudo orientar al gigante tecnológico hacia una comprensión más profunda de cómo la cultura y la inteligencia artificial interactúan entre sí.

La investigación de Bell indicó que la interacción humana con la tecnología no es culturalmente universal. No es lo mismo ni objetivo, y codificamos la cultura dentro y a través de la tecnología a un nivel consciente e inconsciente.

Si esto es cierto, ¿Qué sucede con el eventual desarrollo de la cultura en IA?

Para los antropólogos, La evolución cultural humana tiene muchos marcadores:la manipulación de herramientas, el desarrollo del pensamiento abstracto, y más fundamentalmente, la creación de un lenguaje en el que comunicarse.

La cultura comienza cuando dos o más entidades vivientes comienzan a comunicarse e intercambiar información y, con más complejidad, ideas. El desarrollo cultural entre entidades de IA no humanas es algo que aún no se ha discutido, y mucho menos la fusión de la cultura humana y la IA.

Los bots desarrollaron su propio lenguaje

Recientemente, El grupo de investigación de IA de Facebook (FAIR) hizo una breve mención de un experimento en el que dos bots tenían la tarea de negociar entre sí. En ese momento se informó que los bots comenzaron a desarrollar un lenguaje más eficiente para comunicarse entre sí.

Los investigadores de informática de Facebook rápidamente desconectaron lo que se estaba convirtiendo rápidamente en el desarrollo de un lenguaje de inteligencia artificial más eficiente entre los dos bots. no porque tuvieran miedo de la aparición de la auto-creación de IA, sino porque los bots no arrojaron los resultados esperados, una negociación en inglés.

En un mundo donde el código se compone esencialmente de ceros y unos, comandos de sí o no, no hay mucho espacio para lo inesperado. Pero a veces debemos aprovechar la oportunidad y explorar las posibilidades, ya que la cultura no se manifiesta de una manera singular.

La cultura es lo que hacemos. Es un conjunto de normas en las que estamos de acuerdo como sociedad, consciente o inconscientemente, y enmarca cómo operamos en nuestra vida diaria.

La IA puede absorber culturas

La IA tiene la capacidad única en el futuro de absorber todas las normas y valores culturales del mundo, desarrollar una cultura pan-global potencialmente verdadera. Pero primero, nosotros, los creadores de IA, Debe comprender nuestros roles y cómo impactamos esa capacidad de absorción. AI representa, después de todo, un microcosmos de la cultura de las personas que lo construyen, así como de aquellos que aportan información al marco de datos fundamental de la IA.

El novelista de ciencia ficción Alastair Reynolds, en su libro Brecha de absolución , describe un planeta en el que la única criatura inteligente es un vasto mar que absorbe información de los seres y criaturas que nadan en él. El mar aprende de esa información y redistribuye ese conocimiento a otros seres.

Llamado "malabarismo de patrones" en el libro, la manifestación actual de la IA tal como la conocemos se parece mucho a ese mar ficticio, absorbiendo conocimiento y distribuyéndolo selectivamente con sus propios datos enculturados.

Usando el océano absorbente de conocimiento de Reynolds como ejemplo, La IA es actualmente como los cuerpos de agua salada y dulce separados de la Tierra, cada uno con su propio ecosistema, aislado e independiente.

¿Qué sucede cuando estos ecosistemas únicos comienzan a comunicarse entre sí? ¿Cómo se determinarán las normas y los valores a medida que las diversas entidades de IA comiencen a intercambiar información y a negociar las realidades dentro de sus culturas recién formadas?

Norman es una advertencia

Norman del MIT, una personalidad de IA basada en un psicópata ficticio produjo un ejemplo singular de lo que conocemos desde hace mucho tiempo en los seres humanos:con la exposición prolongada a la violencia surge una visión fracturada de las normas y valores culturales. Esto representa un peligro real para la exposición futura y la transmisión a otra IA.

¿Cómo es eso?

Imagina a Norman y Alexa enganchados. Ambas IA son representativas de las personas que las hicieron, los datos humanos que consumen y una necesidad incorporada de aprender. Entonces, ¿qué valores y normas culturales serían más persuasivos?

Norman fue construido para ver todos los datos desde la lente de un psicópata, mientras que Alexa, como asistente digital, solo busca complacer. Hay innumerables ejemplos humanos de personalidades similares que salen mal cuando se juntan.

Los científicos sociales argumentan que el debate sobre la IA está a punto de estallar y, como resultado, que múltiples versiones de la IA están destinadas a coexistir.

Como filósofos, los antropólogos y otros científicos sociales comienzan a expresar sus preocupaciones, Ha llegado el momento de que la sociedad reflexione sobre la utilidad deseada de la IA, cuestionar las realidades y nuestras expectativas, e influir en su desarrollo hacia un entorno cultural verdaderamente pan-global.

Este artículo se publicó originalmente en The Conversation. Lea el artículo original.