No contento con monitorear casi todo lo que hace en línea, Facebook ahora también quiere leer tu mente. El gigante de las redes sociales anunció recientemente un gran avance en su plan para crear un dispositivo que lea las ondas cerebrales de las personas para permitirles escribir con solo pensar. Y Elon Musk quiere ir aún más lejos. Una de las otras empresas del jefe de Tesla, Neuralink, está desarrollando un implante cerebral para conectar la mente de las personas directamente a una computadora.

Musk admite que se inspira en la ciencia ficción, y que quiere asegurarse de que los humanos puedan "mantenerse al día" con la inteligencia artificial. Parece haber pasado por alto la parte de la ciencia ficción que actúa como una advertencia de las implicaciones de la tecnología.

Estos sistemas de lectura de mentes podrían afectar nuestra privacidad, seguridad, identidad, igualdad y seguridad personal. ¿Realmente queremos que todo eso quede en manos de empresas con filosofías como la del antiguo mantra de Facebook? "Muévete rápido y rompe cosas"?

Aunque suenen futuristas, Las tecnologías necesarias para fabricar dispositivos de lectura de ondas cerebrales no son tan diferentes de las herramientas de neurociencia estándar de resonancia magnética (resonancia magnética) y EEG (electroencefalografía) que se utilizan en los hospitales de todo el mundo. Ya puedes comprar un kit para controlar un dron con tu mente, así que usar uno para escribir palabras es, en algunas formas, no es un gran salto. Es probable que el avance se deba al uso del aprendizaje automático para examinar grandes cantidades de datos recopilados de nuestros cerebros y encontrar los patrones en la actividad neuronal que vinculan los pensamientos con palabras específicas.

Es probable que un implante cerebral tarde mucho más en desarrollarse, y es importante diferenciar los logros reales de Neuralink del bombo y la promoción de los medios. Pero Neuralink ha realizado mejoras simultáneas en materiales para electrodos y cirugía asistida por robot para implantarlos. empaquetar la tecnología de manera ordenada para que se pueda leer a través de USB.

Los planes de Facebook y Neuralink pueden basarse en la práctica médica establecida. Pero cuando las empresas recopilan pensamientos directamente de nuestro cerebro, las cuestiones éticas son muy diferentes.

Cualquier sistema que pueda recopilar datos directamente de nuestro cerebro tiene claros riesgos de privacidad. La privacidad se trata de consentimiento. Pero es muy difícil dar el consentimiento adecuado si alguien está interviniendo directamente en nuestros pensamientos. Las empresas de Silicon Valley (y los gobiernos) ya recopilan subrepticiamente tantos datos sobre nosotros como pueden y los utilizan de la forma en que preferiríamos que no lo hicieran. ¿Qué tan seguros podemos estar de que nuestros pensamientos aleatorios y personales no serán capturados y estudiados junto con las instrucciones que queremos dar a la tecnología?

Discriminación y manipulación

Uno de los problemas éticos existentes con la recopilación de datos es la discriminación basada en atributos como el género o la raza que se pueden discernir a partir de los datos. Proporcionar una ventana a la mente de las personas podría facilitar la determinación de otras cosas que podrían formar la base del prejuicio. como la sexualidad o la ideología política, o incluso diferentes formas de pensar que podrían incluir cosas como el autismo.

Con un sistema que se conecta directamente a su cerebro, no solo te pueden robar tus pensamientos, pero también es posible que puedan manipularse. La estimulación cerebral ya se está desarrollando para ayudar a tratar el PTSD y reducir la violencia. Incluso hay afirmaciones sensacionales de que se puede usar para cargar conocimientos directamente, como en la película The Matrix.

Un paso predecible sería combinar las tecnologías de "entrada" y "salida" para una interfaz de dos vías cerebro-computadora. El potencial de los gobiernos para hacernos más obedientes, para que los empleadores nos obliguen a trabajar más duro, o que las empresas nos hagan querer más de sus productos subraya la seriedad con la que debemos tomarnos esta tecnología.

Si los dispositivos para leer la mente se convierten en la forma normal de interactuar con las computadoras, es posible que no tengamos más remedio que utilizarlos para mantenernos al día con colegas más productivos. (Imagínese a alguien que hoy solicita un trabajo de oficina pero se niega a usar el correo electrónico). Y si los implantes estilo Neuralink se vuelven la norma, esto también podría conducir a una mayor desigualdad determinada por el nivel de kit que podría permitirse instalar.

Elon Musk ha declarado que el enorme préstamo requerido para costear la cirugía Neuralink se compensaría con las posibles ganancias de los "mejorados". La idea de que las personas se sientan presionadas a asumir enormes deudas para someterse a una cirugía solo para mantener su trabajo proviene directamente de una distopía de ciencia ficción.

Además de todo esto, está la amenaza física más directa de tener sistemas que se entrometen físicamente en nuestro cerebro. Si bien algunas personas pueden querer modificar su cerebro con una interfaz de computadora (ya hay muchos biohackers experimentales), implementar esto a gran escala requeriría pruebas masivas y exhaustivas.

Dada la reputación (y la inclinación) de Silicon Valley por romper cosas en lugar de detenerse a pensar en ellas, estos sistemas necesitarán una regulación estricta y una revisión ética incluso antes de que comiencen las pruebas. De lo contrario, se corre el riesgo de crear conejillos de indias humanos mutilados.

Para todo esto, podría haber enormes ventajas para continuar la investigación en esta área, particularmente para aquellos que sufren de parálisis o discapacidad sensorial. Pero Silicon Valley no debería poder dictar la forma en que se desarrollan e implementan estas tecnologías. Si lo hacen, puede cambiar radicalmente la forma en que nos identificamos como humanos.

Este artículo se ha vuelto a publicar de The Conversation con una licencia de Creative Commons. Lea el artículo original.