¿Cuál fue su primera reacción cuando se enteró de Blake Lemoine, el ingeniero de Google que anunció el mes pasado que el programa de IA en el que estaba trabajando había desarrollado conciencia?

Si, como yo, eres instintivamente sospechoso, podría haber sido algo como:¿Este tipo habla en serio? ¿Honestamente cree lo que está diciendo? ¿O es un engaño elaborado?

Ponga las respuestas a esas preguntas a un lado. Concéntrese en cambio en las preguntas mismas. ¿No es cierto que incluso preguntarles es presuponer algo crucial sobre Blake Lemoine:específicamente, él está consciente?

En otras palabras, todos podemos imaginarnos a Blake Lemoine engañando.

Y podemos hacerlo porque asumimos que hay una diferencia entre sus convicciones internas, lo que realmente cree, y sus expresiones externas:lo que afirma creer.

¿No es esa diferencia la marca de la conciencia? ¿Asumiríamos alguna vez lo mismo acerca de una computadora?

Conciencia:'El problema difícil'

No en vano, los filósofos se han aficionado a llamar a la conciencia "el problema difícil". Es notoriamente difícil de definir.

Pero por el momento, digamos que un ser consciente es aquel capaz de tener un pensamiento y no divulgarlo.

Esto significa que la conciencia sería el requisito previo para la ironía, o decir una cosa queriendo decir lo contrario. Sé que estás siendo irónico cuando me doy cuenta de que tus palabras no corresponden con sus pensamientos.

Que la mayoría de nosotros tengamos esta capacidad, y la mayoría de nosotros transmitamos nuestros significados tácitos de esta manera, es algo que, creo, debería sorprendernos con más frecuencia de lo que lo hace.

Parece casi discretamente humano.

Los animales ciertamente pueden ser divertidos, pero no deliberadamente.

¿Qué pasa con las máquinas? ¿Pueden engañar? ¿Pueden guardar secretos? ¿Pueden ser irónicos?

IA e ironía

Es una verdad universalmente reconocida (al menos entre los académicos) que cualquier pregunta de investigación que pueda inventar con las letras "IA" ya está siendo estudiada en alguna parte por un ejército de científicos computacionales obscenamente bien dotados, a menudo, si no siempre, financiado por el ejército de los EE. UU.

Este es ciertamente el caso con la cuestión de la IA y la ironía, que recientemente ha atraído una cantidad significativa de interés en la investigación.

Por supuesto, dado que la ironía implica decir una cosa queriendo decir lo contrario, crear una máquina que pueda detectarla, y mucho menos generarla, no es una tarea sencilla.

Pero si pudiéramos crear una máquina así, tendría multitud de aplicaciones prácticas, algunas más siniestras que otras.

En la era de las reseñas en línea, por ejemplo, los minoristas se han vuelto muy entusiastas con la llamada "minería de opiniones" y el "análisis de sentimientos", que utiliza IA para mapear no solo el contenido, sino también el estado de ánimo de los comentarios de los revisores.

Saber si su producto está siendo elogiado o si se está convirtiendo en el blanco de las bromas es una información valiosa.

O considere la moderación de contenido en las redes sociales. Si queremos limitar el abuso en línea mientras protegemos la libertad de expresión, ¿no sería útil saber cuándo alguien habla en serio y cuándo bromea?

¿O qué pasa si alguien tuitea que acaba de unirse a su célula terrorista local o que está metiendo una bomba en su maleta y se dirige al aeropuerto? (Por cierto, nunca twittees eso). Imagina si pudiéramos determinar instantáneamente si son serios o si solo están "siendo irónicos".

De hecho, dada la proximidad de la ironía a la mentira, no es difícil imaginar cómo toda la oscura maquinaria de vigilancia gubernamental y corporativa que ha crecido en torno a las nuevas tecnologías de las comunicaciones encontraría extremadamente interesante la perspectiva de un detector de ironía.

Y eso contribuye en gran medida a explicar la creciente literatura sobre el tema.

IA, de Clippy al reconocimiento facial

Para comprender el estado de la investigación actual sobre la IA y la ironía, es útil saber un poco sobre la historia de la IA en general.

Ese historial generalmente se divide en dos períodos.

Hasta la década de 1990, los investigadores buscaban programar computadoras con un conjunto de reglas formales hechas a mano sobre cómo comportarse en situaciones predefinidas.

Si usó Microsoft Word en la década de 1990, es posible que recuerde al irritante asistente de oficina Clippy, que aparecía sin cesar para ofrecer consejos no deseados.

Desde el cambio de siglo, ese modelo ha sido reemplazado por redes neuronales y aprendizaje automático basado en datos.

Aquí, enormes cachés de ejemplos de un fenómeno dado se traducen en valores numéricos, en los que las computadoras pueden realizar operaciones matemáticas complejas para determinar patrones que ningún ser humano podría descubrir jamás.

Además, la computadora no se limita a aplicar una regla. Más bien, aprende de la experiencia y desarrolla nuevas operaciones independientes de la intervención humana.

La diferencia entre los dos enfoques es la diferencia entre Clippy y, por ejemplo, la tecnología de reconocimiento facial.

Investigando el sarcasmo

Para construir una red neuronal con la capacidad de detectar la ironía, los investigadores se enfocan inicialmente en lo que algunos considerarían su forma más simple:el sarcasmo.

Los investigadores comienzan con datos extraídos de las redes sociales.

Por ejemplo, pueden recopilar todos los tweets etiquetados como #sarcasmo o las publicaciones de Reddit etiquetadas como /s, una abreviatura que los usuarios de Reddit emplean para indicar que no hablan en serio.

El punto no es enseñarle a la computadora a reconocer los dos significados separados de cualquier publicación sarcástica dada. De hecho, el significado no tiene relevancia alguna.

En cambio, se le indica a la computadora que busque patrones recurrentes, o lo que un investigador llama "huellas dactilares sintácticas":palabras, frases, emojis, puntuación, errores, contextos, etc.

Además de eso, el conjunto de datos se refuerza al agregar más flujos de ejemplos:otras publicaciones en los mismos hilos, por ejemplo, o desde la misma cuenta.

Luego, cada nuevo ejemplo individual se ejecuta a través de una batería de cálculos hasta que llegamos a una única determinación:sarcástico o no sarcástico.

Finalmente, se puede programar un bot para que responda a cada cartel original y pregunte si estaban siendo sarcásticos. Cualquier respuesta se puede agregar a la creciente montaña de experiencia de la computadora.

La tasa de éxito de los detectores de sarcasmo más recientes se acerca a un asombroso 90%, sospecho que es mayor de lo que muchos humanos podrían lograr.

Entonces, suponiendo que la IA continúe avanzando al ritmo que nos llevó de Clippy a la tecnología de reconocimiento facial en menos de dos décadas, ¿pueden estar muy lejos los androides irónicos?

¿Qué es la ironía?

Pero, ¿no existe una diferencia cualitativa entre clasificar las "huellas dactilares sintácticas" de la ironía y comprenderla realmente?

Algunos sugerirían que no. Si se le puede enseñar a una computadora a comportarse exactamente como un ser humano, entonces es irrelevante si un rico mundo interno de significado se esconde debajo de su comportamiento.

Pero podría decirse que la ironía es un caso único:se basa en la distinción entre comportamientos externos y creencias internas.

Aquí podría valer la pena recordar que, mientras que los científicos computacionales se han interesado en la ironía recientemente, los filósofos y los críticos literarios han estado pensando en ella durante mucho tiempo.

Y tal vez explorar esa tradición arrojaría luz antigua, por así decirlo, sobre un nuevo problema.

De los muchos nombres que uno podría invocar en este contexto, dos son indispensables:el filósofo romántico alemán Friedrich Schlegel; y el teórico literario posestructuralista Paul de Man.

Para Schlegel, la ironía no implica simplemente un significado externo falso y uno interno verdadero. Más bien, en ironía, dos significados opuestos se presentan como igualmente verdaderos. Y la indeterminación resultante tiene implicaciones devastadoras para la lógica, sobre todo la ley de no contradicción, que sostiene que una afirmación no puede ser verdadera y falsa al mismo tiempo.

De Man sigue a Schlegel en este aspecto y, en cierto sentido, universaliza su visión. Señala que todo esfuerzo por definir un concepto de ironía está destinado a ser infectado por los fenómenos que pretende explicar.

De hecho, de Man cree que todo lenguaje está infectado por la ironía e involucra lo que él llama "parábasis permanente". Debido a que los humanos tienen el poder de ocultar sus pensamientos unos a otros, siempre será posible, permanentemente posible, que no quieran decir lo que dicen.

La ironía, en otras palabras, no es un tipo de lenguaje entre muchos. Estructura, o mejor, atormenta, cada uso del lenguaje y cada interacción.

Y en este sentido, excede el orden de la prueba y el cómputo. La pregunta es si lo mismo es cierto para los seres humanos en general.