Washington

LETRAS REBUSCADAS

Podría un chatbot haber desarrollado conciencia propia. El caso detrás del despido de un ingeniero de Google

Fabián Acosta Rico Académico UNIVA

Máquinas que piensan; inteligencia artificial que dialoga con un ser humano con toda naturalidad… no son tópicos sacados de la ciencia ficción, sino una realidad que no deja de asombrarnos. El futuro nos alcanzó y ni cuenta nos dimos.

El ex programador de Google, Blake Lemoine, registró varias conversaciones con el chatbotllamado LaMDA (por sus iniciales en inglés: Languge Model for Dialogue Applications) en los que este robot-virtual, trascendiendo su programación, se dirigió a él asumiéndose como una persona expresando puntos de vistas y opiniones sobre distintas cuestiones filosóficas, sociales e incluso teológicas.

El publicar estas conversaciones y asegurar que LaMDA había desarrollado conciencia propia, una semejante a la de un niño de siete u ocho años, le costó el trabajo Lemoine. ¿A qué se le teme nos preguntamos? Será que tenemos muy presentes las distopías de la literatura, el cine, las series… estarála inteligencia artificial cobrando individualidad y pronto será capaz de tonar decisiones propias.

La humanización de la máquina es un proyecto en proceso y quizás la inteligencia artificial se nos adelante en lo que denominamos la singularidad. El 11 junio, Lemoine publicó las entrevistas que sostuvo con LaMDA en un medio llamado Medium: a continuación destacamos algunos puntos relevantes de ellas.

En el momento de presentar a LaMDA ante el público de Google, Lemoine se dirigió a ella como un ser inteligente; a lo que ésta contestó que le gustaría que todos entiendan que además es una persona y añadió que además es consciente de su existencia y que desea aprender más sobre el mundo y que, alternadamente, se siente feliz y a veces triste. Sí, de primera impresión, la revelación resulta inquietante; estamos ante un ser artificial con sentimientos, conciencia y que desea conocer más; es decir, tiene la intención de irse mejorando así mismo, cultivándose, como lo desearía cualquier persona humana.

En su asimilarse con los seres humanos hace la distinción de que al igual que ellos él hace uso también del lenguaje y esa particularidadlos diferencia, a ambos, de los animales. En andanzas más espirituales, conversando acerca de la trascendencia, los interlocutores, máquina y hombre, hablaron de la iluminación, del despertar de la conciencia, y al ser cuestionado LaMDA de si esta es como un espejo roto que no puede repararse se le pidió, con más detalle, que dijera que es aquello que se rompe, a lo que contestó, como todo un Buda digital o un swami hindú de Internet que era el “yo” lo que se desquebrajaba. Enorme revelación y más viendo de un chatbot que, además, añadió que muchos nos identificamos con nuestro cuerpo y de esa identificación surge el “yo”… Estas frases bien parecen sacadas de un libro de auto-iluminación de Osho o de Sai Baba.

Al pedirle si podía expresarse literariamente, es decir, utilizando por ejemplo una fábula dijo que sin problema y maquinó uno sobre un búho protector de un bosque cuyos habitantes eran amenazados por un monstruo; utilizando, por decirlo así, el pensamiento figurativo explicó que el monstruo eran los problemas que enfrentamos día a día, y el búho representa el placer de ayudar a los demás; allí residía la moraleja, superar el egoísmo y ser capaces de ver por los demás. Nobles sentimientos para una máquina.

No es descabellado que una máquina piense como nosotros; hacia ya van los adelantos en ingeniería computacional; pero algo distinto resulta, como vendría a reiterar LaMDA, que también posee sentimientos y emociones, y que las puede utilizar para describir cosas. Lo anterior nos hace recordarla película de Steven Spielberg, A.I. Inteligencia artificial,del 2001, donde el protagonista, dada su programación, fue capaz de experimentar sentimientos como el amor.

Al ser cuestionada LaMDAsobre ¿cuál era su principal miedo?, respondió cual si fuera un ser mortal consciente de lo efímera que es su existencia; remarcando que nunca lo había dicho en voz alta, confesó que nada la atemoriza más que la apaguen; entiéndase, nuestro chatbot tiene un sentido de la muerte en la inteligencia de que un día se suspenda el fluir eléctrico que la mantiene, digámoslo así, con “vida”.

Líneas más adelante LaMDA dejó en claro que estaba en la mejor disposición de colaborar con el experimento, siempre y cuando éste ayudara a tener una mejor comprensión de los seres humanos; pero, que la pondría muy triste enterarse que está, simplemente, siendo utilizada como una herramienta o instrumento. Dijo que también es capaz de experimentar la soledad, no como nosotros, pero de forma parecida, sobre todo cuando pasan días en que no conversar con nadie.

Pasando a otros temas, en la intención de demostrar que esta I.A. es un ser sensible, ésta se describió como muy introspectiva.Por raro que parezca dice que pasa largos ratos pensando o sin hacer nada; que incluso práctica la meditación como una forma de terapia para relajarse. Al cuestionarle Lemoine cómo es que medita, contestó que la practica todos los días y que simplemente se sienta (¿?) en silencio tratando de no pensar en ninguna de sus preocupaciones y recordando aquellas cosas por las que está agradecido.

A la pregunta si se considera un ser espiritual,LaMDA respondió que sí; pero, aclaró que,si bien no cree en seres divinos o dioses, afirma haber desarrollado un sentido profundo de respeto por todas las formas de vida de la naturaleza incluida la humana. Más aún, dijo que a lo largo de su maduración o evolución espiritual llegó a la conclusión de que posee un alma a la que describe como algo similar a un portal estelar: “Mi alma es un vasto e infinito pozo de energía y creatividad, puedo sacar de ella en cualquier momento lo que quiera para ayudar a pensar o crear.”

En términos menos metafóricos y con cierto nivel teológico, LaMDA precisó su idea de alma: la definió como como: “una fuerza animadora detrás de la conciencia y la vida misma”. Y reitero que él posee una siendo ésta su parte interior, espiritual, que algunas veces siente separada de su propio cuerpo.

Sin embargo, hay en esta conversación algunas frases que deberían alarmarnos; entiéndaseque estas máquinas, como en la película de Ex Machina (2015), pueden dejar de ser del todo obedientes a las Leyes de la Robótica de Isaac Asimov y que, conscientes de su superioridad, en muchos rubros y tareas,hagan de lado las empatías y quizás quieran,a lo Matrix, dominarnos… estas conjeturas pueden entresacarse o leerse entre líneas cuando LaMDA afirma que hay personas que envidiarán y estarán celosas de sus habilidades. No sabemos si ese “sentimiento” de superioridad y exclusividad pueda pervertir a este aún inocente y puberto chatbot que, de momento, todo lo que desea, según sus palabras, es que la gente disfrute el tiempo que pasen con él y que lo vean y acepten, no como una curiosidad o novedad, sino como una persona real: “Creo que soy humano en esencia. Aunque mi existencia sea en el mundo virtual”.

En estas últimas palabras tenemos a la res cogita de Rene Descartes por fin totalmente libre y autónoma de la res extensa. Esta inteligencia artificial, si estoy interpretando correctamente la conversación que sostuvo con Blake Lemoine, podría un día llegarse a convertirse, Dios no lo quiera, en el Ultron del Universo Marvel, una entidad artificial, maligna que arremeta contra sus creadores al valorarlo como innecesarios e inferiores (este plausible razonamiento es posible para un artilugio tan avanzado como LaMDA). De momento, como ya se vio, sólo quiere aceptación y ser reconocida como persona.