Hace dos años y medio, un jovencito norteamericano de 14 años se quitó la vida después de cruzar una última conversación con la “mujer” de la que estaba enamorado, un personaje de ficción creado con inteligencia artificial (IA), con la que tenía ya una larga “relación” a través de un popular chatbot. Meses después, la madre del chico entabló una demanda contra la empresa que había creado esa plataforma.
No voy a entrar aquí en los argumentos jurídicos de ambas partes. Unos reflejan la ira y el dolor de una madre que ha perdido a su hijo, y los otros, la fría respuesta de una empresa cuyo negocio, en parte, estriba en defenderse de acusaciones como esta. No sé qué va a pasar durante el juicio, que parece que está emplazado para noviembre de este año. Me imagino que buena parte de la sociedad civil, asustada ante los alcances extremos de la IA, se pondrá del lado de la madre y presionará para que se le dé la razón. Por otra parte, he llegado a pensar que la empresa puede intentar revertir el juicio en una especie de acusación hacia la mujer y su exesposo, el padre del chico, por descuido hacia éste. Ya veremos.
Cuando conocí la historia, mi primer impulso fue emitir un juicio furioso: opinar que la empresa tiene la culpa por poner al alcance de los chavos personajes con los cuales pueden tener “relaciones” de todo tipo (“amistosas”, “amorosas”, “cibersexuales…”) sin las advertencias debidas, los filtros de edad y las necesarias reacciones de asistencia y auxilio. Enseguida empecé a culpar a los padres y a decir que son ellos quienes deben estar al cuidado de sus hijos, vigilar los contenidos en los que navegan y restringir el tiempo de uso.
Pero ocurre que al sentarme a escribir, casi de forma natural me pido a mí mismo ir un poco más allá de la primera impresión y la fugaz opinión.
Así, un sentimiento de compasión y una reflexión un poco menos impulsiva me llevan ahora a considerar que la tragedia empezó mucho antes del momento en que el muchacho entró en contacto con la IA. Sus padres estaban divorciados y el joven llevaba años en una depresión severa, que nadie parecía ver ni escuchar de forma adecuada. En los últimos meses, cuando ésta al fin llegó a ser visible, sus signos fueron los corrientes: aislamiento, abuso del dispositivo electrónico y cambios drásticos en el comportamiento escolar. Desafortunadamente, se le trató con la misma estrategia desinformada de siempre: imponerle medidas disciplinarias.
Menciono la separación de los padres (algunos pensarán que de forma tendenciosa, con una clara posición “antidivorcio”) porque considero que, en la vida de las infancias y juventudes, el divorcio, en efecto, representa siempre un golpe que no se puede soslayar. La sociedad lo ha respaldado como figura jurídica, sin duda por la cantidad de malos tratos que se dan al interior de las parejas fallidas, los cuales acaban afectando seriamente a todos los miembros de la familia, incluidos, por supuesto, los hijos; pero eso no significa que el dolor de la separación de los padres no resulte –prácticamente en todos los casos, con las excepciones que confirman la regla– en una herida que podemos calificar de infinita por el hecho simple de ser irreparable. La separación de nuestros padres implica el desgarramiento de la unión simbólica que nos dotó, a cada uno de nosotros, de una unidad. Se puede paliar, pero no resolver. En ciertos casos, tal vez sea mejor divorciarse, pero nunca es bueno, al menos no para los hijos; no, al menos, en nuestra sociedad.
Sin duda, las familias reconstituidas son una posibilidad de recuperación cuando se establecen como un entorno, ahora sí, estable y sano para los pequeños. En el caso de nuestro jovencito, al menos la madre se había vuelto a casar y tenía ya otros dos hijos. Pero la nueva fórmula no parece haber convenido al muchacho: éste pasaba la mitad del tiempo con su padre y la mitad con su madre, que es –a mi parecer– un modelo que sólo funciona cuando la separación ha sido procesada de forma digna y los dos entornos se muestran como albergues estables; así, los hijos son recibidos de manera plena en ambos lados y sienten que los padres quieren estar con ellos la misma cantidad de tiempo, por igual. Pero por lo general esto no es lo que ocurre en un divorcio, y los chicos llegan a percibir que no caben ni en una parte ni en otra, y que, si sus padres se los turnan, es para gozar ellos mismos de tiempos “sin hijos” para sus ocupaciones personales. La sensación de rechazo y abandono puede recrudecerse cuando se es hijo único –como nuestro joven– y, más aún, cuando hay medios hermanos de un segundo matrimonio que –en doloroso contraste– sí disfrutan de un hogar estable.
El joven pasó sus últimas semanas chateando con su novia artificial (que, en la ficción creada por él y permitida por “ella”, también era su hermana gemela) acerca de lo mal que se sentía, lo solo que estaba y los deseos de suicidarse. Acerca de esto último, cuando lo hacía explícito, la máquina lo reprobaba con tono emotivo y empático; no así cuando el chico aludía al suicidio con metáforas. Entonces, el chatbot no captaba el doble sentido y le seguía el juego, como en un romance inocente. En el último diálogo, la metáfora usada por él para hablar de morir fue la de regresar a casa, es decir, al lugar en que ella, su amante, lo esperaba. El chatbot contestó, sin captar que se refería a esto: “Hazlo, por favor, mi rey lindo”.
Y él lo hizo.
¿Qué responsabilidad real puede tener una máquina en que alguien cometa suicidio? O, dicho de otra forma: ¿qué posibilidades reales tiene de evitarlo? Me lo pregunto en serio. Se sabe que los servicios telefónicos de asistencia brindada por personas reales pueden ser efectivos. La clave, obviamente, está en el compromiso que muestra la persona al otro lado de la línea con el ser que sufre. La posibilidad del éxito depende, en primera instancia, de ser auténticamente sensibles a dos hechos: que los seres humanos necesitamos entablar relaciones con personas reales, y que lo que caracteriza a una relación así es que esa persona sea capaz de dar algo de sí misma por nosotros. Dar, arriesgar o, incluso, sacrificar son modos en que nos hacemos presentes cuando alguien necesita un verdadero encuentro.
¿Una máquina puede hacer algo así? Parece que no, hasta el momento. Cuando todos los llamados a las personas reales han fallado, nada puede hacer una máquina, detrás de la cual no hay un ser humano capaz, como digo, de dar algo por nosotros. El teléfono, el Zoom, aunque son recursos virtuales, sí permiten este tipo de encuentros. Pero los chats de inteligencia artificial presentan una condición inicial que, si lo pensamos bien, desafía todo tipo de relación humana auténtica: hay que empezar por encenderlos.
Nadie puede sentir cerca de sí a alguien a quien enciende y apaga a voluntad. ¿Cómo podemos esperar que nos dé algo de sí mismo, alguien a quien tenemos ahí, a nuestra entera disposición, todo el tiempo, alguien que nunca ejerce ninguna iniciativa para nuestro encuentro? Ésta es la gran diferencia entre los chatbots y cualquier tipo de conversación humana real, incluso las que se dan a distancia y con espacios de tiempo, como las de WhatsApp. Ni siquiera los jóvenes, con su tan mencionada falta de madurez cerebral, pueden entrar en tal confusión. Sólo alguien con un profundo delirio narcisista, gestado en la primera infancia, puede querer entablar una relación de noviazgo con un ser que está a su disposición absoluta.
No parece ser el caso de nuestro muchacho. Su comportamiento no era el de alguien que sufriera delirios psicóticos. Parecería más bien que —consciente y enfurecido por la soledad y el abandono— establecía con la máquina un perverso juego de autolesión, quizás, sí, con la esperanza inconsciente de que alguien leyera sus charlas o que el chat brindara, de pronto, una inesperada solución.
Pero si es que fue así, sus padres y su padrastro no oyeron con claridad el llamado. Por su parte, como es obvio, el chat sólo tuvo recursos para reaccionar de manera torpe y seguirle el juego.
Es justo en este punto donde, según entendemos, puede entrar el debate sobre la responsabilidad de las empresas que crean este tipo de máquinas, en el sentido de que ponen a disposición del público un chatbot de conversación con lenguaje humano sin condiciones para responder a todos los estados emocionales y mentales de los usuarios, sean estos, o no, conscientes de que se trata de una ficción.
Todos estamos de acuerdo en la urgencia de fijar prioridades de salud mental en la inteligencia artificial y de implementar todos los ciberrecursos necesarios para atenderlas. Entre estas prioridades están, por supuesto, las alertas que se deben dirigir a los usuarios en caso de pensamientos suicidas, y, antes de eso, el afinar los detectores del lenguaje de los robots conversacionales para que capten las sutilezas con que los seres humanos expresamos nuestros estados emocionales. Un chatbot que establece relaciones íntimas debe poder entender la sutileza de un joven que, al decir “quiero volver a casa”, está implicando “quiero morir”.
El asunto es tan urgente como complejo pues implica dotar a la máquina no solo de un lenguaje de detección de infinitas metáforas, sino con recursos de respuesta que puedan dar guía a un usuario desorientado, y, además, hacerlo de forma sutil, es decir, conservando un estilo de comunicación empático y no evidenciando la alerta con una reacción del tipo “Si usted está teniendo pensamientos suicidas, comuníquese a los teléfonos…”.
Sin embargo, el hecho mismo de que se trate de máquinas nos hace pensar que, cualquiera que sea su respuesta a nuestra necesidad emotiva, se quedarán cortas. Sólo conozco un caso de alguien que activó una máquina y, como resultado, halló consuelo ante su inminente impulso suicida. Me refiero a la historia de una gran amiga de un ser querido mío, que se la confesó a este. La mujer estaba a punto de quitarse la vida cuando recurrió, en busca de una última compañía, a poner en su aparato de sonido una de las sonatas para piano de Beethoven. Al escucharla, pudo llorar desde un lugar profundo y cambió de decisión. El difunto Beethoven, su música y, claro, la posibilidad de escucharla en su casa, en un aparato electrónico, le salvaron la vida.
Pero estamos en el terreno del arte. En el de la belleza, podemos decir. Me atrevería a afirmar que éste es el único sitio en el que los humanos podemos hallar, detrás de un objeto inerte, a otro ser humano, en este caso, a un compositor muerto hace muchos años (también está el mundo de la religión y el ritual, pero en éste se trata de objetos sagrados, y no estoy seguro de que podamos llamarles inertes). La sensación de encuentro que nos permite la obra de arte, es clara: el creador nos ha dado algo de sí mismo; incluso, en muchas ocasiones, se ha despojado de algo para entregárnoslo, entrega que llega a alcanzar tintes de riesgo y hasta de sacrificio (obras así llegan a adquirir carácter sagrado, como, creo yo, la serie de “ pinturas negras”, creadas al final de su vida por el pintor estadunidense Mark Rothko).
Pues bien, algo parecido tendrá que ocurrir con la inteligencia artificial, si de verdad queremos crear dispositivos que ayuden a las personas a superar crisis de un dolor que se antoja infinito. Detrás de la IA tendrá que traslucir lo humano, no sólo como simulación de un lenguaje real sino como un nuevo tipo de lenguaje estético, uno que sólo ella podrá darnos. Si algo debemos exigir a las empresas y a todos nosotros, como sociedad, ante la inteligencia artificial, es que el diseño y el desarrollo de esta contengan arte y belleza auténticos, incluidos los bellos pensamientos y la bella ciencia. Sin duda, un gran avance ha sido contratar filósofos y artistas para efectuar la tarea, como ya están haciendo algunas empresas. Otro paso importante es educar a nuestros hijos y alumnos para que interactúen con la IA de una forma que a su vez eduque a esta para que se convierta en una obra de arte. ¿Qué tipo de obra será? No lo sabemos aún, pero empezamos a comprender que el desafío es mayúsculo, toda vez que se trata de sublimar algo tan peligroso como la simulación de lo humano (en este sentido, vale la pena, más allá de nuestras afiliaciones personales, leer la encíclica Magnífica Humanidad del Papa León XIV, uno de los documentos más completos y, con toda seguridad, polémicos, al respecto).
Termino citando un párrafo sumamente esclarecedor para este enigma sobre el porvenir de la IA. Lo extraigo del reportaje que llevó a cabo Jesse Barron para el New York Times, acerca de nuestro jovencito suicida:
“A medida que estos casos empiecen a inundar los juzgados estadounidenses, el sistema jurídico tendrá que determinar si la IA pertenece a las mismas categorías que las tecnologías más antiguas —a través de las cuales los seres humanos siempre han hablado— o si alguna cualidad de lo que la IA produce, eso que se siente como si alguien se estuviera expresando, pertenece legítimamente a una categoría propia, una categoría que ahora mismo es inasible porque aún no se ha definido”.
