Las problemáticas del tecnosolucionismo

Ante la presencia de diversas problemáticas en el mundo, por insignificantes o profundas que parezcan, existen quienes consideran que con ayuda de la tecnología cualquier desafío puede superarse. De acuerdo con el defensor de derechos humanos, Alex Drew, esta noción refleja cómo globalmente se le asigna prioridad y mayor valor a las soluciones modeladas por herramientas digitales creadas para remendar problemas humanos.

Esta teoría, denominada tecnosolucionismo, implica que una máquina, programa de software, aplicación de dispositivo móvil o algoritmo puede mejorar o resolver un determinado escenario complejo. Lo anterior se cuantifica por medio de la velocidad en la que algo puede “repararse”. Christine Rosen, autora y presidenta del coloquio sobre conocimiento, tecnología y cultura en el Institute for Advanced Studies in Culture, reconoce que algunas herramientas tecnológicas sí aportan valor pero advierte que lo peligroso es que premisas resolutivas se fusionen en una sola ideología.

No obstante, Drew explica que con la prisa del mundo occidental por adoptar soluciones tecnológicas inmediatas se vulneran distintos derechos humanos. Esto, es concebido como efectos secundarios desafortunados por quienes desarrollan la tecnología; donde el usuario final ignora el contexto completo y se justifica la acción debido a la resolución acelerada del problema. También expresa que la filosofía de competencia actual, donde existe un esfuerzo por lanzar un producto con mayor rapidez que el oponente, conduce a no evaluar debidamente las herramientas. Entonces, lo único que causa es el pensamiento de que estas violaciones a los derechos humanos pueden resolverse sobre la marcha y para lo que se puede desarrollar una nueva aplicación.

Según el UCLA Center for Critical Internet Inquiry, académicos y activistas han revelado que existe «una tremenda negación por parte de las élites y los gobiernos de Silicon Valley a reconocer y actuar sobre los innumerables daños sociales que emanan de sus productos y servicios». Puesto que, la tecnología también puede estar sesgada por los prejuicios de sus creadores. Drew describe que, por ejemplo, Silicon Valley está alejado del centro de dónde provienen la mayoría de las personas refugiadas, proporcionando remedios a problemas que realmente no asimilan del todo.

Asimismo, Rosen agrega que el tecnosolucionismo habla el lenguaje del futuro, sin embargo actúa en el presente y a corto plazo. La apelación de los defensores de este sistema de ideas aboga por que este es un tema apolítico, cuando en realidad sus consecuencias por lo general sí tienen un impacto político.

Por su parte, Lucie Krahulcova, directora de programas y asociaciones de Digital Rights Watch, señala que el término solucionismo tecnológico ganó notoriedad alrededor de 2013 tras la publicación del libro de Evgeny Morozov titulado “To Save Everything, Click Here: The Folly of Technological Solutionism”. En la obra, el escritor e investigador bielorruso describe la necesidad de resolver problemáticas reales y complicadas de manera impecable y rápida. Krahulcova indica que a pesar de que la intención parece mágica, la tecnología no siempre lo es, pues está confeccionada por humanos y está sujeta a los mismos defectos de prejuicios y sesgos. Determina que la mayoría de los asuntos intrincados requieren medidas complejas del mundo real.

En una entrevista realizada a Evgeny Morozov, Natasha Dow Schüll, antropóloga cultural y profesora asociada en el Departamento de Medios, Cultura y Comunicación de la Universidad de Nueva York, cita el libro definiendo este enfoque como “una ideología endémica que reformula fenómenos sociales complejos como la política, la salud pública, la educación y la aplicación de la Ley como ‘problemas claramente definidos con soluciones definitivas y computables o como procesos transparentes y evidentes que pueden optimizarse fácilmente, ¡si tan sólo se implementan los algoritmos correctos!’”.

Evgeny Morozov establece que debido a la portabilidad de teléfonos inteligentes, la ubicuidad de las redes sociales y la proliferación de sensores por doquier, la infraestructura para brindar nuevos tipos de soluciones hacen posible opciones que no existían 15 años atrás. Lo anterior no es el problema, sino el hecho de que estas tecnologías se reúnan bajo un mismo paraguas de “internet” y operen sobre la suposición de que todas conllevan una dinámica uniforme a través de las que son entendidas y gobernadas.

Krahulcova precisa que la cuestión es que muy pocas cosas necesitan ser una aplicación, y recurrir a respuestas apresuradas involucra que exista una comprensión limitada del problema y se impidan los debates sólidos sobre el tema. Argumenta que una vez que el solucionismo tecnológico se ha instaurado en el discurso público, es muy difícil revertirlo o eliminarlo.

Además, menciona que la inversión de tiempo y recursos en términos políticos dirigidos a la tecnología es extensa. Por ejemplo, la aplicación de CovidSafe, creada durante la pandemia para detectar casos cercanos de personas contagiadas con Covid-19 según la zona que habitan. Diseñar y lanzar la plataforma tomó 21 millones de dólares y cuanto menor era el número de usuarios que lo utilizaban activamente menos eficaz era, sin garantía de funcionar correctamente. Otra prueba fue Robodebt, un plan automatizado por parte del gobierno australiano que exigía erróneamente a beneficiarios de asistencia social a que devolvieran los apoyos otorgados. Con base en un algoritmo incorrecto, los ciudadanos recibieron cartas declarando que debían miles de dólares, lo que obligó a más de medio millón de personas a pagar deudas falsas desde el funcionamiento del plan en 2016 hasta 2019 que se declaró ilegal.

Igualmente, en 2019, un reporte de la ONU sobre la pobreza extrema advirtió sobre el surgimiento de una distopía del bienestar digital y que las empresas de tecnología operan en una zona libre de derechos cuando se trata de desarrollar soluciones tecnológicas. Por ello, Krahulcova plantea que estos sistemas tecnosolucionistas solían ser relegados a los géneros de ficción pero ahora cobran vida en la realidad, incluso en agencias policiales y de inteligencia. Algunas de estas instancias usan algoritmos predictivos que agravan la discriminación hacia comunidades marginadas a través de sesgos, cuando parece inofensivo subcontratar una solución sencilla.

Implicaciones sociales

La artista e investigadora, Joana Moll, establece que el tecnosolucionismo tiende a simplificar u ocultar distintas realidades simultáneas, aún cuando se ha evidenciado que esta corriente no es eficaz en el momento de solventar acontecimientos considerablemente complejos. Expresa que ocasionalmente se adopta activamente como respuesta única para una situación crítica y que, a pesar de que el enfoque pudiera beneficiar a corto plazo la estabilidad sistémica evitando colapsos urgentes, dificulta comprender los antecedentes y origen del problema.

También explica que, de acuerdo con el libro The Social Construction of Reality (1966), la realidad se compone de un proceso sofisticado y a la vez subjetivo donde intervienen múltiples eventos contextualizados (experiencia, interacción, lenguaje, herencias personales y sociales). No obstante, las interacciones cotidianas hoy en día se llevan a cabo por medio de dispositivos electrónicos y sistemas interconectados. Lo que, con el tiempo, dicta la relación de los seres humanos con el mundo, influenciando la construcción de la propia realidad.

Asimismo, coincide con otros expertos en el hecho de que gran parte de las tecnologías cotidianas son diseñadas por corporaciones del sistema capitalista, como Silicon Valley. Estos sistemas tecnopatriarcales anulan la posibilidad de llegar a acuerdos o negociaciones con el fin de modificarse o adaptarse a ciertas situaciones. Por tanto, sugiere que imaginar modos alternativos de vivir en el mundo se vislumbra distante, y que es inevitable cuestionar cuáles serían las implicaciones a largo plazo para resolver desafíos sistémicos de alta complejidad con tecnosoluciones reduccionistas.

A su vez, Nanjala Nyabola del laboratorio de investigación forense digital del Atlantic Council, resalta que la tecnología ha resultado ser un mecanismo fundamental en la gestión del movimiento de personas a nivel internacional, lo cual ha propiciado debates éticos sobre su impacto. Diferentes países ejecutan plataformas para abordar cuestiones de ciudadanía o identidad digital. No obstante, indica que el auge de la dependencia de la tecnología con el propósito de resolver circunstancias sociales o políticas complejas refuerzan ideologías excluyentes como etnonacionalismo y racismo.

“Esa misma tecnología, desarrollada en contextos de inmigración securitizados con menos protecciones legales, a menudo se redespliega más ampliamente dentro de sociedades democráticas, o se vende en el extranjero a gobiernos con estructuras de gobernanza menos receptivas, enturbiando las expectativas de los ciudadanos sobre el debido proceso, los derechos civiles y las protecciones democráticas”, manifiesta.

Por su parte, Mahak Nagpal, profesor asistente de ética y derecho empresarial de la Opus College of Business, apunta que una solución humana debería ser el punto de partida. Determina que actualmente se podría sobreestimar el potencial de la inteligencia artificial (IA), particularmente de la retórica acerca de que esta sería capaz de solventar problemáticas sociales intrincadas. Comparte que, si bien la IA podría aportar ventajas en ciertos contextos, aún deben considerarse las capacidades e ingenio humano. En ocasiones, los tomadores de decisiones organizacionales pueden tener actitudes tecnosolucionistas. Para esto, recomienda que la tecnología no sea concebida como el único remedio, sino explorar modelos de negocio sostenibles que evalúen intervenciones no tecnológicas antes de optar por instrumentos meramente digitales.

De la misma forma, propone preguntarse si el problema es técnico, social o una cuestión cultural más amplia. Después, es importante reconocer los beneficios que dicha tecnología puede brindar y contar con una compresión saludable de las limitaciones inherentes con la finalidad de alcanzar un bien realista.

Una muestra concreta de las afectaciones del tecnosolucionismo de manera reduccionista fue durante la más reciente pandemia. Petra Molnar, abogada y antropóloga especifica que este enfoque no aproxima las causas elementales de desplazamiento, migraciones forzadas o la desigualdad económica, por lo que se acentúa la propagación de crisis sanitarias globales.

Rosen detalla que mientras la incertidumbre prevalece, parece comprensible sentirse cómodos ante el solucionismo tecnológico. Este acercamiento puede ser radical en tiempos de crisis, describe que estando bajo presión es natural resignarse a la dependencia del tecnosolucionismo en salud pública y educación. Empero, considera que es conveniente analizar las consecuencias.

André Cardozo Sarli, especializado en IA, tecnología y juegos responsables, recalca que la educación es un pilar esencial y la formación pública es una plataforma para combatir el analfabetismo e inspira a las personas a obtener mejores oportunidades. Igualmente, expone el caso de Brasil, donde la Secretaría de Educación de São Paulo optó por utilizar ChatGPT para desarrollar planes de estudio para estudiantes del sistema público a partir de sexto grado. Una actividad realizada por profesionales de desarrollo curricular, quienes posteriormente revisan y adaptan el contenido generado artificialmente. Sin debate alguno, estas medidas se adoptaron luego de un plan de digitalización extrema que cambió los libros físicos por los electrónicos. No obstante, dice que es alarmante que no hay mención hacia la consideración de amenazas tales como que la IA generativa podría crear contenido falso, o que suele alimentarse de información en inglés dirigida principalmente a una audiencia norteamericana. Este panorama plantea conflictos donde nuevamente se diseñan estrategias de aprendizaje basadas en “soluciones” generales que no toman en cuenta los contextos específicos, como los de Latinoamerica.

Mientras que señala que la educación no sólo se trata de transferir información, resuelve que se exacerban las desigualdades latentes en sistemas educativos como el brasileño. Además, observa que esta ideología afecta a las poblaciones más vulnerables quienes dependen de la educación pública. “Las herramientas de IA podrían apoyar el desarrollo de material, pero no encargarse ni sustituir el trabajo humano, especialmente dada la tradición de décadas de producción de conocimiento local en el estado”, denota.

Por otro lado, el poder judicial colombiano ha usado ChatGPT para respaldar decisiones como: renunciar al pago de honorarios médicos del tratamiento de un infante con autismo, y en otra ocasión para explicar a la audiencia que era posible reunirse en una sede virtual en el metaverso para resolver un caso de tránsito, accediendo que se se podían verificar identidades en este espacio. La audiencia fue transmitida por YouTube.

Lo anterior, ocasiona inquietudes sobre cómo profesionales deciden emplear este tipo de tecnologías para responder preguntas cruciales sobre cómo deben hacer su trabajo. Por sí mismo, esto es preocupante, pero también aunado al hecho de que se trata de un sistema de justicia que tiene implicaciones que pueden ser perjudiciales. No quiere decir que las tecnologías no sean útiles, sino que pueden ser utilizadas como un instrumento de asistencia de carga laboral para optimizar tiempos de asuntos administrativos, no como sustituto de los deberes y responsabilidades hacia los ciudadanos. Por ende, se deben instituir pautas que explícitamente determinen los casos en los que aplica disponer de tecnología con un propósito específico y uso completamente justificado, y es así que entonces puede ser implementado.

La impresión de las nuevas tendencias tecnológicas no debe superar los cómos y por qués de la aplicación de las herramientas digitales. Sólo al identificar los propósitos y diseñar estrategias que evidencíen los motivos para implementarlas será válido acompañar el ingenio humano de la tecnología. Utilizarla como un remiendo superficial sólo ahondará las profundas brechas latentes, que son diferentes incluso en una misma región. Efectuar un enfoque genérico prolongará la llegada a resoluciones significativas y un mejor porvenir.