Y llegó el momento del arte-washing…
Las enormes empresas del capitalismo de plataformas, que están dominando no sólo el diseño de información, sino que encima están haciendo la mayor campaña de publicidad jamás vista, vendiendo a la inteligencia artificial como al snake-oil (aceite curalotodo) de todos los males del mundo, han llegado por fin a tocar la puerta del lugar recóndito y contracultural que intentaba salvaguardar las dimensiones más irreductibles de lo humano.
Nada más lejos de nuestros intereses -y seguramente de los suyos- que proclamar una esencia humana inmarcesible, recayendo en ontologías deglutidas por los -ismos más desagradable que podamos imaginar. Pero si nos interesa desde siempre poner los pies en la resistencia, no tanto política como existencial, no como una cocarda disidente, sino como forma de insistir que el futuro todavía encierra sorpresas; que la historia no ha terminado; que la tecnología no es un Deus-ex-machina a acatar, debiendo alinearnos al servicio del pensamiento tecno-corporativo único.
Hemos practicado excursiones sobre los usos y abusos de las plataformas GAFA (antes los destinatarios eran los grandes monopolios tecnológicos del hardware y el software) durante décadas. Hemos bailado tantas veces el tango de la tecnología con la cultura, oscilando rítmicamente entre maravillarnos ante su potencia creativa/destructiva como desencantándonos por sus abusos, y siempre volvemos al mismo punto de partida.
Macrorrelatos vs microutopías
Ya en época de escritos flacos como la actual, dedicamos un capítulo especial no solamente al tecno-washing sino a algunas de sus derivaciones no menos cuestionables. Por eso incursionamos inicialmente en el sport-washing que es una de sus encarnaciones más riesgosamente masivas [desde entonces debemos sumar a estas barrabasadas la pelea farsa del millonario charlatán de YouTube Jake Paul, 27 años, contra el casi sesentón y dañado Mike Tyson. Un circo que Netflix promocionó para crecer en el negocio de las transmisiones en vivo y el escándalo de Spreen, el streamer de 24 años al que Riestra (una SAE, Sociedad Anónima Encubierta) se animó a incluir en su partido contra el líder del campeonato (Vélez) como bien testificó Ezequiel Fernández Moores en Maradona, Tyson y Spreen: ¿cómo será el deporte del futuro?].
Todas estas movidas apuntan a reducir nuestros grados de libertad forzando contrario sensu a los individuos a convertirnos en consumidores pasivos de pantallas en la supuesta era de los prosumidores. Pero si había un peligro que nos preocupaba sobremanera era que el x-washing invadiera una de las áreas que todavía no había caído bajo sus encantos cuál son los estudios del futuro.
Porque en este dominio, que lamentablemente ha evolucionado muy poco desde su introducción en los arcanos gubernamentales; en las mesas de arena de los laboratorios de innovación más prominentes en los años 1950/1960; y sobretodo en el horizonte corporativo que ha reducido el diseño institucional a simples cambios de timón que reiteran los paradigmas dominantes como bien denunciaron Mariana Mazzucato & Rosie Collington (2024) en El Gran Engaño, lo que predomina es el newspeak de George Orwell en 1984.La inversión deliberada del sentido covencional de las palabras.
Preocupados como estábamos por estos avatares, veíamos emerger en los márgenes de nuestra atención un último espacio de colonización de prácticas y miradas: el arte como frontera de la resistencia microutópica (Oliveras, 2024) frete. los macrorelatos tecno-reduccionistas. Mientras, desde hace mas de dos años asistimos a una pulseada diaria entre quienes ven a la IA como una catalizadora de la creatividad (Miller, 2019; de Sautoy (2019), y los que sugieren que las plataformas aprovecharían alianzas espurias (con artistas ingenuos) para algoritmizar la creatividad (Gilder, 2020; Vallor, 2024).
Pasó primero con el texto y la imagen, siguió con el sonido, pero había una frontera mas que peligrosa que nadie se atrevía a traspasar: el video. Si podíamos promptear videos anulando la distancia entre la fantasía y la realidad, todo el régimen de verdad que rige desde el siglo XVI (cuando las palabras se separaron de las cosas (Foucault, 1968)), el mundo se volvería tremendamente anárquico epistemológicamente, y lo que vimos hasta ahora en términos de Fake News no habría sido sino un cuento de hadas.
Éramos ya muchos y parió Sora de OpenAI
Las primeras referencias a Sora un text-to-video converter se filtraron en Febrero de 2024 con un despliegue de bellísimos videos cada dia mas complejos y sutiles. Pasaba el tiempo y la herramienta no se liberaba (indolentemente como habia ocurrido con los productos previos de Open AI) al mercado.
Era muy poco lo que se sabia acerca de su factura técnica, de como se habia entrenado a los modelos, de cual era su potencia efectiva para emular o superar lo real. En ese entonces la directora técnica de Open AIMira Murati se habia sentado con el WSJ fingiendo demencia y siguiendo para adelante
Pero el martes de esta semana una inesperada carta abierta firmada por decenas de artistas, que habían sido los tutores gratuitos de Sora, llegó a las carteleras de las redes sociales
Sintéticamente dice que los artistas (ahora bajo modo protesta) habían recibido acceso a Sora con la promesa de ser evaluadores tempranos, miembros del equipo rojo y socios creativos. Sin embargo, de pronto se dieron cuenta de que los estaban engañando para que hicieran un «lavado de cara» y le dijeran al mundo que Sora es una herramienta útil para los artistas (arte-washing). [After 3 hours, OpenAI shut down Sora’s early access temporarily for all artists]. El arte-washing (lavado de arte es la práctica de utilizar arte real para entrenar modelos de IA que luego puedan crear arte generado por IA que parezca hecho por el hombre) es una versión aactualizada del x-washing pero bastante mas controversial que las anteriores (Sport- Techno-, etc.)
IA y Arte una larga y retorcida historia
Algunos meses atrás Joanna Maciejewska una autora de fantasía y ciencia ficción, traductora, gamer, lectora, artista, chica europea (Polonia, Irlanda) en Estados Unidos habia amartillado en su cuenta de X :
¿Saben cuál es el mayor problema de impulsar todo lo relacionado con la IA? La dirección equivocada. Quiero que la IA lave mi ropa y lave los platos para que yo pueda hacer arte y escribir, no que la IA haga mi arte y escriba para que yo pueda lavar la ropa y lavar los platos.
. En esa trampa (autoimpuesta) cayeron ingenuamente los autores que ahora se declaran estafados y traicionados por Open AI.
Como bien dice Jurgen Gravestein (2024a) no solo se les pidió que hicieran pruebas y brindaran comentarios, sino que es mas que seguro que el modelo haya recibido capacitación sobre sus trabajos creativos como inesperadamente quedó en claro en esa extraña entrevista a Mira.
Los autores de la carta abierta subrayan que los artistas no tienen por qué cooperar, ya que va en contra de sus propios intereses como artistas o creativos -lamentablemente yo lo hicieron esperando no se sabe que-. Al ayudar a mejorar los modelos o productos de la IA, básicamente estuvieron contribuyendo a su propia desaparición -en una paradoja cruel pero previsible.
¿Qué problema está tratando de resolver la IA?
¿Que problema está tratando de resolver la IA? ¿Apunta al aumento de la inteligencia de la humanidad (como soñaban los pioneros como Douglas Engelbart, Ted Nelson, Stewart Brand, Joseph Licklider y tantos otros), o desarrolla estados de ánimo en los humanos consecuentes con nuestro conocimiento neurocientífico creciente (como aportan Antonio Damasio, Nazareth Castellano, Fernando Flores o Stanislas Dehaene) o nos sumerge en nuevos modos de desarrollo socio-económico consistentes con el paradigma biocéntrico (como sugieren Gunter Pauli, Donald Norman, Alice Rawshorn o Kate Raworth); o ayuda a destrabar los wicked problems que ponen en entredicho la evolución humana (como hacen Mariana Mazzucato; Manual Lima, Nancy Roberts o Paola Antonelli) o se interroga acerca de los misterios de las limitaciones formales de los algoritmos (terreno donde descollaron Kurt Godel; Gregory Chaitin); o incursiona en el terreno fronterizo de la reconciliación del arte con la ciencia (como pretenden Neri Oxman; Buckminster Fuller; Theo Janssen o Ana Rajcevic) –todos polímatas por derecho propio
Venimos coqueteando con la IA desde los seminarios que hacíamos en el Instituto de Cibernética de la Sociedad Científica Argentina en 1974/75. Casi tres décadas de la cursada de @datosuba estuvieron dedicadas a entreverarnos en sus arcanos y profundizar en sus promesas e hipérboles [aquí el primer programa: Del paradigma del control al diseño de autonomía. Introducción a las Tecnologías y Ciencias Cognitivas. marzo de 1996] Hemos vivido sus innumerables inviernos y primaveras. Nos hemos asombrado ante algunos logros y decepcionado ante innumerables promesas fallidas.
Hemos acompañado sus desarrollos contrastándolos con las apuestas de la ciencia-ficción que siempre le han servido de techo y de reflejo. Pero sin caer en lloriqueos y lamentos infantiles como los que expresa Harari (2024) en muchos videos y en su último libro Nexus, la IA es demasiado importante para dejarla en mano de un puñado de empresas y de gobiernos, siempre mucho mas interesados en sus usos militares, amparados en el mantra del “winner takes all” que en una dirección donde el futuro pudiera hacerle pito catalán a la citada expresión de William Gibson y que funcione -al revés- para la mayoría y no para unos pocos.
¿Servirá la inteligencia para mejorar sustancialmente la comprensión lectora, el pensamiento tentacular, la lectura del Pulso del Mundo, el diseño de alumnos polímatas, la reconciliación del arte y de la ciencia para las mayorías? No parecería que la IA estuviese interesada en ninguno de estos items.
Porque hay un Mindset en ciencia y tecnología condensado actualmente en misiones a Marte, búnkeres en islas, futurismo de inteligencia artificial y el metaverso. Se trata de una enésima versión del tecnoutopismo, la datificación de toda interacción humana y la explotación de esos datos por parte de las corporaciones. Numerosos indicios -encarnados en Elon Musk como el DOGE (Departamento de Eficiencia Gubernamental) de Donald Trump- revela que quienes tienen el mayor poder para cambiar nuestra trayectoria actual no tienen interés en hacerlo. Y muestra cómo las formas recientes de rebelión contra la corriente dominante ―QAnon, por ejemplo, o las acciones meme― refuerzan el mismo orden involutivo. (Rushkoff, 2022).
Por eso debemos volver al principio de este post. Ya le hemos regalado casi todo el territorio de las actividades humanas mas interesantes a las IA? ¿Tambien le vamos a regalar el arte?
¿Es el arte la tarea?
Como anticipamos en la lección inaugural de comunicación transmedia del segundo cuatrimestre de este año, debemos abandonar el elogio hiperbólico de los LLM y ponerlos en contexto histórico. La IA no es solo la encarnación leibniziana del “calculemos” con el que convertiremos a este mundo en algo mucho mejor, sino un proyecto vanidoso que busca reemplazar a los humanos por seres mas que humanos (desconociendo de este modo las mil y una variables que pueden desbocarse cuando acometemos tan reduccionistamente la reprogramación de nuestra humanidad).
En esa lección inaugural De Prometeo a Pigmalion. La credibilidad humana que no cesa recombinábamos a Prometeo con Pigmalión. Ambos mitos, aunque distintos, comparten un tema común: la creación y transformación de lo inanimado en algo vivo y la relación del creador con su creación.
Los dos mitos hablan de la creación de vida a partir de lo inanimado: Prometeo da forma a la humanidad y le otorga el fuego, un símbolo de civilización y conocimiento, mientras que Pigmalión transforma su obra de arte en una entidad viva a través del amor. Sin embargo, Prometeo se enfrenta a un castigo divino por desafiar a los dioses, mientras que Pigmalión es recompensado por su fervor. Ambos mitos exploran la capacidad de los seres humanos de crear, transformar y superar límites, ya sea a través de la ciencia, la tecnología o el arte (Halpern, 2024).
El campo de la IA siempre se ha apoyado extensivamente en metáforas. Los sistemas de IA se denominan agentes que supuestamente tienen conocimiento y objetivos. Los LLM se entrenan al recibir recompensas; aprenden de manera autosupervisada al leer grandes cantidades de texto generado por humanos; y razonan utilizando un método llamado cadena de pensamiento. Estos, por no mencionar los términos más centrales del campo (redes neuronales, aprendizaje automático e inteligencia artificial), son analogías con capacidades y características humanas que siguen siendo bastante diferentes de sus contrapartes en las máquinas. Mitchell (2024) señala acertadamente que la mayoría de las metáforas en torno a la IA se inclinan hacia la antropomorfización. ¡Y ha sido así desde el inicio del campo en los años 50!
Si recurrimos a esos mitos es porque como metáforas que son, nos sirven para repensar los hechos sociales totales (Mauss) como la viralización de la IA, fuera de sus metáforas mas habituales, desembozadamente antropomórficas. Y por mas que los mandamases de las empresas de IA afirmen que sus programas no son mas que artefactos, los venden (y los conciben) como si fueran mentes, generando una infinidad de confusiones, y abriendo la puerta a peligros públicos (de los cuales el final infeliz del suicidio de un adolescente por no ser correspondido por una IA inspirada en el juego de tronos es un ejemplo minúsculo).
Poner la esperanza en el espejo equivocado
Frente a una prensa bobalicona que produce/consume una sobredosis de IA ¿qué pasaría si nos diéramos cuenta de que las alucinaciones de la IA van en aumento, que las herramientas de codificación están disminuyendo la calidad del código y que los educadores que utilizan software de detección de IA dudoso están acusando falsamente a los estudiantes de hacer trampa? ¿Cómo deberíamos reaccionar al enterarnos de que los hospitales están adoptando herramientas de transcripción de IA propensas a errores, que las explicaciones de IA en radiología pueden llevar a una dependencia excesiva (como sucede con el Waze que ha auladio nuestra propiocepción geográfica) y que los investigadores están haciendo un mal uso de ChatGPT para la investigación científica? (Gravstein, 2024a)
La inteligencia artificial es tan solo un conjunto de programas que pretenden emularnos. No es una solución a un problema (maldito), sino una herramienta en nuestra caja de herramientas. Si aceptáramos esta versión mas acotada del juego al que estamos jugando, podríamos dedicarnos a crear productos, aplicaciones y funciones que realmente nos hagan sentir más asombro, más curiosidad y mas ganas de resolver problemas profundos. En lugar de drenar la dopamina y amplificar lo peor de nosotros, la IA debería ayudarnos a convertirnos en mejores versiones de nosotros mismos. Pero para ello necesitamos nuevas metáforas.
En lugar de abrir nuevos futuros, las poderosas tecnologías de IA de hoy reproducen el pasado. Forjadas a partir de océanos de nuestros datos en espejos inmensamente poderosos pero defectuosos, reflejan los mismos errores, sesgos y fallas de sabiduría de los que nos esforzamos por escapar (hallucination is the name of the game). Nuestros nuevos espejos digitales -mcluhanianamente -apuntan hacia atrás. Solo muestran dónde los datos dicen que ya hemos estado, nunca dónde podríamos aventurarnos juntos por primera vez (Vallor, 2024).
En vez de seguir soñando que acumulando datos sin parar podremos mejorar nuestras prácticas actuales, lo que necesitamos son preguntas no algorítmicas capaces de diseñar futuros sorpresivos e inesperados. En vez de mas pensamiento computacional lo que necesitamos es mas pensamiento contrafáctico
La IA que supimos conseguir es mas de lo mismo. ¿Dónde está lo distinto? ¿Cómo lo codiseñaremos? ¿En quienes nos inspiraremos? Polímatas al rescate, por favor.
Referencias
Du Sautoy, Marcus Programados para crear. Cómo está aprendiendo a escribir, pintar y pensar la inteligencia artificial. Acantilado, 2020.
Dominguez Halpern, Estela “El fuego divino” 13 de septiembre de 2024.
Foucault, Michel Las palabras y las cosas. Una arqueología de las ciencias humanas. FCE, 1968.
Gilder, George Gaming AI. Why AI Can’t Think But Can Transform Jobs. Discovery Institute, 2020.
Gravestein, Jurgen (2024a) «Metaphors And Analogies The words to describe AI say everything about us«. Nov 24, 2024 Substack
Gravestein, Jurgen (2024b) “Artwashing Artists leak OpenAI’s video model Sora”. Nov 27, 2024. Substack
Harari, Yuval Noah Nexus. Una breve historia de las redes de información desde la edad de piedra hasta la IA. Peguin, 2024.
Mazzucato, Mariana y Collington, Rosie El gran engaño Cómo la industria de la consultoría debilita las empresas, infantiliza a los gobiernos y pervierte la economía. Penguin, 2024.
Miller, Arthur I. The artist in the machine. The World of AI-Powered Creativity. The MIT Press, 2019.
Mitchell, Melanie “The metaphors of artificial intelligence”. Science14 Nov 2024 Vol 386, Issue 6723. .
Oliveras, Elena Distopías y microutopías. Prácticas de resistencia en el arte del siglo XXI, 2024.
Piscitelli, Alejandro “Sportswashing, Technowashing y Futureswashing”. Filosofitis 7/08/2024
Rushkoff, Douglas Survival of the Richest: Escape Fantasies of the Tech Billionaires. W. W. Norton & Company, 2022.
Vallor, Shannon The AI Mirror. How to Reclaim Our Humanity. Oxford University Press, 2024.
Sé el primero en comentar