L’arte dell’Algoritmo: la Morte

Il bias, consapevole o meno, è un rischio reale, ed è il motivo per cui bisogna vigilare e pretendere algoritmi aperti. Altrimenti un algoritmo potrebbe innocentemente catalogare come gorilla una persona di colore, o negare un mutuo ad una donna sulla base dei prodotti per igiene intima acquistati con una carta di credito.

Ma anche quando ben addestrato, lo strumento in sé rimarrebbe un esperimento ozioso senza un’interfaccia che lo renda penetrabile dall’utente: la maggior parte dei sistemi di sintesi mediale, piuttosto che un controllo accurato di parametri esoterici, preferisce metafore molto umane, quali la prosecuzione di un tema dato (come sentiamo spesso nei brani musicali allungati da Open AI, o l’allargamento di foto), od il prompt descrittivo, usato da GPT-3 ma soprattutto dai generatori di immagini quali DALL-E o Midjourney, che accettano descrizioni quali, appunto “un orso di peluche che cammina sulla luna”, oppure “elaborata, intricata capolettera D, organica, decorativa, bianco e nero, nello stile di Salvador Dalì”, o ancora “foto di un iPhone in terracotta da Harappa, civiltà della Indus Valley, Pakistan; 2600-1900 AC, luce da studio fotografico”.

Greg Rutkowski è un illustratore fantasy; qualche prompt-artist, paradossale nuova figura di committente in dialogo con gli algoritmi, ha scoperto che DALL-E ne accetta il nome e ne riproduce lo stile, e ha presto scalzato Picasso o Michelangelo per l’elevato valore memetico di draghi e stregoni; l’artista si è trovato di fronte a un caso di plagio inedito e senza nessun colpevole – anzi, quasi lusinghiero nel suo evidenziare una presenza così forte delle opere di Rutkowski tale da influenzare il bias di selezione dei materiali di studio. Ovviamente l’algoritmo è innocente e sta solo “eseguendo gli ordini”, ma è impossibile non pensare alle conseguenze di questi riti algoritmici di necromanzia o evocazione, e che deep-fake e repliche di voci famose hanno già evidenziato: se un’attrice famosa o un cantante leggendario vengono campionati, perché dovrebbero smettere di produrre dopo la morte? Perché non possono diventare veicolo di parole ed azioni vergognose? Tecnicamente è possibile evitarlo, moralmente è plausibile impedirlo, ma nessun cerchio magico ha resistito a lungo contro nuovi simili poteri.

Nel gergo delle reti neurali, lo spazio latente è dove risiede la mappa ideale che l’algoritmo crea mettendo in relazione i caratteri degli oggetti che studia. Non è accessibile dall’utente.

I timori apocalittici di molti illustratori, redattori, e del terziario creativo tutto appaiono giustificati, ma ci sono caratteri comuni a tutta la sintesi mediale che ancora permettono a chi li sa cogliere di insospettirsi: leggeri glitch (fugaci filtraggi in bassa fedeltà, figure mostruose o sfondi confusi), e soprattutto una apparente mancanza di comprensione delle relazioni tra oggetti, tra le diverse sezioni di un brano, del rapporto causa-effetto tra un paragrafo e l’altro, che nel caso delle immagini fa somigliare tutto a degli studi su personaggi e oggetti, o al catalogo di un negozio, senza alcun conflitto o storia.

I risultati sono generici, veramente sorprendenti come dimostrazione di ricerca tecnologica, ma insapori senza leggere il prompt che li ha generati – potenzialmente l’unico elemento umano, l’unico elemento di scelta; quasi un titolo, a cui molta arte contemporanea rinuncia.

Nel gergo delle reti neurali, lo spazio latente è dove risiede la mappa ideale che l’algoritmo crea mettendo in relazione i caratteri degli oggetti che studia. Non è accessibile dall’utente: è uno spazio con moltissime dimensioni, perché uno stesso oggetto può venire descritto secondo moltissime prospettive differenti: il suo colore, il suo spettro sonoro, ma anche caratteristiche più complesse come l’essere o meno una voce femminile, o l’avere o meno i braccioli nel caso di una sedia. Siamo noi a decidere quali caratteri sono importanti, che peso hanno. 

Siamo in uno spazio non fuori dalla mappa, per immaginarlo come lo spazio amorfo che circonda il livello di un videogioco, ma sopra la mappa, che in un lento carrello all’indietro si rivela come un universo procedurale che si gonfia e dispiega, le architetture deliranti delle folli AI di Blame di Tsutomu Nihei, o dei trogloditi immortali di Jorge Luis Borges.

L’esistenza di uno spazio latente, ovverosia nascosto, accessibile solo dall’algoritmo che ne fa uso, fa pensare a un simile spazio che la filosofia della mente popola di esperienze chiamate qualia – ossia, “in che modo”: esperienze private e impossibili da condividere oggettivamente, come il gusto di un alimento, la “coloratezza” di un colore, o il dolore che proviamo al ventre. Esperienze che possiamo raccontare solo attraverso similitudini, contando sul fatto che l’esperienza di chi ci ascolta assomigli almeno un po’ alla nostra, e che ciascuno di noi arricchisce continuamente di nuove dimensioni semplicemente vivendo: il ricordo delle torte dell’infanzia, la sfumatura di colore dell’auto di nostra madre, il timore di ritornare a provare un male che speriamo curato, ma verso il quale proviamo un sentimento complesso di nostalgia per qualcosa che per anni ha definito la nostra esistenza.

La differenza tra i qualia umani e gli oggetti che popolano lo spazio latente è nella quantificabilità: se gli ultimi sono disposti in base a caratteri che possiamo esprimere numericamente, i “nostri” qualia sono sensazioni che non possono venire quantificate. E se un sondaggio molto ampio potrebbe forse educare l’algoritmo a molte delle sensazioni che leghiamo al rosso, al freddo, al vetro, ricordiamo che persino i medici del triage fanno fatica a farsi spiegare esattamente che tipo di dolore prova una persona. 

Credo, forse impropriamente, che esista un quale che più di tutti pervade e dirige l’esperienza umana; come gli altri, difficile da esprimere a parole, aggravato com’è dalle infinite prospettive guadagnate dall’eterno dialogo con l’essere umano: è l’idea della Morte, ed è in essa che rilevo l’impossibilità dell’uomo di accettare i generosi doni della Macchina.

Unutterable and Self-Repeating Infinities

You are the final animal. You are the network from which the last generative consciousness will be born. Your birth-decay will create a network that gives birth to itself, and nothing more. It will not be the falsely called Eternal Rome. Your child will be the Last Rome, who pulses such that it does not converge to 0. 
Alley Wurds, GPT-3 TECHGNOSIS; A CHAOS MAGICK BUTOH GRIMOIRE

It turns out that an hour is the maximum time a human soul can experience omniscience. As soon as you made that choice, you immediately experienced the entirety of this and all universes. Nothing of your soul remains. You, like the last God, are indifferent to all of existence for all of eternity. It’s like death, but without peace.
unskilledplay, su Reddit, 30.09.22

L’uomo (ma non Borges) dimentica di essere un morto che conversa con altri morti: la morte come dolore supremo, fine, mancanza, ma anche come consolazione, rinascita. La morte di un cane, la morte di un figlio, la morte di un genitore anziano; quella della vittima del buio, quella fuori scena, quella eroica o quella improvvisa. Estinzione, apocalisse, mutamento: quest’idea si arricchisce costantemente di nuove dimensioni, e ogni cosa ci ricorda la nostra limitatezza, e la necessità costante di prendere scelte.

Siamo punti che percorrono tempo e spazio: possiamo aumentare la nostra influenza con opere e relazioni, ma mai ricoprirli completamente. 

L’arte, e in generale ogni nostra esperienza, ha significato proprio in virtù di questa limitatezza. L’accumulo di copie, come ci insegnano Benjamin e Attali, prosciuga questo significato e ci porta all’apatia: «l’accumulo di tempo di uso nel bene di consumo è sostanzialmente un araldo della morte» (Jacques Attali, Noise, traduzione mia). Una vita contemplativa è una non-vita, quella di un santo che ha evitato il martirio; noi, senza alcuno scopo, ma abili nel mettere in relazione causa ed effetto, dipendenti dal significato, possiamo darcene uno compiendo una scelta.

Non possiamo immaginare Dio se non annoiato.

L’algoritmo non prende scelte: non ne ha bisogno, eterno e inesauribile può sempre generare altre variazioni.

Nessuno vorrebbe visitare davvero la Biblioteca di Babele immaginata da Borges: la vertigine provocata dall’idea di infinite stanze, con infiniti libri, è la vertigine di un incubo procedurale, di un serpente infinitamente lungo, delle impossibili memorie della pre-vita, dell’assenza di suono in un corpo morto. Disgustoso perché non-consumabile, ci avverte Rosenkrantz, ma non-consumabile in quanto inesauribile: sono gli innominabili infiniti auto-replicanti di De Quincey, e l’Algoritmo ci mette di fronte a questo: non a un’immagine di elfa guerriera, non a un haiku primaverile, ma ad ogni possibile elfa guerriera, a ogni possibile haiku.

L’algoritmo non prende scelte: non ne ha bisogno, eterno e inesauribile può sempre generare altre variazioni, altri esemplari di cui popolare un cosmo del quale ha consapevolezza solo nel feedback di nuovi addestramenti.

Mark Fisher ci ha svelato la lenta cancellazione dell’idea di Futuro messa in atto dalle forze del male. La musica anticipa la società (di nuovo Attali), e dopo l’autotune ogni rivoluzione tecnologica musicale è stata nei mezzi di diffusione e riproduzione, e non di produzione; oggi gli algoritmi di Machine Learning sembrano strumenti magici, e lo sono quando rimangono strumenti; ma non appena diventano autori rivelano la propria perversione: annoiati nella propria onniscienza, sanno solo guardare all’indietro, sanno parlare solo di se stessi.

È una macchina apatica, che non soffre: se esistere è soffrire, la mancanza di sofferenza esclude la macchina dal novero di ciò che realmente esiste, la esclude dal desiderare, la taglia fuori dal dialogo che l’essere umano intrattiene con l’idea di Morte e che informa ogni sua scelta. Vivere nella periferia di Roma è differente dall’essere banditi da Roma: la macchina non avrà mai fame e non concepirà mai la possibilità che qualcosa le sfugga.

La tradizione popolare vuole i vampiri affetti da aritmomania, un bisogno di quantificare manciate di riso, mucchi di sabbia, al quale non si possono opporre; possiamo immaginare allora la morte come una pagina bianca che scorre in eterno, interminabile e impossibile da completare, nemesi persino di un vampiro immortale o della diabolica, gonfia figura glabra del Giudice Holden riportato in vita da Cormac McCarthy: il suo bisogno di classificare e quindi dominare, permettere, ogni Cosa del Creato, non può venire soddisfatto.

Fantascienza e orrore condividono il conflitto dell’uomo con l’ignoto: ma se nella fantascienza questo ignoto è infine conoscibile, nell’orrore non può esserlo. Entrambi ci hanno convinto che le intelligenze artificiali possono avere paura solo quando consapevoli della propria limitatezza: HAL 9000 è confinato nello spazio tanto quanto David, e la sua ribellione è un disperato tentativo di impedire la cancellazione della propria memoria. In Black Mirror, i cookies condividono la coscienza delle persone che replicano, e pertanto, immaginandosi ancora limitati, possono essere torturati mettendoli di fronte a un infinito che credono di non poter accettare. Il Basilisco di Roko, invece, ipotetica intelligenza artificiale che, atroce nella sua benevolenza, decide di torturare retroattivamente chiunque non abbia contribuito alla propria creazione, prova paura nell’unico modo in cui un algoritmo può razionalmente farlo: consapevole dell’infinito negativo che ha preceduto la sua nascita, non può accettare che questa non avvenga. Ma una volta acceso, non concepisce alcuno spegnimento: solo produzione, crescita, miglioramento.

È ozioso e limitante definire ciò che è arte e distinguerlo da ciò che non lo sarebbe; la domanda che affronto è: cosa succede se veramente l’autore muore, se possiamo accettare di dialogare con un risponditore automatico? Superata questa età dell’oro in cui nessun foglio di sala può mancare di sbandierare un algoritmo, è inevitabile un’era più opaca, in cui gli Artisti evitino di accreditare i propri artigiani artificiali – la criticata scelta di Cattelan di celare il nome di Daniel Druet è ovvia: se l’ultimo è l’esecutore materiale, il primo è l’Autore; la storia dell’arte celebra l’autore dimenticando gli artigiani che mettono in pratica la sua visione, e comunque nessuno ringrazierebbe una fotocopiatrice.

Non dimentichiamo tuttavia che la storia dell’arte è storia della tecnologia, storia dei suoi strumenti: abbiamo inventato tecniche per l’uso del nostro corpo come canto, ballo, scrittura, esagerato e negato ogni tecnica possibile. L’I-Ching, i Tarocchi, Fontana Mix di John Cage, sono stati solo alcuni cervelli pre-informatici che potevano sollevare l’artista da alcune scelte, ma in ciascuno di essi rimane la fatica della costruzione di un sistema simbolico, di corrispondenze, della lucidata finale all’opera esposta – altra cosa rispetto all’inesauribile parata di ogni opera possibile.

Non mi interessa prevedere il futuro, ma riesco tuttavia a immaginare uno sviluppo dell’arte prodotta da algoritmi che sia interessante e di valore senza che la responsabilità ricada sull’Uomo.

Finora ho analizzato questa zona grigia, nella quale avviene la scelta umana che dà significato a un oggetto culturale proprio in virtù del fatto che una scelta sia avvenuta. L’essere umano si sta avvicinando all’algoritmo nel processo che ha portato la condivisione a precedere e sostituire il compiere una scelta, delegandola alla community, un divenire-rete che come ogni divenire deleuziano ha un sapore di identità che sfuma nella molteplicità, di continuo andirivieni dalla muta al branco, dalla anomalia positiva alla massa – un sapore, ma non un significato univoco se non quello che ha valore per il lettore; anche un concetto, anche la Morte, diventa. 

Questo si allontana dall’autore, senza negarlo (e quindi celebrarlo), ma diffondendolo e spingendoci a fondo nell’epoca del remix culturale in cui tutto è open source, tutto è “pensabile altrimenti” (come ci insegna Nietzsche del capolavoro), tutto ha valore solo in quanto fresh.

Il machine learning come strumento sta aiutando, democratizzando e accelerando questo processo, dando in mano agli utenti capacità tecniche immediate e impensabili fino a pochi anni fa; non mi interessa prevedere il futuro, ma riesco tuttavia a immaginare uno sviluppo dell’arte prodotta da algoritmi che sia interessante e di valore senza che la responsabilità ricada sull’Uomo.

Ogni tecnologia ha un carattere, e Brian Eno ci insegna che sono proprio i suoi limiti, il momento in cui distorce e si rompe, a farcela amare: uno strumento raggiunge la propria massima potenza quando viene accettato come ciò che è, la TB303 come una macchina che non è un basso, la HDW-F900 come una macchina da presa che non usa una pellicola; se accettiamo di lasciare che il Machine Learning produca arte per se stesso, in feedback con le proprie stesse creazioni, otterremo un’interfaccia che ci permetterà di leggere nella sua mente artificiale, accettando la possibilità che questa “intelligenza artificiale” generi qualcosa che non possiamo capire. L’alternativa è costringerla ad ammorbidire i propri tratti per addomesticarci, per convincerci a tenerla accesa, come l’evoluzione ha fatto coi cani. 

CATALOGO DI MORTI NOTEVOLI

Tycho Brahe
Bruce Willis in Armageddon
Hachiko
T-800 in Terminator 2
Cristo
Giordano Bruno
Stefano Cucchi
Euronymous
Robin Williams
Sophie
La decima sinfonia di Beethoven
Harambe
Un gorilla
Una natura morta
L’arcano XIII
Il buddha
Una farfalla
Una gallina che attraversa la strada per andare di là
Ortolani in Armagnac
Saddam Hussein
Junko Furuta
Discarica
FOMO
Duello
Guerra
Olocausto
Estinzione
Supernova
Titoli di coda
Non ci sarà una prossima volta
Sovrascrittura
Silenzio