La follia del vedere

Tutto ciò che vedo è per principio alla mia portata (o almeno alla portata del mio sguardo), iscritto nella carta dell’io posso.
Maurice Merleau-Ponty

Ora gli oggetti mi guardano

Quaderni, Paul Klee

Walter Benjamin nei Passages di Parigi afferma: «Ogni epoca, in realtà, sogna già quella successiva, ma sognando urge, con una strategia incoativa simile alla hegeliana astuzia della ragione, al proprio risveglio». I sogni dell’epoca barocca, un periodo storico distante e dimenticato, indagati dallo stesso filosofo tedesco, possono dirci qualcosa sui sogni digitali del nostro presente.

Il Barocco è un’epoca culturale strana, quasi grottesca, caratterizzata da un caos sistemico e da svariati tentativi artistici di attraversare questo caos. La parola barocco ha due probabili radici. Da una parte il francese baroque (sul calco del portoghese barroco e dello spagnolo barrueco): con questa parola si indicavano le perle dalla forma irregolare, non sferica ma ovoidali, curve o grumose. Charles de Brosses, conte di Tournay, usò il termine per descrivere alcune bizzarrie dell’architettura di Palazzo Phampilii a Roma. Da subito, quindi, un senso di stranezza, uno smottamento dei criteri classici. Stranezza che si esprime nella forma e non nella sostanza. L’altra radice del termine è ancora più interessante. Barocco in italiano sembra risalire a baròco, termine mnemonico della sillogistica scolastica utilizzato per ricordare il modo della seconda figura del sillogismo: 

In questo sillogismo, la premessa maggiore (indicata con la A di «ba») è universale affermativa, mentre la premessa minore (indicata con la O di «ro») e la conclusione (indicata con la O di «co») sono particolari negative. Si tratta di ragionamento che pur non essendo falso risulta tuttavia astruso e stravagante, per esempio: tutti gli uomini sono razionali; alcuni animali non sono razionali; alcuni animali non sono uomini.

L’argomento in baròco è uno sfoggio evanescente di pura retorica, un arzigogolarsi della parola in una ricerca espressiva fine a se stessa, un punto vuoto che si erge a struttura. In entrambe le radici, la parola barocco ha un valore derisorio e caricaturale se non addirittura dispregiativo. L’epoca barocca non è vissuta dai suoi coetanei. Nessun uomo o donna del Seicento si è mai definito barocco. La categoria di barocco è postera, e agli occhi del Settecento è carica di valore dispregiativo: età oscura e reazionaria in cui l’arte e i costumi degenerano in stramberie eccentriche. Un intermezzo di cattivo gusto tra il trionfo del Rinascimento e il fulgente razionalismo illuminista. L’arte, la letteratura e la musica barocche, per varie ragioni, escono dai criteri classicisti del Rinascimento e, paradossalmente, nella loro ricerca della purezza religiosa, entrano in contatto con l’estrema mondanità. 

È Christine Buci-Glucksmann a individuare attraverso le arti il tema della vista come cardine centrale e costante del caos barocco. Il lavoro di Buci-Glucksmann, pubblicato negli anni Ottanta, dialoga con le filosofie postmoderne e con il concetto di simulazione, in particolare rispetto all’opera di Jean Baudrillard. Il Barocco dell’autrice francese tuttavia non è riducibile ai temi del postmoderno e dialoga col nostro presente e futuro. 

L’occhio è «l’organo centrale del sistema barocco» e la sua rappresentazione ricorre in diverse Allegorie della vista, dipinte sia da autori anonimi che da pittori noti come Miguel March e Ribera.

Il più vertiginoso dipinto del genere è l’Allegoria dipinta da Jan Brueghel il Vecchio e Rubens: in una scena ricorsiva, il dipinto rappresenta molti altri dipinti, a loro volta riflessi negli specchi sullo sfondo. Sul pavimento si nota un telescopio, meraviglia dell’ottica inventata nel Seicento e strumento chiave della rivoluzione scientifica di Keplero e Galileo: la folie du voir dell’arte barocca è alimentata da, e alimenta a sua volta, la neonata impresa scientifica. Lo sguardo umano si rivolge, attraverso le nuove lenti, alle meraviglie del cosmo e scopre le regolarità dell’universo. Baltasar Gracián, scrittore e filosofo gesuita, nel suo monumentale Criticón (opera centrale della letteratura barocca) esalta la molteplicità del visibile e definisce la vista «il più nobile dei sensi». «Se avessi cento occhi e cento mani per soddisfare la curiosità della mia anima, non sarei ancora in grado di farlo», si lamenta il protagonista Andrenio. L’universo è una fantasmagoria, un teatro dell’immaginario che espone le sue meraviglie perché gli esseri umani possano coglierle e ammirarle. Di nuovo il Criticón: «il grande teatro dell’universo con il “suo” balcone della visione e della vita». 

Uno dei più grandi artisti barocchi, Gianlorenzo Bernini, nella sua bottega produceva i cosiddetti «apparati effimeri» per feste e celebrazioni pubbliche: quest’ultima attività, poco nota, è tipicamente barocca, così sospesa tra la sua magnificenza e il suo essere effimera. Gli apparati effimeri erano architetture in legno e in cartapesta, ampiamente decorati e impreziositi da effetti sonori. Un celebre apparato è quello del 1651, costruita in occasione della nascita del Delfino di Francia: una composizione di iniziali dei reali, un gigantesco delfino e una nuvola coprivano Trinità dei Monti e diedero vita a uno spettacolo pirotecnico prima di autodistruggersi. Il Bernini montò un teatro «effimero» all’interno della Basilica di San Pietro per la canonizzazione di Elisabetta del Portogallo. Queste installazioni, affidate al maggiore artista dell’epoca, mostrano una ricerca di una teatralità immersiva, che ingloba la prospettiva dello spettatore all’interno dell’opera d’arte, oltre che un gusto per la meraviglia e lo stupore. 

Da una parte, il cannocchiale galileiano, dall’altra le macchine effimere del Bernini: l’occhio barocco vede cose incredibili, raggiunge verità inaudite fino a quel momento eppure vive anche nella bellezza dell’inganno, nella fumosità della decorazione che appare e scompare in una giornata. Mai come nel Barocco sorge la consapevolezza dell’ambiguità dello sguardo, dell’illusione che possono confondere la vista umana e portarla all’inganno. Il Barocco è infatti soprattutto l’età del anamorfismo e del trompe-l’oeil: le illusioni ottiche sono una moda diffusa in tutta Europa. L’anamorfosi è «un tipo di rappresentazione pittorica realizzata secondo una deformazione prospettica che ne consente la giusta visione da un unico punto di vista (risultando invece deformata e incomprensibile se osservata da altre posizioni)» (Enciclopedia Treccani). Un esempio di anamorfismo si trova ne L’occhio del Cardinal Colonna di Mario Bettini, un’altra rappresentazione dell’occhio che incarna ulteriormente questa ambiguità: da una parte una rappresentazione precisa, quasi scientifica dell’occhio; dall’altra, distorta, deformata, l’immagine anamorfica di un secondo occhio. 

Il trompe-l’oeil è il tipico modello dell’illusione barocca: letteralmente inganna-occhio, il trompe-l’oeil è un lavoro di bel composto, a metà tra architettura e pittura, che crea illusioni ottiche. False cupole, colonnati che sembrano lunghe decine di metri, tele tridimensionali: l’arte del trompe-l’oeil gode dall’essere illusa, ricerca la meraviglia che solo l’opacità del vero può regalare. Lo dice il Cardinal Pallavicino, estimatore del Bernini, in una lettera del 1645: «e generalmente ogni professor d’arte imitatrice tant’è più lodevole, quanto più inganna». Ciò che rende l’ambiguità barocca più radicale di una classica dicotomia vero / falso, è l’assenza di un giudizio negativo sul falso. Lo sguardo illusione e lo sguardo rigoroso, il trompe-l’oeil e il telescopio galileiano convivono nella stessa visione, non a caso definita da Buci-Glucksmann come una folie du voir, uno sguardo che vuole abbracciare tutto l’esistente e superarne le contraddizioni. La natura ossimorica del vedere barocco non contrappone scienza e illusione perché è proprio la scienza che «crea il suo opposto», le sue verità e scoperte rendono possibile lo spettacolo delle illusioni. 

La macchina onnivedente e la hubris algoritmica

L’onniveggenza, l’ambizione totalitaria dell’Occidente europeo, può apparire qui come la formazione di un’immagine intera per mezzo della rimozione dell’invisibile

La macchina che vede, Paul Virilio

I sogni visivi del Barocco sembrano essere ancora vivi nelle ambizioni delle cosiddette Intelligenze Artificiali: una vera folie de voir alimenta lo sviluppo delle tecniche in vari ambiti, dalla guerra automatica al riconoscimento di immagini. 

Un’intuizione fondamentale per comprendere meglio l’impatto sulla società degli algoritmi e delle tecniche statistiche del machine learning è considerarli come strumenti ottici, come lenti che permettono di vedere in una certa maniera il mondo. È in Nooscope, fondamentale testo di analisi algoritmica di Matteo Pasquinelli e Vladan Joker, che questa idea prende forma. Come avevamo accennato in un episodio di REINCANTAMENTO, per Pasquinelli e Joker, quando parliamo di algoritmi di machine learning, parliamo di «uno strumento di ingrandimento della conoscenza che aiuta a percepire le caratteristiche, modelli e correlazioni attraverso vasti spazi di dati al di fuori della portata umana». Questi dispositivi sono protesi della razionalità umana, strumenti che incrementano la capacità conoscitive e visive dell’umanità, in maniera simile a come i microscopi e i telescopi hanno portato enormi progressi nella biologia e nell’astronomia. In Nooscope, Pasquinelli e Joker citano Leibniz, il filosofo barocco per eccellenza, che parla di formalizzazione della conoscenza: una buona formalizzazione è, per il filosofo tedesco, la vera chiave di volta per aumentare e incrementare la razionalità umana. La formalizzazione farà alla mente ciò che gli strumenti ottici hanno fatto alla vista: Leibniz è un tecno-entusiasta ante litteram, che vede nel faro della conoscenza formalizzata «la luce che si insinua tra le tenebre come per una crepa». Preso dal fervore della sua epoca, Leibniz non considera l’effetto chiaroscuro di queste tecniche. 

Il 18 marzo 2018, il fervore barocco degli algoritmi ha tragicamente mostrato i suoi lati oscuri. Quando un SUV a guida autonoma, messo in strada da Uber, ha incontrato la bicicletta di Elaine Herzberg, il suo sguardo, statisticamente organizzato, ha fallito nel riconoscere l’oggetto e la ragazza finendo per travolgerla. Elaine Herzberg è morta trenta minuti dopo l’impatto. Lo sguardo algoritmico, teoricamente corretto, trasparente e «oggettivo», il sogno di Leibniz, rivelava ciò che gli artisti del Barocco già sapevano: ogni sguardo potenziato porta con sé nuove allucinazioni. Gli algoritmi che hanno uccio Elaine Herzberg hanno imparato da soli come vedere: lo hanno fatto allenandosi su giganteschi dataset che contengono milioni di immagini, un’abbondanza visiva ingestibile per uno sguardo e un cervello umano, che solo la potenza di calcolo dei computer può davvero gestire. Sono stati questi dataset, in particolare il gigantesco e controverso ImageNet, a realizzare le ambizioni di una vera «vista macchinica»: quello che era iniziato come un semplice progetto estivo al MIT nell’estate del 1966, ha impiegato più di cinquant’anni per arrivare a dei risultati accettabili. Come nelle figure anamorfiche dell’arte barocca, la raffinazione della vista macchinica ha portato con sé nuove allucinazioni visive e statistiche: i nostri database sono ricchi di pregiudizi, per esempio, e le etichette che gli algoritmi apprendono ereditano questi tristi insegnamenti. Ma, soprattutto, queste macchine non hanno davvero raggiunto uno sguardo d’insieme e basta ancora poco per ingannarle.

Le illusioni ottiche dello sguardo macchinico si chiamano tecnicamente adversarial examples: si tratta, secondo la definizione di OpenAi, di input per il machine learning costruiti ad hoc per ingannare la macchina. Quando una macchina «vede», lo fa riconoscendo attraverso una serie di calcoli i pixel di ciascuna immagine. Una variazione di questi pixel, se fatta nel «posto giusto» e pur rimanendo invisibile all’occhio umano, è in grado di far fallire miseramente lo sguardo macchinico. 

Quello che può sembrare un irrilevante fallimento di nomenclatura può avere conseguenze tragiche, come il caso del SUV di Uber dimostra. Come notato da Logic Mag:

Negli istanti prima che l’auto colpisse Elaine, il suo software AI ha passato in rassegna diversi potenziali identificatori per lei – tra cui «bicicletta», «veicolo» e «altro» – ma alla fine non è stato in grado di riconoscerla come un pedone la cui traiettoria sarebbe stata da lì a pochi secondi nel percorso di collisione del veicolo.

Gli adversarial examples possono essere creati volontariamente per hackerare e creare gravi malfunzionamenti nei sistemi di machine learning. Le aziende e i ricercatori nel settore stanno lavorando ardentemente per illuminare questi punti ciechi della vista macchinica, per esempio, includendo nell’apprendimento di queste macchine degli adversarial examples che possano preparare le macchine a reagire correttamente a queste allucinazioni tecniche. Ben più grave è l’eventualità in cui questi errori avvengano nel mondo reale, che, al di là di qualsiasi desiderio umano, rimane spesso opaco, confusionario e fraintendibile. 

È facile così scambiare una farfalla monarca con una lavatrice o un uccellino con una jeep, in un imbarazzante e quasi inquietante fallimento della capacità di ragionamento di questi sistemi. La fragilità e l’intrinseca fallibilità della vista algoritmica dovrebbe farci riflettere su quali siano i campi d’applicazione adatti per queste tecnologie. 

In particolare, ci riferiamo al settore della guerra automatica e all’applicazione dei droni nel contesto della «Guerra al Terrore» americana: in questo caso, la morte è l’obiettivo finale delle macchine automatiche e non un tragico errore. Lo sguardo delle macchine diventa un’arma raffinata, la folie du voir barocca si spinge al suo estremo, fino al punto in cui essere visti equivale a essere uccisi.

Il mondo dei droni è stato indagato criticamente da Gregoire Chamayou: nel capitolo 4 di Teoria del drone, Chamayou riporta la frase del Colonnello americano Theodore Osowski che riecheggia le ambizioni onnivedenti barocche: «È come essere sotto lo sguardo di Dio. E la luce discende sotto forma di un Hellfire». Lo sguardo umano, il «più nobile dei sensi», che sin dal Barocco ha ambito a diventare lo sguardo di Dio, il punto di onnivedenza, sembra realizzarsi nell’arma del drone, che permette di controllare 24 ore su 24 il nemico, di conoscerlo attraverso i pattern appresi dalle macchine e, infine, di poterlo eliminare senza sporcarsi le mani. Uomini pakistani vengono sottoposti alla sorveglianza ininterrotta dell’esercito USA, che a migliaia di chilometri di distanza, dal deserto dell’Arizona, non chiude mai gli occhi, impiegando uomini differenti ogni otto ore. Il principio a cui l’esercito vuole arrivare è la «sorveglianza ad ampio raggio»: 

Vedere tutto, tutto il tempo. Questa estensione del campo di visione sarà probabilmente affidata a nuovi e rivoluzionari dispositivi ottici ancora in fase di sviluppo. Dotato di tali sistemi di immagini sinottiche, un drone avrebbe a disposizione non una ma decine di microcamere ad alta risoluzione rivolte in ogni direzione, come le molteplici sfaccettature dell’occhio di una mosca. Un sistema software aggregherebbe le varie immagini in tempo reale in un’unica visione d’insieme che potrebbe essere vista in dettaglio quando necessario.

La catena di montaggio è chiara: vedere, analizzare, sorvegliare, uccidere. Lo sguardo di Dio è anche il giudizio di Dio, un lampo assassino, un segnale che fa il giro del mondo e sentenzia il destino di una vita umana. Cosa ci resta in questo scenario dello sguardo barocco? La tragica e chiara consapevolezza che uno sguardo non è mai perfetto, che porta con sé nuovi errori e nuove vie di fuga, che l’onniveggenza è, alla fine, impossibile. E i droni, che dovevano essere l’arma più precisa mai inventata, la realizzazione dei sogni più ambiziosi dell’uomo, hanno ucciso 2000 civili e quasi 500 bambini dall’inizio della «Guerra al Terrore» a oggi. Ben lungi dall’essere oggettivo, lo sguardo macchinico del drone dipende da una serie di interpretazioni statistiche e di decisioni dei propri operatori che finiscono per riportare l’elemento soggettivo nelle sue deduzioni: queste «esperienze numeriche», come le chiamava il filosofo Paul Virilio, finiscono per alimentare un regime di allucinazioni e di razionalità distorta che porta a errori tragici.

Un operatore dell’esercito ha dichiarato parlando del suo lavoro: «Li vedi svegliarsi la mattina, fare il loro lavoro, andare a dormire la sera. […] Vedo madri con bambini, vedo padri con bambini; vedo padri con madri; vedo bambini che giocano a calcio». Il nostro futuro dipenderà da come resisteremo a questa follia del vedere automatizzata, in quali ambiti essa verrà applicata e con quali fini. Come l’incidente di Uber e i droni nel Medio Oriente dimostrano abbiamo già davanti degli usi sensibili e rischiosi per la vita umana. L’illusione maggiore è pensare di essere lontani da certi scenari distopici, di relegarli a un futuro lontano. Occorre svegliarsi al più presto dal sogno barocco delle nostre macchine. Bisognerà ripetersi la lezione del Cardinal Colonna valida anche per lo sguardo algoritmico: «tant’è più lodevole, quanto più inganna». Unicamente con questa consapevolezza, potremmo forse risvegliarci dal lungo sogno barocco in cui siamo finiti.