Google Messiah
La civiltà avanza aumentando il numero delle operazioni importanti che possiamo eseguire senza pensarci
Alfred North Whitehead, 1911
Tutto ha inizio con un video di Nick Foster, già capo dell’Unità di ricerca e sviluppo di Google, dal titolo The Selfish Ledger. Nel 2016 il video era stato creato a uso interno per spiegare le potenzialità derivanti dall’utilizzo dei big data per influenzare il comportamento umano. Il video è uno strano misto di epigenetica e thatcherismo tecnologico, per un totale di 8 minuti e 30 secondi di cielo stellato e tramonti che si succedono al ritmo di una musica ipnotica che sembra un carillon, mentre la voce narrante scandisce l’immagine del nostro futuro per come lo immaginano a Silicon Valley.
«Per solo uso interno»
Il video per certi versi è semplice.
Inizia con un richiamo al lavoro di Jean-Baptiste Lamarck. In Philosophie zoologique (1809), Lamarck proponeva la prima teoria dell’evoluzione in base alla quale processo di modificazione degli organismi dipende dall’influenza delle condizioni ambientali. La voce narrante spiega che al centro della teoria di Lamarck è una sorta di adaptive force in base alla quale «le esperienze di un organismo durante la propria esistenza ne modificano il codice interno e nel momento della riproduzione questo codice interno modificato viene trasmesso alla successiva generazione» (0:52). Per quanto, continua la voce narrante, questa teoria sia stata rapidamente superata dalla teoria dell’evoluzione di Darwin, oggi Lamarck sta trovando dimora in luoghi inaspettati. Per Google, l’insieme dei nostri dati può essere interpretato come una versione codificata di noi stessi che viene modificata continuamente in base alle nostre azioni. Ed è qui il secondo punto, perché Google descrive l’insieme dei nostri dati come un ledger, una specie di registro che contiene tutte le informazioni necessarie per descrivere chi siamo. Tornando alla biologia, Foster richiama la figura di Richard Dawkins, che nel 1976 pubblica Il gene egoista. Per Dawkins, la teoria dell’evoluzione andrebbe analizzata dal punto di vista del gene – non dell’individuo. In base a questa lettura, «il motore che guida l’evoluzione non è l’individuo ma il gene» (2:52). In altre parole, «l’organismo individuale è una specie di contenitore transitorio del gene, una macchina pensata per consentire la sopravvivenza del gene».
E qui è il terzo punto, perché «i principi di progettazione incentrati sull’utente hanno dominato il mondo dell’informatica per molti decenni, ma cosa avverrebbe se guardassimo le cose in modo diverso? Cosa accadrebbe se il registro dei nostri dati avesse una volizione o uno scopo piuttosto che semplicemente agire come punto di riferimento storico? Cosa accadrebbe se ci concentrassimo sulla creazione di un registro più ricco introducendo più fonti di informazione? E se pensassimo a noi stessi non come proprietari di queste informazioni, ma come contenitori transitori o custodi del nostro registro di dati?» (3:02).
Prima di muovere a un rosso tramonto pervaso dal canto dei grilli notturni, il gene si trasforma in una specie di libro contabile chiamato ledger che altro non è che l’insieme dei dati che descrive la nostra vita. Questo registro ora esiste nella descrizione di Foster come dotato di vita propria e ci cammina accanto, mentre noi ne diveniamo i custodi transitori. In questo senso, la tecnologia non è più di supporto alla nostra vita ma noi siamo di supporto a lei, e Google si propone di ottimizzarne gli obiettivi presentandosi come l’organizzazione responsabile «di offrire obiettivi raggiungibili per il registro di ciascun utente». Poiché dare un significato univoco a ciò che è bene per l’umanità è così complesso, gli obiettivi di ciascuno dovrebbero avere a che fare con la salute o con l’ambiente, insomma riflettere i valori di Google come organizzazione (3:25). Di principio, sarà l’utente a scegliere tra le opzioni dategli dal registro. Nel momento in cui l’idea di un registro orientato a obiettivi condivisibili diventerà più appetibile, sarà direttamente il ledger a prendere le decisioni. Nel tempo, la capacità di disegnare uno strumento tagliato sulla base del gusto estetico dell’utente consentirà al ledger di modificare il comportamento umano.
E giungiamo all’ultima parte. I dati degli utenti, continua Foster, hanno l’abilità di sopravvivere la nostra vita biologica, esattamente come i codici genetici. In questo senso, guardare al registro di dati che descrive la storia umana attraverso una lente lamarckiana permette ai nuovi utenti di «colmare le lacune nelle sue conoscenze e perfezionare il modello del comportamento umano». È quindi «possibile che i nuovi utenti traggano beneficio dai comportamenti e dalle decisioni della precedente generazione». Non solo, ma è possibile darsi conto finalmente delle cause di fenomeni complessi come la povertà, la depressione o la malattia (6:28). La parte finale del video è una esplicita comparazione tra la pratica di behavior sequencing riferita al DNA e quella sorta di behavioral sequencing che potrebbe essere reso possibile dall’analisi di milioni di dati. In poche parole, l’appropriazione gratuita e continua dei dati relativi alla vita privata di milioni di utenti consente di studiare i patterns del comportamento umano e di «sequenziarlo», sino a fare «previsioni sempre più accurate su decisioni e comportamenti futuri». In buona sostanza, il selfish ledger descrive una specie di gene che si rigenera continuamente e che sarà in grado «non solo di registrare il nostro comportamento ma di indirizzarlo verso i risultati desiderati» (7:45). Trasformati finalmente gli utenti in meri contenitori dei dati del nostro comportamento, il selfish ledger può decidere per noi e modificare il nostro comportamento per il nostro bene, per il bene delle generazioni future e per il bene della specie umana (8: 30).
È evidente che questo video è stato accolto con inquietudine.
Raggiunto da The Verge, che per primo ne ha scritto, Google ha risposto con questa frase: «Capiamo che questo è inquietante – è stato progettato per esserlo. Si tratta di un esperimento concettuale portato avanti anni fa dal team di progettazione che utilizzava una tecnica nota come “design speculativo” per esplorare idee scomode e concetti al fine di provocare discussione e dibattito. Non si riferisce a prodotti attuali o futuri».
Il fatto è che questo video non è un semplice esperimento concettuale, ma andrebbe preso altresì come il sintomo del complesso di influenze teoriche e filosofiche che pervadono Silicon Valley e da cui trapela il fascino della sua discreta utopia di ingegneria sociale.
Una genealogia degli orrori
Bisognerebbe tornare un attimo indietro, perché la vera questione non è il video in sé, ma la tradizione di pensiero che prolifera nell’attuale clima culturale di Silicon Valley, un clima sempre più oscuro nel quale la tradizione austriaca del libero mercato si intreccia al transumanesimo, sino a portarci cuore di quello che Ray Kurzweil, direttore del reparto Ingegneria di Google, descrive come la singolarità – il momento in cui il progresso tecnologico sarà a tal punto accelerato che la vita umana ne verrà trasformata in maniera definitiva. La teoria di Kurzweil è ben descritta nel suo testo La singolarità è vicina (Apogeo, 2005) nel quale l’autore spiega come l’evoluzione tecnologica è destinata a sostituire l’evoluzione biologica, grazie alla natura esponenziale del suo progresso. L’idea di fondo è che la specie umana sta muovendo verso un nuovo stadio evolutivo caratterizzato da una fase post-darwiniana nella quale l’evoluzione non sarà guidata solamente dalla selezione naturale ma sarà autodeterminata grazie alla robotica, dalla genetica e dalle nanotecnologie.
Stiamo entrando, di fatto, in un terreno scivoloso che mescola fantascienza, tecnologia e genetica sino a portarci sulle orme di un futuro definito generalmente transumano, che consentirà all’umanità di superare l’eterogeneità razziale e culturale a partire esclusivamente dalla capacità di evolvere in una specie geneticamente e intellettualmente superiore. In questo terreno ibrido si colloca il Selfish ledger, un terreno per certi versi fantascientifico, al cui cuore esiste tuttavia il sogno transumanista di creare una specie umana priva delle vulnerabilità e delle debolezze di quella in cui siamo nati. In questo senso il Ledger si propone di accumulare i dati della nostra generazione e delle generazioni passate e future in modo tale da modificare e controllare il comportamento e la condotta di ciascuno. In generale, la capacità del Ledger di decidere per noi è stata messa in relazione alla Sentient Global Simulation, una specie di tecnica militare spesso descritta come l’equivalente della pillola rossa in Matrix e in base alla quale l’umanità si troverebbe a vivere finalmente in una specie di mondo simulato dove fa da cavia umana all’intelligenza artificiale. A prescindere dalle interpretazioni possibili, il fatto è che l’ipotesi stessa di affidare il futuro umano all’intelligenza artificiale ben si inserisce nel contesto della riflessione transumanista che non a caso filtra sempre di più nel suo strano delirio dentro i media tradizionali. Zoltan Istvan per esempio ne parlava nel Guardian come una opportunità: «Potrebbe essere saggio da parte nostra metterci nelle mani di un’intelligenza macchinica che possa e sappia prendere le decisioni migliori per la maggioranza delle persone. È esattamente quel che sarebbe dovuta riuscire a fare la democrazia.»
Per gli amanti del genere, è d’obbligo un pur breve riferimento all’opera di Nick Land, che nella parte finale di Dark Enlightenment parlava precisamente di Exit, terminologia che traeva da Albert Hirshman per descrivere la capacità di muovere oltre l’«orizzonte bionico», come lo definisce, in quello spazio dove l’esodo umano coincide con la nascita di un nuovo ordine sociale fondato sulla nascita di individui geneticamente e intellettualmente superiori, che lasciano nella preistoria tutti gli altri.
Siamo all’interno di un immaginario a metà tra la scienza e la fantascienza che pur penetra continuamente nel dibattito mainstream – si pensi al lavoro di Francis Fukuyama, che dedicava Our Posthuman Future all’obiettivo di usare l’ingegneria genetica per creare una specie post-umana, o a La possibilità di un’isola, nel quale Michel Houellebecq ipotizza biotecnologie che consentono ai neoumani di vivere distanti dal resto dell’umanità. Le ambizioni messianiche sottese all’ingegneria genetica si palesano in un terreno ibrido dove le fantasie separatiste della supremazia bianca si sposano con l’elitismo meritocratico neoliberale intrinseco alla Silicon Valley per creare un pensiero elitista, razzista e sessista in base al quale la tecnologia e l’ingegneria genetica consentano di riportare il mondo nelle mani di una gerarchia naturale – quella classe dominante fondata sull’Intelligenza Artificiale e un elevato QI che siede ai vertici delle corporazioni di Silicon Valley.
Allo stesso modo in cui i poveri dovranno imparare a farsi governare dalla tecnologia per fare le scelte giuste, così saranno gli imprenditori baciati dal mercato a insegnare a noi tutti come vivere e come comportarci.
È importante sottolineare come questo dibattito sia da tempo ampiamente parte del discorso dominante. Negli anni Novanta, Herrnstein e Murray sostenevano in The Bell Curve. Intelligence and Class structure in American live (1994), che il successo della classe abbiente dipendesse dall’abilità cognitiva di ciascuno e che tale abilità è inevitabilmente distribuita lungo la linea razziale. Per discutere di diseguaglianza sociale, sarebbe dunque inutile discettare sulle sue cause strutturali, come faceva Elijah Anderson in Code of the Street (1999), per esempio, o William Julius Willson in More Than Just Race: Being Black and Poor in the Inner Cities (2010). Il problema non è la disoccupazione, né i bassi salari, né il razzismo, né la tradizione coloniale del vecchio occidente bianco, né l’omofobia o la discriminazione. Il problema è la scarsa capacità cognitiva di chi sta al fondo della scala sociale – ed è inevitabile che queste persone siano diventate problematiche per la nostra società.
Nel 2012, Murray espandeva la sua argomentazione in Coming Apart fino a includere i bianchi della classe sociale più bassa, definiti poveri a causa dell’incapacità di superare le proprie limitate capacità cognitive, esattamente come i neri di The Bell Curve. In un articolo su Viewpoint Magazine, Shuja Haider si soffermava proprio sull’influenza neoreazionaria di queste posizioni, evidenziando come, in seguito all’elezione di Trump, Kevin Williamson abbia scritto sulla National Review che le comunità «disfunzionali» dei bianchi sulla Rust Belt «meritano di morire» in quanto «negative assets», ovvero costi economici per la società. Torna alla mente, ancora una volta, il lavoro di Nick Land, per il quale la distribuzione sociale dell’intelligenza rispetta la linea della razza con la stessa precisione con cui la terra gira intorno al sole.
Se la povertà dipende dalle scarse abilità dei neri, di converso, il Selfish ledger potrà inevitabilmente rinvenire le cause della povertà o del malessere sociale nell’analisi delle nostre scelte individuali. È pressoché inevitabile ricondurre la speranza dichiarata del Selfish ledger di scoprire le cause della povertà a questo contesto culturale, in quanto la condotta individuale scissa dall’analisi del contesto non potrà che ricondurre le cause delle diseguaglianze sociali alla colpa del singolo, ponendo in questo modo la tecno-utopia della Silicon Valley in perfetta continuità con i profeti neoliberali della «Cultura della povertà» degli anni Ottanta.
Allo stesso modo in cui i poveri dovranno imparare a farsi governare dalla tecnologia per fare le scelte giuste, così saranno gli imprenditori baciati dal mercato a insegnare a noi tutti come vivere e come comportarci. L’idea, ha scritto Benjamin Noys, «è che dal momento che gli imprenditori nell’High Tech sono stati scelti per il proprio successo dal mercato, questi dovrebbero governare». Il transumanesimo, da questo punto di vista, è la «fantasia di un’élite tecnocratica che emerge dal mercato» e sulla base del proprio successo si sente investita della missione di decidere le sorti del resto dell’umanità.
Non ha senso, a questo punto, indulgere sulla fantasia monarchica delle città stato governate in modo tecno-feudale da una specie geneticamente e intellettualmente superiore di cui parlava Nick Land; né forse chiedersi quanto il disprezzo della democrazia abbia influenzato la richiesta di trasformare Eric Schmidt nel CEO d’America e di affidare l’autorità amministrativa del paese all’industria tecnologica. La domanda più urgente è assai più semplice, in verità, e rimanda alle finalità stesse dello sviluppo tecnologico attuale. Quale aspetto della tecnologia contemporanea risponde a, per dirne una, i sogni di fine del lavoro e liberazione del tempo come già fu negli anni Sessanta e Settanta? E di converso: quale aspetto della tecnologia odierna risponde semmai alle fantasie classiste e suprematiste della classe dominante?
