Moderazione e Rivoluzione

Ogni sessanta secondi 510.000 commenti, 293.000 status e 136.00 fotografie vengono postate su Facebook dai suoi circa 2,3 miliardi di utenti attivi mensilmente. La piattaforma richiede un tasso di accuratezza del 95% nella rimozione dei contenuti che non sono in linea con le sue linee guida. Per controllare quest’enorme mole di dati, Facebook impiega un sistema ibrido, in cui meccanismi algoritmici e revisori umani collaborano per ottenere il risultato. Un’inchiesta della rivista americana The Verge ha mostrato che la piattaforma impiega 15.000 revisori di contenuti in tutto il mondo. A loro spetta il compito di valutare contenuti in oltre 50 lingue e operano divisi in oltre 20 località diverse. Un moderatore assunto a Phoenix, Arizona, guadagna 28.800 dollari l’anno, 15 dollari all’ora. Per un operatore esperto sono necessari meno di 30 secondi per decidere sulla legittimità di un contenuto. L’operazione viene ripetuta fino a 400 volte al giorno. Tra le persone che svolgono questo lavoro sono comuni episodi gravi di stress fisico e mentale.

Col primo stipendio comprati qualcosa di bello. Tra tutti i consigli di sua madre, quello era l’unico che Rashida aveva seguito con convinzione. Quella frase le era tornata in mente il venerdì precedente perciò, non appena ricevuta la notifica dell’accredito della prima busta paga, aveva registrato un permesso e s’era allontanata prima del tempo dalla postazione per concedersi un pomeriggio di shopping nell’unità commerciale riservata ai residenti della sua classe. Era un lungo corridoio punteggiato di postazioni olografiche. Per comprare o anche solo per curiosare, bastava avvicinarsi e iniziare a scorrere con le dita le immagini dei prodotti. Il sistema di riconoscimento facciale che identificava i visitatori all’ingresso trasmetteva alla memoria centrale il loro codice identificativo e così, sullo schermo, apparivano già oggetti potenzialmente interessanti. Un gesto della mano bastava ad addebitare il costo e chiudere la transazione. Non restava altro che ritirare l’acquisto all’uscita. Tutto avveniva senza alcuna frizione.

Lei ne era uscita qualche ora dopo, abbinando a una gonna scampanata a vita alta di colore giallo una camicetta stampata con un motivo floreale di viole e lillà. I piccoli dettagli in giallo che la punteggiavano, facevano da richiamo. L’aveva scelta leggermente più piccola della sua taglia; non molto, quel tanto che bastava ad accentuarle la grandezza del seno, dando l’impressione che i bottoni avessero il loro daffare per trattenerlo all’interno della stoffa. Si tolse lo sfizio di completare l’outfit con un paio di decolleté nere, dal tacco sottile e affusolato. Comprò anche un rossetto dalla tonalità molto accesa.

Si sentiva bella quella mattina. Bella e sicura di sé come non si sentiva da tempo, da anni ormai. Si chiese se in vita sua si fosse mai sentita tanto bella e sicura di sé. Trucco e vestiti,  da bambina, non avevano la stessa importanza di una partita a nascondino con gli amici del cortile. Certo, prima che la sua città fosse bombardata. Sua madre era morta in uno dei primi, feroci attacchi. Non ricordava molto di quell’istante. A volte, di notte, risente il sibilo della testata che precipita a terra e lo schianto la sveglia. 

Lei sopravvisse e fu sua  zia a trovarla, mentre se ne stava immobile tra le rovine. Per alcuni giorni non parlò, non mangiò e nemmeno riuscì a dormire. Poi riprese a esistere all’interno della killzone, finché  non le fu consentito di allontanarsi in un campo profughi poco oltre il confine. Fu tra quelle tende che apprese dell’esistenza della Metropoli. 

La Metropoli non accoglieva stranieri per caso. Ogni persona che veniva accettata, vi entrava per svolgere un’attività. Di quale attività si trattasse lo decideva il Cervello, il dispositivo che controllava il flusso di informazioni dell’intero territorio della Valle. Tutti gli abitanti erano connessi gli uni agli altri in un grafo virtuale, punti e linee che emanavano dall’istanza centrale e prendevano così il nome di «Sistema Nervoso». All’interno di questo bio social network circolavano miliardi di informazioni al secondo. Un flusso spaventoso di 1 e di 0 che si codificavano e ricodificavano di continuo e in qualsiasi genere di contenuti, dal più innocuo al più turpe. Garantire che l’ordine sociale uploadato nel sistema reggesse al caos di spinte centrifughe che lo minacciavano costantemente e si riproducesse sempre uguale a se stesso era lo scopo per cui il Cervello era stato progettato. Per funzionare, la mega macchina aveva bisogno di persone capaci di controllare e moderare in tempo reale quell’immane flusso di informazioni. Un esercito di oltre quindicimila unità, in cui lei era stata arruolata «per la straordinaria capacità di resilienza dimostrata durante la selezione», così recitava la motivazione con cui le avevano concesso l’account di residenza.

Durante il training le fu insegnato come riconoscere i contenuti che violavano le complesse architetture di regole che il Cervello sintetizzava di continuo, adattandole in tempo reale ai cambiamenti esterni. Potevano essere immagini pornografiche o snuff movie, minacce di morte o paranoie di complotto. Lei aveva solo pochi secondi per bloccare o permettere a quei contenuti di circolare nel grafo. Servivano concentrazione e rapidità di pensiero ma anche pelo sullo stomaco, perché digerire certe immagini non era facile. Molti abbandonavano il training dopo poche settimane. Altri crollavano. Capitava spesso che, tra le postazioni, qualcuno avesse una crisi. Più di una volta aveva visto i suoi colleghi abbandonarsi ad atti di autolesionismo o scivolare in uno stato di apatia che spegneva in loro qualsiasi voglia di vivere. Lei era sopravvissuta ancora e quella mattina un brivido di piacere le solleticava la spina dorsale ogni volta che il rumore dei tacchi si riverberava sul soffitto zigrinato del condotto che portava alla sala di controllo. Avvicinò il viso alla placca sulla parete per permettere allo scanner di leggerle la retina. Lo sbuffo pneumatico della porta la salutò come ogni mattina ed entrò nella sala, mentre sul display a fianco si disegnava il numero della postazione che le era stata assegnata quel giorno. Si avvicinò alla scrivania e appoggiò sul piano la busta trasparente coi suoi effetti personali; spiccavano tra questi il rossetto nuovo e alcune barrette energetiche dall’incarto colorato. Prima di loggarsi nel sistema e iniziare a lavorare, riscaldò i polsi e le dita per evitare le infiammazioni che avevano colpito i suoi colleghi. Non poteva rischiare di perdere il lavoro per il tunnel carpale. 

Quando entri, nella stanza siete solo tu e il manager. Sullo schermo alle sue spalle, proiettato a tutta parete, c’è il contenuto per il quale stai venendo revisionato. È lì, a ricordarti che qualcosa è andato storto.

Mentre il computer si avvia, pensa che le piacerebbe acquistare uno di quegli impianti capaci di trasformare la dita in filamenti di fibra ottica con cui poter volare sulla tastiera. Fantastica sul fatto che se riuscisse a mantenere alto il suo score come ha fatto nell’ultimo mese, forse riuscirebbe a permettersene uno in tempi ragionevoli. Le sue multitasking skills le permettono di pensare mentre lavora senza perdere efficacia. La maggior parte dei contenuti che le vengono sottoposti sullo schermo sono di facile lettura e interpretazione. Ci mette meno di trenta secondi a decidere del loro destino. A volte riesce a stare sotto i quindici secondi per quasi due ore. Considerando che ripete l’operazione almeno quattrocento volte al giorno, è una media degna di nota. Così come lo è la qualità delle sue scelte: solo in poche occasioni gli admin l’hanno convocata per una sessione di revisione paritaria. 

Le sessioni sono spietate. Quando entri, nella stanza siete solo tu e il manager. Sullo schermo alle sue spalle, proiettato a tutta parete, c’è il contenuto per il quale stai venendo revisionato. È lì, a ricordarti che qualcosa è andato storto. Ti pesa addosso, provando a inchiodarti a una responsabilità. La prima domanda verte sempre sul perché. Perché questa roba circola nel sistema? Perché l’hai rimosso? È fondamentale saper dare una risposta procedurale. Se giustifichi la tua scelta con le procedure hai buone probabilità di uscire dalla sessione senza alcuna conseguenza. Ovviamente conoscere le procedure alla perfezione non basta. Il manager prova in ogni modo a farti crollare. Nei sei certo? Il comma 34f sembrerebbe contraddirti, perché? A me non pare. Perché lo hai fatto? Spara le domande una dietro l’altra, ti interrompe e ti provoca. Non è lì per appurare una verità che resta comunque soggetta all’arbitrio. È lì per testare la tua fedeltà al sistema, la tua capacità di non mettere in dubbio determinati presupposti. Uno stesso contenuto secondo questa legge, come si impara sessione dopo sessione, può essere tanto lecito quanto illegale. Dipende. Da cosa? Non è dato saperlo, la logica è avvolta nell’oscurità.  

Rashida ha sempre affrontato tutto questo sapendo di poter rendere conto delle sue scelte e giustificandole. Lei è nata per fare quel lavoro e anche questa mattina sembra scorrere nel flusso universale con la stessa naturalezza con cui un fiume scorre nel suo alveo giorno dopo giorno. 

È allora che compare. L’immaginetta sfrigola come lo schermo di un televisore attraversato da un campo elettrico. Due campiture di colore ne determinano lo sfondo. Quella in basso è nera, una macchia di buio da cui sembra scaturire, come una luce malata, la campitura verde acido che occupa la parte superiore dell’immagine. Al centro, una figura dai tratti classicheggianti, lo diresti un putto, offre allo spettatore un cesto di vimini ricolmo di frutta. All’altezza del collo, un quadrato appiccicato che sembra una radiografia virata in un blu elettrico ne deforma il volto trasformandolo in uno spettro grottesco. Su tutto campeggia una scritta, le lettere viola bordate di verde, che chiede urlando: «scusate, a chi spettano questi frutti dell’automazione?».

Rashida resta col dito sospeso sopra la tastiera per un istante che sembra non voler finire mai. Il lampeggiare minaccioso del timer buca quella bolla di sospensione e la riporta bruscamente alla realtà. Sa che sta perdendo tempo ma è anche atterrita dal fatto di non riuscire a decidere se quell’immagine sia o meno legittima. Quella renderizzata sullo schermo è una sfida lanciata alla sua capacità di reagire agli stimoli. È a quel punto che  subentra l’addestramento. Esercitata a lungo, la memoria scatta ora automaticamente, richiamando alla mente il decalogo d’emergenza. Il sistema sensomotorio di Rashida passa in rassegna tutte le voci e le confronta con quello che vede. I bagliori del timer accelerano. Nell’immagine nulla sembra combaciare con la lista. Lei allora preme il tasto e il meme viene sospinto nuovamente nel sistema.

Sullo schermo appare un nuovo contenuto da esaminare. Rashida contempla per un istante il fatto di aver rischiato di sforare il limite dei sessanta secondi. Se non fosse per la goccia di sudore che le scivola giù dalla tempia non ci sarebbe modo di capire quanto il rischio che ha appena corso l’abbia scossa. Fortunatamente, in quella stanza nessuno è abbastanza attento da poterla notare. Mentre riprende a vagliare contenuti con lo stesso ritmo di sempre, respira profondamente per riportare i battiti a un livello accettabile prima che i sensori segnalino l’anomalia all’admin di sala.

Il resto della giornata è avaro di emozioni. Il lavoro scorre ai ritmi consueti e Rashida ben presto si dimentica del pericolo corso. «Bevi qualcosa?» La proposta la fa riemergere dal flusso. Guarda l’orologio sullo schermo e si accorge che il turno è terminato da qualche minuto. Il suo sostituto attende già che lei liberi la postazione. Segue un gruppo di colleghi in un pub. «Oggi ho visto mozzare una testa» dice un collega trangugiando patatine. «Pure io» gli fa eco il ragazzo alla sua destra «sarà la terza volta questa settimana. Tutte donne. Dite che è il dopobarba?». La battuta suscita risate e pacche sulle spalle. Un collega rovescia mezzo boccale di birra sul bancone. Rashida ascolta in silenzio. Sorseggia uno spritz e si chiede quando sarà il momento più opportuno per andarsene. «Qualcuno di voi ha visto Timothy?» chiede per ingannare la noia. «Non l’ho più visto dall’ultima sessione di revisione paritaria», risponde quello col dopobarba assassino. «Speriamo di non trovarcelo dall’altra parte dello schermo uno di questi giorni» butta lì il divoratore di patatine. Lo sguardo che si dipinge sui suoi colleghi gli comunica che, forse, la battuta ha passato un confine che era meglio non superare. Dopotutto non sarebbe la prima volta che un collega sparisce dopo una sessione di revisione, solo per riapparire nello schermo di un terminale etichettato come «immagini di suicidio» pronte per essere approvate o rimosse dal sistema. Rashida finisce lo spritz. Decide che il suo aspetto ha ricevuto il numero sufficiente di sinceri complimenti, apprezzamenti ambigui e avances esplicite per tornare a casa. 

Mentre torna a casa, alleggerita dall’alcol che le circola in corpo, ha la sensazione che tutto possa succedere e, a differenza del passato, le tinte di quella sera non hanno il tono cupo dell’incertezza e della paura.

Quando apre la porta le sembra che il monolocale l’abbracci, come se continuando a vivere lì sul mobilio in dotazione si fosse pian piano posata una patina di lei capace di redimerlo dal suo aspetto dozzinale e standard, identico a mille altri complementi d’arredo che ingombrano le unità abitative del quartiere che le è stato assegnato. La cena l’ha ordinata mentre tornava a casa e l‘ha ritirata alla portineria. Mangia seduta sul divano, inanellando la visione di una serie tv che le scorre davanti agli occhi una puntata dopo l’altra. Poco prima della mezzanotte si mette a letto. Il sonno si rifiuta di coglierla.

Rashida si gira nel letto. Le lenzuola hanno una consistenza ruvida che non ha mai notato prima. Anche il materasso ha qualcosa di insolito, una gibbosità che le si pianta nel rene sinistro. Prova a stenderla con le mani, ma quella riappare da un’altra parte, sempre in corrispondenza di un osso o di un’articolazione. Come se non bastasse, quella notte il pigiama le soffoca la pelle. 

Si ritrova ben presto in un bagno di sudore ed è a quel punto che da un recesso della mente l’immagine sfrigolante torna a fare capolino nella sua memoria. Il viraggio blu elettrico che deforma grottescamente il volto del putto le illumina il viso, mentre la luce nella stanza vira al verde acido dello sfondo come se qualcuno avesse appoggiato una pellicola colorata davanti a ogni fonte di luce. La frase «scusate, a chi spettano questi frutti dell’automazione?» emerge dal fondo del buio, sfidandola col suo bagliore verde bordato di viola.

Rashida apre gli occhi di colpo. La sola luce nella camera da letto è il chiarore giallastro del lampione che filtra attraverso la finestra, scomposto dalla grata dell’avvolgibile. 

«Scusate, a chi spettano questi frutti dell’automazione?». Qual è il senso di quella frase che le suona così enigmatica da risultare incomprensibile? Cosa sono i frutti dell’automazione? E perché dovrebbero spettare a qualcuno?

Rashida allunga la mano sul comodino e prende lo smartphone. Digita le parole «frutti dell’automazione» e attende che il motore di ricerca carichi la  pagina. Quando appare, la lista dei siti indicizzati non sembra ritornare alcuna occorrenza delle due parole accoppiate. Ci sono pubblicità di robot agricoli, promemoria di fiere passate da un pezzo e diverse aziende produttrici di macchine industriali, ma nulla che ricordi il putto e la sua domanda impertinente. È solo al terzo o al quarto scroll che qualcosa cattura la sua attenzione. Non sa cosa davvero significhino le parole «piena automazione» che la occhieggiano dalla metà descrizione  dell’anteprima, ma ha la sensazione che possano dirle qualcosa. Clicca sul link e le si apre davanti agli occhi una reliquia. Non crede di aver mai visto un sito così antico nella concezione e nel design. Tre colonne di diverse dimensioni striano uno sfondo completamente nero su cui è appoggiato il muro di testo. Il font è sottile e affilato. Le lettere, colorate di bianco, si stringono fitte le une accanto alla altre.

Il sito non è nemmeno responsive, così è costretta a strisciare le dita sullo schermo per ingrandire l’immagine. L’emozione che prova è la stessa che proverebbe un archeologo di fronte a una civiltà creduta scomparsa che, spolverata dopo spolverata, riaffiora dalla terra carica di mistero e potenzialità. Capisce di avere davanti agli occhi una lunga lista di occorrenze. Titoli e brevi anteprime di testo punteggiano lo scorrimento dello schermo, aggiungendosi a quell’insieme dal senso viscido e sfuggente. A un certo punto, luminosa come un faro, dal fondo dello schermo appare la frase «Che cos’è la piena automazione?». Rashida preme il dito sulla frase, lo schermo si svuota e la pagina ricarica con una lentezza inaspettata. Il sito è all’apparenza leggerissimo, perché mai dovrebbe metterci così tanto tempo? A poco a poco, l’immagine si ricostruisce. Lei striscia una seconda volta le dita sullo schermo fino a trovare la grandezza ideale per riuscire a leggere con comodità. Il testo è scritto in una lingua che le risulta ostica e non sempre coglie tutti i passaggi a una prima lettura. Deve tornarci sopra più volte, ragionare sulle parole, riflettere sulla lora disposizione, scomporle e ricomporle nella sua mente per riuscire a dar loro un senso. È così che capisce, dopo aver lottato a lungo con il testo, che la piena automazione sarebbe una sorta di condizione utopica in cui l’uomo, liberato da ogni gravame grazie alla tecnologia, può godere liberamente del proprio tempo. A quel punto passa al testo successivo. Poi al seguente e a quello ancora dopo.

L’alba la coglie ancora intenta a esplorare quell’archivio di idee maledette. Mentre fuori dalla finestra una luce metallica si diffonde tutto intorno al cortile dell’unità abitativa, Rashida scopre la risposta alla domanda che l’ha portata fino a quell’anticaglia. «I frutti dell’automazione» c’è scritto sullo schermo «spettano al proletariato». 

Il caos sembra aver trovato il modo di circolare nell’ordine immutabile fissato dal Cervello. È una voce che sembra parlare a lei e solo a lei.

Come un trojan ben progettato, la frase le si deposita nella memoria e comincia a lavorare nel retro dei suoi processi mentali. Nelle settimane successive attinge avidamente alla fonte di quella conoscenza dimenticata. Se ne nutre, l’assorbe e, alla fine, l’assimila. Diventa una parte di lei. 

Rashida non smette di percorrere ogni giorno il tunnel che porta all’interno del Cervello. Nessuno dei suoi colleghi nota i segni delle notti che passa in bianco. Procede tutto come al solito, non fosse che più il tempo si consuma e più Rashida si accorge di trovare quell’occupazione intollerabile. È come se l’arbitrarietà di quel sistema che decide sulla legittimità o l’illegittimità di un brandello d’idea le risultasse sempre meno comprensibile, mano a mano che esercita il micropotere che le è stato dato in sorte. Ma, soprattutto, è solo adesso che comincia a notarli.

Sono meme. Simili nella concezione a quello che nemmeno un mese prima ha rischiato di abbassarle le statistiche di rendimento. Sono immaginette elaborate che le si presentano con una certa regolarità davanti agli occhi. Ora non si limita più a scansionarle alla ricerca di elementi in contrasto con le policy che ha interiorizzato durante l’addestramento. Ora comincia a capire che sono frammenti di un discorso che, di immagine in immagine, sembra colorarsi di sempre più sfumature, tessendo una trama che si gonfia fino ad avvolgere ogni dettaglio del mondo che la circonda, mutandone il senso. Il caos sembra aver trovato il modo di circolare nell’ordine immutabile fissato dal Cervello. È una voce che sembra parlare a lei e solo a lei. Racconta di lotta di classe, intersezionalità, reddito universale, abolizione della proprietà privata dei mezzi di produzione. Più l’ascolta e più il tempo prende a scorrere lungo un vettore inedito e le pare di venir trascinata in avanti verso il futuro, assistendo sgomenta e felice alla rovina del presente che si volge in passato.

Tra tutte quelle che ora le vorticano davanti agli occhi, è un’immagine ben precisa che ha la forza di scuotere definitivamente tutte le sue certezze. Sono tre rettangoli rossi, impilati uno sull’altro e separati da sottili linee nere. Al centro di ognuno di essi una scritta, nera anch’essa, dichiara perentoria «pretendi la piena automazione. Pretendi il reddito universale. Pretendi il futuro».

Già, il futuro. Lei ha un futuro? O è destinata a passare la sua vita incatenata alla megamacchina, digerendo per essa i frutti avariati di una società a cui non le è dato partecipare? Si pone ogni domanda mentre la sua produttività cala a livelli preoccupanti. Il sistema registra l’irregolarità e trasmette un’allerta all’admin di sala. Rashida non lo vede, ma sopra la sua testa si spalanca l’occhio di una microcamera di sorveglianza. Nonostante nessuna anomalia venga registrata, l’admin decide di isolarla dal terminale. La tastiera viene disabilitata, mentre sullo schermo appare il messaggio con cui la convocano per una sessione di revisione paritaria.

Quando lo vede sa benissimo che ad aspettarla ci sarà una severa reprimenda. Funzionano così le sessioni di revisione prioritaria. Servono a mettere sotto pressione gli addetti alla moderazione che si dimostrano inadatti a garantire la performance. Ha visto diversi colleghi uscire dalla sala di amministrazione piegati nella psiche dalle violenze subite. Sa che proveranno a intaccare la sua autostima, che metteranno in discussione la sua identità e le certezze che ha costruito a fatica per tutta una vita. Sa che gli admin sanno come amplificare la voce che, dentro di lei, le ripete senza sosta quanto sia inadeguata, sbagliata, indegna di consumare le risorse necessarie a mantenerla in vita. Ma questa volta non ha paura, perché sente di non essere nuda di fronte al giudizio. 

Mentre si avvicina alla sala di controllo percepisce dentro di lei la sensazione che proverebbe qualcuno di fronte a un mare calmissimo e potente, sotto la cui superficie fluiscono poderose correnti di tempesta. Poco prima che il sensore rilevi la sua presenza spalancando davanti a lei i vetri oscurati delle porte automatiche le labbra le s’increspano sussurando una frase. Non saprebbe dire da dove provenga. Se appartenga a un tempo, a uno spazio o a un ricordo. Ha solo la consapevolezza che quelle parole le infondono una grandissima serenità. 

«Crepa padrone, tutto va bene». La ripete ancora una volta ed entra.