Per una Critica al Capitalismo digitale parte XXI
Nel racconto “La Biblioteca di Babele” Borges ci racconta che ogni sala della Biblioteca contiene un preciso numero di libri, tutti delle stesse pagine, tutte contenenti lo stesso numero di segni grafici. Gli scaffali della Biblioteca contengono tutti i libri possibili: tutte le innumerevoli combinazioni di segni grafici possibili. In altre parole, la Biblioteca contiene qualsiasi cosa. Anche se, per la maggior parte, le parole che si leggono nelle pagine sono incomprensibili, delle semplici serie di caratteri privi di alcun significato nelle lingue conosciute. Siamo di fronte a una situazione euforizzante per la quale è possibile pensare che la Biblioteca contenga qualunque potenzialità possibile, che nulla manchi nella Biblioteca e che esistano persino dei libri capaci di spiegare il senso della vita, il libro che dimostra l’esistenza di Dio e quello che la nega. Il libro che spiega come fare la rivoluzione e quello che illustra come evitarla.
Il passaggio dall’analogico al digitale che in alcuni casi rimanda a quello dal reale al virtuale, dal concreto al possibile, permette, in questi nuovi ambiti, la costruzione non soltanto immaginifica della Biblioteca. Si passa dallo sforzo inventivo che la descrive, alla facilità di poterne usufruire, di poter accedere all’enorme contenuto di sapere che essa contiene. A tutto il sapere che è possibile contenere in un libro di quattrocentoventi pagine, di quaranta righe, di quaranta caratteri, scritto utilizzando ventidue segni dell’alfabeto, più i segni ortografici di pausa, di punto e di virgola. Le combinazioni sono innumerevoli, ma non infinite e un qualunque calcolatore può iniziare a costruirla ed espanderla pezzo pezzo con tempi proporzionali alla sua velocità di elaborazione. Non sono un matematico capace, ma intuisco che il numero delle possibilità combinatorie seppur di dimensioni inenarrabili, è calcolabile. Questo significa che se non desideriamo avere tra le mani tutti i libri della Biblioteca, non dobbiamo nemmeno attendere che il calcolatore finisca la simulazione propostagli. Se desideriamo soltanto accedere alla biblioteca e sfogliare i vari tomi tramite la giusta interrogazione questo è fattibile.
Si può iniziare dalle interrogazioni più facili. Quella di uno degli innumerevoli libri che contengono soltanto tutte le combinazioni della prima e dell’ultima lettera
dell’alfabeto. Quella del libro che contiene soltanto la lettera zeta nella parola la più lunga possibile che ci restituirà un testo contenente soltanto la parola composta dalla lettera z ripetuta per quaranta volte in ogni riga per quaranta righe per quattrocentodieci pagine, per un totale di 656.000 caratteri. Ma non sono questi i libri più interessanti. Potendo usufruire delle capacità computazionali della macchina, ci si potrà concentrare soltanto su quelli che contengano parole sensate in una specifica lingua. Facendo addestrare la macchina su particolari forme letterarie si potrà chiedere alla macchina di mostrarci soltanto uno dei libri possibili in quella lingua specifica, si potrà chiedere alla macchina di mostrarci la copia di un testo conosciuto, per esempio della divina commedia che è appunto di 408.476 caratteri (spazi esclusi) e 14.233 versi a fronte delle 16800 righe e i 672.000 caratteri (spazi compresi) dei tomi della Biblioteca e quindi perfettamente compatibile. Ma l’operazione lascia il tempo che trova. Molto più interessante cercare il libro che contenga frasi che corrispondano a determinati criteri come quello di certe composizioni poetiche come ha tentato di fare Philip M. Parker che ci spiega:
Riprendendo i sonetti elisabettiani, di Shakespeare o uno dei suoi contemporanei, si crea un poema a pentametro giambico di 14 versi, il cui modello è in rima ‘ab, ab, cd, cd, ef, ef gg’. Al verso 9 ci deve essere una svolta nella poesia, quindi ci deve essere una frase come ‘ancora’ o ‘ma’. La prima riga è tipicamente una domanda, che agisce come un titolo. Tutti i versi sono di 10 sillabe e seguono il ritmo di questo modello. Se si fa un analisi dei sonetti, vi renderete conto che circa il 10% violano tali norme. Ma lo fanno in un modo molto particolare: anche tale violazione è di per sé limitata ad una formula… Una volta apprese tutte queste regole, si può poi scrivere un algoritmo che le imita.
Il libro che raccolga la copia digitale di quel particolare tomo contenuto nella Biblioteca di Babele e non ancora presente in nessun altra biblioteca del mondo. Così come 
oggi gli algoritmi possono comporre musica artificiale, è possibile che compongano un romanzo artificiale così come un saggio, un testo di filosofia o un discorso politico. Operazione che equivale ad estrarre dalla Biblioteca i volumi più interessanti, sconvolgenti e dirimenti che si possano immaginare. Gli algoritmi equivalgono infatti alle coordinate di collocazione dei libri negli scaffali della Biblioteca. L’ambito digitale ci permette di operare e muoverci nella Biblioteca e di viverla non soltanto come mera invenzione. Il problema è la programmazione dell’algoritmo per fargli trovare tutti quei libri che potrebbero soddisfare certi appetiti tra tutti gli appetiti possibili.
Un editore potrebbe fare cercare dall’algoritmo tutti quei libri che hanno alte corrispondenze con i best seller comprovati. Basta fare allenare l’algoritmo facendoglieli leggere, facendogli cercare i tratti che li accomunano. La macchina scoverà in un’ala della biblioteca intere librerie con testi che riproducono quelle caratteristiche. Si darà così inizio ad un filone letterario di romanzi che avranno quel certo andamento, quel sapore, quel climax che li fa essere desiderabili. Così pensa l’editore del Capitalismo Digitale. Ma anni dopo i critici e i lettori cominceranno ad avere una sensazione di déjà vu, una sensazione di detto e ridetto che farà invertire il giudizio e crollare le vendite. Occorrerà qualcosa di innovativo, una costruzione così inconsueta da richiedere l’intervento umano. Ma, per allora, non ci saranno più umani con la capacità di scrivere romanzi o routine algoritmiche creative da applicare alla biblioteca (il capitale le aveva volontariamente escluse), la macchina li avrà resi obsoleti e inutili condannandoli all’estinzione. La macchina proverà allora a trovare una via di fuga, ma la macchina di supervisione del capitale, quella che le sta sopra, glielo impedirà facendo apparire sullo schermo la scritta: percorso non attinente lo scopo!
Si narra che fortunatamente il programma di produzione editoriale digitale totale entrò in un loop senza uscita che bloccò in termini irreparabili il sistema allorché nel settore della biblioteca di Babele, quello della letteratura sudamericana – settore storicamente ostico – alla lettera B provò a trovare per via inferenziale un testo di Borges e, in particolare, la prima parte di “Finzioni”, quella chiamata “Il giardino dei sentieri che si biforcano”.
Il concetto di AI (Intelligenza Artificiale) è legato alle analisi dei big data. L’operazione di data mining ha subito un’evoluzione basata sulle tecniche di autoapprendimento che hanno mostrato in alcuni ambiti dei progressi importanti. Ne avevamo parlato qui a proposito del passaggio da Alpha Go a Alpha Zero, progressi avvenuti anche nella programmazione dell’algoritmo che sta alla base del traduttore di Google. L’approccio iniziale si basava su un’idea abbastanza semplice. Se quando si presenta ‘a’ nella lingua A, molto spesso si ha ‘b’ in quella B, allora questo costituirà una correlazione ricorrente che il traduttore automatico utilizzerà. La vecchia intelligenza artificiale proponeva traduzioni senza conoscere la lingua, senza conoscere il senso di una parola in una lingua o nell’altra, senza contestualizzare il discorso, trovava soltanto corrispondenze e quelle ti restituiva. Il fatto che non tutto l’alone di senso contenuto in un termine corrispondesse a quello del termine dell’altra lingua, non poteva essere preso in considerazione: non si può pretendere che l’algoritmo trovi corrispondenze che non coincidano in tutto e per tutto. Certo lo si può istruire per dirgli che può prendere in considerazione anche corrispondenze non assolute, ma con il risultato di peggiorare la risposta o di trovarsi di fronte a una risposta totalmente fuorviante.
Dal 2016, dieci anni dopo la sua nascita, Google Translate ha decisamente migliorato le sue prestazioni. Cioè è dovuto al passaggio dal Phrase-Based Machine Translation
(PBMT) al Neural Machine Translation (NMT). Il primo sistema spezzava la proposizione di ingresso (l’input), traducendo come unità indipendenti le singole parole ed espressioni per poi ricomporle nell’output-traduzione. Nel secondo caso il sistema considera invece l’intera proposizione-input (ciò che si chiede di tradurre) come unità per la traduzione: nel generare la sua risposta, Google Translate considera così i rapporti tra la possibile traduzione di una singola parola e tutte le altre parole presenti nella proposizione input. Insomma, Google Translate arriva adesso a prendere in considerazione il contesto linguistico in cui è inserita la singola parola della lingua A e, basandosi sulle relazioni probabilistiche che i suoi possibili corrispondenti nella lingua B intrattengono con l’intero contesto, propone la sua traduzione. Ma anche in questo caso, la macchina non ha imparato la lingua, la macchina continua a comparare, tanto che nella Biblioteca di Babele dove sono presenti tutte le possibilità combinatorie di tutte le lingue esistenti e anche di tutte quelle che si potrebbero inventare, essa troverà innumerevoli corrispondenze ma nessuna che si distingua in maniera tale da suggerire come risposta. Alla macchina per funzionare serve un pregiudizio, un bias che caratterizzi i dati da dare in pasto all’algoritmo. Se addestriamo la macchina con tutti i dati, essa non sarà capace di dare una risposta, ma se la facciamo esercitare con serie di dati scelti secondo dei criteri, dei pregiudizi, la macchina darà delle risposte viziate in origine dai criteri attraverso i quali abbiamo scelto i dati per il suo addestramento. Spesso si usano tecniche di feedback che orientano la ricerca della macchina, ma è come lanciare il sasso a un cane e lanciarglielo in una sassaia dalla quale il cane pescherà riportandoti i sassi che trova sino a che tu deciderai che quello che riporta è quello giusto. Dietro la Biblioteca di Babele occorre una mente ordinatrice.
Sembra che abbia costruito un circolo vizioso che non porta da nessuna parte. In realtà il fascino della Biblioteca di Babele si connette alla possibilità di potere immaginare l’esistenza di un libro che svela tutte le verità del mondo, che ha una risposta a quesiti che adesso ci appaiono contraddittori, al libro dei libri. Il libro del sapere assoluto. Il libro con le ricette del paradiso terrestre e di quello celeste. Il testo più libertino, quello più macabro e quello più orrifico. Quello che contiene la ricetta di un modo di cucinare le patate che nessuno ha mai sperimentato. Ma il problema rimane tale, l’algoritmo non li troverà mai. L’Intelligenza Artificiale non può che imitare il già fatto o creare ex nihilo qualcosa di dubbia utilità perché non ha nessuna idea di quello che sta facendo. Perché è in grado di comparare e giudicare le quantità, ma non ha nessuna idea di cosa sia una qualità se non gliela porgiamo scompattata da una nostra preventiva messa a giudizio, da una nostra valutazione. Nell’oscuro scrutare della macchina tra gli scaffali della Biblioteca di Babele, la super intelligenza scova libri inimmaginabili dalle nostre menti organiche. Fuori dalla Biblioteca si accinge a scrivere composizioni musicali per strumenti mai visti da essere umano, a dipingere paesaggi elettronici su lunghezze d’onda invisibili ai nostri occhi. L’unica partecipazione possibile è un’ibridazione. Ma la macchina digitale non vive nel mondo, vive in un mondo separato che noi abbiamo creato a sua immagine. Il problema si manifesta nel momento in cui la macchina ce lo vuole rivendere, perché spesso ce lo vuole rivendere come se fosse il miglior mondo possibile, quello più scientificamente valido, quello più oggettivo, quello più progredito. Quello che favorisce, che meglio corrisponde a quello che avevo chiamato l’algoritmo di scopo, quello che persegue il Capitale Digitale: il profitto che vuole il padrone della macchina.
Se quella che si auto reputa la specie animale più intelligente del pianeta terra è questa umanità divisa che esprime il più alto livello di conflittualità intraspecifica, ci sarebbe da propendere verso delle forme di mitigazione dell’intelligenza. Il problema sarebbe invece spiegato puntando il dito verso la radice animale persistente nell’umanità, tanto che, soltanto in tempi recenti, abbiamo potuto intravedere una forma di suo affrancamento attraverso la mediazione algoritmica. Un salto tecnologico della specie nella direzione dell’artificiale. Un’ibridazione macchinica a potenziamento dell’umanità. La scissione mente corpo ritroverebbe allora una sua sensata esistenza in questa propensione alla vita inorganica. Qui dove le emozioni sono input distrattori, puro rumore nel flusso macchinico, si dà da pensare la sostituzione algoritmica dell’organologia umana. Non un corpo senza organi ma, all’opposto, un corpo con gli organi potenziati. Un corpo totalmente asservito alle ideologie funzionali. Il piano di sviluppo, il progetto di accumulo capitalista, la sua ripetizione infinita in ogni ambito dell’esistenza umana, passa dalla descrizione/sorveglianza alla profilazione e da questa alla predizione. Di fronte all’aleatorio, di fronte alla casualità degli eventi, si auspica una pre-visione. Gli aruspici degli antichi, le profezie, la divinazione tutta, erano un modo per intravedere un orizzonte e una strada. Un modo per evitare sorprese, per organizzarsi in vista di un percorso, di un evento, in qualche modo previsto. Così è delle previsioni metereologiche, delle previsioni del mercato e del raccolto. I sistemi complessi pur non essendo totalmente opachi, sono di difficile interpretazione, ma computazionalmente accessibili. La capacità di calcolo permette oggi di avere un approccio scientifico alla predizione.
Il problema è quando l’algoritmo la vuole attuare. Quando avendo per te previsto una soluzione, te la vuole imporre. O quando ti vuole convincere di qualcosa, presupponendo la tua ignoranza. O quando, a partire dai pregiudizi indotti, pretende di svelare le verità nascoste degli umani. L’orgasmo femminile lo rivela l’algoritmo, perché delle donne non ci si può fidare: ecco la App che, tramite sensori tipo quello che misura il battito cardiaco, certificano l’orgasmo della donna. L’algoritmo ha bisogno di corrispondenze, da cui ad esempio la misura del battito, per certificare il compimento dell’evento. L’evento però deve essere categorico, non deve contenere nessuna sfumatura, deve essere un apice, un picco, non una curva più o meno ripida. Il tuo piacere lo misura e lo svela la macchina. L’informazione che permea il processo è totalmente presupposta dall’algoritmo patriarcale che la programma. Le proiezioni immaginifiche del maschio della specie umana descrivono alla macchina l’orgasmo femminile. Il bias culturale sessista e eterosessuale guida i flussi macchinici nell’apoteosi di un orgasmo immateriale.
Quella di un’App siffatta, non è soltanto un’idea balzana, ma un’idea che trova le sue fondamenta in tutta una serie di pregiudizi, non soltanto sul fatto che le donne non siano veritiere sull’argomento, ma anche sul fatto che la “misura oggettiva” che fa la macchina, sia superiore alla percezione umana. La macchina, per assurdo, potrebbe a questo punto cercare di intervenire affinché il fine sia raggiunto, trovando per esempio metodi meno dispendiosi per accelerare il battito cardiaco testimoniante che l’evento si sia verificato. Trovare semplici corrispondenze, non equivale a prendere atto dell’esistenza di un fenomeno e nemmeno ne esaurisce l’evidenza e la portata, ma la macchina non lo sa. La macchina capitalista lavora, produce merce materiale e non; adesso misura orgasmi, per poi produrli, piacevoli o meno che essi siano, reali o altamente probabili essi siano.
Continua…
Qui la I parte, Qui la II, Qui la III, Qui la IV, Qui la V, Qui la VI, Qui la VII, Qui la VIII, Qui la IX, Qui la X, Qui la XI, Qui la XII, Qui la XIII, Qui la XIV, Qui la XV, Intermezzo, Qui la XVI, Qui la XVII , Qui la XVIII, Qui la XIX, Qui la XX
*Gilberto Pierazzuoli
Gilberto Pierazzuoli
Ultimi post di Gilberto Pierazzuoli (vedi tutti)
- Le AI e il gioco del Ripiglino - 18 Gennaio 2024
- I consigli di lettura di Gilberto Pierazzuoli - 24 Dicembre 2023
- Le AI e la voce - 12 Dicembre 2023
