1

Quando la matematica è un’opinione e per di più sbagliata

Per una critica del capitalismo digitale (II parte)

Qui la prima parte.

Che i robot potessero essere bugiardi è cosa vecchia: già Pinocchio, un artefatto umano, diceva le bugie!

Quando si parla di scienza e tecnologia si evocano più campi e narrazioni diverse che si intrecciano tra di loro, restituendoci un’immagine che, a seconda del punto di vista, rimanda a universi utopici o distopici. Anche il presente tecno-scientifico non è così univoco. Lasciando da una parte le riflessioni che si potrebbero fare sulla genetica a proposito di ibridazioni e clonazioni sia vegetali che animali, umani compresi, che rimandano anche a incubi eugenetici, e rimanendo soltanto sul piano tecnologico/digitale, l’elenco delle creazioni immaginifiche si fa copioso e spesso radioso.

Cosa ci ha riservato il futuro? La cosa forse più sconvolgente è il telefono personale che, facendosi smart, ha permesso ad ogni individuo di potersi connettere a ogni altro e di poter accedere nello stesso tempo a una enorme massa di informazioni. Si tratta di una trasformazione antropologica che ha colonizzato lo stesso comportamento degli individui. Se facessimo una carrellata per i marciapiedi delle metropoli, sui mezzi di trasporto e in moltissime altre situazioni potremmo notare un comportamento mai rivelato precedentemente: donne e uomini di ogni ceto e età chini, con lo sguardo concentrato su un piccolo schermo. Una folla contigua e atomizzata isolata anche dal punto di vista uditivo attraverso l’uso di auricolari. Un futuro non immaginato è il nostro presente. Ma di questo ormai ne abbiamo già sentito parlare, così come dell’opposizione tra reale e virtuale, o di quella tra tangibile e immateriale.

Robot bugiardo

Allora, a partire da questo presente sorprendente, nel senso che sorprende sia un osservatore esterno che noi stessi, ascoltiamo le sirene che ci raccontano il domani e che ci dicono che oggi è già domani. Ecco l’auto che si guida da sola; il frigorifero che segnala i consumi; il termostato intelligente che apre e chiude porte, finestre e tapparelle per restituirti una temperatura ideale; le lampadine che si accendono e spengono da sole; la smart tv che si collega alla rete e che si camuffa da smartphone con lo schermo gigante; il robot che spazza i pavimenti anche in tua assenza. Poi quelle dagli usi come minimo inquietanti: «Madre incontra la figlia morta grazie alla realtà virtuale: “Era il paradiso”». Tutti questi sono un misto di prodotti materiali e semplici applicazioni (App). Hardware e software, insomma, ma con il software che la fa da padrone. Il frigorifero, controlla i consumi e la scadenza dei prodotti, ma farà anche la spesa (ordini ai fornitori). Il frigorifero impara i tuoi gusti e programmerà le tue prossime cene in base a questi e ai tuoi impegni nonché alle previsioni del tempo. Deciderà cosa mangerai e, se lo autorizzi, inviterà a cena le/la persona più giusta per l’occasione. Non devi fare nessuno sforzo, nemmeno di fantasia, il computer ha istruzioni contro la monotonia e ti proporrà anche cene esotiche, inconsuete, ma senza rischi: lo abbiamo detto, conosce i tuoi gusti, le tue allergie e intolleranze. Il futuro è già oggi.

Il futuro non può aspettare. Allora, in attesa di droni capaci di fare consegne porta a porta (progetto di Amazon), ci si affiderà a quella feccia dell’umanità che i robot hanno sostituito in tantissimi lavori. Si è sempre detto: le macchine non provocheranno la disoccupazione di massa, le persone sostituite saranno il più delle volte occupate in altre mansioni. Ecco i riders (la Gig Economy – l’economia dei lavoretti) che in bicicletta, qualsiasi tempo faccia, obbediranno agli ordini del tuo frigorifero. Forte la tecnologia! Prima della tecnologia, con il cavolo che si trovava qualcuno che per una miseria e con nessuna tutela e garanzia avrebbe fatto quel lavoro!

Ma la tecnologia, i padroni della tecnologia, dove e come guadagnano? Anche qui, ovviamente, il futuro è diverso dal passato. Non ci guadagnano soltanto con la vendita di questi oggetti, perché tramite questi oggetti (di nuovo, sia software che hardware) ti acquisiscono e ti fidelizzano come consumatore. L’algoritmo sovrano, come abbiamo visto a proposito del frigorifero, non soltanto raccoglie dati che servono per profilarti (capire i tuoi gusti), vuole essere anche predittivo (capire quello che vorresti), ma anche essere influente nei tuoi confronti, farti fare delle scelte per il tuo e per il suo benessere/tornaconto. L’economia tre punto zero – o quattro, o cinque, non ricordiamo: il futuro è così incalzante che si presenta ancora prima che il presente sia finito – si basa proprio su questo: farti fare quello che a loro interessa, facendoti pensare che interessi anche a te. Per fare questo «un’ampia fetta delle scienze algoritmiche ha fatto proprio un orientamento risolutamente antropomorfista cercando di attribuire ai processori qualità umane, in particolare quella legata alla capacità di valutare situazioni e trarne conclusioni». Dice Sadin (p. 11), paventando anche una forma di antropomorfismo aumentato nel senso che sarà più rapido, efficace e affidabile. È la volta di un antropomorfismo intraprendente, dotato quindi «della capacità di avviare, in modo automatico, azioni in funzione di esiti prestabiliti» (p. 12).

Si arriva così all’esistenza di algoritmi di tipo prescrittivo, ma anche coercitivo come, per il campo del lavoro, di sistemi in grado di dettare i gesti da compiere. E se, rispetto all’ultima eventualità vi viene in mente Charlot in “tempi moderni”, non è di catena di montaggio che si tratta, ma dei palmari in uso nei magazzini Amazon e di quello del protagonista di “Sorry We Missed You” di Ken Loach, che hanno tutta la parvenza di essere strumenti facilitatori, quando invece sono strumenti coercitivi. E qui Sadin ha la lucidità di afferrare l’obbiettivo primario di questi dispositivi che è quello, non soltanto di rispondere a interessi privati, ma anche di instaurare un’organizzazione e una visione del sociale in termini solo e soltanto utilitaristici.

L’algoritmo non è costruito in vista dei bisogni degli utenti, ne deve avere soltanto la parvenza, in realtà farà di nuovo, solo e soltanto, gli interessi (produrre profitto) di chi lo produce. È questa la prima legge della robotica che ha scalzato quella che aveva proposto Isaac Asimov. E se l’organizzazione sociale e politica è dichiaratamente e di fatto al servizio del “libero mercato”, la rivoluzione digitale, per quanto riguarda l’ambito sociale e quello politico, consiste nell’ottimizzazione in questo senso di tutto l’apparato burocratico, funzionale e di quello di controllo, rovesciando e spostando quest’ultimo dalla qualità delle merci alla subordinazione degli acquirenti. D’altronde ce lo hanno detto sino alla nausea che non “c’è alternativa” (TINAThere is no alternative), siamo infatti di fronte a quello che Fisher ha chiamato “Realismo capitalista” con i suoi corollari di “fine della storia” e fine del tempo storico che ci ha scaricato, gettato, imbarcato con violenza sul treno di un futuro e di un destino ineluttabili. Siamo ormai immersi in un’era messianica che non sopporta nessun tipo di katechon (potere che frena).

Il “realismo capitalista” è anteriore alla rivoluzione digitale e in qualche modo l’ha eterodiretta. L’ha privata da qualunque riferimento etico che è poi una condizione se non la condizione che la “mancanza di alternativa” produce. Qui, Sadin, che abbiamo citato sopra- non accorgendosi di questo dispositivo a monte del processo – fa, anche se indirettamente, proprio del moralismo quando denuncia questa condizione: «Dietro questa concezione [quella di preservare soltanto l’interesse del singolo] si nasconde ciò che è veramente in gioco, ovvero modi di vivere individuali e collettivi nuovi, destinati a essere sempre più orientati da sistemi che ci spossessano della nostra capacità di giudizio e che non si trovano mai sottomessi a una visione etica, quando invece dovrebbero esserlo nella misura in cui costituiscono un’offesa ai principi giuridico politici che ci fondano» (p. 18).

“La mano invisibile del mercato” trova poi nell’era digitale, nell’era delle macchine, la possibilità chiave della sua definitiva affermazione ed è quando diviene automatizzata. Si conciliano qui l’immaginario e il sogno del capitale e quello della scienza occidentale. La vittoria contro la fallibilità dei sistemi; la sconfitta dell’entropia con una messa in ordine dei sistemi, con la loro conversione a fenomeni computabili seguita dal perfetto controllo dell’incedere umano; con la sua definitiva riduzione e subordinazione a una governance infallibile. «In questo senso, l’intelligenza artificiale contribuisce a preparare la fine del politico [neutralizzerebbe cioè] la nostra volontà e ci libererebbe dalle nostre affezioni a vantaggio di un’organizzazione ideale delle cose» (p. 21).

L’errore dell’algoritmo sta tutto nella sua monoliticità. All’interno di un ambito stabile e definito nel quale i meccanismi sono perfettamente individuati e definiti da un apparato finito di regole, in un gioco con le sue regole, la potenza computazionale sconfigge l’avversario umano. Ma non dimostra una maggiore intelligenza. Seppur dotato di capacità di autoapprendimento e quindi di capacità evolutive, le svolge in questo ambiente chiuso, diverso dagli ambienti epigenetici caratteristici del vivere umano nei quali l’evoluzione ha a che fare anche con la modificazione e generazione dell’ambito in cui l’intelligenza animale agisce.

Fuori dagli ambiti sospesi nella loro immobile e soltanto teorica esistenza, l’algoritmo ne fa di tutti i colori. Volendo trovare la chiave esplicativa del suo carattere, si potrebbe dire che l’algoritmo soffre di pregiudizi perché solo e soltanto con pregiudizi può essere alimentato. Senza una serie ricorsiva sulla quale orientare e costruire il suo funzionamento, il concetto stesso di computazionabilità e di algoritmo non hanno senso. Senza una doxa di riferimento l’algoritmo non si può addestrare, semplificando, non sa cosa fare. Le serie fornite sono quelle che gli umani hanno prodotto e proprio perché umane sono storicamente, politicamente e socialmente determinate. Il sogno di una tecnica asettica perché non contaminata dalla fallacia umana, non ha fondamento e costituisce anch’essa un pregiudizio. Ecco alcuni esempi tratti da un articolo che Milena Gabbanelli ha scritto per “corriere.it”.

Algoritmo sessista. Con dichiarazione dei redditi congiunta l’algoritmo assegna una linea di credito venti volte più al marito. Pregiudizio: storicamente gli uomini guadagnano di più delle donne.

Algoritmo sessista (2). Selezionare le persone da assumere in base ai curriculum confrontandoli con quelli delle persone precedentemente assunte (quasi tutti uomini), con il risultato che scartava tutte le donne.

Algoritmo razzista. Procedura per determinare la cauzione. Gli afroamericani essendo considerati più a rischio si trovano a dover pagare una cauzione più alta.

Algoritmo razzista (2). Siccome i pazienti neri spendono mediamente di meno per le loro cure, vengono considerati più sani così i pazienti bianchi ottengono più cure a parità di patologia

Algoritmo classista. Il “digital welfare state” in molti casi aumenta le disuguaglianze e colpisce le fasce più povere della popolazione, sia nei paesi industrializzati che in quelli in via di sviluppo, trasformando i bisogni dei cittadini in numeri. Un algoritmo incrociava i dati di 17 database fra cui quelli fiscali, medici, dei servizi sociali e delle utenze per capire se chi percepisce sussidi o altre forme di welfare poteva essere incline a commettere frodi, ma veniva utilizzato con dati provenienti dai quartieri più poveri e ad alta densità di immigrati.

A proposito dei pregiudizi degli algoritmi leggete anche qui

Continua

____________________

Riferimenti bibliografici: Èric Sadin, Critica della ragione artificiale – Una difesa dell’umanità, Luiss, Roma 2019

*Gilberto Pierazzuoli