Per una critica del capitalismo digitale – VIII parte
Il sogno di un’entropia negativa, di una neghentropia, è connesso all’universo macchinico. L’instaurarsi di un ordine del discorso che non presti il fianco agli equivoci. La ragione artificiale elabora, a partire da questa stabilità, le sue previsioni. La macchina predittiva è l’output perseguito. L’algoritmo deve poter interpretare la realtà per poi poterla progettare. È il fine ultimo dell’intelligenza artificiale: prevedere per orientare l’azione in base a questa previsione. Tutto deve dunque essere in ordine, un ordine che organizza il reale, che crea ipotesi di realtà che si devono avverare. L’intelligenza artificiale è una potenza organizzatrice. È una strumento di governance che aspirerebbe a lavorare in termini neghentropici. Confronta, dispone e scarta. È una macchina del decoro. L’algoritmo incarna il sogno neghentropico della scienza rifuggendo oltre al disordine anche l’informe. Obbligando al con-formismo, ne costruiscono uno adatto alla maggioranza e quindi, nel loro modo di pensare, a tutti. «Prendono in carico gli interessi del mercato “per il grande pubblico”. In tal senso essi non “predicono” affatto un comportamento futuro ma, rafforzando un comportamento indotto, lo “producono”» (Curcio p. 46)
La paura era che le macchine si ribellassero ai loro creatori, sottomettendoli; l’incubo evocava visioni di scontri tra uomini e esseri costruiti spesso a immagine umana, notoriamente plasmata su calco divino. Il conflitto era infatti una specie di guerra civile tra umanità e macchine antropomorfiche, con in gioco supremazie e sottomissioni che rinverdivano mitologie di affrancamento della specie dalle divinità creatrici. Narrazioni adatte a empatie rinnovate, costruzioni epiche per eroi futuribili.
In realtà, di nuovo, il futuro è oggi. L’algoritmo impara su una base immensa di dati, macina, paragona e scarta, cercando corrispondenze, cercando elementi più probabili. Quel che trova è una forma di verità che scalza la verità umana frutto di processi di veridizione condivisi. La verità in ambito umano è ciò che condividiamo, ma non in astratto. È un risultato storicamente e socialmente accettato, condiviso. Verità e realtà tendono a coincidere. Ciò che è reale è vero. Ma nella sfera digitale la realtà è soltanto una probabilità che si avvera quando la macchina prende una decisione, quando lasciamo alla macchina la decisione. L’intelligenza artificiale si dà dove è la macchina che ordina, che dà ordini, quando comanda la macchina. Nessun scontro epico. La sottomissione al credo del progresso, all’infallibilità della macchina ci ha già sottomesso proprio alla macchina. Una guerra di cui nessuno si è accorto e che è già stata vinta.
Non è stata persa dall’umanità tutta, ma da quella umanità che ha permesso ad alcuni di delegare al mondo computabile i processi di veridizione. E non è questo l’ennesimo allarme che denuncia la non neutralità della scienza. Per cercare di capirci qualcosa, torniamo un momento indietro. Il motore di ricerca di Google si è imposto a partire dal momento che ha personalizzato le ricerche. Da quando ha adottato un criterio di rilevanza, di pertinenza di ambito; quando ci ha profilato riuscendo (?) così a capire i nostri interessi. Le risposte alle query non si basavano sulla mera coincidenza dei termini, una probabile enormità se confrontata con la dimensione della rete, ma erano filtrate a partire dai tuo interessi mostrati precedentemente attraverso il tuo comportamento in rete.
Questa strategia ha portato Google ad avere un vantaggio rispetto ai concorrenti, vantaggio che il meccanismo della rete permette di consolidare perché ha portato Google a potere accedere a più dati che hanno affinato la profilazione e la qualità delle risposte alle query. Google ha così monopolizzato il comparto. Rimaneva un problema irrisolto. La crescita era stata finanziata da quelli che vengono chiamati Venture Capital, che obbligavano adesso Google a trovare una forma di redditività. Quella massa di dati e la profilazione degli utenti potevano essere la base di una pubblicità più mirata. Oggi le grandi piattaforme del web si accaparrano l’ottanta per cento della intera pubblicità dei paesi più informatizzati. Ma non si vende solo un pubblico già impacchettato all’interno del proprio target. Si cerca di predire il suo comportamento e si tenta di influenzarlo per portarlo a fare determinate scelte di mercato, se non anche scelte politiche. Di questo abbiamo già parlato in più articoli e recensioni. Perlomeno qui, nell’ambito dei motori di ricerca, l’estrazione dei dati è stata fatta in precedenza per offrire un prodotto più efficiente agli utenti, ma, nel caso di Facebook, la personalizzazione delle news in bacheca lo era in termini molto relativi. Zuckerberg lo giustifica con il fatto che ogni persona si sarebbe interessata di più per la morte di uno scoiattolo sotto casa che non di quella di dieci umani dall’altra parte del mondo. Una spiegazione poco condivisibile, che presupponeva un involontario cinismo e che contraddiceva la tendenza alla globalizzazione anche delle notizie. In realtà la mossa sarebbe servita semplicemente per affinare la profilazione degli utenti. Ecco che l’algoritmo prende una strada diversa, non persegue un bene comune, ma quello della piattaforma. Viene infatti costruito per perseguire il profitto. È la reificazione del modo di agire del capitale. Gli algoritmi che regolano la rete sono emanazione diretta di questa esigenza. Ma, come abbiamo visto, il mondo digitale fonda anche i modi dei processi di veridizione che impongono la loro realtà a grossa parte dell’umanità. Le macchine digitali stanno sconfiggendo gran parte dell’umanità imponendo la loro logica che si basa fondamentalmente sull’assunto della massimizzazione del profitto. Le macchine digitali hanno dichiarato guerra a una parte dell’umanità e la stanno vincendo.
La macchina assorbe l’intelligenza: il salto tecnologico è sempre un salto di espropriazione di capacità creative, quindi la macchina assorbe sempre di più in sé quei compiti che una volta erano umani. La tecnica è e deve essere un campo di battaglia perché, in realtà, c’è poco di nuovo, non si tratta infatti di altro che di lotta classe. L’egemonia del capitale si attua e si consolida attraverso la ripetizione. L’algoritmo soffre di un pregiudizio immanente. La ricerca del profitto contamina alla fonte con un bias di classe, ogni routine di estrazione. La rivolta della macchina è un’immagine sviante. Le guerre sono relazioni intraspecifiche, interne alla specie. La macchina è, in questa contingenza storica, un’emanazione del capitale e quindi espressione non della specie tutta, ma di soltanto una parte di essa.
Ma non è soltanto un semplice sovrapporsi di un nuovo concetto di verità, di un nuovo punto di vista sulla realtà. A partire da una riconosciuta capacità di mantenere la barra di comando sulla razionalità, dalla riconosciuta capacità computazionale a prova di errori, acquisteranno sempre più consenso. Generalizzando metodologie di razionalità con le quali saremo costretti a familiarizzare, si avrà che l’opinione, diventando performativa, sarà pervasiva. Si potrebbe dire che agiscano di soppiatto, si confondano con l’ambiente, occupino la nostra quotidianità. Nascono dal senso comune (dall’opinione media) e creano nuovo senso comune, imponendosi. Quando il pensiero critico sfornava una presa di posizione sensata, si poteva pensare che avesse il potere di essere adottata. Adesso l’algoritmo la scarta a priori a prescindere dalla razionalità che la sottende, per il semplice fatto che quell’output, pur avendo una sua logica, porta a un risultato lontano dalla media. Per l’algoritmo è soltanto una via sbagliata come tante che lui stesso aveva sperimentato nell’auto apprendimento e che aveva scartato. Non può prenderla in considerazione indipendentemente dal fascino inusuale del risultato, della possibilità stessa che il risultato sia così tanto migliorativo da scombinare le premesse. Il sublime stesso è bandito.
L’algoritmo ama la ripetizione, in questo senso, vuole ed è incentivante. La coazione a ripetere ha qui dei fondamenti all’opposto di quelli inconsci. È il sogno realizzato di ogni venditore, ripetere, moltiplicare la vendita. Il meccanismo analizza, classifica, predice, condiziona, esorta ad agire in un modo piuttosto che in un altro. Ti consiglia, per esempio, un percorso alternativo in base a un’analisi del traffico che lui conosce e tu no. Ti devi fidare delle sue scelte perché sono ormai imperscrutabili. Riesce così a entrare nella quotidianità tanto da essere percepito come naturale. Tanto da fare dell’ubbidienza un atto involontario, automatico appunto. Non è per un gioco linguistico che l’automa ama l’automatismo, non è nemmeno una tautologia, ma una conseguenza complessa di un modo di pensare basato sul grande numero dei dati a disposizione. Basato non su percorsi creativi, ma sulla analisi delle coincidenze, devianze e ripetizioni. L’algoritmo non ama le novità. È meglio che tutto sia così com’è. Una relazione mortifera si instaura quando una logica divenuta maggioritaria «cerca di espellere ciò che non quadra con la sua identità», diceva Canetti.
Le sue doti di predizione lo fanno apparire come un indovino che ci sorprende sempre di più, facendoci convincere che esso agisca nel nostro interesse. Cattura la nostra fiducia, si naturalizza nella nostra vita, accrescendo così il suo carisma e di conseguenza la sua capacità di essere creatore di verità. Ma, nell’epoca dell’accesso gratuito alla rete, della possibilità per tutti di interagire in questo spazio virtuale, può anche succedere che il senso comune, i luoghi comuni, si ingigantiscano imponendo forme di verità senza verifica delle fonti. Verità divenute accettabili indipendentemente da tutto. Ecco le fake news che esprimono al massimo la loro capacità di diventare virali, più delle notizie realmente verificabili.
Una verità algoritmica, fondata sul calcolo, sulla non fallibilità delle operazioni implementate nel meccanismo di calcolo, è una panacea che permette l’espansione dei sistemi decisionali che possono scavalcare le impasse etiche e le indecisioni estetiche, i coinvolgimenti empatici, per arrivare a giudizi puri, strettamente in sintonia con l’enunciato della legge, oltre anche ai principi che lo hanno ispirato. La verità algoritmica costruisce ed espande la sua egemonia (in senso gramsciano), in nome del profitto. L’intelligenza collettiva viene così estratta e trasdotta in capitale morto senza nessuna remunerazione. Progresso, sviluppo, tecnoscienza neutrale, debito e austerity e mancanza di alternative, si riproducono all’ombra dell’incessante pulsare della macchina. La macchina stessa si crea le condizioni della sua riproduzione. Non si può non delegare alla macchina. La voce che enuncia la decostruzione della narrazione capitalista è scartata dall’algoritmo in quanto espressione di una devianza statistica.
Continua…
Qui la I
Qui la II
Qui la III
Qui la IV
Qui la V
Qui la VI
Qui la VII
*Gilberto Pierazzuoli
Gilberto Pierazzuoli
Ultimi post di Gilberto Pierazzuoli (vedi tutti)
- Le AI e il gioco del Ripiglino - 18 Gennaio 2024
- I consigli di lettura di Gilberto Pierazzuoli - 24 Dicembre 2023
- Le AI e la voce - 12 Dicembre 2023