E se l’Intelligenza Artificiale non fosse intelligente ma semplicemente stronza?

Per una critica del capitalismo digitale (I parte)

In questo articolo diamo per scontato una serie di concetti di cui abbiamo già parlato in questa rivista: qui, qui, qui e qui; aggiungerei anche le riflessioni contenute nelle ultime recensioni su due libri, quello di Zuboff e quello di Hindman. Ma se non volete approfondire, sintetizzo qui un concetto chiave. I dati che vari dispositivi raccolgono su di voi sono preziosi nella misura che rimandino a una vostra profilazione di mercato. Per questo sia i motori, sia i social personalizzano le loro risposte con l’effetto di chiudervi sempre di più in cerchie con le quali condividete gli stessi interessi. La grandezza della rete può poi permettersi di accogliere anche opinioni non accettate dalla maggioranza, ma che circoleranno appunto in quei circoli ristretti dove di fatto sono condivise.

Le piattaforme social hanno una visione sempre ottimistica tanto è vero che ci si interagisce sempre con la possibilità dell’apprezzamento, mai con il suo contrario: in esse non c’è il dislike. Ma perché nei social non c’è il dislike? Non è cioè possibile avere un atteggiamento negativo? Secondo noi perché la tendenza e l’esigenza di queste piattaforme è appunto quella di raccogliere dati in vista di una profilazione e iscrizione a cerchie i cui membri hanno interessi, vedute e preferenze comuni, cerchie che sono rappresentative di una certa fetta di mercato. Coloro che postano messaggi o altro che non condividi si pensa che non siano tra i tuoi “amici” (nel senso di Facebook) e, se così non fosse, si pensa che uno li banni. Questi “raggruppamenti” poi si devono muovere in uno spazio ristretto all’interno della verità algoritmica, proprio perché l’algoritmo tende a stringere il cerchio, per cercare di darti un’identità sempre più precisa, ma non sul versante della personalità, ma da quello che ti vede soltanto come un potenziale consumatore, in definitiva, come dicevamo sopra, per targettizzarti. Insomma, non è la dittatura dell’ottimismo, ma una vera e propria allergia per il dissenso che caratterizza il modo di essere dell’universo digitale.

L’universo informatico, il cyberspazio, rimanda però a tutta un’altra serie di problematiche. Si tratta di ragionamenti che riguardano l’intero mondo digitale e non soltanto la rete. Riprendendo Derrida e in particolare il suo allievo e continuatore Stiegler, diremmo che ogni tecnologia ha lo statuto di un pharmakon la cui ricetta dosa la possibilità che agisca appunto come farmaco/rimedio o come veleno. Apparentemente niente di nuovo, il fatto è che l’accento sul termine pharmakon rimanda, in questa forma di pensiero, anche alle trasformazione e ai condizionamenti che il suo dosarsi produce. Diremmo che la ricetta crea e dispone delle vere e proprie trasformazioni antropologiche. «Oramai il compito della tecnologia digitale non è più soltanto quello di agevolare lo stoccaggio, l’indicizzazione e la manipolazione di raccolte di dati cifrati, testuali, sonori o iconici, ma quella di rivelare in modo automizzato la composizione di circostanze di ogni tipo. Il digitale si erge a potenza aletheica […]», dice Èric Sadin (Critica della ragione artificiale, p. 10). Fonda e istituisce cioè una forma di verità: è un processo di veridizione. Aletheia (verità) in origine non poteva essere adoperata in un’accezione per la quale potesse essere attribuita a un modo di essere delle cose, era invece il risultato di un confronto dialettico, aveva cioè un’origine dia-logica. In relazione con l’ aletheia c’era la doxa che significava (traduceva) infatti  “opinione”, ma anche  “ambiguità”, la verità era la via di uscita dall’ambiguità e quindi un’opinione condivisa attraverso un processo di convinzione e persuasione. Ma questo risultato non era esportabile; la verità non si poteva estrarre dal contesto; in un altro contesto andava ridiscussa.

La funzione dell’algoritmo è trasformare la singola opinione, tramite i like e la condivisione, in opinione da dover condividere (tutto il resto viene escluso), in definitiva in una forma di verità statistica che l’algoritmo fa sua. Questa definizione somiglia a quella che si potrebbe dare del “senso comune”. Ecco, l’algoritmo crea senso comune e luoghi comuni, ma li adopera e li esporta come verità. Gioca sul “si dice” obbedendo all’assioma “le cose stanno così perché così si dice”. Trasforma la singola doxa, in doxa statistica. Tornando ai modi per tradurre il termine greco doxa si ha che se è facile capire come l’opinione si possa spacciare per la verità, più difficile è pensare come il termine “ambiguità” possa svolgere la stessa funzione. È normale, si tratta di muoversi a partire da una delle due possibili accezioni; sarebbe un classico caso di polisemia. Invece è spesso proprio su questa doppia accezione che lavora l’algoritmo di profilazione. Trasforma l’ambiguità di una osservazione – sempre tramite i like e le condivisioni – in una forma di verità, toglie l’ambiguità. Ambiguo, aggettivo [dal lat. ambiguus, der. Di ambigĕre “dubitare, essere indeciso”, composto di amb– “intorno” e agĕre “spingere”, “condurre”]. Praticamente lo stesso senso di “ambage”: che sta per “giro” e per “tortuoso” e quindi anche per giro tortuoso, non retto. L’ambiguità non viene disvelata, è semplicemente tradotta in opinione condivisa. Ecco perché il sistema sopporta le fake-news: è un sistema capace di trasformare le fake-news in verità. Ma non qualsiasi falsa affermazione, ma quelle più vicine ai luoghi comuni, quelle più facilmente condivisibili senza l’uso di nessun apparato critico.

Siamo di fronte a un pensiero che si alimenta attraverso il “senso comune”; che esclude ogni scarto di pensiero. Il confronto per affinità pilotato dall’algoritmo di profilazione, esclude in “non conforme”. Questo è un effetto derivato, non espressamente voluto, ma non preso in considerazione all’interno di qualsiasi analisi predittiva che è il fondamento del funzionamento dell’Intelligenza Artificiale. Si apre davanti a noi un universo distopico di tipo escludente. O ci assoggettiamo o saremo per-seguiti dallo sguardo unificante del Grande Fratello. Cosa fanno le telecamere che osservano e segnalano i comportamenti non adeguati? A cosa serve l’internet delle cose, degli oggetti, che delega alle macchine l’esecuzione di alcune attività? Che fa scegliere alle macchine ciò che è meglio per noi? Che selezionerà gli ingredienti e le proposte gastronomiche a partire dalla conoscenza dei nostri gusti; impedendoci di fatto di fare nuove esperienze? E che cosa è meglio per noi che non sia il meglio condiviso, quello appunto della doxa? Una doxa che dice che non avete niente da nascondere e quindi il fatto che vi spiino non vi inquieta. Certo è possibile che non abbiate niente da nascondere alla giustizia, al mercato, o a qualche altro ente impersonale, ma è probabile che abbiate qualcosa da nascondere al vostro partner, alla mamma, alla zia, a Tizio o a Caio. Può anche darsi che non vi piaccia semplicemente far sapere che avete un calzino bucato. La vita è fatta anche di sorprese, di novità, di nuove imprese. La vita è fatta anche di meraviglia, dello stupore che destano le cose nuove, grandiose, piccole e leziose, perfette, insolite o stravaganti.

La vita che ci propongono è invece fattizia, posticcia, vale a dire una vita vissuta in modo impersonale e inautentico, subita piuttosto che scelta. Una vita senza turbamenti. Ma in questo turbamento, nell’angoscia e nello spaesamento possiamo anche essere sospinti a trovare la strada di casa. A cercare casa. Spesso l’angoscia sorge quando crolla il sentirsi-a-casa-propria. Ma non è farsi prendere dalle passioni tristi, è uno stimolo verso la gioia per aver costruito un rifugio ospitale. Quello del cyberspazio è invece un rifugio apparente: la non difformità ti trova casa, ma ti suscita la paura per il diverso che viene al limite esorcizzata da un dispositivo che ti consegna a quel limbo nel quale il proprio esserci è indifferente. «Non vi è instaurazione della verità senza una posizione essenziale dell’alterità; la verità non è mai il medesimo; non può esserci verità che nella forma dell’altro mondo e della vita altra» (Foucault, Il coraggio della verità, p. 321).

 

*Gilberto Pierazzuoli