Robotica emozionale

Per una critica del Capitalismo Digitale XX parte  

L’interazione tra umani e macchine passa da una lettura strumentale dell’artificio tecnico che lo interpreta come protesi meccanica all’agire umano, a soggetto dotato di un’agenzialità propria guidata da un intelligenza artificiale.

I robot di R.U.R. (Rossumovi univerzální roboti – I robot universali di Rossum – 1920) – testo teatrale di Karel Čapek nel quale compare per la prima volta il termine “robot” derivato dal termine ceco “schiavitù” – in realtà non sono meccanici ma biologici. Composti da materia organica artificiale, e realizzati in catena di montaggio, essi sono pensati come una semplificazione dell’essere umano, privi cioè di tutta una serie di caratteristiche che ingombrano la loro funzione che sarebbe quella di alleviare al genere umano tutte le fatiche fisiche liberandolo dalla schiavitù del lavoro materiale. Rossum (il creatore) «facendo questo ha virtualmente eliminato l’uomo e creato il robot […] I robot non sono persone: a livello meccanico sono più perfetti di quanto possiamo esserlo noi, ed hanno capacità incredibilmente sviluppate: ma non hanno anima. […] Il prodotto di un ingegnere è tecnicamente più rifinito della creazione della natura» (Capek, p. 9). Nella fantasia di Capek il robot, artefatto organico, ha comunque un che di macchinico. Pur non avendo un’anima – la si concede infatti con molta parsimonia – è ovviamente animato, ma non è mortale, al limite si guasta.

«HELENA: Perché… perché? Se non volete dare loro un’anima, perché allora volete dare loro il dolore?

GALL: Per ragioni industriali, signorina Glory. I robot a volte si danneggiano perché non sentono il dolore.»

[…]

«HELENA: Saranno più felici provando il dolore?

GALL: Al contrario. Ma saranno tecnicamente più perfetti» (Ivi, p. 14).

Robot organici a somiglianza umana diversificati nei caratteri sessuali, ma assenti di pulsioni, anch’essi muniti di corpi edenici la cui immagine seppur diversa non rimanda a nessuna differenziazione, non segna nessuna appartenenza. Corpo edenico e corpo robotico celebrano l’indifferenza sessuale, le false appartenenze. Tra questa indifferenza originale e futuribile, in questo spazio transitorio, sopravvivono soltanto le ruolizzazione secondarie: «C’è un certa richiesta, capisce? Impiegate, segretarie, hostess: sono molto richieste […]» (p. 16). Poi, poi piccole correzioni nel processo produttivo portano la coscienza. L’artefatto diviene senziente e prova emozioni.

Oltre la materia e lo spirito c’è un terzo piano: l’informazione. La forma, l’intellegibilità delle cose, è informazione che le descrive staccandole dal caos primigenio che fa loro da sfondo. Informazione anche genetica, cromosomica, comunque pacchetti di dati. Si apre la possibilità della manipolazione, della operatività algoritmica, macchinica dell’esistente e dell’esistenza. Di ogni cosa che per essere deve prendere forma. Forse anche della coscienza, probabilmente anche delle emozioni. Possibilità che si aprono e si chiudono intorno ai limiti che fanno essere certi usi rimedio o veleno. Che fanno cioè – per usare un linguaggio già citato precedentemente – di questa potenzialità una farmacologia.

Ma come manipolano le emozioni le macchine? L’approccio è il solito, lo stesso che ha permesso alle macchine di battere avversari umani a scacchi o al gioco del go. Non è riuscire a ipotizzare tutte le possibili mosse e contromosse che fa loro scegliere, ma l’auto esercitazione su un dataset di partite giocate o semplicemente simulate che fa loro scegliere la mossa che ha più probabilità statistiche di essere quella più appropriata. Si tratta di un approccio black-box con il quale si potrà provare ad istruire la macchina per riconoscere e poi simulare le emozioni. Questa volta il dataset conterrà stimoli emotivi e le corrispondenti emozioni provate dai tester. Con tutto questo si allena l’algoritmo prescelto, che potrà essere una rete neurale, una SVM, una Random Forest o altro (vedi qui). Ma il modello non deve trovare una corrispondenza univoca tra emozione e situazione nella quale essa si presenta in modo tale da riconoscere l’emozione anche in situazioni diverse cosicché una parte dell’addestramento si occuperà proprio di questo. Occorrerà poi suddividere i dati e tenerne una parte esclusivamente per il testing finale, eventualmente usando metodi di cross-validazione. Si otterrà così un sistema in grado di riconoscere e simulare le emozioni “di quel dataset”, e la bontà del modello dipenderà da quanto il dataset sarà effettivamente aderente alla realtà. Qui nasce una delle problematiche. Il sistema riconosce un’emozione a partire dall’insieme delle situazioni nelle quali essa si manifesta costruendo un pattern che può assomigliare a quella specifica configurazione delle rete neuronale umana sottoposta a stimoli elettrochimici provocati dall’emozione stessa, ma le associazioni fatte dagli umani non sono, anche materialmente, le stesse fatte dall’algoritmo. Non si tratta semplicemente della differenza tra analogico e digitale; non c’è stata trasduzione dei segnali, si tratta invece di piani e ambiti totalmente diversi che casualmente si incrociano per un tot di volte che si assumono essere significatamene validi e perciò con-validanti la risposta del sistema.

L’altro aspetto è quello che se è difficile descrivere e circoscrivere un’emozione, lo è ancora di più il fatto di misurarla, di darne cioè una rappresentazione oggettiva tale da poter costituire l’oggetto per il suo uso algoritmico. Si va dalle espressioni facciali, ai toni della voce, all’accelerazione delle pulsazioni, al cambio della colorazione del volto, alla sudorazione etc. Ma l’algoritmo lavora non sulla realtà ma su una realtà ipotetica statisticamente probabile. Oltretutto, per fare questo, Il sistema funzionerà in maniera abbastanza “efficiente” soltanto in presenza di copiose masse di dati avvantaggiando così i grandi colossi dell’informatica che già li possiedono. L’esistenza di quello che viene chiamato affective computing rimanda non tanto a un suo uso all’interno delle strategie di marketing, ma anche a quando cercherà di indurre negli umani quelle emozioni utili al suo tornaconto. Le piattaforme informatiche potrebbero allora suggerire o addirittura richiedere ai propri utenti una reazione prestabilita, provocando così un’omogeneizzazione delle emozioni. Questo perché, occorre ricordarlo, tutta l’ideologia che sta dietro all’infosfera digitale capitalistica ha tre piani di azione. Il primo è la profilazione usato principalmente per delle offerte di mercato personalizzate; il secondo è il piano della predizione per dedurre il tuo comportamento nel mercato, ma anche come fase intermedia per il terzo che è quello che si occupa di permettere che certe predizioni si avverino o impedire che altre non si traducano in realtà, portando a compimento il sogno di ogni venditore o di ogni despota che è quello di imporre ai clienti o ai cittadini le scelte più adatte ai loro tornaconti. Il controllo, infatti, se non andasse nella direzione di un condizionamento dei comportamenti, sarebbe fine a se stesso e totalmente inutile.

La macchina digitale capitalistica è una macchina che tendenzialmente produce utopie di parte. È una macchina desiderante che cerca di realizzare i sogni del padrone della macchina.

Se ai robot di Rossum gli umani hanno inizialmente disattivato le funzioni emotive per farli essere adatti ad ogni specie di lavoro, similmente si potrà avere che le macchine guidate e programmate dal Capitale Digitale facciano la stessa operazione: pilotino e stravolgano il campo emotivo umano in maniera tale da ridurci come i robot originali di Rossum, rendendo conto così del senso nativo del termine robot che in lingua ceca rimanda infatti, come detto sopra, direttamente alla schiavitù.

I robot non hanno sostituito gli uomini e le donne, perché siamo in una fase nella quale sta succedendo il contrario: gli umani sono ridotti a robot, sono macchine produttive, pura prestazione fisica coordinata e regolata da algoritmi dell’efficienza che guidano le macchine di Uber, le biciclette di Justeat, gli addetti che si muovono nei magazzini di Amazon, tutti coloro che si ammazzano di lavoro in tutto il comparto della logistica. Se l’automazione, con la conseguente serializzazione produttiva, ha fatto crollare il costo produttivo delle merci, provocando anche una crisi da sovrapproduzione, il costo della manodopera per il delivery avrebbe però reso vana ogni miglioramento produttivo. Il comando algoritmico ha invece aperto un’altra strada che comporta la schiavizzazione degli umani per mezzo di apparati tecnici legati alla rivoluzione digitale.

Il prossimo passo sarà quando il costo complessivo delle macchine digitali diventerà competitivo rispetto all’uso di manodopera umana diretta dalle macchine. Per esempio le auto a guida automatica. Si concretizza allora l’intuizione di Rosa Luxemburg che prospettava un ripetersi della fase di accumulazione originaria del capitale a partire dalla saturazione del mercato provocata dall’impoverimento della popolazione. È su questo piano che si manifesta l’interesse del capitale per i beni comuni che tramite dispositivi di recinzione (enclosure) privatizza e mette a valore i commons sino ad allora estranei al mercato. Tipico esempio di enclosure all’epoca del Capitalismo Digitale sono le piattaforme attraverso le quali la sanità e l’istruzione sono sempre più in mano privata. Il registro elettronico e le piattaforme digitali per lo smart working e per lo smart learning per quanto riguarda l’istruzione. L’uso dei brevetti sulla vita, e quello sulla cosiddetta proprietà intellettuale che portano al monopolio dei semi in agricoltura, alla agricoltura di precisione (ne parleremo più avanti) e all’espansione di Big Pharma. Se le recinzioni delle terre comuni adibite al pascolo aveva portato all’allevamento in stallaggio del bestiame e all’esplosione della dieta carnivora, la serializzazione del comparto, permessa anche dalla rivoluzione elettronica, ha costretto gli animali in allevamenti concentrati e intensivi con il conseguente impoverimento della varietà delle razze acuito anche dai ritrovati del comparto biotecnico. Dieta carnivora che si concentra così anch’essa su poche specie animali: il bue, il maiale, il pollo e il tacchino.

Si prospetta una contrazione del mercato con uomini e donne che non possono accedere a un salario e quindi al consumo, che si sposterà sempre di più verso l’alto moltiplicando ancora di più le diseguaglianze sociali in un pianeta impoverito e surriscaldato dove pochi ricchi difenderanno i loro privilegi concedendo un salario soltanto alle loro guardie armate.  La lotta di classe è in atto ed in gioco è la consistenza della stratificazione sociale che collassa giorno dopo giorno. L’aggressore è il capitale, ma la risposta degli aggrediti tende a tardare. «Globalizzazione e trent’anni di politiche di destra hanno messo fuori gioco la forza operaia necessaria per avere aumenti di salario, producendo livelli bassissimi di inflazione e, alla fine, effetti di deflazione vera e propria.» scriveva Mark Blyth sul Guardian del nove febbraio del 2016.

Basso livello di conflittualità operaia, alto livello di disoccupazione, dunque, ma un’assurda domanda di orari di lavoro sempre più onerosi per gli occupati per produrre merci delle quali ne abbiamo tutti abbastanza o che sarebbe producibile con poco lavoro umano, sostituibile con quello delle macchine (gli schiavi umani della sottoproletarizzazione del mondo prodotta dalla digitalizzazione dei processi produttivi e di controllo, hanno di fatto un prezzo competitivo). L’aggressività capitalista pare però essere miope di fronte a queste evidenze, ma non se ne capacita. L’importante è in questo caso mantenere in una posizione subordinata i lavoratori salariati. È una superstizione economica la stessa che si manifesta quando «la realtà dell’abbondanza viene tradotta nella griglia semiotica della scarsità» Dice Bifo (p. 189).

Continua…

Karel Capek, Rossum’s Universal Robots – Titolo originale: R.U.R. Ze zjivota hmyzu, Edizioni Scudo, Prima edizione: Gennaio 2011

Gilberto Pierazzuoli, Gioco, giocattoli, robot e macchine umane, Robin, Torino 2016

Franco Berardi Bifo, Futurabilità, Nero, Roma 2018

________________________________________________________

Qui la I parte, Qui la II, Qui la III, Qui la IV, Qui la V, Qui la VI, Qui la VIIQui la VIIIQui la IXQui la XQui la XIQui la XIIQui la XIIIQui la XIVQui la XVIntermezzoQui la XVIQui la XVII Qui la XVIII, Qui la XIX