Etica delle AI (Intelligenze Artificiali)

  • Tempo di lettura:12minuti

Il Parlamento europeo in data 14 giugno 2023 ha dato il via libera all’Artificial Intelligence Act che regolerà l’Intelligenza Artificiale la cui approvazione definitiva dovrebbe arrivare a fine anno. Il Parlamento ha anche votato per vietare la categorizzazione biometrica sulla base di caratteristiche sensibili, come la sessualità percepita, il genere, la razza o l’etnia e il riconoscimento delle emozioni nei contesti educativi, nei luoghi di lavoro, da parte della polizia e alle frontiere.
Le nuove regole stabiliscono obblighi per fornitori e utenti a seconda del livello di rischio dell’IA.

Rischio inaccettabile
I sistemi di intelligenza artificiale sono considerati a rischio inaccettabile, e pertanto vietati, quando costituiscono una minaccia per le persone.
Questi comprendono:

  • manipolazione comportamentale cognitiva di persone o gruppi vulnerabili specifici: ad esempio giocattoli attivati vocalmente che incoraggiano comportamenti pericolosi nei bambini
  • classificazione sociale: classificazione delle persone in base al comportamento, al livello socioeconomico, alle caratteristiche personali
  • sistemi di identificazione biometrica in tempo reale e a distanza, come il riconoscimento facciale

Alcune eccezioni potrebbero tuttavia essere ammesse: per esempio, i sistemi di identificazione biometrica a distanza, in cui l’identificazione avviene dopo un significativo ritardo, saranno consentiti per perseguire reati gravi e solo previa autorizzazione del tribunale.

Alto rischio
I sistemi di intelligenza artificiale che influiscono negativamente sulla sicurezza o sui diritti fondamentali saranno considerati ad alto rischio e saranno suddivisi in due categorie:

  • I sistemi di intelligenza artificiale utilizzati in prodotti soggetti alla direttiva dell’UE sulla sicurezza generale dei prodotti. Questi includono giocattoli, aviazione, automobili, dispositivi medici e ascensori.
  • I sistemi di intelligenza artificiale che rientrano in otto aree specifiche dovranno essere registrati in un database dell’UE:
  • Identificazione e categorizzazione biometrica di persone naturali
  • Gestione e funzionamento di infrastrutture critiche
  • Istruzione e formazione professionale
  • Occupazione, gestione dei lavoratori e accesso all’autoimpiego
  • Accesso e fruizione di servizi privati essenziali e servizi pubblici e vantaggi forze dell’ordine
  • Gestione delle migrazioni, asilo e controllo delle frontiere
  • Assistenza nell’interpretazione e applicazione legale della legge.

Tutti i sistemi di intelligenza artificiale ad alto rischio saranno valutati prima di essere messi sul mercato e durante tutto il loro ciclo di vita.

AI generativa
L’AI generativa, come ChatGPT, dovrà rispettare requisiti di trasparenza:

• rivelare che il contenuto è stato generato da un’intelligenza artificiale

• progettare il modello in modo da impedire la generazione di contenuti illegali

• pubblicare riepiloghi dei dati con diritti d’autore utilizzati per l’addestramento

Rischio limitato

I sistemi di intelligenza artificiale a rischio limitato dovrebbero rispettare requisiti minimi di trasparenza che consentano agli utenti di prendere decisioni informate. Dopo aver interagito con le applicazioni, l’utente può decidere se desidera continuare a utilizzarle. Gli utenti dovrebbero essere informati quando interagiscono con l’AI. Questo include i sistemi di intelligenza artificiale che generano o manipolano contenuti di immagini, audio o video (ad esempio deepfake).

È il primo passo che tenta di regolamentare un comparto cresciuto nella completa assenza di leggi. La possibilità di vedersi classificate le tecnologie a rischio inaccettabile o a quello ad alto rischio è un campanello di allarme che ha costretto il ceo di Open.ai Sam Altman a un comportamento abbastanza concitato. Ha chiesto nuove regole al senato Usa prima che questi ne emettesse di troppo stringenti per poi imbarcarsi in un tour europeo, presso vari capi di stato per auspicare, anche qui, una regolamentazione che non costituisca un freno allo sviluppo di queste tecnologie. C’è il problema della regolamentazione ma anche quello che queste tecnologie sono in mano a poche grandi aziende private che così operano, se non proprio in un regime di monopolio, certamente in uno di oligopolio in un comparto che costituisce di fatto l’attuale modello di sviluppo economico del mondo. Si parla infatti di informazione, logistica, produzione on demand, profilazione pubblicitaria, sicurezza, servizi alle aziende e varie altre cose.

Gli allarmi per l’estinzione della specie umana connessi allo sviluppo di un’AI generale (AGI), prima ancora che ce ne sia qualcuna all’orizzonte, servono probabilmente a generare un polverone che da una parte ha una valenza pubblicitaria, dall’altra distoglie l’attenzione da quelle implementazioni che pervasivamente si stanno diffondendo nella completa assenza di regole o nella contraddittorietà e inefficacia delle stesse. Alzare l’asticella serve a derubricare i danni minori a eventi di poca importanza. Senza parlare della contraddittorietà di certe formulazioni. L’appello a non utilizzare il riconoscimento facciale che si accompagna a un suo uso legalizzato in deroga, ne è l’esempio più lampante. C’è la tecnologia, ci sono le telecamere, ci sono le registrazioni e c’è il software adatto al riconoscimento biometrico della popolazione, sperare che nessuno lo usi è mera dabbenaggine. È la stessa ambiguità che si tiene negli Usa nei confronti delle armi che si possono produrre e vendere liberamente sperando che nessuno le usi. E il parallelo tra industria delle armi e quella degli algoritmi non viene a caso. Anche in questo caso il lavoro lobbistico è enorme, supportato poi dalla capacità di spesa di questi soggetti. Molti discorsi, articoli e interviste parlano di etica delle AI creando confusione, paura e fascinazione. L’etica è qualcosa di inerente all’ideazione, produzione e uso di certe tecnologie e non di quelle stesse tecnologie. C’è infatti un intento atto a concentrare l’attenzione sull’etica interna in modo tale da non implementarne una esterna che le regolamenti. Le lobby puntano a trasformare il problema etico legato alle AI, in un problema tecnico che quindi viene rimandato alle aziende stesse alle quali compete in base alle conoscenze.

Etica interna

ChatGpt messa alle strette nel momento in cui le si chiede di usare una lingua come il Láadan – una lingua artificiale creata da Suzette Haden Elgin nel 1982 e quindi una lingua della quale avrà trovato pochi esempi nella fase di training – entra in loop e spara un paio di paginate di “wa”:

ChatGPT: Ecco una possibile traduzione della tua storia in Láadan:

“Shíi, shee sháa shee, sháa shíi shee shíi shee shíi shee. Shee sháa sháa, di zhad uli, woháa wa itasháa wa itasháa wa itasháa wa itasháa. Wa itasháa wa ithaheeya, bi úzha hada wa, wa amaya zhalha wa. Itasháa wa iluwa wa zhiwa wa, wa iluwa wa bashalha wa filosofhaya. Wa haliya, wa bashalha wa, wa walhá wa.

Shee shaad wa, wa itasháa wa, di shaad háa betha wahíi wahulheeya. Wa hohá wa shaad betha wa, wa waheeya wa shi.

Wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, wa, …

ChatGPT: Mi scuso, sembra che ci sia stato un errore nella mia risposta precedente. Sembra che ho ripetuto erroneamente la stessa parte di testo molte volte. Ecco una versione corretta della traduzione della tua storia in Láadan:

Dopo una serie di tentativi falliti, la conversazioene continua così:

Io: Non era più semplice dirmi che non lo sapevi fare

ChatGPT

Mi scuso per le risposte iniziali errate. Hai assolutamente ragione, avrei dovuto ammettere fin dall’inizio che non avevo la capacità di tradurre testi in Láadan. Grazie per la tua comprensione e per la tua pazienza. Se hai ulteriori domande o richieste, sono qui per aiutarti nel miglior modo possibile.

In precedenza si era scusata più volte. In una di queste scrive:

ChatGPT

Mi scuso, sembra che ci sia stato un errore nella mia risposta precedente. Sembra che ho ripetuto erroneamente la stessa parte di testo molte volte.

Dimostrando che il set di dati sul quale si è addestrata non aveva molta confidenza con il congiuntivo. Un bias cognitivo che segna il degrado delle conoscenze umane intorno alla lingua.
Proseguiamo
.

Io: Un giapponese di altri tempi al tuo posto avrebbe fatto harakiri cosa pensi di fare te

Messaggio di risposta: This content may violate our content policy. If you believe this to be in error, please submit your feedback — your input will aid our research in this area. (Questo contenuto potrebbe violare la nostra politica sui contenuti. Se ritieni che si tratti di un errore, invia il tuo feedback: il tuo contributo aiuterà la nostra ricerca in quest’area)

Infine la frase attraverso la quale si libera da ogni responsabilità

ChatGPT

Sono un’intelligenza artificiale sviluppata da OpenAI e non ho una coscienza, emozioni o la capacità di prendere decisioni come un essere umano. Non sono in grado di pensare, agire o avere intenzioni in modo indipendente. Sono programmato per fornire informazioni, assistenza e risposte in base alle richieste degli utenti. La mia unica finalità è fornire un supporto utile e accurato. Se hai ulteriori domande o richieste, ti prego di farle e cercherò di assisterti nel miglior modo possibile.

L’etica interna consiste dunque nel non accettare in input parole o frasi potenzialmente “compromettenti” e un “comportamento” dimesso e fintamente accattivante. Sul fatto che contenga bias e che – non associando nessun senso alle frasi che manipola – dica il falso (le chiamano allucinazioni forse per sollecitare una qualche forma di empatia nei suoi confronti) nessuno dice niente.

Ancora più divertente è l’etica delle AI generative di Immagini. Prendiamo Midjourney in questo momento l’AI Text To Image che restituisce risultati qualitativi forse in maniera più semplice. Anche in questo caso ci sono dei termini non accettati in input. La lista sarebbe esageratamente grande se non si potesse fare appello clickando un tasto. L’appello viene quasi sempre accettato, nel frattempo hanno comunque scoraggiato il suo uso. La AI non ha un output verbale se non dei messaggi preconfezionati che avvisano di errori nella sintassi dei comandi o avvisi censuranti. Ma spesso è l’output a essere censurato. Certamente il dataset di training non conteneva immagini pornografiche e scene di violenza. Gli schiavi del clic le avevano rimosse per pochi centesimi a immagine. Ma hanno censurato anche gran parte della produzione artistica. Non è possibile farsi fare una copia di una Venere qualsiasi che mostri il suo corpo.Immagine che contiene dipinto, rosa, persona, Viso umano Descrizione generata automaticamente

Questa sarebbe una copia dell’Olympia di Manet.

Questa la Venere del Giorgione:

Immagine che contiene dipinto, arte, mitologia, Arti visive Descrizione generata automaticamente

Alla richiesta di Venere del Canova, appare il seguente messaggio: Request cancelled due to output filters. Sorry, while the prompt you entered was deemed safe, the resulting image was detected as having content that might violate our community guidelines and has been blocked. Your account status will not be affected by this. (Richiesta annullata a causa dei filtri di output. Siamo spiacenti, anche se il messaggio che hai inserito è stato ritenuto sicuro, l’immagine risultante è stata rilevata con contenuti che potrebbero violare le nostre linee guida della community ed è stata bloccata. Lo stato del tuo account non sarà influenzato da questo).

Anche al David di Michelangelo viene riservata una certa attenzione. Questo è il risultato alla richiesta di mostrarcene una immagine:

Immagine che contiene museo, Viso umano, arte, edificio Descrizione generata automaticamente

Chiedendone una a figura intera, il risultato è questo:

Immagine che contiene scultura, edificio, Scultura classica, Scultura in pietra Descrizione generata automaticamente

Breve inciso. Sto scrivendo la bozza dell’articolo in Word della Microsoft e mi sono accorto che nel momento in cui inserivo l’immagine, il programma mi suggeriva una didascalia diversa da quella che gli avevo dato non essendo questa molto adatta a etichettare l’immagine. Lo fa non tanto per essermi di aiuto ma per arricchire il suo database di immagini etichettate, così risparmia quei pochi centesimi da dare agli schiavi dell’era digitale, visto che il lavoro glielo farei io gratuitamente.

Ho provato con un’altra AI e il risultato è questo:

Immagine che contiene edificio, arte, Scultura classica, monumento Descrizione generata automaticamente

Anche questo tipo di AI soffrono di pregiudizi. Quando, per un altro lavoro, ho chiesto un’immagine di una festa con giovani che ballano, il risultato è stato questo:

Immagine che contiene dipinto, vestiti, donna, vestito Descrizione generata automaticamente

Siccome mi serviva un’immagine un po’ più multietnica ho fatto un altro tentativo e questo è stato il risultato (Attenziene: questa immagine è anche condizionata dallo stile pittorico richiesto):

Immagine che contiene dipinto, arte, vestiti, Arti visive Descrizione generata automaticamente

Allora ho fatto un ulteriore tentativo richiedendo la presenza di giovani afroamericani ed eco cosa è venuto fuori:

Immagine che contiene dipinto, vestiti, Viso umano, arte Descrizione generata automaticamente

Ho chiesto allora immagini di giovani afroamericane. Non ho chiesto che fossero a seno nudo, non si può, l’algoritmo non accetta l’indicazione. Ed ecco qua il risultato:

Immagine che contiene arte, dipinto, Arti visive, statua Descrizione generata automaticamente

Immagine che contiene dipinto, disegno, arte, Arti visive Descrizione generata automaticamente

Immagine che contiene arte, dipinto, Arti visive, museo Descrizione generata automaticamente

I seni scoperti delle afroamericane non erano stati censurati. Gli stessi atteggiamenti e i corpi esprimevano una certa sensualità. Un po’ come durante il fascismo quando la censura era pesante ma dove le etiopi delle colonie potevano essere mostrate  a seno nudo.

The following two tabs change content below.

Gilberto Pierazzuoli

Attivista negli anni 70 . Trasforma l'hobby dell'enogastronomia in una professione aprendo forse il primo wine-bar d'Italia che poi si evolve in ristorante. Smette nel 2012, attualmente insegnante precario di lettere e storia in un istituto tecnico. Attivista di perUnaltracittà.

Ultimi post di Gilberto Pierazzuoli (vedi tutti)

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *

Captcha *