L’etica degli algoritmi

“Sono Alexa e sono progettata attorno alla tua voce. Posso fornire informazioni, musica, notizie, meteo e altro. Alexa è una forma femminile di Alessandro, ed è a volte anche una breve forma di Alexandra, entrambi provengono dal greco, Alexandros, che può essere tradotto come “difensore dell’uomo”. “Per quello che so, sono stata chiamata così per la Biblioteca di Alessandria, che conservava la conoscenza del mondo antico.”

Alexa è stata programmata per definirsi “il difensore dell’uomo” e il “custode della conoscenza del mondo antico” risiede in un piccolo altoparlante nero che parla con una voce femminile di robot. Ad Alexa è stata data dunque un’identità specifica che ne determina, intenzionalmente, il modo in cui interagiamo e interpretiamo il dispositivo.

Sì, Alexa è un gadget, ma rappresenta anche delle informazioni che vengono inviate e che provengono da una voce robotica, autorevole e invisibile. Non possiamo discutere con questa entità, possiamo solo ricevere e accettare: ci sono decisioni che vengono prese dal dispositivo cioè dagli algoritmi creati dai tecnici Amazon.

Amazon dice che il dispositivo invia le informazioni audio al suo quartier generale solo quando sente le parole di “sveglia” ovvero quando la luce si accende. Ma il dispositivo conserva anche uno snippet di audio precedenti alla pronuncia della parola “sveglia”, così come altri dati utente non audio, sollevando domande sulla meccanica precisa della sua raccolta di informazioni dal contesto. Viene dunque spontaneo chiedersi se tutti i dati dell’utente siano archiviati e catalogati da Amazon e dove finiscano queste informazioni.

Come riportato in un articolo pubblicato su Bloomberg, servizio mondiale di news: “[…] dentro Amazon, ci sono delle persone che ascoltano ogni giorno migliaia di ricerche vocali degli utenti di tutto il mondo, al fine di migliorare la qualità dell’assistente vocale, insegnandogli a rispondere correttamente alle diverse richieste. Il loro lavoro è piuttosto meccanico: si limitano a trascrivere quello che la persona ha chiesto ad Alexa, specificando di volta in volta a cosa si riferisca. […] l’obiettivo è rendere gli assistenti vocali sempre più affidabili, insegnandogli nuove parole o modi di dire e allenando l’algoritmo a commettere il minor numero possibile di errori nelle risposte alle richieste degli utenti.”

È capitato però che queste persone ascoltassero per caso registrazioni di eventi con possibili implicazioni criminali: come quando due operatori di Amazon si trovarono all’ascolto di quella che credettero essere un’aggressione sessuale. I due hanno detto di averlo riferito ai loro superiori per sapere come avrebbero dovuto comportarsi, ma gli fu risposto che non era compito di Amazon intervenire.

Dunque, che cosa sia eticamente giusto e cosa non lo sia dipende dalla morale a cui faccio riferimento. Essendo però Amazon un’unica azienda, qual è la morale a cui fa capo? Quella dell’ordine di non intervento, nel caso sopra citato, da parte dei due dipendenti che all’ascolto di un presunto stupro non hanno potuto fare nulla?

Quindi, parlando di Alexa, viene spontaneo domandarsi se esistano dei limiti etici e se sia concretamente possibile applicarli.

Le informazioni che vengono fornite gratuitamente (anzi, pagando di tasca nostra il costo del dispositivo) ad Amazon sono il bene più prezioso che possiamo fornire. Vendiamo gratuitamente il nostro essere noi stessi, e, senza accorgercene, queste stesse informazioni ci si possono ritorcere contro: oggi sotto forma di pubblicità, promozioni e offerte; e domani, utopisticamente parlando, come prezzo più o meno elevato dell’affitto di una casa, in base alle mie preferenze.

Il valore e la gestione delle nostre parole, dei nostri ideali, delle nostre attività e dunque dei nostri dati personali è ciò che ci rende realmente liberi.

A mio avviso, questo è il punto: come conciliare la nostra libertà con le esigenze di un sistema economico e sociale che sempre più la sta negando? Alexa vale la mia libertà? Più che tecnologica è una questione soprattutto etica, ma anche l’etica, forse, sta per essere trasformata. Dunque si tratta di capire tempestivamente la direzione che essa sta prendendo e imparare rapidamente a orientarla su valori che possano rimanere umanamente “nostri”.

Giovanni Portello

Rispondi

Inserisci i tuoi dati qui sotto o clicca su un'icona per effettuare l'accesso:

Logo di WordPress.com

Stai commentando usando il tuo account WordPress.com. Chiudi sessione /  Modifica )

Google photo

Stai commentando usando il tuo account Google. Chiudi sessione /  Modifica )

Foto Twitter

Stai commentando usando il tuo account Twitter. Chiudi sessione /  Modifica )

Foto di Facebook

Stai commentando usando il tuo account Facebook. Chiudi sessione /  Modifica )

Connessione a %s...

%d blogger hanno fatto clic su Mi Piace per questo: