La schiavitù 2.0 e come evitarla

L'articolo originale di Aral Balkan (Slavery 2.0 and how to avoid it: a practical guide for cyborgs) è stato pubblicato sulla rivista tedesca Kulturstiftung des Bundes (Fondazione per la cultura della Repubblica federale tedesca) e poi in traduzione francese su Framablog. Per la versione in italiano ho utilizzato in alcui punti anche le traduzioni francese e tedesca. Un ringraziamento (naturalmente) all'autore e a Framalang il gruppo di traduttori di Framasoft.

Il testo è disponibile anche a questo indirizzo: https://frama.link/r5f7bXda

Per questo articolo ho realizzato anche una versione audio che potete ascoltare da questo link: https://frama.link/cyborg_Balkan

Molto probabilmente sei un cyborg e nemmeno lo sai.

Hai uno smartphone?

Sei un cyborg.

Usi un computer? O vai su Internet?

Cyborg!

Più in generale, se oggi usi una tecnologia digitale e connessa in rete, sei un cyborg. Non devi impiantarti dei microchip. Non devi assomigliare a Robocop. Sei un cyborg perché estendi le tue capacità biologiche usando la tecnologia.

Leggendo questa definizione, potresti fermarti e pensare: "Ma aspetta, gli esseri umani lo hanno fatto per un tempo molto più lungo di quello in cui la tecnologia digitale è esistita”. E avresti ragione.

Eravamo cyborg molto prima che il primo bug entrasse nella prima valvola del primo computer mainframe.

L'uomo delle caverne che brandiva una lancia e accendeva il fuoco era il cyborg originale. Galileo che guardava nei cieli con il suo cannocchiale era sia un uomo del Rinascimento che un cyborg. Quando la mattina ti metti le lenti a contatto, sei un cyborg.

Nel corso della nostra storia come specie, la tecnologia ha migliorato i nostri sensi. Ci ha offerto maggiore padronanza e controllo sia delle nostre vite che del mondo che ci circonda. Allo stesso modo, la tecnologia è stata usata per opprimerci e sfruttarci - come potrà affermare chiunque abbia mai osservato la canna del fucile del suo oppressore.

‘La tecnologia', secondo la prima legge della tecnologia di Melvin Kranzberg, 'non è né buona né cattiva e neanche neutrale. '

Quindi, che cosa decide se la tecnologia contribuisce al nostro benessere, ai diritti umani e alla democrazia o se li deteriora? Cosa distingue la buona tecnologia dalla cattiva tecnologia? E visto che ci siamo, cosa distingue il telescopio di Galileo e le lenti a contatto da Google e Facebook? E perché è importante se consideriamo o no noi stessi come dei cyborg ?

Tutti dobbiamo cercare di capire le risposte a queste domande. Altrimenti il prezzo per non averlo fatto potrebbe essere davvero molto alto. Queste non sono domande solo sulla tecnologia. Sono domande fondamentali su ciò che significa essere umani nell'era del digitale e delle connessioniin rete. Il modo in cui scegliamo di rispondere a queste domande ha conseguenze fondamentali per il nostro benessere, sia personale che sociale. Le risposte che scegliamo determineranno il carattere delle nostre società e, a lungo termine, potrebbero anche avere un impatto sulla sopravvivenza della nostra specie.

La proprietà e il controllo sulla persona nell'era del digitale e della connessione in rete

Immagina un mondo in cui alla nascita ti viene assegnato un dispositivo che ti guarda e ti ascolta e ti segue da quel momento in poi. Può anche leggere la tua mente.

Nel corso degli anni, questo dispositivo registra ogni tuo pensiero, ogni parola, ogni movimento e ogni interazione. Invia tutte queste informazioni su di te a un potente computer mainframe di proprietà di una multinazionale. Lì, questi aspetti della tua persona sono raccolti usando algoritmi per creare una simulazione di te. La multinazionale usa la tua simulazione come un sostituto digitale, un avatar, per manipolare il tuo comportamento.

Il tuo avatar ha un valore inestimabile. È tutto ciò che ti rende ciò che sei (a parte il tuo corpo fisico). La multinazionale comprende che non è necessario avere il tuo corpo fisico per possederti. I detrattori chiamano questo sistema Schiavitù 2.0.

Durante tutto il giorno, la multinazionale sottopone il tuo avatar a dei questionari. Cosa ti piace? Cosa ti rende felice? Cosa ti rende triste? Di cosa hai paura? Chi ami? Che cosa hai intenzione di fare questo pomeriggio? Usa le informazioni che ricava dai questionari per farti fare ciò che vuole. Forse per comprare un vestito nuovo o votare per un certo politico.

La multinazionale è politica. Deve continuare a sopravvivere, crescere e prosperare. Non può essere ostacolata dalle normative. Quindi deve influenzare il discorso politico. Per fortuna, a tutti i politici di oggi è stato assegnato lo stesso dispositivo che è stato assegnato a te alla nascita. Quindi la multinazionale possiede anche i loro avatar. Questo rende molto più facile per la multinazionale ottenere il suo scopo.

Detto questo, la multinazionale non è onnisciente. Può ancora commettere degli errori. Potrebbe dedurre in modo errato - in base ai tuoi pensieri, parole e azioni - che sei un terrorista quando non lo sei. Quando la società ha ragione, il tuo avatar diventa uno strumento inestimabile per manipolare il tuo comportamento. E quando si sbaglia, potrebbe farti finire in prigione. In ogni caso, sei tu quello che perde.

Sembra una distopia fantascientifica cyberpunk, vero?

Sostituisci "la multinazionale" con "Silicon Valley". Sostituisci il potente computer mainframe con "The Cloud" (la nuvola). Sostituisci "il dispositivo" con "il tuo smartphone e il tuo assistente vocale domestico e la tua smart city e il tuo smart questo, quello e quell'altro".

Benvenuto sulla Terra, più o meno ai nostri giorni.

La versione tedesca dell'articolo nella rivista Kulturstiftung des Bundes

Capitalismo di sorveglianza

Viviamo in un mondo in cui una manciata di multinazionali ha un accesso illimitato e continuo ai dettagli più intimi delle nostre vite. I loro dispositivi guardano, ascoltano e seguono le nostre persone, nelle nostre case, sul Web e (sempre più) sui nostri marciapiedi e sulle nostre strade. Questi non sono strumenti che possediamo e controlliamo. Sono gli occhi e le orecchie del sistema socio-tecnologico-economico che Shoshana Zuboff chiama "capitalismo di sorveglianza".

Proprio come nella nostra distopia cyberpunk immaginaria, i "robber barons" (letteralmente: i magnati ladri) della Silicon Valley non si accontentano di guardare e ascoltare. Ad esempio, Facebook ha annunciato alla sua conferenza degli sviluppatori nel 2017 che avevano 60 ingegneri impegnati a leggere letteralmente la tua mente ¹ .

Quando Galileo ha usato il suo telescopio, solo lui ha visto quello che stava vedendo e solo lui sapeva cosa stava guardando. Lo stesso vale per quando metti le lenti. Se Galileo avesse comprato il suo telescopio da Facebook, Facebook, Inc., avrebbe registrato tutto ciò che vedeva. Allo stesso modo, se compri le tue lenti a contatto da Google,arriveranno con fotocamera incorporate e Alphabet, Inc., vedrà ciò che stai vedendo. (Google non produce ancora queste lenti, ma ne ha un brevetto ².Nel frattempo, se sei impaziente, Snapchat fa occhiali con fotocamere incorporate.)

Quando usi una matita per scrivere nel tuo diario, né la matita né il tuo diario sanno cosa hai scritto. Quando scrivi i tuoi pensieri in un documento Google, Google conosce ogni parola.

Quando invii una lettera a un amico per posta ordinaria, l'ufficio postale non sa cosa hai scritto. È un crimine per chiunque altro aprire la busta. Quando invii al tuo amico un messaggio istantaneo su Facebook Messenger, Facebook legge ogni parola.

Quando accedi a Google Play Services su un telefono Android, ogni tua mossa e interazione vengono registrate meticolosamente, inviate a Google, archiviate per sempre, analizzate e utilizzate contro di te davanti al tribunale del capitalismo di sorveglianza.

Prima eravamo abituati a leggere i giornali. Oggi sono i giornali che ci leggono. Mentre guardi YouTube, anche YouTube ti guarda.

Ti sei fatto un'idea.

A meno che noi (come individui) possiediamo e controlliamo la nostra tecnologia, "smart" è un eufemismo per "sorveglianza". Uno smart phone è un dispositivo di tracciamento, una casa "smart"è una cella per gli interrogatori e una città "smart" è un panopticon.

Google, Facebook e altri capitalisti di sorveglianza sono degli allevamenti industriali per esseri umani. Fanno i loro miliardi allevandoti per i tuoi dati e sfruttando questa conoscenza intima della tua vita per manipolare il tuo comportamento.

Sono scanner per esseri umani. Esistono per digitalizzarti, per possedere quella copia digitale e usarla come avatar per diventare ancora più grandi e potenti.

Dobbiamo capire che queste multinazionali non sono anomalie. Sono la norma. Sono la corrente dominante. La corrente principale della tecnologia oggi è uno straripamento tossico del capitalismo clientelare americano che minaccia di inghiottire l'intero pianeta. Qui in Europa non siamo al riparo dalle sue ricadute.

I nostri politici si lasciano rapidamente sedurre dai i milioni che queste multinazionali spendono per le lobby di Bruxelles. Sono ingannati dalla saggezza della Singularity University (non è un'università). Nel frattempo, le nostre scuole si riempiono di Chromebook per i nostri figli. Le nostre tasse vengono abbassate, in modo che i capitalisti di sorveglianza non siano indebitamente ostacolati nel caso volessero ordinare un'altra Guinness. E i nostri policymaker, istituzionalmente corrotti, sono troppo impegnati nell'organizzare conferenze sulla protezione dei dati progettate da Google e Facebook per proteggere i nostri interessi. Lo so, perché l'anno scorso sono intervenuto ad una di queste. L'oratore di Facebook aveva appena lasciato il suo impiegoo presso l'ufficio francese per la protezione dei dati, rinomato per la bellezza e l'efficienza delle sue porte girevoli.

Qualcosa deve cambiare.

E sono sempre più convinto che se questo cambiamento dovesse avvenire, deve partire dall'Europa.

Silicon Valley non risolverà il problema che ha creato. Soprattutto perché le aziende come Google e Facebook non vedono come un problema fare miliardi di profitti. Il capitalismo di sorveglianza non è messo in crisi dai propri criteri di successo. Funziona perfettamente per aziende come Google e Facebook. Si diverono andando in banca mentre ridono in faccia ai legislatori le cui multe ridicole superano a malapena un paio di giorni di entrate. È stato detto che "punibile con la multa" significa "legale per i ricchi" ³. Questo è doppiamente vero quando si tratta di regolamentare società multinazionali da miliardi di dollari.

Allo stesso modo, il venture capital (il capitale di rischio)non investirà in soluzioni che distruggerebbero il modello di business immensamente redditizio che ha contribuito a finanziare.

Quindi, quando vedi iniziative come il cosiddetto Center for Human Technology con investitori di venture capital ed ex dipendenti di Google alla guida, fatti qualche domanda. E magari tieniti qualche altra domanda per le organizzazioni che pretendono di creare alternative etiche pur essendo finanziate da capitalisti di sorveglianza. Mozilla, ad esempio, prende centinaia di milioni di dollari da Google ogni anno ⁴. In totale ha ricevuto da loro più di un miliardo di dollari. Sei contento di affidare a loro la costruzione di alternative etiche? Se vogliamo tracciare un percorso diverso in Europa, dobbiamo finanziare e costruire la tecnologia in modo diverso. Dobbiamo avere il coraggio di allontanarci dai nostri amici di olre Atlantico. Dobbiamo avere la fiducia in noi stessi per dire alla Silicon Valley e ai loro lobbisti che non stiamo comprando ciò che stanno vendendo.

E dobbiamo basare tutto questo su solide basi legali riguardo ai diritti umani. Ho detto "diritti umani?" Intendevo i diritti dei cyborg.

I diritti dei cyborg sono diritti umani

Tradizionalmente, riconduciamo i limiti della persona umana ai nostri confini biologici. Inoltre, abbiamo un sistema legale e giudiziario che tende a proteggere l'integrità di quei limiti e quindi la dignità della persona umana. Chiamiamo questo sistema le leggi sui diritti dell'uomo.

Purtroppo, questa definizione della persona non è più adeguata per proteggerci pienamente nell'era digitale e della connessione in rete.

In questa nuova era, estendiamo le nostre capacità biologiche utilizzando tecnologie digitali e di rete. Estendiamo le nostre menti e noi stessi usando la tecnologia moderna. Pertanto, dobbiamo estendere la nostra comprensione dei confini della persona umana per includere le tecnologie con le quali estendiamo noi stessi. Estendendo la definizione della persona umana, possiamo garantire che le leggi sui diritti umani coprano e quindi proteggano la sua totalità nell'era del digitale e della connessione in rete.

« Cyborg-gal-avi » di Pandora Popstar/Lainy Voom, licenza CC BY-NC-SA 2.0

Come cyborg, siamo esseri frammentati . Alcune arti di noi vivono sui nostri telefoni, altre su un server in qualche luogo, altre ancora su un computer. L'integrità della persona umana nell'era del digitale e della connessione in rete è la somma totale dell'integrità di quei frammenti. Quindi i diritti dei cyborg sono i diritti umani applicati alla persona cibernetica. Ciò di cui non abbiamo bisogno è un insieme separato - probabilmente più ridotto - di "diritti digitali". Ecco perché la Dichiarazione Universale dei Diritti dei Cyborg⁵ non è un documento autonomo, ma un'aggiunta alla Dichiarazione universale dei diritti umani. Se la protezione costituzionale dei diritti dei cyborg è un obiettivo necessario a lungo termine, non dobbiamo però aspettare cambiamenti costituzionali prima di agire. Possiamo e dobbiamo iniziare a proteggerci creando alternative etiche alle tendenze dominanti della tecnologia.

Una tecnologia etica

Viceversa, una tecnologia non etica è uno strumento posseduto e controllato da multinazionali e governi. Promuove i loro interessi a spese dei tuoi. È una trappola scintillante progettata per catturare la tua attenzione, renderti dipendente, tracciare ogni tua mossa e profilarti. È un allevamento industriale travestito da parco giochi.

La tecnologia non etica è dannosa per i nostri diritti umani, per il benessere e per la democrazia.

Piantare semi migliori

La tecnologia non etica è finanziata dal venture capital (capitale di rischio). Il venture capital non investe in un business, investe nella vendita del business. Investe anche in imprese molto rischiose. Un investitore in venture capital nella Silicon Valley investirà, diciamo, 5 milioni di dollari in 10 diverse startup, sapendo che 9 di esse falliranno. Quindi lui (di solito è un lui), ha bisogno di quella decima per essere un "unicorno" da un miliardo di dollari, così da poter ottenere da cinque a dieci volte i suoi soldi. (Non è nemmeno suo il denaro, appartiene ai suoi clienti.) L'unico modello di business conosciuto che nella tecnologia produce questo tipo di crescita è l'allevamento delle persone (people farming). La schiavitù ha pagato bene. Anche la schiavitù 2.0 paga bene.

Non dovremmo sorprenderci del fatto che un sistema che valorizza sopra ogni altra cosa una crescita simile a quella del cancro abbia prodotto tumori come Google e Facebook. Ciò che sorprende è che sembriamo festeggiare i tumori invece di curare il paziente. E ancora più sconcertante, sembriamo ostinatamente determinati ad infettarci con la stessa malattia qui in Europa.

Non dovremmo farlo.

Finanziamo alternative etiche.

A partire dai beni comuni.

Per il bene comune

Sì, questo significa con le nostre tasse. È un po' la funzione per cui esistono (costruire infrastrutture condivise per il bene comune, che promuovano il benessere delle persone e delle nostre società). Se la parola "tasse" ti spaventa o suona troppo antiquata, sostituiscila con "crowdfunding obbligatorio" o "filantropia democratizzata".

Finanziare la tecnologia etica dai beni comuni non significa che i governi possano costruire, possedere o controllare le nostre tecnologie. Né significa che nazionalizziamo società come Google e Facebook. Suddividiamole in parti più piccole. Certo. Regolamentiamole. Naturalmente. Facciamo tutto quello che limiti il più possibile i loro abusi. Ma l'unica cosa peggiore di un panopticon nelle mani di una multinazionale è un panopticon sotto il controllo statale (non che queste due cose si escludano a vicenda).

Non sostituiamo un "grande fratello" con un altro.

Investiamo invece in molte piccole organizzazioni indipendenti senza fini di lucro e assegniamo loro il compito di costruire alternative etiche. E allo stesso tempo facciamole competere tra loro. Prendiamo dalla Silicon Valley ciò che sappiamo funzionare (piccole organizzazioni che lavorano in modo iterativo,che entrano in competizione e che falliscono rapidamente) e rimuoviamo ciò che è dannoso: il venture capital , la crescita esponenziale e il ritiro di capitali.

Invece delle start-up, creiamo in Europa delle stayup .

Invece di aziende usa e getta che o falliscono rapidamente o diventano tumori maligni, finanziamo organizzazioni che o falliscono rapidamente o diventano fornitori sostenibili di bene sociale.

Quando diversi anni fa presentai questo piano al Parlamento europeo, le mie parole caddero nel vuoto. Non è ancora troppo tardi per provarci. Ma ogni giorno che ritardiamo, il capitalismo di sorveglianza diventa sempre più radicato nel tessuto delle nostre vite.

Dobbiamo superare questo fallimento dell'immaginazione e basare la nostra infrastruttura tecnologica su quei principi che sono il meglio dell'umanità: diritti umani, giustizia sociale e democrazia.

Oggi l'UE si comporta come un dipartimento di ricerca e sviluppo gratuito per la Silicon Valley. Finanziamo le startup, che, se hanno successo, vengono vendute alle aziende della Silicon Valley. Se falliscono, il contribuente europeo paga il conto. Questa è una follia.

La Comunità Europea deve smettere di finanziare le startup e investire invece in stayup. Investire 5 milioni di euro in dieci stayup in ogni area in cui vogliamo delle alternative etiche. A differenza di una startup, quando le stayup hanno successo, non se ne vanno. Non possono essere acquistate da Google o Facebook. Restano organizzazioni europee sostenibili e no-profitche lavorano per fornire la tecnologia come un bene sociale.

Inoltre, i finanziamenti per un stayup devono essere accompagnati da una specifica rigorosa del carattere della tecnologia che realizzerà. I beni realizzati con fondi pubblici devono essere dei beni pubblici. La Free Software Foundation Europe sta attualmente sensibilizzando in tal senso con la campagna "denaro pubblico, codice sorgente pubblico" (public money, public code). Tuttavia dobbiamo andare oltre l' "open source" per stabilire che la tecnologia creata dalle stayup deve essere non solo pubblica ma anche impossibile da rinchiudere. Per il software e l'hardware, questo significa usare licenze che sono copyleft . Una licenza copyleft garantisce che se si costruisce su una tecnologia pubblica, è necessario condividere allo stesso modo . Le licenze "condividi allo stesso modo" (share-alike) sono essenziali perché i nostri sforzi non diventino un eufemismo per indicare le privatizzazioni e per evitare una tragedia dei beni comuni. Le multinazionali con enormi risorse finanziarie non devono essere in grado di prendersi ciò che creiamo con fondi pubblici, investirci sopra i loro milioni e non condividere il valore che vi hanno aggiunto.

Infine, dobbiamo stabilire che le tecnologie create da delle stayup sono peer to peer. I tuoi dati devono rimanere sui dispositivi che tu possiedi e controlli. E quando comunichi, devi comunicare direttamente (senza un "uomo nel mezzo" come Google o Facebook). Laddove non è tecnicamente possibile, qualsiasi dato privato controllato da una terza parte (ad esempio un host web) deve essere crittografato end-to-end e solo tu devi avere l'unica chiave.

Anche senza investimenti statisticamente rilevanti nella tecnologia etica, ci sono già piccoli gruppi che lavorano su alternative. Mastodon ⁷ , un'alternativa a Twitter, etica e federata è stata creata da una persona poco più che ventenne. Alcune persone hanno collaborato per creare un progetto chiamato Dat ⁸ che potrebbe essere la base di una rete decentralizzata. Da oltre dieci anni, dei volontari gestiscono un sistema di nomi di dominio non commerciale alternativo chiamato OpenNIC ⁹ che potrebbe permettere a ciascuno di avere il proprio spazio sul Web …

Se anche senza alcun supporto questi semi stanno iniziando a germogliare, immagina cosa potremmo ottenere se iniziassimo ad annaffiarli e a piantarne di nuovi. Investendo nelle stayup, possiamo avviare un cambiamento fondamentale verso la tecnologia etica in Europa. Possiamo iniziare a costruire un ponte da dove siamo verso dove vogliamo andare. Da un mondo in cui le multinazionali ci possiedono attraverso gli avatar a uno in cui apparteniamo solo a noi stessi. Da un mondo in cui stiamo diventando di nuovo una proprietà a uno in cui rimaniamo delle persone. Dal capitalismo di sorveglianza al potere dei peer (peerocracy).