Movimento e manifesto OFF | Agenda2029

Firma il Manifesto

“Questo terzo decennio [del XXI secolo] probabilmente deciderà il nostro destino. Renderemo il futuro digitale migliore o peggiorerà noi? Sarà un luogo che potremo chiamare casa?”

Shoshana Zuboff
Professoressa all’Università di Harvard

Preambolo

La tecnologia può essere uno strumento meraviglioso per l’umanità, che le ha permesso di superare molti ostacoli e afflizioni nel corso dei secoli. Tuttavia, crediamo che l’attuale paradigma di sviluppo tecnologico non sia del tutto allineato con gli interessi dell’umanità e che vi sia un urgente bisogno di una profonda consapevolezza pubblica che porti a richiedere misure politiche severe per riprendere il controllo. Vogliamo continuare a godere dei vantaggi che la tecnologia ci offre, senza essere costretti a subire alcune delle ramificazioni più dannose che può portare con sé, sia per intenzionalità che per mancanza di regolamentazione.

Una parte sostanziale della tecnologia digitale e dell’intelligenza artificiale attualmente promosse crea un ambiente in cui gli esseri umani sono vulnerabili e la loro libertà e integrità sono minacciate. Corrono il rischio di vedere condizionata la propria volontà, di non essere in grado di prendere decisioni in autonomia e senza interferenze esterne, di vivere in uno stato di sorveglianza in cui viene esercitato un controllo intenso sulle loro vite, o di trovare sempre più difficile discernere la verità. Se permettiamo a questo modello di consolidarsi e affermarsi, il mondo plasmato da alcune delle tecnologie odierne potrebbe diventare irreversibilmente un mondo in cui l’umanità stessa non ha più alcun posto, perché le logiche in gioco non ne riconoscono la natura unica e i suoi interessi. Potrebbe persino portare all’estinzione stessa della nostra specie.

Di fronte a questo rischio esistenziale per l’umanità, questo MANIFESTO definisce una serie di misure urgenti per riprendere il controllo sulla tecnologia digitale e garantire che rimanga al servizio degli esseri umani, contenendo nel modo più efficace possibile le conseguenze negative che presenta.

Un Manifesto

Riprendere il controllo sulla tecnologia digitale

Ci troviamo di fronte a una svolta storica, in cui il potere della tecnologia sta crescendo esponenzialmente e presenta una sfida senza precedenti nella storia della nostra specie.

L’accelerazione della diffusione tecnologica a cui stiamo assistendo avviene con scarso controllo democratico. Poiché i benefici a breve termine di molte innovazioni tecnologiche tendono a essere più facilmente percepibili dei rischi che comportano, l’adozione frettolosa di applicazioni tecnologiche – da parte di individui, professionisti, aziende, amministrazioni, istituzioni educative – è una tentazione a cui è difficile resistere in assenza di barriere e protocolli chiari che ne valutino le implicazioni e garantiscano che rispettino i diritti fondamentali e non violino il nostro interesse generale.

In questo contesto, respingiamo l’idea che ci troviamo di fronte a un determinismo tecnologico inesorabile di cui possiamo solo essere spettatori. Al contrario, siamo convinti che sia necessario agire per concordare un quadro che possa essere applicato per ridurre il controllo tecnologico sugli esseri umani e in cui lo sviluppo tecnologico sia al servizio dell’umanità e non il contrario.

Manifesto completo su OFFm.org (EN, ES, FR) >>>

CIÒ CHE OSSERVIAMO
Un’evoluzione inquietante

Indipendentemente dai vantaggi che lo sviluppo tecnologico odierno offre all’umanità in termini di velocità ed efficienza, siamo profondamente preoccupati da tre dinamiche attraverso le quali la tecnologia probabilmente influenzerà profondamente gli esseri umani:

La crescente asimmetria tra le capacità degli esseri umani e quelle della tecnologia fa sì che quest’ultima possa essere utilizzata da individui o da organizzazioni pubbliche o private per esercitare un controllo sugli altri, sia per scopi commerciali, di sicurezza o di altro tipo, riducendo o annientando la libertà, il libero arbitrio e il giudizio dell’individuo.
La nostra dipendenza individuale e collettiva dalle infrastrutture digitali costituisce una vulnerabilità che può essere sfruttata per scopi dannosi – criminali, terroristici o ideologici – paralizzando, distruggendo o danneggiando elementi fondamentali per la nostra esistenza.
Una maggiore autonomia della tecnologia significa un minore controllo umano. Mentre fino a poco tempo fa le macchine erano in gran parte guidate dagli esseri umani, la loro crescente complessità e autonomia fa sì che la comprensione del loro funzionamento tenda a sfuggire persino ai loro stessi creatori, e le macchine impartiscono sempre più ordini agli esseri umani.

Questi aspetti dell’evoluzione tecnologica stanno già profondamente influenzando gli individui e la società. Tra le altre cose, osserviamo:

Un profondo deterioramento sia della capacità di attenzione che della salute mentale nella popolazione generale, e in particolare nei giovani, accompagnato da un crescente senso di solitudine e isolamento. [1]
Un allarmante disimparare alcune funzioni intrinseche degli esseri umani (come la memoria, l’orientamento, il ragionamento o il pensiero critico), modificandone qualitativamente la natura e aumentandone la dipendenza dalla tecnologia. [2]
La distorsione dei principali processi elettorali attraverso campagne di disinformazione alimentate da grandi piattaforme digitali, che incoraggiano un’intensa polarizzazione sociale e politica. [3]
Un aumento significativo del controllo esercitato dagli stati autoritari sui propri cittadini attraverso una sofisticata rete di sorveglianza basata sulla raccolta sempre più completa di informazioni personali elaborate con l’ausilio dell’intelligenza artificiale. [4]
Una tendenza, anche da parte degli stati democratici, ad accumulare e sfruttare eccessivamente i dati personali dei cittadini e a violarne la privacy attraverso, ad esempio, l’abuso del riconoscimento facciale. [5]
Un’elevata concentrazione nel settore tecnologico, ovvero un numero molto limitato di aziende detiene un potere sproporzionato che consente loro di intensificare l’influenza esercitata sulla vita dei cittadini, condizionandone comportamenti, convinzioni e decisioni. Queste aziende detengono inoltre una posizione dominante rispetto ad altre aziende e, talvolta, agli stessi Stati nazionali. [6]
Gli attacchi informatici perpetrati contro infrastrutture critiche – come ospedali o reti di distribuzione elettrica – evidenziano la vulnerabilità di una società in cui tutti i sistemi essenziali sono connessi, unitamente al fatto che i criteri di sicurezza non sono sufficientemente considerati prioritari nella progettazione e nell’implementazione tecnologica. [7]
Un impatto ambientale sempre più significativo derivante dall’impiego indiscriminato e dall’uso intensivo della tecnologia: l’estrazione dannosa di terre rare per la produzione di dispositivi, la crescita esponenziale del numero di satelliti, l’aumento delle emissioni di gas serra digitali, l’estrazione intensiva di criptovalute, ecc. [8]

Questi fenomeni apparentemente distinti sono, in realtà, strettamente correlati. Rappresentano il rovescio della medaglia del nostro rapporto incontrollato con la tecnologia, il cui pieno potenziale è sconosciuto.

COSA VOGLIAMO EVITARE?
I principi alla base delle nostre azioni proposte

In un ambiente in cui l’esistenza umana, in tutte le sue sfaccettature, è sempre più condizionata dalla tecnologia, ci rifiutiamo di accettare:

Un mondo governato dalle macchine, in cui la tecnologia raggiunge un livello di autonomia così elevato da sfuggire completamente alla comprensione umana e da poterci condurre in direzioni che non abbiamo scelto.
Che criteri basati esclusivamente sull’ottimizzazione riducano il perimetro delle attività umane in modo tale che la nostra specie non solo venga marginalizzata, ma anche privata di ciò che rende la vita significativa.
Che sia consentito strumentalizzare la volontà e la coscienza umana, utilizzando dati personali e modelli predittivi che limitano o impediscono la capacità di una persona di discernere ciò che desidera, indebolindone o annientandone così la libertà.
Che le organizzazioni private possiedano esclusivamente tecnologie che conferiscono loro una posizione dominante, concentrando il potere e consentendo loro di controllare o condizionare una parte molto significativa della vita delle persone, una tendenza difficile da invertire.
Che sia consentito discriminare o classificare individui o gruppi di esseri umani e concedere o negare loro l’accesso a determinate risorse in base a criteri stabiliti dalle macchine, basandosi sullo sfruttamento di dati non direttamente correlati allo scopo per cui tale categorizzazione viene stabilita, portando a risultati arbitrari o opachi che non possono essere contestati o impugnati.
Che il carattere artificiale di una macchina non possa essere identificato, generando confusione tra l’umano e il non umano. Che vengano utilizzate tecnologie che, per definizione, presentano rappresentazioni umane artificiali come veritiere.
Gli Stati che utilizzano la tecnologia per esercitare un controllo eccessivo e pervasivo sui propri cittadini, in particolare abusando del riconoscimento facciale o di tecnologie che non garantiscono l’anonimato negli spazi pubblici; o che rivendicano il diritto di tracciare movimenti, transazioni o qualsiasi altro aspetto dell’attività umana.
Che le tecnologie sistemiche siano implementate senza sufficienti precauzioni di sicurezza e possano quindi creare vulnerabilità su larga scala.
Un’umanità sempre più dualistica, in cui la scelta di una parte della popolazione di fondersi con la macchina costringerebbe di fatto il resto dell’umanità a fare lo stesso o a sottomettersi al potere della prima.

In definitiva, crediamo di dover garantire un ambiente che rispetti la natura unica degli esseri umani e riduca al minimo il potenziale della tecnologia di essere utilizzata per alienarli e minare la loro libertà.

COSA PROPONIAMO
Un appello alle autorità e al pubblico

Questo manifesto non intende in alcun modo opporsi allo sviluppo tecnologico in sé, e anzi ne riconosciamo i numerosi vantaggi, ma piuttosto sfidare le autorità politiche e la società civile sul prezzo che l’umanità sta pagando e sui rischi che si assume se continua ad accettare un paradigma di sviluppo tecnologico privo di discernimento e controllo democratico, e incoraggiare azioni urgenti per minimizzare tale costo.

Per preservare la libertà e la dignità degli individui come valori chiave in un contesto di crescente asimmetria tra tecnologia ed esseri umani, le democrazie devono reinventare profondamente il loro repertorio di azioni e difendere questi diritti con maggiore determinazione. Gli sforzi di alcuni stati o regioni, sia in termini di protezione dei dati che nella redazione di carte o dichiarazioni sulla protezione dei diritti digitali (Carta spagnola 2021, Dichiarazione europea 2023 o Carta iberoamericana del marzo 2023), sono lodevoli, ma devono essere intensificati e implementati su una scala molto più ampia.

Siamo consapevoli che questa rappresenta una vera sfida per i sistemi politici che tendono ad affidare la gestione di questioni considerate private all’individuo. Ci troviamo, tuttavia, di fronte a tecnologie che hanno l’effetto collaterale di prevalere sulla libertà individuale e di influenzare ciò che ci rende umani. Sappiamo anche che gli equilibri economici e geostrategici dipendono in larga misura dalla competitività tecnologica, il che scoraggia qualsiasi misura che possa essere percepita come una limitazione allo sviluppo tecnologico. Pertanto, questa sfida esistenziale richiede soluzioni senza precedenti, che vadano oltre le raccomandazioni soft.

Qualunque sia il livello dell’azione politica, un cambio di paradigma si verificherà solo se ci sarà una reale mobilitazione dei cittadini che eserciti la pressione necessaria per porre questo tema al centro dell’agenda politica. Al momento, l’opinione pubblica è più sensibile ai vantaggi a breve termine dello sviluppo tecnologico che ai suoi rischi, spesso sconosciuti. È necessario un dibattito in parlamento e nella società civile per valutare rischi e benefici del paradigma tecnologico prevalente e definire congiuntamente i valori che dovrebbero guidare e inquadrare lo sviluppo tecnologico.

Proponiamo di esplorare un ampio spettro di misure per rispondere alle sfide che ci troviamo ad affrontare, tra cui:

1. Misure normative giuridicamente vincolanti, come:

Il divieto di pubblicità micro-targettizzata.
La tutela costituzionale e transnazionale dei diritti neurologici (divieto di accedere alla nostra attività neurale e di raccoglierne i dati, con la possibilità di interferire con la nostra attività mentale).
Una legislazione internazionale per la messa al bando delle armi letali autonome.
Il perseguimento di una “de-escalation tecnologica” nelle aree in cui la tecnologia ha un comprovato impatto negativo collettivo e il suo impiego rappresenta un rischio sostanziale per la popolazione.
Un diritto alla disconnessione che garantisca l’accesso ai servizi, in particolare ai servizi pubblici, in modalità non digitale.
L’obbligo per le aziende tecnologiche di fornire accesso ai dati che consentano a terzi, nel quadro della legge, di analizzare autonomamente il funzionamento delle loro piattaforme e dei loro algoritmi.
L’espansione di protocolli volti a convalidare l’adeguatezza etica degli algoritmi utilizzati da aziende e governi.

2. Misure legate alla produzione industriale e al marketing, tra cui:

La reintroduzione e la rivalutazione della funzionalità “off” nella progettazione di applicazioni e dispositivi tecnologici, consentendo agli utenti di accenderli e spegnerli consapevolmente.
Alcune tecnologie dirompenti sono soggette a rigide procedure normative prima di raggiungere il mercato, come già avviene in settori come quello farmaceutico e alimentare.
Misure per educare, informare e responsabilizzare consumatori, investitori e professionisti affinché le loro esigenze tecnologiche siano allineate con i loro diritti e interessi.

3. Misure nel campo della ricerca e dell’istruzione, quali:

Una moratoria sull’introduzione indiscriminata della tecnologia nelle scuole al di sotto di una certa età.
Una maggiore formazione per le diverse fasce d’età sulla programmazione e sul funzionamento generale degli algoritmi per ridurre l’asimmetria tra tecnologia e persone.
Azioni sistematiche rivolte a genitori/tutori per sensibilizzare sui rischi a cui sono esposti i giovani.
La promozione di studi approfonditi sugli effetti di specifiche tecnologie sull’individuo e sulla società, in particolare in termini di problemi cognitivi e comportamentali, benessere e libertà.
Uso dei dispositivi, in particolare smartphone e altri dispositivi connessi, adeguato all’età.
Regolamentare l’innovazione tecnologica è complesso e, insieme alla crisi ambientale, costituisce una sfida fondamentale per la sopravvivenza dell’umanità come specie libera. La questione è troppo importante per permettere che il dibattito si impantani in posizioni settarie. La mobilitazione non può essere rimandata a lungo come è avvenuto con il movimento ambientalista, se vogliamo evitare di raggiungere un punto di non ritorno. Ecco perché è urgentemente necessario raggiungere un consenso che garantisca l’adozione di misure tempestive e sufficientemente efficaci per rispondere a una sfida di questa portata.

Facciamo con urgenza ciò che è necessario affinché l’umanità possa prendere il controllo del proprio destino e garantire la propria permanenza come specie libera.