OFF beweging en manifest | Agenda2029

Onderteken het Manifest

“Dit derde decennium [van de 21e eeuw] zal waarschijnlijk ons lot bepalen. Zullen we de digitale toekomst verbeteren, of juist verslechteren? Wordt het een plek die we thuis kunnen noemen?”

Shoshana Zuboff
Professor aan Harvard University

Inleiding

Technologie kan een prachtig hulpmiddel zijn voor de mensheid, een hulpmiddel waarmee we door de eeuwen heen vele obstakels en problemen hebben kunnen overwinnen. Wij zijn echter van mening, dat het huidige paradigma van technologische ontwikkeling niet volledig aansluit bij de belangen van de mensheid, en dat er dringend behoefte is aan het soort diepgaande publieke bewustwording dat leidt tot een oproep tot harde politieke maatregelen om de controle terug te krijgen. We willen blijven profiteren van de voordelen die technologie ons biedt, zonder gedwongen te worden om enkele van de meest schadelijke gevolgen te dragen die het met zich mee kan brengen, hetzij door opzet, hetzij door gebrek aan regelgeving.

Een aanzienlijk deel van de digitale technologie en AI die momenteel worden gepromoot, bevordert een omgeving waarin de mens kwetsbaar is en zijn vrijheid en integriteit worden bedreigd. Ze lopen het risico dat hun wil geconditioneerd wordt, dat ze niet in staat zijn om autonoom en zonder externe inmenging beslissingen te nemen, dat ze onder een staat van toezicht leven waarin intense controle over hun leven wordt uitgeoefend, of dat ze het steeds moeilijker vinden om de waarheid te achterhalen. Als we dit model laten consolideren en wortel schieten, kan de wereld die door sommige van de huidige technologieën wordt gevormd, onomkeerbaar een wereld worden waarin de mensheid zelf geen plaats meer heeft, omdat de logica die hierbij een rol speelt haar unieke aard en belangen niet erkent. Het zou zelfs kunnen leiden tot het uitsterven van onze soort.

Geconfronteerd met dit existentiële risico voor de mensheid, presenteert dit MANIFEST een reeks dringende maatregelen om de controle over digitale technologie terug te krijgen en ervoor te zorgen dat deze ten dienste blijft van de mens, terwijl de nadelige gevolgen ervan zo effectief mogelijk worden beperkt.

Een Manifesto

De controle over Digitale Technologie terugkrijgen

We staan op een historisch keerpunt, waar de macht van technologie exponentieel groeit en een uitdaging vormt die ongekend is in de geschiedenis van onze soort.

De versnelde technologische implementatie die we meemaken, voltrekt zich bijna zonder enige democratische controle. Omdat de voordelen op korte termijn van veel technologische innovaties vaak gemakkelijker waarneembaar zijn dan de risico’s die ze met zich meebrengen, is de overhaaste invoering van technologische toepassingen – door individuen, professionals, bedrijven, overheden en onderwijsinstellingen – een moeilijk te weerstaan verleiding bij gebrek aan duidelijke barrières en protocollen die de implicaties ervan evalueren en ervoor zorgen dat ze fundamentele rechten respecteren en niet in strijd zijn met ons algemeen belang.

Gezien deze context verwerpen wij de opvatting dat we te maken hebben met een onontkoombaar technologisch determinisme waarvan we slechts toeschouwers kunnen zijn. Integendeel, wij zijn ervan overtuigd dat we actie moeten ondernemen om overeenstemming te bereiken over een kader dat kan worden toegepast om technologische controle over mensen te verminderen en waarin technologische ontwikkeling ten dienste staat van de mensheid en niet andersom.

Volledig manifest op OFFm.org (EN, ES, FR) >>>

WAT WIJ CONSTATEREN
Een zorgwekkende evolutie

Ongeacht de voordelen op het gebied van snelheid en efficiëntie die de huidige technologische ontwikkeling de mensheid biedt, observeren we met bezorgdheid drie dynamieken waardoor technologie waarschijnlijk een fundamentele invloed op de mens zal hebben:

Naarmate de asymmetrie tussen mens en technologie toeneemt, kan technologie door individuen en publieke of private organisaties worden gebruikt om controle over anderen uit te oefenen voor commerciële, veiligheids- of andere doeleinden, waardoor de eigen wil, het onderscheidingsvermogen en de vrijheid van het individu worden verminderd of vernietigd.
Onze individuele en collectieve afhankelijkheid van digitale infrastructuur vormt een kwetsbaarheid die ook kan worden uitgebuit voor kwaadaardige doeleinden – crimineel, terroristisch of ideologisch – waardoor elementen die cruciaal zijn voor ons bestaan, worden verlamd, vernietigd of beschadigd.
Hoe groter de autonomie van technologie, hoe minder menselijke controle. Hoewel machines tot voor kort grotendeels door mensen werden bestuurd, zorgen hun toenemende complexiteit en autonomie ervoor dat zelfs hun makers niet meer begrijpen hoe ze werken, en dat ze steeds vaker bevelen aan mensen geven.

Deze kenmerken van de technologische evolutie hebben nu al een diepgaande invloed op individuen en de samenleving. We zien onder andere:

Een sterke verslechtering van zowel de aandachtsspanne als de geestelijke gezondheid onder de algemene bevolking – met name jongeren – gepaard gaande met een toenemend gevoel van eenzaamheid en isolement. [1]
Een alarmerend ontleren van bepaalde functies die inherent zijn aan de mens (zoals geheugen, oriëntatie, redeneren of kritisch denken), waardoor hun aard kwalitatief verandert en hun afhankelijkheid van technologie toeneemt. [2]
De verstoring van belangrijke verkiezingsprocessen door desinformatiecampagnes, aangewakkerd door grote digitale platforms, die intense sociale en politieke polarisatie aanwakkeren. [3]
Een aanzienlijke toename van de controle die autoritaire staten uitoefenen op hun onderdanen via een geavanceerd surveillancenetwerk gebaseerd op de steeds uitgebreidere verzameling van persoonlijke informatie die wordt verwerkt met behulp van kunstmatige intelligentie. [4]
Een tendens, ook van de kant van democratische staten, om de persoonsgegevens van burgers te verzamelen en buitensporig te exploiteren en hun privacy te schenden door bijvoorbeeld misbruik van gezichtsherkenning. [5]
Een hoge concentratie in de technologiesector, wat betekent dat een zeer klein aantal bedrijven een onevenredig grote macht heeft, waardoor ze de invloed die ze uitoefenen op het leven van burgers kunnen vergroten en hun gedrag, overtuigingen en beslissingen kunnen beïnvloeden. Deze bedrijven hebben ook een dominante positie ten opzichte van andere bedrijven, en soms ten opzichte van natiestaten zelf. [6]
Cyberaanvallen op kritieke infrastructuren – zoals ziekenhuizen of elektriciteitsdistributienetwerken – benadrukken de kwetsbaarheid van een samenleving waarin alle essentiële systemen met elkaar verbonden zijn, in combinatie met het feit dat veiligheidscriteria onvoldoende prioriteit krijgen bij het ontwerp en de implementatie van technologie. [7]
Een steeds belangrijkere impact op het milieu als gevolg van de willekeurige inzet en het intensieve gebruik van technologie: de schadelijke winning van zeldzame aardmetalen voor de productie van apparaten, een exponentiële groei van het aantal satellieten, een toename van de digitale uitstoot van broeikasgassen, de intensieve mining van cryptovaluta, enz. [8]

Deze schijnbaar absurde verschijnselen zijn in feite nauw met elkaar verbonden. Ze vormen de keerzijde van onze ongecontroleerde relatie met technologie, waarvan we het volledige potentieel niet kennen.

WAT WE WILLEN VERMIJDEN
De principes acther onze voorgestelde acties

In een omgeving waarin het menselijk bestaan in al zijn facetten steeds meer wordt geconditioneerd door technologie, weigeren we te accepteren:

Een wereld die wordt geregeerd door machines, waarin technologie een zo hoog niveau van autonomie bereikt dat het volledig aan het menselijk begrip ontsnapt en ons in richtingen kan leiden die we niet hebben gekozen.
Dat criteria, die uitsluitend zijn gebaseerd op optimalisatie, de reikwijdte van menselijke activiteiten zodanig beperken dat onze soort niet alleen gemarginaliseerd wordt, maar ook beroofd wordt van wat het leven zinvol maakt.
Dat handel in menselijke wil en geweten is toegestaan, gebruikmakend van persoonsgegevens en voorspellende modellen die het vermogen van een persoon om te onderscheiden wat hij wil beperken of onmogelijk maken, en daarmee zijn vrijheid verzwakken of vernietigen.
Dat private organisaties exclusief technologieën bezitten die hen een dominante positie geven die macht concentreert, waardoor ze een zeer substantieel deel van het leven van mensen kunnen controleren of conditioneren, een trend die moeilijk te keren is.
Dat het is toegestaan om individuen of groepen mensen te discrimineren of te classificeren en hen toegang te verlenen of te weigeren tot bepaalde bronnen op basis van criteria die door machines zijn vastgesteld, gebaseerd op de exploitatie van gegevens die niet direct verband houden met het doel waarvoor deze categorisering is vastgesteld, wat leidt tot willekeurige of ondoorzichtige resultaten die niet kunnen worden aangevochten of aangevochten.
Dat het kunstmatige karakter van een machine niet kan worden vastgesteld, waardoor verwarring ontstaat tussen het menselijke en het niet-menselijke. Dat technologieën worden gebruikt die, opzettelijk, kunstmatige menselijke representaties als waarheidsgetrouw presenteren.
Staten die technologie gebruiken om buitensporige en alomvattende controle uit te oefenen op hun burgers, met name misbruik van gezichtsherkenning of technologieën die anonimiteit in de openbare ruimte niet garanderen; of het recht opeisen om bewegingen, transacties of enig ander aspect van menselijke activiteit te traceren.
Dat systemische technologieën worden ingezet zonder voldoende beveiligingsmaatregelen en daardoor grootschalige kwetsbaarheden kunnen creëren.
Een steeds dualistischer wordende mensheid, waarin de keuze van een deel van de bevolking om samen te smelten met de machine de rest van de mensheid feitelijk zou dwingen hetzelfde te doen, of zich te onderwerpen aan de macht van eerstgenoemde.

Uiteindelijk geloven we dat we een omgeving moeten creëren die de unieke aard van de mens respecteert en de kans minimaliseert dat technologie wordt gebruikt om hen te vervreemden en hun vrijheid te ondermijnen.

WAT WIJ VOORSTELLEN
Een oproep aan de autoriteiten en het grote publiek

Dit manifest is geenszins bedoeld om technologische ontwikkeling per se tegen te gaan, en we erkennen inderdaad de vele voordelen ervan. Het is eerder bedoeld om politieke autoriteiten en het grote publiek bewust te maken van de prijs die de mensheid betaalt en de risico’s die zij loopt als zij een paradigma van technologische inzet zonder onderscheidingsvermogen en democratische controle blijft accepteren. Ook willen we dringend actie ondernemen om deze kosten te minimaliseren.

Om de vrijheid en waardigheid van individuen als kernwaarden te behouden in een context van groeiende asymmetrie tussen technologie en mens, moeten democratieën hun actieradius grondig herzien en deze rechten feller verdedigen. De inspanningen van sommige staten of regio’s, zowel op het gebied van gegevensbescherming als bij het opstellen van handvesten of verklaringen over de bescherming van digitale rechten (Spaans Handvest 2021, Europese Verklaring 2023 of het Ibero-Amerikaanse Handvest van maart 2023), zijn prijzenswaardig, maar moeten worden geïntensiveerd en op veel grotere schaal worden geïmplementeerd.

We zijn ons ervan bewust dat dit een reële uitdaging vormt voor politieke systemen die geneigd zijn het individu te vertrouwen om zaken te regelen die als privé worden beschouwd. We worden echter geconfronteerd met technologieën die als neveneffect hebben dat ze de individuele vrijheid ondermijnen en onze menselijke eigenschappen aantasten. We begrijpen ook dat economische en geostrategische evenwichten grotendeels afhangen van technologische concurrentiekracht, wat elke maatregel ontmoedigt die als een beperking van de technologische ontwikkeling kan worden gezien. Daarom vraagt deze existentiële uitdaging om ongekende oplossingen, die verder gaan dan “zachte aanbevelingen”.

Ongeacht het niveau van politieke actie, zal een paradigmaverschuiving alleen plaatsvinden als er een daadwerkelijke mobilisatie van burgers plaatsvindt die de nodige druk uitoefent om deze kwestie bovenaan de politieke agenda te plaatsen. Momenteel is de publieke opinie gevoeliger voor de kortetermijnvoordelen van technologische ontwikkeling dan voor de risico’s ervan, die vaak onbekend zijn. Er is behoefte aan debat in het parlement en het maatschappelijk middenveld om de risico’s en voordelen van het heersende technologische paradigma af te wegen en gezamenlijk de waarden te definiëren die de technologische ontwikkeling moeten sturen en kaderen.

We stellen voor om een breed scala aan maatregelen te onderzoeken om de uitdagingen waar we voor staan aan te pakken, waaronder:

1. Wettelijk bindende regelgeving, zoals:

Het verbod op microgerichte reclame.
De grondwettelijke en transnationale bescherming van neurorechten (het verbod op toegang tot onze neurale activiteit en het verzamelen van gegevens met de mogelijkheid om onze mentale activiteit te beïnvloeden).
Internationale wetgeving voor het verbod op autonome dodelijke wapens.
Het streven naar een “technologische de-escalatie” in gebieden waar technologie een bewezen negatieve collectieve impact heeft en de inzet ervan een aanzienlijk risico voor de bevolking vormt.
Een recht op ontkoppeling dat toegang garandeert tot diensten – met name openbare diensten – in een niet-digitale hoedanigheid.
De verplichting van technologiebedrijven om toegang te bieden tot gegevens waarmee derden, binnen het kader van de wet, autonoom kunnen analyseren hoe hun platforms en algoritmen functioneren.
De uitbreiding van protocollen gericht op het valideren van de ethische geschiktheid van algoritmen die door bedrijven en overheden worden gebruikt.

2. Maatregelen die verband houden met industriële productie en marketing, waaronder:

De herintroductie en herwaardering van de “uit”-functionaliteit in het ontwerp van technologische toepassingen en apparaten, waardoor gebruikers deze bewust kunnen in- en uitschakelen.
Bepaalde disruptieve technologieën zijn onderworpen aan strenge regelgeving voordat ze op de markt komen, zoals al het geval is in sectoren zoals de farmaceutische en voedingsindustrie.
Maatregelen om consumenten, investeerders en professionals te informeren, te onderwijzen en te empoweren, zodat hun vraag naar technologie is afgestemd op hun rechten en belangen.

3. Maatregelen op het gebied van onderzoek en onderwijs, zoals:

Een moratorium op de willekeurige introductie van technologie op scholen onder een bepaalde leeftijd.
Meer training voor verschillende leeftijdsgroepen over programmeren en de algemene werking van algoritmen om de asymmetrie tussen technologie en mensen te verkleinen.
Systematische acties gericht op ouders/verzorgers om het bewustzijn te vergroten over de risico’s waaraan jongeren worden blootgesteld.
Het bevorderen van diepgaande studies naar de effecten van specifieke technologieën op het individu en de samenleving, met name op het gebied van cognitieve en gedragsmatige aspecten, welzijn en vrijheid.
Leeftijdsgeschikt gebruik van apparaten, met name smartphones en andere connected devices.
Het reguleren van technologische innovatie is complex en vormt, samen met de milieucrisis, een fundamentele uitdaging voor de mensheid om een vrije soort te blijven. Deze kwestie is te belangrijk om het debat te laten verzanden in sektarische standpunten. Mobilisatie kan niet zo lang worden uitgesteld als met de milieubeweging het geval is geweest, als we een point of no return willen voorkomen. Daarom is er dringend consensus nodig om ervoor te zorgen dat er snelle en voldoende effectieve maatregelen worden genomen om een uitdaging van deze omvang aan te gaan.

Laten we dringend doen wat nodig is om de mensheid de controle over haar eigen lot te geven en haar voortbestaan als vrije soort te waarborgen.