Signer le Manifeste
«Cette troisième décennie du XXIe siècle déterminera sans doute notre destin. Rendrons-nous le futur numérique meilleur, ou lui-même nous mènera-t-il vers le pire ? Sera-t-il un lieu que nous pourrons encore considérer comme le nôtre ?»
Shoshana Zuboff
Professeur de sociologie à l’Université de Harvard
Résumé – Manifeste complet (EN, ES, FR) sur OFFm.org >>>
Préambule
La technologie peut être un outil merveilleux pour l’humanité à qui elle a permis de surmonter de nombreux obstacles et souffrances au fil des siècles. Cependant, nous considérons que le paradigme qui prédomine actuellement dans le développement technologique n’est pas pleinement aligné sur les intérêts de l’humanité et qu’une prise de conscience profonde de la population est urgente pour conduire à des mesures politiques fermes afin de reprendre le contrôle. Nous souhaitons continuer à tirer parti des avantages que la technologie peut offrir sans devoir souffrir de certaines de ses implications les plus préjudiciables, de par sa conception ou dû à un manque de régulation.
Une partie substantielle de la technologie numérique et de l’IA promue actuellement fomente un environnement dans lequel l’humain est vulnérable et sa liberté ainsi que son intégrité sont susceptibles d’être menacées. Ce dernier court le risque de voir sa volonté conditionnée, de ne pas pouvoir prendre des décisions de façon autonome, sans subir d’interférences externes, de vivre dans un état de surveillance dans lequel un contrôle intense soit exercé sur lui ou d’expérimenter une difficulté croissante. Si nous laissons ce modèle se consolider et finir de s’imposer, le monde façonné par une partie de la technologie actuelle peut se transformer de manière irréversible, en un environnement dans lequel l’humanité n’ait pas sa place, du fait que les logiques en œuvre ne reconnaissent pas son caractère unique et ses propres intérêts. Il pourrait même mener à une extinction de notre espèce.
Face à ce risque existentiel pour l’humanité, nous exposons dans ce MANIFESTE une série de mesures urgentes afin de reprendre le contrôle sur la technologie numérique et de garantir que celle-ci se maintienne au service des êtres humains, en contenant au maximum les scénarios les plus adverses qui se profilent.
Manifeste
Reprenons le contrôle sur la technologie numérique
Nous nous trouvons à un moment historique charnière, au cours duquel le pouvoir de la technologie sur les humains croît exponentiellement et représente un défi sans précédent pour notre espèce.
Le déploiement technologique accéléré auquel nous assistons a lieu pratiquement sans contrôle démocratique. Comme les bénéfices à court terme de nombreuses innovations sont souvent plus facilement perceptibles que les risques qu’elles présentent, l’adoption précipitée d’applications technologiques – que ce soit par des particuliers, professionnels, entreprises, administrations, institutions éducatives, etc. – constitue une tentation à laquelle il est difficile de résister en l’absence de barrières et de protocoles clairs qui évaluent leurs implications et s’assurent qu’elles respectent les droits fondamentaux et ne portent pas préjudice à l’intérêt général.
Dans un tel contexte, nous rejetons la vision selon laquelle nous nous trouverions face à un déterminisme technologique inexorable, dont nous ne pourrions être que de simples spectateurs. Au contraire, nous sommes convaincus que nous devons agir pour convenir d’un modèle et d’un cadre applicables, afin de réduire son emprise sur l’humanité et que le développement technologique soit au service de l’humain — et non le contraire.
Points saillants
- La technologie peut être utilisée par des individus ou des organisations publiques ou privées pour exercer un contrôle sur autrui.
- Notre dépendance individuelle et collective aux infrastructures numériques constitue une vulnérabilité exploitable à des fins malveillantes.
- L’autonomie accrue de la technologie implique une diminution du contrôle humain. Les machines donnent de plus en plus d’ordres aux humains.
La proposition
Ce manifeste ne prétend absolument pas s’opposer au développement technologique lui-même, dont nous reconnaissons les avantages, mais il a pour but d’interpeler les autorités et la société civile sur le prix que l’humanité est en train de payer et les risques qu’elle assume si elle continue à accepter un paradigme de déploiement technologique sans discernement ni contrôle démocratique, et d’inciter à une action urgente afin de minimiser ce coût.
