La technocratie prend des allures de plus en plus dystopiques
Cet argument est utilisé dans les débats L'Europe occidentale est-elle en déclin ?, La civilisation est-elle en train de s'effondrer ?, L'état global de l'humanité s'améliore-t-il depuis quelques décennies ?, Le capitalisme doit-il être renversé ? et Le néolibéralisme doit-il s'effondrer ?.
Cet argument est une justification de Crise politique, L'Europe occidentale subit un déclin politique et Le capitalisme pervertit tout ce qu'il touche.
Cet argument est une objection à La généralisation d'Internet conduit à une meilleure prise en compte de l'avis des citoyens, Le capitalisme favorise les progrès technologiques qui le sauvent à chaque fois, Le capitalisme pousse à l'invention de nouveaux produits et Les innovations technologiques créent de l'emploi et résolvent les problèmes.
Résumé
Citations
« Le progrès technique n'a pas que des conséquences positives. Plus notre niveau de maîtrise technique augmente, moins nous sommes autonomes. Ce que nous avons gagné en confort, nous l'avons perdu en capacité d'adaptation. Ce que nous avons gagné en pouvoir, nous l'avons perdu en indépendance. »
Cette citation est trop longue
L'extrait retenu est trop long ou mêle des arguments distincts. Supprimez les passages superflus, si besoin en utilisant les crochets [...], ou découpez cet extrait en plusieurs citations centrées chacune sur un argument..« Je pense que les nouvelles technologies exposent notre monde à une menace : celle de la disparition de la démocratie. Depuis la Révolution et les théories des Lumières au XVIIIe siècle, l’Etat est souverain sur un territoire donné. Il surveille les individus selon le modèle du « panopticon », théorie élaborée par le philosophe anglais Jeremy Bentham en 1791. Une haute tour centrale, placée au milieu des bâtiments d’une prison, d’un hôpital ou d’une manufacture, abrite des surveillants qui contrôlent en permanence les individus. Le contrôle est visible et centralisé. Or, aujourd’hui, la souveraineté de l’Etat est bousculée. Son territoire est traversé par des acteurs supra-étatiques, les Gafam (Google, Apple, Facebook, Amazon, Microsoft). Dans le même temps, chaque citoyen, avec son smartphone, peut surveiller son voisin, filmer les policiers, enregistrer des conversations. Nous sommes passés d’une surveillance centralisée par l’Etat à ce que j’appelle une société de la « souveillance » généralisée. Or, si tout le monde voit tout le monde, on ne voit plus personne ! Nous sommes obligés de nous tourner vers les moteurs de recherche et les Gafam, qui sont capables de gérer les grosses masses de données que nous recueillons, pour mettre en relation ces informations. C’est une forme de société féodale qui est en train de réapparaître. Au Moyen Age, une multitude de seigneurs locaux contrôlaient des territoires morcelés, sans tout le temps respecter l’autorité du roi. Le pouvoir était très décentralisé. Les vrais dangers sont là. »
« Mais le « toujours plus vite » du progrès n'enferme pas seulement l'homme dans un désir d'immédiateté toujours plus prégnant, il le fait aussi dériver vers une sorte de toute-puissance : puisque beaucoup de facilités lui sont données, il en arrive à oublier que tout n'est pas maîtrisable et que la « réalité » et ses adversités demeurent. Et, malheureusement, les sociétés de la « satisfaction immédiate » semblent bien avoir fragilisé l'humain qui devient, progressivement, plus intolérant aux frustrations… »
L'extrait retenu est trop long ou mêle des arguments distincts. Supprimez les passages superflus, si besoin en utilisant les crochets [...], ou découpez cet extrait en plusieurs citations centrées chacune sur un argument..« Les progrès technologiques modifient la nature des conflits. Les avancées de l’intelligence artificielle et de l’apprentissage automatique seront au premier plan de cette transformation et refaçonneront la menace que posent à la fois les acteurs étatiques et non étatiques. L’intelligence artificielle renforce l’efficacité des cyberattaques, des attaques physiques et des attaques biologiques, en les rendant plus précises et plus difficilement traçables. En outre, l’exécution des attaques se trouve simplifiée, puisque, grâce à elle, il est possible de se passer en tout ou en partie de l’intervention humaine et de savoir-faire, et il n’est plus nécessaire de se rendre sur place ou d’acquérir des équipements onéreux. De telles attaques sont, dès lors, à la portée du plus grand nombre, même des « loups solitaires » ou des petits groupes.
Les progrès accomplis dans les domaines de l’intelligence artificielle et de l’impression 3-D pourraient faciliter les attaques biologiques grâce à l’automatisation de la conception et de la production des armes et des systèmes associés à leur développement. Les attaques biologiques ont pour objectif de blesser ou de tuer des personnes et du bétail ou d’endommager ou tuer des cultures au moyen de substances toxiques ou en répandant des maladies. Les programmes et les données biologiques sont également exposés à la menace des cyberattaques.
En outre, l’intelligence artificielle a permis de mettre au point des systèmes d’armes létaux autonomes, malgré la forte opposition que la perspective de tels systèmes avait suscitée dans le monde. Ces armes peuvent verrouiller et attaquer une cible spécifique sans intervention humaine, la responsabilité de la vie et de la mort étant dès lors transférée depuis des systèmes moraux humains à des systèmes de données complexes, dénués de toute forme de compassion ou de repère moral. Comment déterminer la responsabilité d’une mort causée par une arme autonome ? Le Secrétaire général de l’ONU plaide en faveur de l’interdiction des armes totalement autonomes en droit international, à l’instar de nombreuses nations.
Grâce à l’intelligence artificielle, des acteurs malveillants peuvent aussi utiliser l’apprentissage profond pour fabriquer des « deepfakes », c’est-à-dire des vidéos authentiques en apparence dans lesquelles on peut voir une personne tenir des propos qu’elle n’a en fait jamais prononcés. Ces « deepfakes » peuvent contribuer à la diffusion de fausses informations, aux divisions et à l’instabilité politique.
La menace prédominante aujourd’hui est sans doute celle posée par les cyberattaques. Selon l'entreprise IBM, leur nombre a doublé au cours des six premiers mois de 2019 par rapport au dernier semestre de 2018. Elles visaient pour la plupart des fabricants, des sociétés pétrolières et gazières et des établissements d’enseignement. Les propriétaires d’infrastructures critiques sont particulièrement exposés à ce risque, les acteurs malveillants cherchant à s’attaquer aux tours de contrôle des aéroports, aux centrales nucléaires, aux hôpitaux et aux barrages. Au cours de l’année écoulée, on a dénombré plus d’une centaine d’attaques de ce type, qui auraient pu mettre en péril la paix et la sécurité internationales. De telles attaques entraîneraient de vastes dégâts matériels et de nombreuses pertes de vies humaines.
D’autres nouvelles technologies numériques aident aussi les acteurs non étatiques à rivaliser avec l’État. Les groupes extrémistes peuvent aujourd’hui s’adresser au grand public au moyen d’Internet, qu’ils utilisent à des fins de recrutement, d’incitation et de propagande, et qui leur permet aussi d’acquérir des armes et de procéder à des transferts de fonds non réglementés. Par ailleurs, les progrès de l’intelligence artificielle offrent de nouveaux instruments à la police et aux agences de contre-espionnage et leur permettent de mettre au point des stratégies pour mieux prévenir les attentats et en identifier les auteurs. Toutefois, la police prédictive a aussi des revers, qui tiennent par exemple aux préjugés raciaux ou religieux, qui sont susceptibles d’entraîner la radicalisation à l’extrémisme violent. »
« C’est vraiment fantastique que nous ayons Internet, que tout le monde considérait au départ comme une grande technologie libératrice qui permettrait une grande liberté humaine. Mais regardez maintenant ce qui lui est arrivé. Il est dominé par quelques monopoles qui collectent nos données et les donnent à toutes sortes de personnages louches qui les utilisent à des fins politiques. »
Références
- « Algocratie » : comment les algorithmes produisent de l’idiocratie, Mr Mondialisation, 6 mars 2023.
- La course au « progrès » nous mène droit dans le mur, Victoria Berni, Mr Mondialisation, 27 juillet 2023.
- IA : l’autorégulation des modèles de fondation mettrait en danger les droits humains, Collectif, Blogs Mediapart, 4 décembre 2023.
