« Fall of AI » – Un appel de Berlin à lutter contre « l’intelligence artificielle » comme partie intégrante de la domination technologique

Les 15 et 16 mai 2019 aura lieu à Berlin le salon annuel « Rise of AI » (Intelligence Artificielle). C’est le plus grand salon européen sur l’Intelligence Artificielle (IA). En plus des entreprises qui font de la recherche et du développement dans le domaine de « l’Intelligence Artificielle », il y aura aussi des représentants politiques qui veulent faire de l’Allemagne le premier pôle de développement de cette technologie. La politique a proclamé « l’Année de l’IA » et Berlin occupe un rôle important dans ce domaine au niveau mondial. C’est une occasion supplémentaire pour affronter cette attaque technologique contre l’autodétermination, en conflit avec les idées et les structures des grandes entreprises, des institutions et de leurs salons sacrés. Un point de convergence pour toutes les personnes qui veulent bouleverser les plans de la domination, du contrôle et toute ingérence qui va à l’encontre de l’autonomie des individus. Jusqu’au salon « Rise of AI » et au-delà.

Au fait, c’est quoi l’IA ?

« L’Intelligence Artificielle » est aujourd’hui une formule toute faite, qui attire l’attention des start-up technologiques, des investisseurs, etc. Au fil des années, l’IA est devenue une sorte de croyance magique qui projette les rêves et les cauchemars des machines qui deviendraient « intelligentes » et remplaceraient les humains… En réalité, le terme « IA » décrit beaucoup de façons différentes afin de programmer des ordinateurs (c’est-à-dire des algorithmes), avec pour finalité de produire des modèles et des informations, faire des choix et prendre des décisions.
Un certain type d’algorithme « d’IA » est devenu l’un des nouveaux fleurons du capitalisme : les algorithmes de « Machine Learning ». Ces algorithmes « d’apprentissage automatique » sont constitués sur la base de collectes de données initiaux, afin de déterminer les modèles qui seront utilisés pour identifier et classer des objets, des images, des mots, des comportements, etc. De telles collectes de données d’apprentissage ne font généralement pas l’objet d’enquêtes et sont formés par des personnes en fonction de leurs préjugés existants. Par exemple, les femmes et les personnes victimes de racisme sont beaucoup moins présentes dans les données d’apprentissage, car elles sont souvent invisibles et privées de pouvoir dans la société. Concrètement, les algorithmes « d’apprentissage automatique » produisent souvent leurs résultats dans des conditions totalement opaques (algorithmes non publics et données d’apprentissage fonctionnant à distance, sur le parc de serveurs d’une entreprise), en agissant comme une « boîte noire » magique que même ceux qui l’ont conçue ne comprennent pas et qui, avec le temps, augmente les déformations interprétatives.
Ces algorithmes sont à l’heure actuelle couramment associés à la collecte et à l’exploitation en masse (le plus souvent de façon non voulue) de données personnelles et comportementales qui constituent la base du « capitalisme de surveillance ». Les modèles d’apprentissage automatique sont donc utilisés pour prendre des décisions qui peuvent potentiellement avoir un impact critique sur de nombreux aspects de la vie des personnes.

Sa propagation dans tout

L’IA est, en plus d’autres facteurs, en train de changer l’économie et la société, grâce à de puissants processus d’automatisation. Que ce soit dans l’assemblage, l’éducation, la médecine, des services tels que les centres d’appels ou la conduite, mais aussi dans le perfectionnement de la technologie militaire, comme la navigation de drones autodestructeurs – l’IA prend le relais. Les IA sont utilisées par la plupart des principaux fournisseurs de services sur Internet, comme Google, Facebook et Amazon. A l’avenir, nous devrons compter sur le fait que la plupart des appareils ou objets seront équipés de capteurs connectés via Internet aux « fermes de serveurs » des multinationales (« l’Internet des objets », « Internet of Things – IoT« ). Pour être capables de traiter cette masse de données, l’Intelligence Artificielle a besoin de ces Big Data, qui eux-mêmes nécessitent des infrastructures telles que le réseau 5G ou les câbles de fibre optique. En outre, les consommateurs s’habituent peu à peu à un certain standard de vie, qui deviennent alors très vite indispensables. C’est ce que l’on constate actuellement, par exemple avec la connexion permanente au téléphone portable, au smartphone ou encore aux nouvelles « relations » sur Facebook. Bientôt, ce sera la commande vocale de tous ces appareils ou l’assistant personnel qui gérera ta vie. Ces deux choses ont besoin de l’Intelligence Artificielle pour analyser, traiter et réagir à tes commentaires. Eh bien, beaucoup de gens louent ces développements parce qu’ils seraient utiles, innovants et seraient un moyen pour promouvoir l’individualité et la communication partagée. Mais regardons de plus près ce que fait l’IA et comment elle est utilisée.

La collecte de ta vie

Une IA qui apprend toute seule a toujours besoin des Big Data, c’est-à-dire d’énormes quantités de données qui concernent la fonction qu’elle est censée apprendre. Ces données sont basées sur notre environnement, la vie des gens et leurs actions. Ainsi, tout est capturé, converti en données et stocké. Des concepts particulièrement « autonomes », tels que la conduite « autonome », capturent tout ce qui est à portée de main avec toutes les caméras et capteurs possibles, et stockent ces données dans le Cloud du fournisseur. L’IA signifie donc toujours la collecte, la conservation et la catégorisation totales. Personne ne sait ce qu’il adviendra de toutes les photos, géo-données et contenus stockés sur les serveurs de l’IA. Il n’y a plus aucune possibilité d’oubli. Le contrôle est ici un aspect important, car il est essentiel à toute domination, concentrant toujours le pouvoir au lieu de permettre le conflit et sa gestion, le libre-accord et la mutualité comme bases d’une vie libre. Le contrôle permet un cours des choses qui favorise ceux qui ont le pouvoir ou qui utilisent le contrôle pour obtenir le pouvoir. L’IA a besoin de la reconnaissance faciale automatisée, de la recherche de contenu web ou tout autre contrôle basé sur une large collecte de données. Plus une IA dispose de données, plus elle devient efficace. Ainsi, nous alimentons l’IA et le Big Data en divulguant des données privées et en limitant notre liberté de choix et de mouvement. En retour, l’Intelligence Artificielle trie les données et les rend utilisables et contrôlables. Après tout, l’exploitation numérique du temps, des habitudes, des relations, etc., à travers la collecte d’informations, n’est pas seulement basée sur la collecte et le contrôle, mais aussi sur le feedbacks, l’influence et l’orientation. Ce n’est pas que nous sommes tous entièrement contrôlés par l’IA. Cependant, l’IA a déjà une influence considérable sur l’information que nous trouvons, sur nos décisions, sur les personnes avec qui nous communiquons et parfois sur la création de nos besoins et de nos désirs. Nous devrions savoir que le pratique et l’agréable ne sont pas toujours synonymes d’indépendance, d’autodétermination et de liberté et qu’au contraire, ce sont souvent des obstacles.
De plus, les IA sont censées remplacer des activités et des capacités humaines. À l’avenir, le travail deviendra probablement plus automatisé et sera donc effectué par moins des personnes, qui seront davantage spécialisées. Pourtant, les matériaux nécessaires seront probablement extraits du sol et aussi éliminés dans des conditions terribles par les habitants des pays non industrialisés. Une concentration ultérieure du pouvoir, dont l’évolution se manifeste déjà aujourd’hui dans l’influence croissante des grandes entreprises. La spécialisation place toujours ces « élus  » en position de force et cette tendance va s’intensifier de manière drastique.

L’isolement artificiel en toi

De plus, avec l’IA, la domination et le pouvoir interfèrent de plus en plus avec nos besoins, nos préférences et notre vie sociale. Ils prennent en charge de manière efficace des actions qui nécessitaient auparavant des efforts et un engagement social. Cette assistance prive encore plus l’individu de son autodétermination et de son autonomie. Si certaines tâches ne représentent plus un défi pour l’individu, sa capacité à y faire face s’amenuise. Ceux qui ont principalement des relations virtuelles, auront des problèmes sociaux dans la vraie vie, ceux qui utilisent toujours un logiciel d’IA de navigation GPS ne seront pas en mesure de trouver leur chemin sans celui-ci, sans parler du fait de demander à quelqu’un d’autre. Ce sont des exemples très simples des dépendances qui sont créées et auxquelles nous nous habituons. Il devient de plus en plus difficile de se passer de prothèses technologiques, jusqu’à ce que peut-être un jour nous devenions nous-mêmes une prothèse de l’IA. Nous devons aussi nous occuper les uns des autres, surtout si nous voulons vivre ensemble côte-à-côte. Cela inclut des conflits et des interactions qui, pourtant, peuvent être simplement effacés avec un clic sur nos appareils. On pourrait donc dire que l’IA favorise la paresse et la lâcheté, tandis que la liberté exige du courage et de l’initiative individuelle. De plus, les IA déterminent le cadre dans lequel nous fonctionnons et orientent notre attention lorsque, par exemple, nous « googlisons » ou obtenons des suggestions sur Facebook sur des personnes que nous pourrions connaître. Ceux qui s’y habituent oublient la liberté de se dépasser, d’évaluer et de décider par eux-mêmes. Le moment crucial, cependant, est celui du choix, non pas celui du moment où le doigt appuie sur la touche. La liberté d’action exige la liberté de décision ; les structures d’IA sont toujours des espaces fermés qui dictent jusqu’où je peux aller. Et s’il y a un black-out ? A quel point deviendrait-on impuissant ? L’extrême dépendance à l’égard des structures capitalistes, des spécialistes et des assistants limite toujours mon autodétermination sous prétexte de me révéler le meilleur des mondes. Mais il s’agit du monde de ceux qui en tirent bénéfice, gardent le contrôle et nous transforment en toxicos pris dans un filet.

Générer : Bonheur

Mais si nous nous penchons sur la façon dont le développement du matériel informatique et de l’accumulation de données progressent, les logiciels d’IA pourrait gagner énormément de puissance à l’avenir. Ou plutôt, ceux qui les ont programmés ou les contrôlent. A l’heure actuelle, les IA sont encore loin d’être vraiment intelligentes, mais que se passerait-il si un jour elles étaient capables de se programmer par elles-mêmes ? Que se passerait-il si elles avaient accès à des infrastructures sensibles, comme les centrales nucléaires, et considéraient les humains comme étant trop inefficaces ? La croyance totale dans le progrès, dans l’amélioration des technologies, sont portées par les mêmes personnes et structures qui savent qu’elles leur sont utiles. Mais efficacité et progrès ne sont pas la même chose que liberté, joie et bonheur. Ces qualités ne dépendent pas nécessairement des choses matérielles ; elles découlent du développement individuel, de l’intelligence collective et de l’interaction sociale. Il faut donc pratiquer ces choses, et si l’attaque technologique l’empêche, je dois prendre moi-même l’initiative et couper les câbles du réseau.

Le développement et l’utilisation de l’IA sont UN des outils de l’agression technologique. Les structures de la domination se réorganisent, l’exploitation et le contrôle deviennent plus acérés, plus subtils, plus sophistiqués sur le plan psychologique, au départ plus agréables, plus confortables et, surtout, plus pratiques. Dans le même temps, le degré de contrôle et d’influence sur tous les domaines de la vie augmente. Un rêve pour toutes les personnes et organisations qui exercent le pouvoir sur d’autres. Les technologies complexes qui sont si pratiques, même si elles nous privent de notre autonomie, sont utilisées pour étendre ou restructurer les hiérarchies existantes et non pour donner de la qualité à nos vies. Elles sont conçues pour produire de la valeur, aux dépens des utilisateurs et des producteurs, qui se font sérieusement rouler, à savoir la précision et la perfection d’une machine qu’heureusement une vie humaine ne pourra jamais avoir.

Les idées, les personnes et les structures qui transforment ce monde dans ce sens sont vulnérables. Les idées et les pratiques d’autonomie et d’auto-organisation peuvent s’exprimer dans des textes et des attaques contre les responsables, de façon conflictuelle, ainsi que par le sabotage des caméras et des réseaux qui se répandent partout.


Les entreprises qui œuvrent à l’Intelligence Artificielle et autres saloperies à Berlin : maps.fuckoffgoogle.net

[Flyer trouvé à la bibliothèque Kalabal!k de Berlin en vue d’une discussion mardi 14 mai 2019 à 19h00. Traduction de l’allemand publiée sur Indymedia Nantes (et légèrement revue), 12.05.2019]

Ce contenu a été publié dans Contre la science et la technologie, Contre la société de contrôle et de surveillance, avec comme mot(s)-clé(s) , , , , , , , . Vous pouvez le mettre en favoris avec ce permalien.