frenchhope: technologie* + société* + intelligence artificielle*

Les signets de cette page sont gérés par un administrateur.

23 signet(s) - Classer par : Date ↓ / Titre / Vote / - Signets des autres utilisateurs pour ce tag

  1. pour générer toujours plus de croissance, les systèmes automatisés doivent augmenter sans cesse leur complexité. Aucun humain n’est capable de comprendre ce qu’il se passe derrière les écrans : chaque jour, 82,2 ans de vidéo sont téléchargés sur YouTube ; 500 millions de tweets sont échangés, l’équivalent d’un livre de 10 millions de pages ! En 2014 déjà, l’écrivain a passé une semaine sur un porte-conteneur… Et ce qui l’a le plus frappé, c’était de constater combien chaque décision était prise par la technologie. Du grutier au capitaine, chacun recevait des instructions via des algorithmes de gestion, acceptés et respectés sans conteste par des professionnels compétents, quand bien même ces décisions ne se motivaient d’aucune explication. Ainsi, explique-t-il, le capitaine du bateau recevait régulièrement des courriels automatisés lui demandant de ralentir le navire, sans que la compagnie maritime lui en explique la raison. Comme si nous avions déjà lâché prise sur la motivation des décisions et l’explicabilité du monde…

    ***

    Qu’importe, tant qu’il y a de la nourriture et des vêtements dans les magasins, de l’argent dans les distributeurs, des histoires sur notre Instagram… Tout semble désormais se faire tout seul, sans avoir besoin de s’en inquiéter ! Pourtant, ces systèmes complexes peuvent tomber en panne. 2020 par exemple, a permis de constater combien les chaînes d’approvisionnement pouvaient être sous pression, entraînant leurs lots de pénuries. Les chaînes d’approvisionnement subissent également régulièrement les offensives de logiciels malveillants… Pourtant, à ce jour, aucune défaillance n’a été réellement catastrophique, comme si l’effondrement lié à la complexité était finalement bien plus résilient qu’escompté

    ***

    par sa conception même, le réseau de la chaîne d’approvisionnement mondial fait perdurer et accroît les inégalités : son rôle est de tirer parti des écarts de niveaux de vie pour faire produire dans des pays où cette production est la moins chère et expédier les marchandises à l’autre bout du monde pour les vendre à profit. Ces constats se prolongent jusqu’aux plateformes de streaming qui fournissent des contenus de divertissement illimités, au détriment des revenus de ceux qui les produisent. Tout comme le capitaine du porte-conteneur, nous avons de moins en moins de contrôle politique sur nos démocraties elles-mêmes, explique Maughan.

    ***

    au lieu d’élire des dirigeants visionnaires, nous ne faisons en fait que voter pour des cadres intermédiaires dans un système mondial complexe que personne ne contrôle entièrement. Le résultat de cette situation ressemble de plus en plus à un vide démocratique. Nous vivons à une époque où les électeurs ont un niveau record de méfiance envers les politiciens, en partie parce qu’ils peuvent sentir cette déconnexion, soutient Maughan : ils voient dans la réalité quotidienne que, malgré leurs revendications, les politiciens ne peuvent pas apporter de changements, comme si nul ne pouvait plus agir sur le système décisionnel automatisé. Pire, souligne Maughan, nombre de politiques pensent qu’on ne doit pas réparer le système, mais accélérer le processus de déréglementation, c’est-à-dire donner plus de pouvoir encore à l’automatisation en réseau.

    ***

    Pour Humphreys, la non-gouvernance signifie ici plutôt un refus provisoire, stratégique ou conscient de mécanismes de contrôles par rapport aux compétences institutionnelles existantes. Le régime de droit construit pour contenir le changement climatique est imparfait et complexe et s’inscrit dans un vaste réseau d’appareils réglementaires interconnectés. Si la question climatique est d’abord un problème de connaissance que le GIEC éclaire et cartographie, celui-ci ne gouverne pas la politique climatique qui est laissée aux décideurs politiques (ainsi qu’aux organisations internationales, aux institutions scientifiques, aux ONG voire même aux entreprises ou aux individus…). Quand on regarde certains secteurs par exemple, comme le pétrole ou l’aviation, toute la question est de savoir ce qui doit être régi, par qui et comment… et selon quelles pratiques réglementaires. La question de la non-gouvernance ne consiste pas à reconnaître la complexité ou l’incohérence des politiques, mais à comprendre comment leurs interactions peuvent être comprises comme quelque chose de nécessaire, de rationnel ou d’utile, plutôt que comme quelque chose de contingent, irrationnel, erroné ou inévitable.

    ***

    « De fait, c’est peut-être précisément parce que les gouvernements sont noyés par les (en partie) fausses capacitations à prévoir « le » futur qu’ils se retrouvent aussi incapables de dessiner « un » futur. La quasi-certitude de pouvoir juguler la part d’incertitude du monde, diminue plus qu’elle n’augmente la capacité d’agir en situation d’incertitude. »

    ***

    Pour les chercheurs, nous questionnons le poids des défaillances ou des mérites individuels et négligeons les dimensions collectives et organisationnelles des décisions. Nous minimisons les risques et signaux certainement parce que les organisations sont mal équipées pour les faire remonter. « La coopération et la coordination demeurent le maillon faible – le « peu-pensé » – des dispositifs organisationnels », d’où le fait qu’ils sortent des cadres en cas de crise, mais souvent au détriment de ce qui en est exclu (comme les considérations économiques exclues du cadrage très hospitalier de la crise). Dans un monde saturé d’organisations, nous peinons toujours à les organiser ! Certainement parce que cette organisation est intimement liée au pouvoir

    ***

    la non-gouvernance tiendrait plus d’une réponse infrastructurelle aux incertitudes. En ce sens, finalement, l’opacité, la coupure démocratique et l’absence d’éthique semblent plutôt tenir de réponses pour entretenir l’inactionnabilité du monde, un moyen pour réduire, même dans l’adversité, le nombre de ceux qui peuvent gouverner ? Ne pas gouverner n’est pas tant un moyen de désinnover, comme le prônait le philosophe Alexandre Monnin (@aamonnz) dans nos pages, mais plutôt un moyen pour assurer la continuité du monde. Dégouverner, tient du symptôme plus que du remède. Dégouverner, c’est assurément invisibiliser toute gouvernance.
    http://www.internetactu.net/2021/01/06/degouverner
    Vote 0
  2. Pour Frank Pasquale lui-même, loin d’être limités, les données et traitements « opaques, invérifiables et incontestables » se sont considérablement étendus depuis 2015 (l’association européenne Algorithm Watch dressait récemment le même constat) et avec eux, s’est étendu l’occultation de réalités sociales complexes, non sans conséquence pour les libertés publiques ou la santé publique. Pour le professeur de droit, dans les débats sur les traitements, nous occultons le contrôle social, politique et économique qu’exercent les systèmes et comment ils faussent les décisions, alors même que nous sommes saturés de récits technosolutionnistes. Le RGPD européen ou le droit à l’explication des traitements a certes ouvert le débat. Mais entre-temps, les traitements ont largement envahi tous les champs de la décision, de la médecine à l’éducation, en passant par les rencontres, l’application de la loi et les décisions commerciales.

    ***

    Pour l’instant, la question de la transparence est plus l’affaire de ceux qui sont victimes des systèmes que de ceux qui opèrent ce travail de surveillance, notamment parce que c’est à eux de montrer qu’ils ont été indûment surveillés ou calculés, comme le souligne désormais le travail d’avocats à traquer les powerty lawgorithms, les décisions automatisées qui s’abattent en cascade sur les plus vulnérables. Jonathan Obar (@CDNJobar) prolonge ce constat en montrant qu’il faut trouver des solutions pour partager plus équitablement le fardeau de la transparence et de l’explicabilité. Or, souligne-t-il, les utilisateurs ne souhaitent pas s’engager dans la transparence : pour cela, il est nécessaire de construire des organisations intermédiaires entre ceux qui développent des systèmes et les utilisateurs finaux, en appelant à développer un nouveau cadre pour la gouvernance des données.

    ***

    le lien entre ces différentes contributions consiste à souligner combien l’imbrication entre l’État et les industries érodent nos capacités d’action. Selon lui, nous devons repenser les relations entre l’expérience privée et l’objectif commun, chercher des alternatives viables à la seule commercialisation et au capitalisme de surveillance que cette commercialisation des données met en place.
    http://www.internetactu.net/a-lire-ai...s/la-societe-des-boites-noires-setend
    Vote 0

Haut de page

Première / Précédent / Suivant / Dernière / Page 1 de 3 Marque-pages / ESPITALLIER.NET: Tags: technologie + société + intelligence artificielle

À propos - Propulsé par SemanticScuttle