Pour Frank Pasquale lui-même, loin d’être limités, les données et traitements « opaques, invérifiables et incontestables » se sont considérablement étendus depuis 2015 (l’association européenne Algorithm Watch dressait récemment le même constat) et avec eux, s’est étendu l’occultation de réalités sociales complexes, non sans conséquence pour les libertés publiques ou la santé publique. Pour le professeur de droit, dans les débats sur les traitements, nous occultons le contrôle social, politique et économique qu’exercent les systèmes et comment ils faussent les décisions, alors même que nous sommes saturés de récits technosolutionnistes. Le RGPD européen ou le droit à l’explication des traitements a certes ouvert le débat. Mais entre-temps, les traitements ont largement envahi tous les champs de la décision, de la médecine à l’éducation, en passant par les rencontres, l’application de la loi et les décisions commerciales.
***
Pour l’instant, la question de la transparence est plus l’affaire de ceux qui sont victimes des systèmes que de ceux qui opèrent ce travail de surveillance, notamment parce que c’est à eux de montrer qu’ils ont été indûment surveillés ou calculés, comme le souligne désormais le travail d’avocats à traquer les powerty lawgorithms, les décisions automatisées qui s’abattent en cascade sur les plus vulnérables. Jonathan Obar (@CDNJobar) prolonge ce constat en montrant qu’il faut trouver des solutions pour partager plus équitablement le fardeau de la transparence et de l’explicabilité. Or, souligne-t-il, les utilisateurs ne souhaitent pas s’engager dans la transparence : pour cela, il est nécessaire de construire des organisations intermédiaires entre ceux qui développent des systèmes et les utilisateurs finaux, en appelant à développer un nouveau cadre pour la gouvernance des données.
***
le lien entre ces différentes contributions consiste à souligner combien l’imbrication entre l’État et les industries érodent nos capacités d’action. Selon lui, nous devons repenser les relations entre l’expérience privée et l’objectif commun, chercher des alternatives viables à la seule commercialisation et au capitalisme de surveillance que cette commercialisation des données met en place.
http://www.internetactu.net/a-lire-ai...s/la-societe-des-boites-noires-setend
Vote 0
Les signets de cette page sont gérés par un administrateur. 