A person who wishes to remain anonymous was kind enough to translate Counting the Countless into French!

Transcription d’un exposé que j’ai (Os Keyes, NDT) donné plus tôt cette année (2019, NDT) à l’Université de Seattle.

Bonsoir tout le monde ! Je m’appelle Os, et je suis étudiant.e au doctorat à l’Université de Washington. Selon mon site web, j’étudie le genre, les données, la technologie et le contrôle; il est aussi fait mention que je suis un.e bénéficiaire de la première série des bourses Ada Lovelace. Je suis ici pour des raisons multiples, mais la principale est que j’aime beaucoup présenter des exposés. Plus particulièrement, j’aime les exposés orientés vers la communauté; être centré.e vers mes communautés est important pour moi, et me permet d’assurer l’efficacité de mon travail. C’est pourquoi j’étais très content.e quand, suite à mon dernier exposé ici, le Seattle Non-Binary Collective [Collectif Non-Binaire de Seattle, NDT] est entré en contact. Iels m’ont dit: “il paraît que tu es un.e expert.e en science des données. Pourrais-tu faire un exposé sur les façons que les personnes trans et non-binaires peuvent s’impliquer dans la science des données?”

Je leur ai répondu que pour être parfaitement honnête, je pense que la science des données est une grave menace pour l’existence des personnes queer. Et alors, pour des raisons qui m’échappent, ils ont cessé de répondre ! Qui peut me dire pourquoi ? Alors quand Jodi m’a demandé de choisir ce dont j’aimerais parler dans cette série de conférences / exposés, je me suis dit que j’allais faire un exposé sur ça. Bref, pourquoi je pense que la science des données est une grave menace pour l’existence des personnes queer ?

La difficulté de définir

Commençons par quelques définitions. Que veut-on dire lorsqu’on affirme qu’une personne est queer ? Lorsqu’on affirme qu’il.elle est trans ? Dans les deux cas, il n’existe pas vraiment de définition universelle. L’identité trans est contextuelle, et fluide; elle est aussi autonome. Il n’y a pas de test que l’on peut faire passer à une personne pour déterminer qu’elle est “vraiment” trans, sauf si vous êtes un.e docteur.e ou un.e chercheur.euse en neurosciences ou une personne intolérante (mais là, comme souvent, je me répète).

Par contre, une chose qui ne change habituellement pas est que vivre en tant que personne trans est souvent difficile (https://www.tandfonline.com/doi/abs/10.3109/09540261.2015.1073143). Pas parce que nous sommes trans, mais parce que nous existons dans ce que hooks (bell hooks, NDT) réfère comme étant le “capitalisme patriarcal et suprémaciste blanc”. Nous vivons dans un environnement qui est fondamentalement raciste; fondamentalement construit autour du capitalisme; fondamentalement ancré sur des rôles de genres rigides et oppressants. Comme personnes trans, nous souffrons à cause de toutes ces facettes de la société, tant collectivement qu’individuellement. Les personnes trans et racisées font l’expérience du racisme et de la transphobie, cette dernière découlant de normes patriarcales rigides. Les personnes trans pauvres - dont la majeure partie d’entre nous font parties, étant donné la façon dont la pauvreté est liée avec l’ostracisation sociale - souffrent autant de la transphobie que du capitalisme. Ceux d’entre nous qui sommes en situation de handicap, et qui donc ne rentrent pas dans les normes d’un travailleur “productif”, vivent cette pauvreté de façon décuplée.

La violence administrative

Ces normes et ces formes de violence n’existent pas de façon arbitraire : elles existent comme un système qui s’auto-perpétue, dans lequel nous sommes obligé.e.s de nous conformer au moule de ce qu’une personne “devrait être”. Ceux et celles qui le peuvent sont encouragé.e.s à le faire; celles et ceux qui ne le peuvent pas, ou qui refusent, sont punis. Dean Spade, un extraordinaire penseur des questions trans et de la loi, a inventé le terme de “violence administrative” pour désigner la façon qu’ont les systèmes administratifs comme le droit - gouverné par l’État, par le capitalisme patriarcal et suprémaciste blanc - “de créer des catégories strictes de genre et de forcer les gens à s’y plier comme condition à la satisfaction de leurs besoin fondamentaux”, un exemple commun de cette sorte de violence et de normalisation.

Prenons un exemple; supposons que vous voulez changer le nom et le genre associé à votre numéro de téléphone cellulaire, d’accord ?

1. Vous allez chez le commerçant et ce dernier vous dit que vous avez besoin d’une pièce d’identification légale faisant mention du nouveau nom et du nouveau genre.

2. Alors vous allez voir le gouvernement et vous dites: alors, pourrais-je avoir une nouvelle pièce d’identification ? Et eux de répondre: bien, seulement si vous êtes officiellement trans.

3. Alors vous allez voir un médecin et vous dites: hey, puis-je avoir une lettre confirmant que je suis suis trans ? Et le médecin dit: bien, vous avez besoins des symptômes X, Y et Z.

… et puis, quand vous faites cela, quand vous passez au travers de chaque étape de gatekeeping[0], tout se brise car tout à coup, le nom auquel votre compte bancaire est associé n’existe plus. Vous avez essayé de vous conformer, et vous vous êtes fait.e avoir.

Cette étude de cas démontre bien ce à quoi peut ressembler la “violence administrative” et ce qu’elle fait. Elle renforce la binarité du genre (bonne chance à quiconque veut obtenir une pièce d’identification ne faisant pas mention d’un genre binaire); elle renforce le modèle médicalisé des vies trans; elle communique que le genre n’est pas contextuel, que l’on ne peut être qu’une chose, partout, tout le temp ; elle rend possible le contrôle et la surveillance, parce que désormais, même si l’on met de côté toute ce strict gatekeeping, beaucoup de gens ont transcrit quelque part que vous êtes trans.

Donc: pourrait-on réformer ceci ? Spade nous dirait : non. Ceci - cette préservation stricte des hiérarchies et des normes - est le rôle véritable de l’État. De plus, toute tentative de réformer cela mettent souvent à l’écart les plus marginalisé.e.s d’entre nous; celles et ceux d’entre nous qui ont des marginalités multiples seront encore moins écouté.e.s. Les efforts pour rendre possible la multiplicité des genres sur les documents d’identification sont excellents, lorsqu’on peut se permettre une nouvelle pièce d’identification, et lorsqu’on peut se permettre d’attirer l’attention de l’État, et d’une certaine façon, ces efforts restent contre-productifs (https://www.emeraldinsight.com/doi/abs/10.1108/S1529-212620170000024014). Nous essayons de négocier avec un système qui est fondamentalement en train de nous contraindre.

Définir la science des données

Ceci a pu paraître comme une diversion importante, mais j’aimerais que vous le gardiez en tête pendant que l’on retourne vers la science des données. Qu’est-ce que la science des données, après tout ? Il y a plusieurs définitions mais j’aime bien celle-ci:

    **L'analyse quantitative de quantités massives de données ayant comme objectif la prise de décision.**

Il y a plusieurs éléments dans cet énoncé, alors nous allons le décortiquer.

En premier lieu: analyse quantitative. Un domaine basé sur l’analyse quantitative, sur des nombres, soulève plusieurs questions. Par exemple: que peut-on compter ? Qui peut-on compter ? Si nous avons décidé de prendre une approche quantitative pour tout ce qui concerne l’univers, alors par définition nous nous devons d’exclure toute variable ou tout facteur ne pouvant être résumé de façon propre par des chiffres - et nous devons contraindre et standardiser tout ce qui peut l’être, pour s’assurer qu’il sera aisé d’en faire un résumé.

En deuxième lieu: de quantités massives de données, ces mégadonnées dont on a tellement entendu parler. Une approche issue de la science des données encourage la collection d’autant de données possibles (encore mieux pour vous mesurer). Ces données s’étendent dans le temps: nous devrions avoir autant de votre historique que possible, et ce, dans ce format propre et standard dont nous parlions plus tôt. Elles sont aussi étendues dans l’espace: nous devions être capables de mesurer autant de gens que possible, dans ce format propre et standard. Nos données devraient être collectées en toute occasion, elles devraient être collectées de façon cohérente et perpétuelle, et toute variation qui complique notre collecte de données devrait être éliminée. Le système idéal de science de données est un système qui est optimisé pour capturer et consommer notre monde et notre vie autant que possible.

Et enfin nous avons l’objectif d’accompagnement de la prise de décision, qui est la partie sur laquelle les partisans de la science des données semblent vraiment s’enthousiasmer. Nous pouvons utiliser des systèmes datalogiques (NDT: en anglais dans la version originale, datalogical) afin d’améliorer l’efficacité ou la cohérence ; nous pouvons enlever ce facteur humain, si faillible et irrégulier, dans la façon dont nous prenons des décisions, et nous pourrons alors travailler plus constamment et un million de fois plus rapidement. Ce qui est, après tout, acceptable, en quelque sorte, mais par définition retirer l’humanité d’un système le rend - et bien - inhumain !

Alors, peut-être qu’une définition plus adéquate de la science des données serait:

    **La réduction inhumaine de l'humanité à ce qui peut être compté.**

La violence par les données

Ceci semble concorder avec les travaux de Spade. Ainsi, Anna Lauren Hoffmann (https://twitter.com/annaeveryday), un.e de mes académicien.ne.s et de mes êtres humains et inspiration préféré.e (et je ne dis pas ça simplement parce qu’elle est aussi la personne qui décide si j’obtiens mon diplôme ou non) a créé l’expression “violence par les données “. Sans vouloir être réductrice.eur ou lui voler la vedette, pensons à cette expression comme à la perpétuation de la violence au travers de systèmes logiques de données (NDT, datalogical systems), de la même façon que la violence administrative fait référence à la perpétuation de la violence par le biais des systèmes administratifs.

Il y a tout de même certaines différences; premièrement, l’omniprésence avec laquelle cette violence opère (l’état n’est pas la seule entité perpétuant la violence par les données) et deuxièmement, l’échelle à laquelle elle opère, ainsi que la fluidité de celle-ci. Les systèmes de collecte et de traitement des données sont flexibles, omniprésents et constamment présentés comme le futur: la direction vers laquelle nous devrions pointer. Ils peuvent capturer une plus grande partie de votre vie que le DMV (Department of Motor Vehicles)[1]. Ce n’est pas une coïncidence; c’est le but.

Regardons notre étude de cas précédente; changement de nom !

1. Vous allez chez le commerçant et ce dernier vous dit que vous avez besoin d’une pièce d’identification légale faisant mention du nouveau nom et du nouveau genre.

2. Alors vous allez voir le gouvernement et vous dites: alors, pourrais-je avoir une nouvelle pièce d’identification ? Et eux de répondre: bien, seulement si vous êtes officiellement trans.

3. Alors vous allez voir un médecin et vous dites: hey, puis-je avoir une lettre confirmant que je suis suis trans ? Et le médecin dit: bien, vous avez besoins des symptômes X, Y et Z.

… et puis, quand vous faites cela, quand vous passez au travers de chaque étape de gatekeeping, tout se brise car tout à coup, le nom auquel votre compte bancaire est associé n’existe plus. Vous avez essayé de vous conformer, et vous vous êtes fait.e avoir.

… et alors quand vous trouvez la solution à cela, vous vous déplacardez , et vous vous marquez, pour toujours. Tout le monde et son chien a une trace écrite que vous êtes trans; tous les systèmes de données avec lesquels vous êtes amenés à interagir sont construits de façon à le garder en mémoire, pour aussi longtemps que possible, au cas où cela ne devienne pertinent pour leur modèle. Et même lorsque ce n’est pas le cas, alors un de ces sites webs de vérification d’antécédents, qui utilise des données invalides, inclut votre morinom (NDT, de l’anglais deadname) avec ces données, s’assurant ainsi que vous êtes exposés chaque fois que quelqu’un cherche votre numéro. Votre transition administrative est une aubaine pour vous, mais c’est aussi une aubaine pour le grand nombre de systèmes dédiés à suivre votre parcours de vie, pour leurs propres (et pas nécessairement bienveillantes) fins. Et ce suivi est réducteur; il est effectué uniquement sur les choses qui lui font du sens, de façons qui lui sont acceptables, en vous punissant quand vous vous en écartez.

Marquer & punir

Un exemple de cette punition qui peut être vue comme étant moins centrée sur l’État (ainsi que moins centrée sur la réalité trans) nous vient de Forbes, dans un article sur lequel je suis tombé.e récemment; le sujet était le pistage des achats de nourriture d’une personne, effectué par les compagnies d’assurances médicales. Si vous mangez des aliments bons pour la santé, vous avez une prime plus basse que si vous mangez de la nourriture lui étant nocif.

Pour le moment, nous allons mettre de côté les aspects plus évidents reliés à la quantification de l’apport nutritif de la nourriture. Disons que vous pistez les achats de nourriture par le biais d’une application pour téléphone intelligent et par le biais d’achats en supermarché et en magasin. Qui se fait pister, et qui ne se fait pas pister ? On peut supposer que, si je vais dans un endroit comme Trader Joe’s (magasin américain d’alimentation de type biologique) le système est alors bien intégré et ma compagnie d’assurance obtient toutes mes données. Le hic, c’est que je ne vais pas chez Trader Joe’s: j’habite Central District, et il n’y a absolument rien là-bas sauf le restaurant de poulet frit Chez Ezel, où je me goinfre une fois par mois, et une épicerie de quartier, où je fais mes achats. Et si cette épicerie n’est pas intégrée avec le nouveau système sophistiqué de science de données de ma compagnie d’assurance servant à déterminer les primes, alors selon leur système, je subsiste sur du poulet frit consommé une fois par mois environ, et rien d’autre. J’imagine que ma prime va être plutôt élevée !

Et de même façon qu’avec la violence administrative, nous devons demander: qui sont les personnes les plus affectées par tout ceci ? Le Central District est le quartier noir historique de Seattle; les gens qui sont ainsi pistés sont, de façon disproportionnée, probablement déjà marginalisés, déjà marqués. L’intégration du système avec des objets comme les applications pour téléphones intelligents, pour les rabais et les coupons, efface encore plus les gens sans ces téléphones - qui sont, encore, de façon disproportionnée, les personnes pauvres, immigrantes, ou racisées. L’attribution des coûts de cette réduction au quantifiable et au comptable n’est pas équitable. Et la réponse à cette critique qu’auront les gens en charge du programme sera probablement: tu as raison ! Nous devrions nous assurer qu’il y ait également un système de collecte dans mon épicerie de quartier. Bref: je ne sais pas trop pour vous, mais mon idée d’une solution au problème d’être altérisé.e par des systèmes de pistages omniprésents n’est pas “piste-moi mieux”.

En résumé, le fait est que la version présente de la science des données est fondée sur une vision réductrice de l’humanité - et utilise cette vision pour contrôler et standardiser les chemins que nos vies peuvent suivre, en ne répondant à la critique qu’afin d’élargir le champ de surveillance.

Réformer la science des données ?

Bref: pouvons-nous réformer ces systèmes ? Pouvons-nous jouer avec les variables, les mécanismes de responsabilisation, les humaniser ? Je dirais que non. Avec la violence administrative, Spade souligne qu’une “réforme” ne bénéficie qu’à ceux et celles qui sont moins marginalisé.e.s, tout en légitimant le système et en lui permettant de sauver les apparences, lui permettant ainsi de continuer la violence envers celles et ceux étant réduit.e.s au silence. La même chose est vraie ici, et un exemple intéressant peut être trouvé dans les tentatives de réformer les systèmes de reconnaissance faciale.

En 2018, une personne faisant de la recherche au MIT a publié une analyse intersectionnelle des algorithmes de reconnaissance du genre: des systèmes de reconnaissance faciale qui identifient le genre d’une personne, et qui utilisent cette information afin de guider des décisions, des plus petites (analyses démographiques) aux plus vastes (qui peut accéder aux toilettes). Elle a trouvé que ces systèmes - dont elle souligne la vision essentialiste, biologique de la notion de genre - sont biaisés, plus particulièrement envers les personnes ayant la peau foncée et étant habituellement identifiées comme femmes. Dans un papier ultérieur, elle recommande aux gens construisant ces systèmes de reconnaissance faciale d’utiliser des jeux de données plus diversifiés. Dans d’autres mots, c’est une vision fondamentalement réformiste.

Il y a deux problèmes évidents avec ceci. Le premier est que les systèmes de reconnaissance du genre sont fondamentalement contrôlants et dangereux pour les personnes trans, et ne peuvent tout simplement pas être réformés pour ne pas être violents envers nous. Ils sont construits exactement pour normaliser et réduire une certaine vision du genre. Curieusement , le deuxième article - celui applaudissant l’amélioration de la diversité des données - n’a pas fait mention de la définition restrictive du genre prise par ces systèmes. L’autre problème est qu’inclure plus de personnes dans des systèmes de reconnaissance faciale n’est pas une bonne chose, même pour ces derniers. Comme Zoé Samudzi le note, les systèmes de reconnaissance faciale sont construits pour le contrôle, principalement par les autorités.

Le fait que les visages de personnes noires sont mal reconnus n’est pas le problème avec ces systèmes - et les efforts pour les améliorer en les rendant plus efficaces ne font qu’augmenter l’efficacité d’un système de collecte massif dirigé vers des gens qui sont déjà la cible des autorités pour le harcèlement, la violence physique et d’autres formes de violence.

Ainsi, cette approche réformiste à la reconnaissance faciale - rendre le système plus “inclusif” - n’a pas vraiment réduit la violence subie par les gens qui, dans les faits, en sont victimes. Ce contrôle et cette normalisation est un peu le but de la science des données. C’est nécessaire pour que sa logique fonctionne. Tout ce que les approches basées sur des réformes ont faites est de rendre plus efficace dans leur violence des systèmes déjà violents, sous le couvert d’être éthique et inclusif, tout en sacrifiant les gens - dans ce cas-ci, les personnes trans de couleur.

La science des données radicale

En résumé, la science des données telle que construite présentement:

1. Fournit de nouveaux outils de surveillance et de contrôle à l’État et aux entreprises.

2. Exige, de façon discursive et récursive, une plus grande implication dans ces outils lorsque ceux-ci sont déficients.

3. Désire, par le biais de ce contrôle, communiquer des versions standardisées de ce que les humains peuvent être, tout en nous y restreignant.

Cela ne me semble pas compatible avec le fait d’être queer, à mes yeux. Bien au contraire: cela me semble comme un cadre dont le résultat fondamental est l’élimination de l’essence queer; la destruction de l’autonomie, de la contextualité et de la fluidité, tout ce qui fait en sorte que nous sommes qui nous sommes, et qui est souvent nécessaire à notre sécurité.

Maintenant que ceci est dit: si vous êtes une personne trans ou une personne queer et que vous êtes intéressé.e.s par la science des données, je ne vous dit de ne pas devenir un.e expert.e en science des données sous aucun prétexte: je ne suis pas votre parent, et je comprends que les gens doivent manger pour survivre. J’explique simplement pourquoi je refuse d’enseigner ou de former les gens afin qu’il.le.s le deviennent; pourquoi je pense que les approches réformistes à la science des données sont insuffisantes, mêmes si elles aident, et que vouloir s’insérer dans le domaine de la science des données, même pour réparer le système, est fondamentalement adverse à toute réparation, sauf si la question d’intérêt que l’on se pose est de demander qui est mis de côté par ces ajustements. Vous devez prendre la décision qui concorde avec votre éthique de la sollicitude.

Pour moi, mon éthique de la sollicitude dit que nous devrions travailler sur une science des données radicale; une science des données qui ne soit pas vouée à contrôler, éliminer, assimiler; une science des données ayant pour prémisses la possibilité d’un contrôle autonome des données, qui rende possible des façons diversifiées, plurielles, d’exister; une science des données qui prendrait en compte le contexte et qui ne punirait pas celleux ne participant pas au système.

Je travaille encore sur la façon d’atteindre ces objectifs. En attendant, ce que vous pouvez faire dès maintenant est de construire un contre-pouvoir; des façons alternatives d’exister, de vivre et de savoir. Vous pouvez refuser de participer à ces systèmes, lorsque possible, afin de les délégitimiser. Et vous pouvez vous rappeler que vous n’êtes pas le.a consommateur.trice, mais le consommé.e - vous pouvez choisir de ne jamais oublier que la violence commise par ces systèmes leur est inhérente.

===== [0] Gatekeeping: étapes servant à protéger l’accès à de l’information, à un statut, à un groupe, etc. Traduction littérale: garde-barrière.

[1] Department of Motor Vehicles: Acronyme qui désigne divers agences gouvernementales des États-Unis. Ces agences sont des prérogatives de chaque État fédéré, et une de leurs tâches principales est la délivrance de permis de conduire, qui sont, avec le passeport (lui délivré par l’État fédéral), les principales pièces d’identification possibles pour un.e citoyen.ne des États-Unis. Traduction littérale: département des véhicules motorisés.

=====

Pour plus de renseignements sur la rédaction épicène: Office québécois de la langue française, Banque de dépannage linguistique - Épicène, neutre, non binaire et inclusif: http://bdl.oqlf.gouv.qc.ca/bdl/gabarit_bdl.asp?id=5421 Gouvernement du Canada, Lexique sur la diversité sexuelle et de genre: https://www.btb.termiumplus.gc.ca/publications/diversite-diversity-fra.html