Publié par : Memento Mouloud | mai 27, 2015

Precrime a commencé

Limelight-inside

La « proposition de projet R&D » diffusée par le laboratoire Teralab de l’Institut Mines-Télécom associé à la société Morpho, filiale électronique du groupe de défense Safran, né de la fusion en 2005 de Snecma et Sagem, ne constitue qu’une première étape, une esquisse dont le titre n’est pas définitif : on hésite entre « Horizon » [fermé] ou « Anticrime » [de masse]. Son but : « Développer un projet d’analyse et de prédiction de la criminalité ». Tout voir, tout écouter comme d’habitude. Une dystopie fumeuse mais qui verra le jour.

« L’objectif du projet s’inscrit dans une démarche de renseignement criminel qui consiste à partir d’une compréhension de la criminalité à anticiper les phénomènes en vue d’une meilleure stratégie de lutte en terme de prévention notamment », phrase qui ne veut rien dire puisque le renseignement porte sur un individu ou des réseaux d’individus et forme des configurations de faits liés entre eux (on pourra donc faire des graphes à tout va), la criminalité sur des artefacts statistiques et juridiques et la prévention, sur les dispositifs qui découragent ou rendent inutiles le recours aux illégalismes qui menacent l’ordre public, lui-même défini par le pouvoir politico-administratif et l’opinion.

« La criminalité » ne peut « être considérée comme un signal déterministe ou aléatoire, elle répond à des critères explicatifs qu’il convient d’identifier afin de pouvoir anticiper de nouvelles occurrences ». On se demandera donc ce qu’est un signal déterministe (un pavlovisme ?), quant aux critères explicatifs ils ne correspondent à rien d’autre qu’à des profils de criminels potentiels. Il s’en suit que le projet a pour objectif d’établir un ensemble de profils à partir de données collectées et traitées selon les règles d’échantillonnage des métadonnées.

Il faut donc intégrer à l’algorithme « un ensemble de variables les plus diverses afin de déterminer celles qui à différents échelons administratifs (villes, départements, régions) sont les plus significatives ». Ces données seront « disponibles en sources ouvertes (Insee, météo, géographie) » et s’ajouteront à « des données d’intérêt criminel » transmises par le SCRC « sous couvert d’une clause de confidentialité ». Par ailleurs, « le plan opérationnel nécessitant une rapidité d’action, des données non structurées pourront être intégrées, à savoir des extractions de blogs ou de réseaux sociaux (Facebook, Twitter…) ».

Nous sommes donc de plain-pied dans « un mode de gouvernement nourri essentiellement de données brutes, signaux infra-personnels et a-signifiants mais quantifiables, opérant par configuration anticipative des possibles plutôt que par réglementation des conduites, et ne s’adressant aux individus que par voie d’alertes provoquant des réflexes plutôt qu’en s’appuyant sur leurs capacités d’entendement et de volonté ». Ce qu’Antoinette Rouvroy nomme la gouvernementalité algorithmique.

Or les algorithmes sont parfois utilisés, aux États-Unis ou encore en Belgique, dans le cadre de l’examen des demandes de libération conditionnelle de détenus. La décision est prise sur la base de modèles prédictifs de la récidive permettant d’en évaluer le risque. Or les modèles d’expertise singent le savoir et fonctionnent sur le modèle de la boîte noire. Ils ne sont jamais soumis à la critique. Aussi tout ce qui est nouveau, tout ce qui n’est pas corrélable, tout ce qui fonctionne sur le mode inconscient et s’ancre dans une corporalité leur échappe largement.

Parmi les applications, les plus connues sont dans le domaine de la finance. Le trading est un cas de décision automatique qui a déjà déclenché un mini-krach, c’est aussi un domaine qui tient pour acquis qu’un aller et retour est le meilleur moyen de piller son prochain ou de le laisser dévasté comme après un bombardement. Les algorithmes sont également utilisés dans le domaine des ressources humaines. Des centres d’appels les utilisent comme aide au recrutement en testant la soumission des candidats à un travail rébarbatif à travers les réseaux sociaux. Des assurances entendent proposer des polices adaptées aux comportements. Traiter l’individu en dividuel devient désormais une industrie et non une simple conjecture. Ce n’est pas l’algorithme qui est monstreux c’est celui qui le pilote et le conçoit.

C’est un dispositif performatif. Il y a une rétroaction sur le comportement des gens. Ces algorithmes ne sont pas un système de prédiction mais de contrôle de l’incertitude, une manière de despotisme bonhomme, pour notre bien.

La plateforme Teralab est un projet commun lancé par l’institut et le Groupe des écoles nationales d’économie et de statistique (Genes), lauréat en 2012 de l’appel à projets big data du Programme d’investissements d’avenir (PIA). Et le responsable du projet, Stéphan Clémençon, est quant à lui le créateur de la chaire « Machine Learning for Big Data », un département travaillant déjà en collaboration avec des partenaires privés comme Critéo, Safran, PSA ou la BNP Paribas.

Le « machine learning » utilise le calcul stochastique mais y ajoute un élément : l’auto-apprentissage de l’algorithme. Celui-ci est conçu pour se reprogrammer, s’adapter et s’améliorer en fonction d’éventuelles nouvelles données, ou de résultats indiquant la nécessité d’un recalibrage. Plus qu’un algorithme, c’est donc une (toute petite) intelligence qui est au travail. Toute petite car l’équivalent du système limbique y est inexistant. « Le machine learning, c’est “comment une machine peut-elle apprendre à décider toute seule ? Comment compresser, représenter et prédire de l’information à partir de données choisies pour servir d’exemples ?” Voilà tout l’enjeu du machine learning »explique de manière anthropomorphe l’institut Télécom ParisTech sur son site. Dans le cas des criminels potentiels, cela se traduit par la surveillance de toute la population sans quoi l’algorithme qui soi-disant apprend tout seul ne déterminera jamais le motif recherché (la particularité qui fait tâche mais quelle particularité ne fait pas tâche ?)

L’algorithme ne pourra pas échapper à une quantité considérable de faux positifs (en l’occurrence, des gens identifiés comme potentiellement suspects et qui se révèlent non coupables). « Supposons un algorithme qui n’a qu’une chance sur 100 de se tromper. Sur 60 millions de personnes, ça fait 600 000 personnes détectées à tort, plus les 1 000 “vrais positifs” qu’on a bien détectés. Donc l’algorithme détecte 601 000 personnes, parmi lesquelles en réalité 1 000 seulement sont de vrais terroristes. L’algorithme détecte alors les terroristes avec une probabilité de 1 000/601 000, soit 1/600, soit 0,02% ».

L’algorithme servira de mémoire de stockage et d’archivage des délits potentiels et vices répertoriés, une véritable mine pour maîtres chanteurs, une manière de scruter la population, d’ausculter les lignes de faille de la culpabilité et les récifs névralgiques où naufrager. Ceux qui nous gouvernent, c’est-à-dire ceux qui sont un jour ou l’autre en position de maîtres s’y attacheront comme on s’attache à un animal domestique, ils en feront un corollaire de la puissance et presque un ami alors que ce qu’ils auront à leur côté sera l’incarnation combinatoire d’un petit flic local programmé par des firmes qui n’en finiront jamais de se prendre pour l’œil divin scrutant les reins et les cœurs et brûlant leurs ennemis d’un seul clic.

Mediapart / Rue 89 / BAM


Responses

  1. gouvernementalité algorythmique, un néologisme qui ne fâche personne
    imaginez que ce soit une entreprise proche de l’estrèmdrouâte qui ponde un logiciel pareil, je vous laisse juge….
    ce serait le retour aux heures les plus ….je vous fait pas de dessin

    • Là ce sont les heures les plus protectrices de notre histoire, une sorte de cocon


Répondre

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion /  Changer )

Photo Google

Vous commentez à l'aide de votre compte Google. Déconnexion /  Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion /  Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion /  Changer )

Connexion à %s

Catégories

%d blogueurs aiment cette page :