Le data mining va-t-il faire ressurgir les "préjugés" raciaux?

Un algorithm de la police de Chicago prevoit les crimes: mais est-ce raciste?

Lorsque la police de Chicago a envoyé un de ses inspecteurs au domicile de Mac Daniel l’été dernier, le jeune homme de 22 ans en décrochage scolaire fut des plus surpris. Certes il vivait dans un quartier réputé chaud mais le jeune homme n’avait jamais commis de crime ni eu la moindre altercation avec la police. Casier judiciaire vierge, il a déclaré au journal Chicago Tribune « Je n’ai rien fait de pire que les autres enfants qui m’entourent ». Pourtant l’inspecteur de police le met en garde avec un message ferme « Si vous commettez un crime, vous aurez de sérieux ennuis. Nous ne vous quittons pas des yeux. »

Ce que Mac Daniel ignorait c’est qu’il avait été placé en (sic) « liste brûlante » qui est un répertoire de quelque 400 personnes de Chicago susceptibles d’être impliquées un jour ou l’autre dans un crime. Inspirée par des études d’un sociologue de l’université de Yale, la DPC(Department Police of Chicago) transporte la police dans le 21 ème siècle…

Ces systèmes d’analyse prédictive ont été testés par les services de police dans tout le pays depuis des années, mais il n’existe pas de force de police urbaine qui soit allée aussi loin, qui n’est été autant financée que ne l’a été la DPC dans sa quête de prédire la criminalité avant qu’elle ne survienne. Le commissaire Jonathan Lewin, qui est en charge de l’information technologique pour la DPC a dit à The Verge:" « Ce programme deviendra une pratique nationale. Cela informera les services de police américains et du monde entier sur la meilleure façon d’utiliser la police prédictive pour anticiper et résoudre les problèmes. Il s’agit de sauver des vies. » [...]

Source: The Verge

A noter que les algorithmes de fouillage de donnees ne sont pas seulement utiliser dans la police. Ils sont aussi utiliser dans les banques lorsque vous demandez un emprunt, les assurances, etc. Donc on peut imaginer un algorithm qui pourrait par exemple decider, en tenant compte par exemple de votre prenom/nom de famille, si vous etes un bon payeur ou non au moment de souscrire a un emprunt.

Minority Report II ?

Ils en sont bien capables ces cons là.

Pendant que certains cherchent du complot via les Zitis, les Francs-Maçons, les 500 familles, ou je ne sais quelle autre connerie, en voila un joli de complot.

Là, c'est carrément Europol & Interpol la main dans le pot de confiture.....

ça commence comme qui dirait.

Oui ou encore plus precisement comme "Person of interest".

Pas mauvaise cette série soit dit en passant.

Bonjour kyrilluck,

Les humains n’ont de cesse d’établir des relations entre les causes et les effets.

Certaines ont abouti, mais on efface immédiatement, les milliers de démarchent qui se sont avérés inexploitables et fausses, donc nulles.

Au XIXe siècle, la police scientifique était déjà persuadée qu’il existait un portrait robot criminel, dans un savant mélange de présupposés arbitraires.

Donc, la fouille des données est une démarche humaine qui ne date pas d’hier et s’inscrit dans cette croyance un peu naïve et vaine, celle de la prédictibilité et l’anticipation de tous les phénomènes.

Cela peut se concevoir dans le domaine météorologique à quelques jours, avec la caractéristique visible de certains nuages, ou des variations de température et de pression entre deux endroits distinctes, permettent d’établir une probabilité du temps météo qu’il fera.

Déjà, dans le domaine sismique, nous savons pertinemment que nous ne savons pas, alors s’imaginer que dans le domaine social qui est encore plus complexe que la tectonique des plaques, imaginer savoir est une tartufferie

Pour ce qui est du comportement prévisible des hommes, ou les bons et les méchants sont une frontière intimement tissée, d’une part entre des êtres distinctes, mais aussi contenu dans une seule et même personne à la fois, en fonction des moments ou des circonstances.

Ce genre d'étude me semble aussi absurde qu'inutile, parce qu'il s'agit de microphénomènes variables en permanence, et dont les conclusions générales de probabilité n'aboutiront qu'à décréter des principes généraux inexploitable,donc nuls.

Parce que l’agglutinement des bons d’un côté et des mauvais de l’autre est une vue de l’esprit, et ne correspond pas à une ségrégation possible, ni souhaitable des êtres humains.

La taxinomie est une science utile car "toute classification est supérieure au chaos" dit Claude Lévy-Strauss. Encore faut-il que cette science soit pratiquée par des scientifiques. "Tel a la vue claire qui ne l'a pas droite, qui sait la science et ne s'en sert pas." Montaigne

Y'a qu'en même un gouffre entre prévenir et surveiller, et l'arrestation préventive.

D'une façon ou d'une autre nous sommes tous fichés ! Mais dans cette affaire, ce que je ne comprends pas c'est l'intrusion de la police dans la vie de cet homme sans raison valable, si ce n'est une étude.

Je me demande si ce "on vous a à l'œil" ne serait pas plus un déclencheur qu'une prévention.

Perso, je suis dans un quartier chaud, avec des potes qui trafiquent au coin de la rue, je me tiens tranquille quand même et j'apprends que je suis fiché, ben autant franchir le pas et être fiché pour quelque chose qui en plus rapporte

La police s'est elle déplacée pour les 400 personnes ? Si oui, ils en ont à perdre du temps les inspecteurs de Chicago

Si non, il y a peut être une autre raison à cette visite !

Bonjour kyrilluck,

Les humains n’ont de cesse d’établir des relations entre les causes et les effets.

Certaines ont abouti, mais on efface immédiatement, les milliers de démarchent qui se sont avérés inexploitables et fausses, donc nulles.

Ce genre d'étude me semble aussi absurde qu'inutile, parce qu'il s'agit de microphénomènes variables en permanence, et dont les conclusions générales de probabilité n'aboutiront qu'à décréter des principes généraux inexploitable,donc nuls.

En faite, la base scientifique est solide. Il ne s'agit pas de faire de la psychologie mais d'etablir des correlations. Le principe est simple: si dans ta base de donnee, 95% des meutres est le faite d'hommes, entre 20 et 25 ans, n'ayant pas le bac, habitant dans une banlieux chaude et dont le frere/cousin/etc a ete arrete au moins une fois, le logiciel te faira une liste de ces personnes. C'est tout. Il n'y a pas de recherche d'explications du pourquoi ou du comment. Ce n'est pas necessaire.

Y'a qu'en même un gouffre entre prévenir et surveiller, et l'arrestation préventive.

Ici il ne s'agit pas d'arrestations mais de prevention.

D'une façon ou d'une autre nous sommes tous fichés ! Mais dans cette affaire, ce que je ne comprends pas c'est l'intrusion de la police dans la vie de cet homme sans raison valable, si ce n'est une étude.

Je me demande si ce "on vous a à l'œil" ne serait pas plus un déclencheur qu'une prévention.

Perso, je suis dans un quartier chaud, avec des potes qui trafiquent au coin de la rue, je me tiens tranquille quand même et j'apprends que je suis fiché, ben autant franchir le pas et être fiché pour quelque chose qui en plus rapporte

La police s'est elle déplacée pour les 400 personnes ? Si oui, ils en ont à perdre du temps les inspecteurs de Chicago

Si non, il y a peut être une autre raison à cette visite !

Statistiquement parlant, cet homme a plus de chance de commettre un crime violent que les millions d'autres personnes qui vivent dans cette ville. Donc ca vaut la peine de lui rendre une petite visite de courtoisie..

Sinon tu as raison sur un point: on ne sait pas quel impact vont avoir ces visites. Cela peut effectivement avoir l'effet inverse. Mais dans ce cas la, la resolution du crime en sera que plus rapide.

Kyrilluck,

Que certains facteurs puissent cibler une certaine catégorie de personnes, c’est évident et pas très original, c’est la fonction même d’une base de données, en fonction des critères qu’on lui donne.

Mais j’ai en souvenir certaines de mes lectures datant de l’époque de la guerre froide entre l’Occident et l’URSS. Le KGB, police secrète soviétique,arrivait systématiquement à s’introduire dans le code système du Pentagone américain.

Les américains ont fini par convenir et admettre que leur système de protection informatique le plus efficace était justement de communiquer au moyen du réseau téléphone public américain.

La masse d'informations à traiter devenant tellement énorme que le décryptage des communications militaires et secrètes devenait obsolète.

Il ne suffit pas de collecter une masse d’informations, mais savoir aussi ce que l’on peut en extraire sur un laps de temps court.

Comment dire... ça craint. De plus la rigueur "scientifique" de cette "mesure" est totalement foireuse. On parle d'humains, pas de chiffres.

D'un point de vue éthique n'en parlons pas.

Il ne suffit pas de collecter une masse d’informations, mais savoir aussi ce que l’on peut en extraire sur un laps de temps court.

Tout a fait. Et c'est d'ailleur l'object meme du data mining.

Réduire la nature humaine a des algorythmes et des statistques, c'est nier cette nature

Le data mining est un outil puissant.

Il suffit de voir que la fortune de Google et de Facebook est tirée des revenus publicitaires par leur faculté à amasser une multitude d'information sur les utilisateurs qui permettent aux annonceurs des ciblages efficaces.

Ou encore que des sites comme Amazone travaillent sur des 'préparations de commande' à l'avance non pas au cas par cas bien entendu mais afin d'optimiser la gestion de leur stock (à flux tendu) pour anticiper les commandes à venir sur la base des comportements d'achat passés.

le data mining ne pose pas de soucis particuliers quand il est utilisé à des fins commerciales en optimisant l'appétence des segments de clientèle ou encore afin de prévoir leur capacité de recouvrement (scores qui définissent la probabilité de défaillance au travers de données socio professionnelles par exemple)

Néanmoins, ce n'est pas tant le Data Mining qui est criticable que la détention d'information illicite.

Il y a des règles qui concernent la nature des informations stockées et leur durée de stockage mais la CNIL ne peut tout vérifier même si la constitution d'un fichier est soumis à une déclaration.

Accessoirement, à titre personnel, je me méfie de la publication d'informations personnelles sur le net dans la mesure où on ne sait pas comment ces informations peuvent être utilisées à notre détriment.

En matière de Police, je ne doute pas que l'analyse des caractéristiques des auteurs de crimes et délits permette statistiquement de définir une probabilité de les commettre si tenté que les informations détenues et stockées soient légales et complètes.

Maintenant, faire une visite "préventive" qui s'appuie sur ce type d'étude est une faute professionnelle.

Il n'y a pas des citoyens et des sous citoyens suspectés d'entrée pour leur profil.....