Clearview AI, le cauchemar de la reconnaissance faciale devient réalité

il y a 20 minutes, Crabe_fantome a dit :

Reste à voir le taux de récidivistes. Ainsi que la dissuasion du retour en prison, facilité par l'IA. Je suis plutôt optimiste de nature. 

C'est fondamentalement contraire au droit à l'oubli. Mais la CNIL c'est sûr que pour toi c'est dépassé par les avancées du progrès ! 

il y a 13 minutes, Quasi-Modo a dit :

C'est fondamentalement contraire au droit à l'oubli. Mais la CNIL c'est sûr que pour toi c'est dépassé par les avancées du progrès ! 

Qui te parle d'oubli ou de CNIL? Le risque d'être arrêté pour un délit ou un crime sera de toute manière facilité par l'IA (qu'on le veuille ou non d'ailleurs) pour tout le monde. C'est juste que les dossiers des criminels ou des délinquants n'est pas soumis à la CNIL s'ils se retrouvent sur le bureau d'un juge qui leur avait dit "faites en sorte qu'on ne se revoit jamais". 

il y a 11 minutes, Crabe_fantome a dit :

Qui te parle d'oubli ou de CNIL? Le risque d'être arrêté pour un délit ou un crime sera de toute manière facilité par l'IA (qu'on le veuille ou non d'ailleurs) pour tout le monde. C'est juste que les dossiers des criminels ou des délinquants n'est pas soumis à la CNIL s'ils se retrouvent sur le bureau d'un juge qui leur avait dit "faites en sorte qu'on ne se revoit jamais". 

C'est moi qui t'en parles. Un être humain a le droit de changer sans être constamment ramené à un épisode de sa vie dont il ne souhaite pas qu'il soit connu (ce qui peut être une vraie souffrance), et même si il n'a pas changé, il a aussi le droit de préserver sa vie privée tant que les informations contenues dans un document tel qu'une photographie ne sont pas pertinentes pour les autres. C'est la base de la base dans le fonctionnement d'un internet libre.

Le principe est le même avec les robots qui ratissent internet de long en large et en travers pour tout récupérer dans des bases de données monumentales : en fait ce que contient cette base de données c'est un double des données d'internet, mais en théorie, dans notre droit français, ils n'ont pas le droit de récupérer ni stocker contre le gré des utilisateurs des informations les concernant. C'est d'une violence inouïe.

Il faudrait plutôt défendre la vision française sur ce coup : le droit à l'oubli et à l'anonymat est absolument crucial pour la liberté des citoyens de demain. Mais tant que personne ne s'y est opposé ils se réservent le droit de garder ces données, ce qui est parfaitement illégitime puisque les gens ne savent même pas si ils y sont dans cette base de données à laquelle ils n'ont pas accès.

Il faudrait qu'un collectif de citoyens français porte plainte contre cette entreprise et l'oblige à supprimer les données des français.

il y a 8 minutes, Quasi-Modo a dit :

C'est moi qui t'en parles. Un être humain a le droit de changer sans être constamment ramené à un épisode de sa vie dont il ne souhaite pas qu'il soit connu (ce qui peut être une vraie souffrance), et même si il n'a pas changé, il a aussi le droit de préserver sa vie privée tant que les informations contenues dans un document tel qu'une photographie ne sont pas pertinentes pour les autres. C'est la base de la base dans le fonctionnement d'un internet libre.

Le principe est le même avec les robots qui ratissent internet de long en large et en travers pour tout récupérer dans des bases de données monumentales : en fait ce que contient cette base de données c'est un double des données d'internet, mais en théorie, dans notre droit français, ils n'ont pas le droit de récupérer ni stocker contre le gré des utilisateurs des informations les concernant. C'est d'une violence inouïe.

Il faudrait plutôt défendre la vision française sur ce coup : le droit à l'oubli et à l'anonymat est absolument crucial pour la liberté des citoyens de demain. Mais tant que personne ne s'y est opposé ils se réservent le droit de garder ces données, ce qui est parfaitement illégitime puisque les gens ne savent même pas si ils y sont dans cette base de données à laquelle ils n'ont pas accès.

Il faudrait qu'un collectif de citoyens français porte plainte contre cette entreprise et l'oblige à supprimer les données des français.

Oui... mais je ne comprends toujours pas... Le mec qui a déconné et qui a payé sa dette à la société n'est plus recherché... En tout cas en France, s'il y a une IA liée à une reconnaissance faciale, il sera traité par la machine à égalité avec la mamie à coté de lui dans le métro. Et peu importe qui va agresser la personne dans ce wagon, l'ex taulard à coups de poing, ou la mamie à coups de parapluie, l'IA permettra d'identifier l'auteur de l'agression. Et s'il n'y a aucune agression, il n'y aura personne pour regarder les caméras de surveillance, et la mémoire sera effacé dans les jours ou les heures qui suivent. 

Pour ce qui est d'une violence inouïe, je pense qu'il faudrait y aller mollo... pour moi une violence inouïe c'est lorsqu'un mec démonte la mâchoire d'une fillette à coups de marteau de charpentier pour lui péter toutes les dents une à une... Qu'un bot récupère mes préférences d'achats sur le net, si vraiment je ne suis pas de bonne humeur, ça m'emmerdera... mais personne ne m'oblige à avoir internet non plus. 

Le droit à l'oubli et l'anonymat, vision à la française? C'est pas un ministre qui a retrouvé sa bite sur tous nos écrans histoire de niquer sa carrière politique? Je ne dis pas que je suis contre, je dis juste que "vision à la française" c'est pas ce que j'aurais utilisé comme expression. Reste que si c'est illégal, un collectif de citoyens ou même les politiciens délinquants ou immoraux peuvent toujours porter plainte. 

il y a 15 minutes, Crabe_fantome a dit :

Oui... mais je ne comprends toujours pas... Le mec qui a déconné et qui a payé sa dette à la société n'est plus recherché... En tout cas en France, s'il y a une IA liée à une reconnaissance faciale, il sera traité par la machine à égalité avec la mamie à coté de lui dans le métro. Et peu importe qui va agresser la personne dans ce wagon, l'ex taulard à coups de poing, ou la mamie à coups de parapluie, l'IA permettra d'identifier l'auteur de l'agression. Et s'il n'y a aucune agression, il n'y aura personne pour regarder les caméras de surveillance, et la mémoire sera effacé dans les jours ou les heures qui suivent. 

Sauf que là on parle d'une application qui est susceptible d'être utilisée même à titre privé (tape clearview ia dans ton moteur de recherche préféré dont il reste à espérer que ce ne soit pas google)

Il suffit d'avoir suffisamment d'argent pour avoir accès aux mêmes données que la police à laquelle en toute rigueur ces données pourraient être réservées (et encore je ne suis pas sûr).

Le droit à l'oubli et les règlementations RGPD sont fondamentales : à quoi ça sert d'ennuyer des armées d'informaticiens à anonymiser des données si une telle application devient possible ? En toute rigueur ce devrait même être le rôle du gouvernement de porter plainte.

il y a 41 minutes, Quasi-Modo a dit :

Sauf que là on parle d'une application qui est susceptible d'être utilisée même à titre privé (tape clearview ia dans ton moteur de recherche préféré dont il reste à espérer que ce ne soit pas google)

Il suffit d'avoir suffisamment d'argent pour avoir accès aux mêmes données que la police à laquelle en toute rigueur ces données pourraient être réservées (et encore je ne suis pas sûr).

Le droit à l'oubli et les règlementations RGPD sont fondamentales : à quoi ça sert d'ennuyer des armées d'informaticiens à anonymiser des données si une telle application devient possible ? En toute rigueur ce devrait même être le rôle du gouvernement de porter plainte.

Pas en France... Les autres font ce qu'ils veulent. 

il y a 52 minutes, Crabe_fantome a dit :

Pas en France... Les autres font ce qu'ils veulent. 

Après la RGPD concerne toute l'Europe.

Et il y a des rumeurs selon lesquelles certains clients de clearview sont européens... Je serais très étonné que lors de l'aspiration des données cette entreprise se soit arrêtée à la nationalité des gens dont elle aspirait les informations.

il y a 25 minutes, Quasi-Modo a dit :

Après la RGPD concerne toute l'Europe.

Et il y a des rumeurs selon lesquelles certains clients de clearview sont européens... Je serais très étonné que lors de l'aspiration des données cette entreprise se soit arrêtée à la nationalité des gens dont elle aspirait les informations.

Après c'est le schéma habituel: la technologie arrive et le droit doit être réactif pour s'adapter. Tout le monde veut cette technologie, tout le monde l'aura... Autant que le droit commence à y réfléchir. 

Pour moi, nous sommes là face à une preuve supplémentaire de la fascisation du pouvoir en France... La reconnaissance faciale est la preuve qu'aujourd'hui, la France n'est pas beaucoup plus démocratique que la Russie ou la Chine !