Le 16/10/2019 à 22:01, Ines Presso a dit :

La reconnaissance faciale par IA, ou la perte de nos libertés individuelles, et le remplacement des hommes par une IA pour des raisons économiques alors que cette dernière, si elle travaille plus vite que l’humain fait moins bien que lui. . S’acheminent-on vers un état policier comme dans les fictions ? 

Merci d’ouvrir les liens. 

 

La reconnaissance faciale, le début de la fin de nos libertés individuelles

Une technologie qui viole notre intimité et nos droits fondamentaux n’est pas tolérable.

ALICEM, la reconnaissance faciale pour tous va être lancée en Novembre par le gouvernement pour vous permettre l’accès à vos données personnelles

Jusqu’à présent, la vidéo-surveillance était implantée pour surveiller un espace public ou privé, les caméras étaient reliées à un PC de sécurité et les images étaient visualisées par un opérateur humain. Aujourd’hui ce sera de moins en moins le cas. Derrière les caméras, les opérateurs sont peu à peu remplacés par des Intelligences Artificielles (IA) qui travaillent sans relâche et auxquelles on peut faire faire de plus en plus de choses.

Le traitement des images par des logiciels de reconnaissance a permis de repérer et lire des plaques d’immatriculation de voiture, mais aujourd’hui ce sont les visages humains qui font l’objet d’une analyse et d’une identification.

Beaucoup de nos portables utilisent déjà cette technologie mais l’utilisation qui en est faite dans certains pays fait frémir. 

QUE PEUT DÉTECTER UNE INTELLIGENCE ARTIFICIELLE (IA) SUR UNE IMAGE ?

Commençons par le plus évident. Une IA peut détecter notre sexe, notre âge, notre race, nos origines.

Si notre image est associée à notre nom par le biais par exemple d’un carte de sécurité sociale ou d’identité, un badge d’accès, une plaque d’immatriculation, l’IA a un accès complet à notre état civil et à notre adresse.

Ce n’est pas tout, l’IA peut dorénavant lire nos sentiments à partir de l’expression de notre visage, ainsi elle saura si vous êtes triste, joyeux, éméché, malade, déprimé, en colère.

Ce n’est pas tout, les logiciels actuels peuvent analyser nos comportements ; ce qui est déjà le cas dans certaines gares.

Ainsi on pourra déterminer si vous avez un comportement suspect mais pas seulement. On saura si vous êtes pressé, si vous faites du tourisme, du sport, si vous êtes fumeur et même quelle est votre orientation sexuelle en fonction des regards et de l’intérêt que vous porterez à une personne que vous croisez où avec laquelle vous vous déplacez régulièrement.

Lorsque vous serez en groupe on pourra déterminer quelles sont vos passions, vos centres d’intérêt, vos opinions politiques.

En vous promenant, vous devenez transparent : l’IA connaîtra le moindre de vos secrets et de vos comportements.

Ces pratiques sont déjà largement utilisées en Chine pour affecter une note de comportement à tous les citoyens et leur accorder certains droits. On voit quelle utilisation en est faite aujourd’hui à Hong-Kong pour surveiller les foules.

LE VOL DE NOS DONNÉES INTIMES SANS NOTRE CONSENTEMENT

A l’époque d’internet, on sait que nos données concernant nos recherches sur Internet sont largement utilisées pour mieux cibler nos achats et même notre façon de voter, en ciblant des messages pour agir sur nos comportements.

La reconnaissance faciale fait sauter le verrou de notre consentement. En effet contrairement à une recherche sur internet dans laquelle nous sommes l’acteur de la recherche, notre visage est scruté de façon anonyme en n’importe quel lieu, sans que nous en ayons conscience. Notre visage n’est plus une image, mais ce sont des données que l’on nous vole à notre insu.

Alors pourquoi la CNIL a été mise à l’écart dans la déclaration préalable de la mise en place d’un système de vidéo-surveillance ? Seul organisme qui veille au respect de nos données et donc au respect de nos libertés individuelles.

Source et suite : http://grey-pride.blogs.liberation.fr/2019/10/14/la-reconnaissance-faciale-le-debut-de-la-fin-de-nos-libertes-individuelles/

 

 

LE VRAI VISAGE DE LA RECONNAISSANCE FACIALE

La Quadrature du Net est contre la reconnaissance faciale, d’accord : mais pourquoi ? Dès qu’on aborde le sujet en public, on voit se dessiner deux attitudes opposées. D’un côté, le solide bon sens qui ne voit pas pourquoi on se priverait de la possibilité d’identifier efficacement les criminels dans une foule, et pour qui tous les moyens sont bons, puisque la fin est juste. De l’autre côté, la peur réflexe devant cette technique de surveillance – souvent plus vive que devant d’autres techniques de surveillance pourtant très répandues – parce qu’elle est exploitée au cinéma comme outil d’un pouvoir policier totalitaire. C’est entre ces deux pôles, fantasme contre fantasme, qu’on peut essayer de comprendre les enjeux de la reconnaissance faciale.

Source et suite : https://www.laquadrature.net/2019/06/21/le-vrai-visage-de-la-reconnaissance-faciale/

 

La reconnaissance faciale progresse, sous la pression des industriels et des forces de l’ordre

Le secrétaire d’Etat au numérique, Cédric O, souhaite susciter davantage d’expérimentations. Mais plus d’une dizaine de projets de recherche ont déjà été menés ces dix dernières années.

source et suite :https://www.lemonde.fr/pixels/article/2019/10/14/sous-la-pression-des-industriels-et-des-forces-de-l-ordre-la-reconnaissance-faciale-progresse_6015370_4408996.html

 

 

 

 

 

 

 

Bonsoir,

La technologie n'est pas toujours neutre :

Elle nous fait devenir ce que nous ne voulions pas devenir, ce à quoi nous n'avions pas d'aspiration.

La technologie a une âme, une personnalité, et même un ego.

La numérisation, combinée au moyens d'investigation, est susceptible de conduire à un état policier.

J'ai envie de vous dire : si vous n'avez rien à vous reprocher, pourquoi rejeter l'état policier de façon si inconditionnelle ?

Personnellement, que la DGSI sache tout de moi ne me dérange pas, dans la mesure où ma légalité la laisse passive.

Les hommes adultères ont du souci à se faire, c'est l'objet d'une large part des enquêtes privées.

Mais tant que l'adultère reste illégal, ou fautif, je ne vois pas où est le problème.

Je crains plutôt un opportunisme institutionnel :

Puisqu'il devient si facile de contrôler, pourquoi ne pas "Tout" contrôler.

Pourquoi ne pas offrir à votre médecin traitant la liste des alcools que vous avez consommé ce mois-ci ?

Pourquoi ne pas supprimer le cash (les billets de banque) pour pouvoir contrôler les flux monétaires et taxer l'épargne ?

Les machines ne veulent pas nous tuer, elles n'ont aucun projet d'extermination.

C'est bien pire encore : elles veulent nous infantiliser en définissant la notion du Bien à notre place.

Dans 50 ans, plus personne ne saura conduire une voiture.

Et dans 100 ans, c'est le GPS qui choisira votre destination.

Cordialement, Fraction.

il y a 6 minutes, Fraction a dit :

Bonsoir,

La technologie n'est pas toujours neutre :

Elle nous fait devenir ce que nous ne voulions pas devenir, ce à quoi nous n'avions pas d'aspiration.

La technologie a une âme, une personnalité, et même un ego.

 

La numérisation, combinée au moyens d'investigation, est susceptible de conduire à un état policier.

J'ai envie de vous dire : si vous n'avez rien à vous reprocher, pourquoi rejeter l'état policier de façon si inconditionnelle ?

Personnellement, que la DGSI sache tout de moi ne me dérange pas, dans la mesure où ma légalité la laisse passive.

Les hommes adultères ont du souci à se faire, c'est l'objet d'une large part des enquêtes privées.

Mais tant que l'adultère reste illégal, ou fautif, je ne vois pas où est le problème.

 

Je crains plutôt un opportunisme institutionnel :

Puisqu'il devient si facile de contrôler, pourquoi ne pas "Tout" contrôler.

Pourquoi ne pas offrir à votre médecin traitant la liste des alcools que vous avez consommé ce mois-ci ?

Pourquoi ne pas supprimer le cash (les billets de banque) pour pouvoir contrôler les flux monétaires et taxer l'épargne ?

 

Les machines ne veulent pas nous tuer, elles n'ont aucun projet d'extermination.

C'est bien pire encore : elles veulent nous infantiliser en définissant la notion du Bien à notre place.

Dans 50 ans, plus personne ne saura conduire une voiture.

Et dans 100 ans, c'est le GPS qui choisira votre destination.

Cordialement, Fraction.

Elles voteront aussi pour nous.

il y a 5 minutes, micro-onde a dit :

c'est quoi IOT pour toi?

parce que une attaque par déni de service là ça a plus rien à voir avec la reconnaissance faciale 

Exactement. Je soulignais juste le fait que bcp s’inquiète de la reconnaissance faciale mais pas du reste. Certains aiment se faire peur là où il n’y a pas de raison et sont très rassurés là où il faudrait s’inquiéter. Make sense ? 

il y a 4 minutes, Fraction a dit :

Dans 50 ans, plus personne ne saura conduire une voiture.

dans 50ans y aura t'il encore des voitures?

il y a 5 minutes, Fraction a dit :

Et dans 100 ans, c'est le GPS qui choisira votre destination.

et c'est mal?

il y a 6 minutes, Vilaine a dit :

Strange way of getting things...

Il a dit que j’étais ravissante et que le jaune moutarde allait bien à mon teint.

Comme quoi il ne faut jamais croire l’électronique qui n’a pas de libre-arbitre

Pour en revenir au sujet, outre la notion de contrôle, elle est en l'état génératrice des biais de ses concepteurs.

à l’instant, fx. a dit :

Pour en revenir au sujet, outre la notion de contrôle, elle est en l'état génératrice des biais de ses concepteurs.

De ses analystes plutôt ...

à l’instant, fx. a dit :

Elles voteront aussi pour nous.

Bonsoir,

Voter c'est décider.

Et en ma qualité de programmeur, je crois que la faculté de décider relève d'un tel parallélisme et d'une telle puissance d'exécution que la machine n'en sera pas douée avant longtemps.

Mais peu importe :

Ce n'est pas l'intelligence qui légitime le droit de vote.

Ce qui légitime le droit de vote, c'est la douleur, la doléance, et la faculté de reconnaître et d'interpréter.

Cordialement, Fraction

il y a 2 minutes, yapludfrites a dit :

De ses analystes plutôt ...

Si tu avais parcouru les liens ou si tu te detachais de ton parti pris tu aurais lu le terme employé. 

il y a 1 minute, yapludfrites a dit :

Exactement. Je soulignais juste le fait que bcp s’inquiète de la reconnaissance faciale mais pas du reste. Certains aiment se faire peur là où il n’y a pas de raison et sont très rassurés là où il faudrait s’inquiéter. Make sense ? 

pour faire une attaque par déni de service il faut un intérêt financier derrière et généralement c'est sur des gros sites sécurisés d'état ou d'une grosse compagnie avec des moyens de défenses conséquents et qui n'a rien à voir avec nos petites box internet à nous.

il faut passer par plusieurs plusieurs serveurs pour ne pas révéler d'où l'attaque provient et ça prends énormément de temps car on surcharge le serveur de la cible pour l'empêcher de répondre aux demandes des clients connectés (déni de services).

il y a 2 minutes, micro-onde a dit :

pour faire une attaque par déni de service il faut un intérêt financier derrière et généralement c'est sur des gros sites sécurisés d'état ou d'une grosse compagnie avec des moyens de défenses conséquents et qui n'a rien à voir avec nos petites box internet à nous.

il faut passer par plusieurs plusieurs serveurs pour ne pas révéler d'où l'attaque provient et ça prends énormément de temps car on surcharge le serveur de la cible pour l'empêcher de répondre aux demandes des clients connectés (déni de services).

C’est là où tu fais erreur, la puissance vient de partout pour être concentrée en une attaque. Mais tu dois maîtriser le sujet sûrement 

il y a 5 minutes, micro-onde a dit :

dans 50ans y aura t'il encore des voitures?

et c'est mal?

Bonsoir,

Que la machine choisisse à ma place alors même qu'elle n'est pas responsable de ses actes et qu'elle ne connait pas la douleur et la peine, oui ça me dérange.

Etes-vous capable de concevoir la notion du Bien dans un système informatique qui ne ressent pas la douleur physique, la déception amoureuse, la frustration de l'injustice ?

Cordialement, Fraction

il y a 4 minutes, fx. a dit :

Si tu avais parcouru les liens ou si tu te detachais de ton parti pris tu aurais lu le terme employé. 

Parti pris ? 

il y a 6 minutes, Fraction a dit :

Bonsoir,

Voter c'est décider.

Et en ma qualité de programmeur, je crois que la faculté de décider relève d'un tel parallélisme et d'une telle puissance d'exécution que la machine n'en sera pas douée avant longtemps.

Mais peu importe :

Ce n'est pas l'intelligence qui légitime le droit de vote.

Ce qui légitime le droit de vote, c'est la douleur, la doléance, et la faculté de reconnaître et d'interpréter.

Cordialement, Fraction

Je te félicite pour ta brillante reconversion. 

Amicalement. 

il y a 3 minutes, yapludfrites a dit :

Parti pris ? 

Tu vas ergoter jusqu'à quand ? 

il y a 2 minutes, Fraction a dit :

Bonsoir,

Que la machine choisisse à ma place alors même qu'elle n'est pas responsable de ses actes et qu'elle ne connait pas la douleur et la peine, oui ça me dérange.

Etes-vous capable de concevoir la notion du Bien dans un système informatique qui ne ressent pas la douleur physique, la déception amoureuse, la frustration de l'injustice ?

Cordialement, Fraction

choisir quoi?

c'est l'humain qui programme la machine pour l'instant

il y a 12 minutes, yapludfrites a dit :

Comme quoi il ne faut jamais croire l’électronique qui n’a pas de libre-arbitre

Certes, mais il est objectif.

il y a 1 minute, fx. a dit :

Je te félicite pour ta brillante reconversion. 

Amicalement. 

Bonsoir, 

En ce terme de "reconversion" je conclus que soit j'ai été décevant, soit c'est vous qui me décevez.

Il n'y a pas plus philanthrope que moi.

Mais j'ai conscience que l'Homme est tombé dans un piège, un piège mental notamment.

Et que pour s'en sortir, il devra être plus fort que le Diable, plus fort que la lamentation, plus fort que la paresse, plus fort que la schizophrénie.

Cordialement, Fraction.

il y a 6 minutes, micro-onde a dit :

choisir quoi?

c'est l'humain qui programme la machine pour l'instant

Oui, vous avez raison : la machine est programmée par l'homme.

Mais la technologie du Deep-Learning est en train d'émanciper la machine dans sa faculté de reconnaître.

Et il est possible pour quelques naïfs semi-cultivés de croire que cette émancipation peut s'appliquer à sa faculté de choisir, de décider.

Cordialement, Fraction

il y a 4 minutes, Fraction a dit :

 

Oui, vous avez raison : la machine est programmée par l'homme.

Mais la technologie du Deep-Learning est en train d'émanciper la machine dans sa faculté de reconnaître.

Et il est possible pour quelques naïfs semi-cultivés de croire que cette émancipation peut s'appliquer à sa faculté de choisir, de décider.

Cordialement, Fraction

on en est tréééééééssssss loin encore sauf dans les films de science fictions!

ce sont des effets d'annonces, des démos pour faire parler, vendre des actions et faire rêver la populace qui n'y comprends pas grand chose

il y a 38 minutes, micro-onde a dit :

potentiellement un mec peut te filmer par la fenêtre de ton appartement et pourtant tu fermes pas les volets 24h/24,c'est exactement pareil!

 

oui.

Citation

pouvez enlever vos scotch de vos webcams vous aurez l'air moins cons 

Pas question ; là c'est dans un cabinet médical. Il reste.

il y a 5 minutes, Fraction a dit :

Bonsoir, 

En ce terme de "reconversion" je conclus que soit j'ai été décevant, soit c'est vous qui me décevez.

Il n'y a pas plus philanthrope que moi.

Mais j'ai conscience que l'Homme est tombé dans un piège, un piège mental notamment.

Et que pour s'en sortir, il devra être plus fort que le Diable, plus fort que la lamentation, plus fort que la paresse, plus fort que la schizophrénie.

Cordialement, Fraction.

Tu te disais ouvrier par ailleurs, sans vouloir te taxer d'opportunisme, l'influence de l'IA dans ce domaine à me semble t il déjà été démontrée.