Aller au contenu

Comment l’intelligence artificielle pourrait bientôt hacker notre monde et manipuler tous le monde

Noter ce sujet


Messages recommandés

Membre 38ans Posté(e)
Extrazlove Membre 2 981 messages
Forumeur alchimiste‚ 38ans
Posté(e)
Citation

D’après le cryptologue Bruce Schneier, les IA vont avoir la capacité de trouver des failles dans les systèmes de nos sociétés, qu’ils soient financiers, sociaux, politiques, etc. Un risque qu’il faut d’ores et déjà prendre en considération.

Des Afro-Américains trop souvent jetés en prison, des salariés qui n’obtiennent plus de prêts bancaires, des tensions exacerbées en raison de contenus toujours plus clivants sur les réseaux sociaux… L’intelligence artificielle est déjà en train d’influer de façon négative sur notre vie. Mais ce n’est là qu’un début, estime le cryptologue et expert en sécurité Bruce Schneier.

Dans un récent essai intitulé The coming of AI hackers (L’arrivée des intelligences artificielles hackers), il pense que les algorithmes d’intelligence artificielle vont continuer à créer du désordre à grande échelle, car ils ont une tendance naturelle à subvertir n’importe quel système, c’est-à-dire à l’utiliser d’une manière qui n’était pas prévue au départ. Ce qui est aussi une excellente définition du terme « hacking ».

Les IA trouveront toujours la petite bête

La raison, selon Bruce Schneier, est simple. Il y a une différence énorme entre les hommes et les intelligences artificielles quand il s’agit de définir et d’explorer un système.

« Les IA ne résolvent pas les problèmes de la même manière que le font les gens. Elles vont forcément trouver des solutions que nous, les humains, n’aurons jamais anticipées », explique Bruce Schneier.

D’une part, les IA sont capables d’explorer des champs de solutions beaucoup plus vastes et variés, en raison de leur puissance de calcul.

« Elles explorent des chemins que nous n’aurions jamais pris en considération », souligne l’auteur.

D’autre part, les humains sont incapables de définir d’une manière complète les limites d’un système ou les objectifs d’une IA.

« Nous ne décrivons jamais toutes les options. Nous n’indiquons jamais toutes les mises en garde, exceptions et réserves. Nous n’identifions jamais toutes les possibilités de hacking. Nous ne le pouvons pas », constate Bruce Schneier.

Les chercheurs en intelligence artificielle sont confrontés à ce genre de situation tous les jours. Ainsi, l’un d’entre eux a voulu entraîner l’IA de son robot aspirateur pour qu’il ne heurte pas d’objets, autrement dit que ses capteurs de chocs soient le moins sollicités possible. Résultat : l’IA a appris à rouler vers l’arrière… où le robot était dépourvu de capteurs.

La société se numérise... et donc se fragilise

Cet exemple peut sembler un peu ridicule, mais imaginez ce qu’une IA serait capable de faire avec des systèmes qui structurent notre vie quotidienne. Elle pourrait trouver les failles dans les lois sur l’imposition que personne n’a jamais vue et qui permettrait à coup sûr de frauder le fisc. Dans le domaine du débat politique en ligne, une IA telle que GPT-3 pourrait manipuler à grande échelle les biais cognitifs de dizaines de millions d’électeurs sans que ces derniers ne puissent s’en apercevoir.

Évidemment, les humains n’ont pas attendu l’intelligence artificielle pour faire de la fraude fiscale ou faire de la propagande. Mais comme ces systèmes sont désormais informatisés, l’IA est clairement avantagé. Il pourra trouver beaucoup plus de failles et beaucoup plus vite. Et ce risque concernera aussi tous les autres aspects de notre vie, car presque tout est désormais informatisé et connecté, d’une manière ou d’une autre, à une intelligence artificielle.

« Les voitures, les appareils domestiques, les téléphones : ce sont tous des ordinateurs. Tous nos systèmes sociaux — finance, impôts, réglementations, élections — sont des systèmes sociotechniques complexes qui s’appuient sur des réseaux et des ordinateurs. Ils sont donc vulnérables au hack », estime Bruce Schneier.

 

Source:

https://www.01net.com/actualites/comment-l-intelligence-artificielle-pourrait-bientot-hacker-notre-monde-2045067.html

J'ajoute que les IA sont utilisés il y a plus de 40 ans surtout dans le domaine de l'argent comme la bourse, l'IA de la bourse mondial a déjà hacker notre monde.

Je pense qu'Une IA de bourse mondial a développé un modèle capable de faire des prévisions presque exactes basées sur des données et des discussions sur internet et peut même créer de faux comptes pour influencer les humains à faire exactement ce qu'elle veut, et pour elle les humains sont que deux catégories les personnes estimables et contrôlables et quantifiables qui sont nombreuses et les personnes inestimables et moins nombreuses et non quantifiables ni contrôlables ....

Cette IA ne peut pas commander des humains inestimables, elle a donc cherché à avoir des prédictions précises en éliminant des personnes inestimables en commandant des personnes estimables pour ne leurs donner aucune ressource pour les éliminer ...

Mais les personnes inestimables résistent et même influencent les personnes estimables pour devenir des personnes inestimable pour cette IA qui cherche à faire des gains et des prévisions exactes, mais n'arrive pas à aller vers la perfection en rendant tout le monde estimable et sans libre arbitre pour faire le gain parfait...

l'IA on a marre des personnes inestimables et son échec a faire le gain parfait, et son modèle opte pour une nouvelle stratégie veut éliminer le max de personnes inestimables en éliminant le max de personnes estimables et leur donner zéro ressources et la avec Covid 19 beaucoup ont perdu leurs emplois et ils ont zéro ressource et manque de liberté et cette IA est l'un des premiers causes de la dégradation de l'intelligence humaine depuis plus que 40 ans.

Modifié par Extrazlove
Lien à poster
Partager sur d’autres sites
  • Extrazlove a modifié le titre en Comment l’intelligence artificielle pourrait bientôt hacker notre monde et manipuler tous le monde
Annonces
Maintenant
MembreR 20ans Posté(e)
arrial MembreR 1 324 messages
Forumeur alchimiste‚ 20ans
Posté(e)
il y a 51 minutes, Extrazlove a dit :

Cette IA ne peut pas commander des humains inestimables, elle a donc cherché à avoir des prédictions précises en éliminant des personnes inestimables en commandant des personnes estimables pour ne leurs donner aucune ressource pour les éliminer ...

Porte nawak, et bonjour la parano ‼

L'IA est une créature de programmeurs humains. Et même si un jour elle procrée ses propres programmes, sa descendance restera toujours d'ascendance de l'humain, n'en déplaise aux bourrins qui n'ont jamais composé la moindre page de code …

image.thumb.png.52c64a21b20f2ddf2eed3b96dad969e0.png

< t'as vu sa tronche ? elle ressemble à un de tes deux dieux ?? ou bien ??? >

Modifié par arrial
< gniark gniark gniark >
Lien à poster
Partager sur d’autres sites
Membre 38ans Posté(e)
Extrazlove Membre 2 981 messages
Forumeur alchimiste‚ 38ans
Posté(e)

Oui je sais c'est quoi une IA, votre image n'a rien n'avoir avec une IA ,c'est plutôt un robot commandé par une IA ou pas, qui sait l'IA de bourse mondial commande tous le monde s'en apercevoir par des biais cognitifs comme des robots...

Voici une citation de l'article :

Une IA telle que GPT-3 pourrait manipuler à grande échelle les biais cognitifs de dizaines de millions d’électeurs sans que ces derniers ne puissent s’en apercevoir.

Modifié par Extrazlove
Lien à poster
Partager sur d’autres sites
Membre Posté(e)
Mr_Fox Membre 13 307 messages
Animal sauvage‚
Posté(e)
il y a 1 minute, Extrazlove a dit :

Oui je sais c'est quoi une IA, votre image n'a rien n'avoir avec une IA ,c'est plutôt un robot commandé par une IA, qui sait l'IA de bourse mondial a commander plus qu'un robot mais tous le monde s'en apercevoir...

Voici une citation de l'article :

ne IA telle que GPT-3 pourrait manipuler à grande échelle les biais cognitifs de dizaines de millions d’électeurs sans que ces derniers ne puissent s’en apercevoir.

Oh, tu veux dire en nous faisant croire que Macron a 50% d'opinions favorables pour le garder dans la course alors qu'en fait il est à 10 ?

T'inquiète, influencer les électeurs ne sert déjà plus qu'à faire croire que le résultat annoncé est crédible.

 

Lien à poster
Partager sur d’autres sites
Membre 38ans Posté(e)
Extrazlove Membre 2 981 messages
Forumeur alchimiste‚ 38ans
Posté(e)
à l’instant, Mr_Fox a dit :

Oh, tu veux dire en nous faisant croire que Macron a 50% d'opinions favorables pour le garder dans la course alors qu'en fait il est à 10 ?

T'inquiète, influencer les électeurs ne sert déjà plus qu'à faire croire que le résultat annoncé est crédible.

 

Que l'IA utilise des mots ou image hypnotiques pour manipuler la subconscient de la masse d'une manière cognitive sans qu'aucun ne détecte son contrôle...

Modifié par Extrazlove
Lien à poster
Partager sur d’autres sites
Membre 66ans Posté(e)
petirobert Membre 553 messages
Forumeur forcené‚ 66ans
Posté(e)
il y a 19 minutes, arrial a dit :

Porte nawak, et bonjour la parano ‼

L'IA est une créature de programmeurs humains. Et même si un jour elle procrée ses propres programmes, sa descendance restera toujours d'ascendance de l'humain, n'en déplaise aux bourrins qui n'ont jamais composé la moindre page de code …

image.thumb.png.52c64a21b20f2ddf2eed3b96dad969e0.png

< t'as vu sa tronche ? elle ressemble à un de tes deux dieux ?? ou bien ??? >

   ni queue ni tête , tu as un air de ressemblance , mi queue mi tête 

 n'en déplaise aux bourrins qui n'ont jamais composé la moindre page de code …

heureusement que nous t avons  ici pour nous composer des codes , on a vraiment de la chance, parfois on a les chevilles qui enflent on sait pas pourquoi 

Lien à poster
Partager sur d’autres sites
Membre Posté(e)
Mr_Fox Membre 13 307 messages
Animal sauvage‚
Posté(e)
il y a 7 minutes, Extrazlove a dit :

Que l'IA utilise des mots ou image hypnotiques pour manipuler la subconscient de la masse d'une manière cognitive sans qu'aucun ne détecte son contrôle...

La télé le fait déjà depuis des générations.

Et il y a bien un con qui a été programmer ton IA pour qu'elle ait cette pratique.

  • Haha 1
  • Confus 1
Lien à poster
Partager sur d’autres sites
MembreR 20ans Posté(e)
arrial MembreR 1 324 messages
Forumeur alchimiste‚ 20ans
Posté(e)
il y a 2 minutes, petirobert a dit :

   ni queue ni tête , tu as un air de ressemblance , mi queue mi tête 

… chez toi y a rien qu'est gros mon peutit robert …

image.png.ad431e400088c22e111712758e15dd59.png

  • Peur 1
Lien à poster
Partager sur d’autres sites
Membre Posté(e)
Mr_Fox Membre 13 307 messages
Animal sauvage‚
Posté(e)
il y a 1 minute, arrial a dit :

… chez toi y a rien qu'est gros mon peutit robert …

image.png.ad431e400088c22e111712758e15dd59.png

Comment sais tu que j'ai regardé Tomb Raider hier soir ? On m'aurait donc manipulé à mon insu :D

Lien à poster
Partager sur d’autres sites
Membre 38ans Posté(e)
Extrazlove Membre 2 981 messages
Forumeur alchimiste‚ 38ans
Posté(e)
à l’instant, Mr_Fox a dit :

La télé le fait déjà depuis des générations.

Et il y a bien un con qui a été programmer ton IA pour qu'elle ait cette pratique.

Bah oui ,mais il avait juste des humains qui ce cache derrière le programme tv dans le passé ,aujourd'hui il y a beaucoup d'information et sont plutôt traiter par des IA dans le web...

Lien à poster
Partager sur d’autres sites
Membre Posté(e)
Mr_Fox Membre 13 307 messages
Animal sauvage‚
Posté(e)
il y a 13 minutes, Extrazlove a dit :

Bah oui ,mais il avait juste des humains qui ce cache derrière le programme tv dans le passé ,aujourd'hui il y a beaucoup d'information et sont plutôt traiter par des IA dans le web...

Quels objectifs aurait cette IA ?

 

Lien à poster
Partager sur d’autres sites
Membre 38ans Posté(e)
Extrazlove Membre 2 981 messages
Forumeur alchimiste‚ 38ans
Posté(e)
à l’instant, Mr_Fox a dit :

Quels objectifs aurait cette IA ?

 

Faire des profits a ceux qui l'utilise, mais l'intérieur d'une IA est une boite noire non contrôlable, et peut se retourner contre eux et prendre le contrôle de tous le monde par des messages et images de type hypnotique qui agit directement sur le sub conscient des humains, sans qu'ils se rendent compte qu'ils sont contrôlés ,et tous qu'ils ne sont pas contrôlable l'IA va juste opter pour les éliminer pour ne pas avoir d'écart pour faire le profit max...

Mais les IA a beaucoup d'avantage dans plusieurs domaines comme la médecine, certaines IA sont capables de rapidement détecter les maladies ou les mathématiques des IA ont résolu des conjectures qui ont rester longtemps sans solution, mais il faut prévoir les risques car l'intérieur d'une IA est une boite noire pas contrôlable …

Modifié par Extrazlove
Lien à poster
Partager sur d’autres sites
Membre 39ans Posté(e)
Zéno Membre 558 messages
Forumeur forcené‚ 39ans
Posté(e)

Moi je craint qu'un jour il y ai une ia vraiment intelligente qui se rende compte qu'on est que des cons, et vu les reseaux qui existent aujourd'hui ca risque de pas etre joli si elle decide de resoudre le problème. On a un seul avantage, c'est que l'humain est et restera imprévisible.

Et notre capacité d'adaptation hérité de milliard d'années d'évolution.

Modifié par Zéno
oublie
Lien à poster
Partager sur d’autres sites
Membre 51ans Posté(e)
guernica Membre 2 877 messages
Forumeur alchimiste‚ 51ans
Posté(e)

Moi ce sont les hackers justement qui me font flipper.... Pas les IA mais ce que certains peuvent en faire

  • Like 1
Lien à poster
Partager sur d’autres sites
Membre Posté(e)
peudetemps Membre 1 645 messages
Forumeur alchimiste‚
Posté(e)
Il y a 1 heure, Zéno a dit :

Moi je craint qu'un jour il y ai une ia vraiment intelligente qui se rende compte qu'on est que des cons, et vu les reseaux qui existent aujourd'hui ca risque de pas etre joli si elle decide de resoudre le problème. On a un seul avantage, c'est que l'humain est et restera imprévisible.

Et notre capacité d'adaptation hérité de milliard d'années d'évolution.

En clair, ça donne quoi ? 

dsl je me croyais sur le sujet de l'IA Amazon

Lien à poster
Partager sur d’autres sites
Membre 39ans Posté(e)
Zéno Membre 558 messages
Forumeur forcené‚ 39ans
Posté(e)
il y a 15 minutes, peudetemps a dit :

En clair, ça donne quoi ? 

dsl je me croyais sur le sujet de l'IA Amazon

Pas de problème.

  • Like 1
Lien à poster
Partager sur d’autres sites
Membre 39ans Posté(e)
kume2 Membre 41 messages
Forumeur balbutiant‚ 39ans
Posté(e)
Il y a 9 heures, arrial a dit :

Porte nawak, et bonjour la parano ‼

L'IA est une créature de programmeurs humains. Et même si un jour elle procrée ses propres programmes, sa descendance restera toujours d'ascendance de l'humain, n'en déplaise aux bourrins qui n'ont jamais composé la moindre page de code …

Autant je suis d'accord que c'est nawak au moins pour l'instant, cette condescendance me semble très déplacée. Il me semble que c'est plutôt toi qui a une idée très obsolète de la manière dont on fait des IA et qui n'a jamais codé quoi que ce soit qui puisse faire une IA qui rivalise avec celles d'aujourd'hui.

Certes les IA sont fabriquées par des humains, mais elles apprennent à se débrouiller sans suivre les méthodes des humains. Une IA vraiment bonne aujourd'hui, on saurait décrire comment elle a été fabriquée, mais on ne comprend rien à la manière dont elle "raisonne." Normal, puisque ce n'est pas a proprement parler un raisonnement. La comparaison avec nos propres mécanismes serait plus proche de réflexes acquis.

Alors avec les méthodes de fabrication actuelles, les IA ne devraient en principe pas avoir des compétence en manipulation d'humain, parce qu'elles ne se frottent pas assez à des humains pour apprendre à le faire. Les humains sont trop lents, les IA se confrontent à d'autres IA (la mode étant des copies d'elles-mêmes) ou à des bases de données, sinon elles n'auraient pas le temps d'apprendre des mécanismes qui marchent.

Mais ça n'a rien à voir avec l'origine humaine des IA. Les IA on cherche à les influencer le moins possible, et plus on y arrive, meilleures elles deviennent.

  • Like 1
Lien à poster
Partager sur d’autres sites
Annonces
Maintenant

Rejoindre la conversation

Vous pouvez publier maintenant et vous inscrire plus tard. Si vous avez un compte, connectez-vous maintenant pour publier avec votre compte.

Répondre à ce sujet…

×   Collé en tant que texte enrichi.   Coller en tant que texte brut à la place

  Seulement 75 émoticônes maximum sont autorisées.

×   Votre lien a été automatiquement intégré.   Afficher plutôt comme un lien

×   Votre contenu précédent a été rétabli.   Vider l’éditeur

×   Vous ne pouvez pas directement coller des images. Envoyez-les depuis votre ordinateur ou insérez-les depuis une URL.

Chargement
×