Peut-on échapper à la fusion « homme-machine » ?

Avez-vous déjà envisagé de vivre 1000 ans ? Si non, saviez-vous que certains l’envisagent pourtant déjà ? Au jour où certains experts s’interrogent sur l’avenir du transhumanisme, une réflexion éthique s’impose autour de ces développements. L’intelligence artificielle va-t-elle dépasser l’intelligence humaine ? La singularité technologique est-elle un fantasme ?

Les derniers « exploits » de l’intelligence artificielle (IA) de Google, DeepMind, ont de quoi laisser songeur. Des tests ont en effet montré que plus l’intelligence est élevée, et plus le programme est capable d’agressivité aux fins d’effectuer une tâche quelconque. Il s’agissait pour deux programmes de récolter un maximum de pommes dans un jeu vidéo, et ils disposaient d’un rayon laser qui pouvait mettre l’autre hors-jeu pour un moment.

Tant qu’il y a assez de pommes, tout se passe bien, mais dès qu’elles viennent à manquer, les deux agents deviennent agressifs, alors que les programmes les « moins intelligents » se sont contentés de partager les pommes… Une belle métaphore, car s’il est vrai que ces programmes savent apprendre, ils ne le font jamais que sur des bases et des principes qui leur sont donnés par l’homme.

Pour se comporter de manière coopérative au contraire, un autre jeu a été conçu : Wolfpack ; les deux loups et la proie. Les deux loups doivent coopérer pour chasser la proie et ne pas se faire voler la carcasse par les charognards. On se croirait dans le monde politique… ou la finance. Ainsi la coopération va se mettre en place si l’intérêt supérieur le demande, mais d’autres environnements font naître la cupidité, comme l’explique Joël Z Leibo, membre de l’équipe de recherche :

« Ce modèle (…) montre que certains aspects du comportement humain semblent émerger comme un produit de l’environnement et de l’apprentissage. Des politiques moins agressives émergent de l’apprentissage dans des environnements relativement abondants, avec moins de possibilités d’actions coûteuses. La motivation de la cupidité reflète la tentation de surpasser un rival et de recueillir toutes les pommes soi-même ».-

----------------------

Les progrès constants de l’intelligence artificielle obligent à une réflexion éthique, comme y a appelé Elon Musk, patron de Tesla : « Les systèmes d’IA ont aujourd’hui des capacités impressionnantes mais étroites. Il semble que nous allons continuer à réduire leurs contraintes, et dans le cas extrême, ils atteindront une performance humaine sur pratiquement toutes les tâches intellectuelles. Il est difficile de comprendre à quel point une IA humaine pourrait bénéficier à la société, et il est tout aussi difficile d’imaginer à quel point cela pourrait nuire à la société si celle-ci est conçue ou utilisée de manière incorrecte ». A cet effet il a fondé OpenAI, une association de recherche dédiée à l’éthique.

https://jack35.wordpress.com/2017/05/04/peut-on-echapper-a-la-fusion-homme-machine/

Quand la réalité commence à dépasser la fiction.....

Pas surprenant que ton post n'ai pas eu de réponses.

Ton copié/collé d'un article paru sur un site au contenu un peu léger est très sélectif et on pourrait le considérer comme "sorti du contexte".

En tout cas, pour le moment, l'IA (intelligence artificielle) n'existe pas en tant que technique digne du droit de s'approprier le nom d'intelligence. Je vous recommande donc de faire des recherches sur la définition du simple mot "intelligence" - sans lui associer le mot "artificielle" - et vous constaterez qu'en aucun cas "l'intelligence" n'apparait dans le cours de l'exécution d'un programme sensé être intelligent. Nous avons aujourd'hui étendu le domaine de ce que l'on appelait jadis "systèmes experts" et ces techniques remplissent d'admiration (ou d'effroi) le grand public quand il en est informé. Je suis désolé ou ravi c'est selon, de vous contredire ou de vous rassurer, mais il n'y a rien d'intelligent dans un programme qui bat un champion du monde d'échec ou de Go. Nul aujourd'hui parmi les chercheurs de cette discipline ne croit vraiment qu'il distille de l'intelligence dans ses algorithmes et parmi les plus optimistes de ces chercheurs, aucun n'ose encore imaginer que de "l'intelligence" pourrait en sortir spontanément.

Rassurez-vous donc, aucune menace ne vous guette avant quelques décennies, .... ou siècles.

Apparemment, vu toutes les guerres et complots de ce bas monde, l'intelligence humaine n'existe pas non plus 

Voler piller, tuer, c'est vraiment tout ce que nous sommes capable de faire, espérons que ces hommes là ne formateront pas les futures intelligences artificielles...

Tout va très vite en la matière, le Deep Learning amorce probablement l'avènement de beaucoup d'autres avancées. L'homme garde jalousement le pré carré de sa conscience , de son empathie, de son intelligence , de son apprentissage empirique comme si ces qualités devaient rester inéluctablement biologiques. Mais pour combien de temps ? Après avoir malmené les espèces vivantes sur la planète ,son anthropocentrisme arrogant s'effraie de ce qu'il puisse un jour créer une entité qui le supplante dans certains domaines, sinon tous .Ce qui l'ennuie aussi, c'est de penser que l'intelligence artificielle puisse animer des créatures qui seront quasi-immortelles. Moi ça ne me fait pas flipper.