Stephen Hawking : « L’intelligence artificielle pourrait mettre fin à la race humaine »

P'tain, mais c'est Terminator qui nous guette !!!

Il avait même dit qu'il ne donnait pas 1000ans aux humains sur Terre. Soit catastrophe de notre propre chef, soit catastrophe naturelle.

On ne peut pas dire qu'il soit du genre optimiste, même s'il montre pas mal d'enthousiasme pour les avancées technologiques.

bonjour

l'intelligence artificielle , un atout ou un danger ? au début , elle sera controlée par l'intelligence humaine .

mais cette intelligence pourrait , parvenue à un stade très avancé , fausser compagnie au control humain ?

disons qu'un humain à des aspirations , des sentiments , des défauts et une très longue suite d'ancêtres qui plonge dans la nuit des temps passés . des millions d'années ont étés nécessaire pour forger , à tort ou à raison son évolution pour parvenir à notre époque .

une intelligence artificielle , n'aura pas cet héritage , elle ne sera que pure intelligence sans passé ou si court et venant d'une autre intelligence .

tout dépendra de ce qu'elle sera faite et ce qui aura été mis dedans au départ .l'intelligence artificielle aura-t-elle des sentiments ou sera-t-elle net et précise , sans compassion ni sensibilité à l'amour et autre (travers) ou qualité de l'être humain ?

difficile de répondre mais , il est sur que certains la dirigerons vers le mal et la guerre .

parvenue à un stade ou elle pourra ( juger ) elle même sur ce qu'il convient de faire ...des humains ,que deviendront-t-ils ?

impossible de répondre vraiment ou , que par des hypothèses . cette intelligence artificielle transposé sur un robot , deviendra-telle amoureuse d'un humain ? et cet amour sera-t-il concrétisé par des enfants demi humain et demi machine ? là , la science fiction entre en scène et tout devient possible .

bonne journée

Bonjour Phob,

Chacun a le droit de manifester ses craintes, ses inquiétudes.

Intelligence artificielle est un abus de langage.

Si l’intelligence est une caractéristique humaine, elle n’en reste pas moins une valeur qui n’a aucun sens pour elle-même.

L’intelligence est une capacité conceptuelle, caractérisé chez l’homme.

Cette capacité conceptuelle est la suite logique du développement de l’outil au cours des âges.

Si l’homme a taillé du silex pour fabriquer des armes de chasse, de guerre, pour fabriquer des vêtements, la taille du silex reste une application de l’outil, qui n’a de sens qu’au travers l’usage que l’homme en fait.

Ce silex d’hier s’est transformé en ordinateur de nos jours,mais restera indéfiniment un outil.

Stephen Hawking aurait pu, avec raison, évoquer aussi l'énergie nucléaire,comme une menace, capable de détruire l'espèce humaine.Le nucléaire civil et le nucléaire militaire, c’est justement l’usage que les hommes peuvent en faire qui est la menace, pas l’énergie nucléaire en elle-même.

Imaginons une IA capable d'apprendre et d'explorer tout, voire plus que les humains, et ceci en des temps de traitement et d'analyse records...

Si à cette IA l'organe décisionnel est intégré, c'est le fait que la machine puisse évoluer un certain temps indépendamment de l'humain qui rendrait incertaine la domination de l'humain sur sa création.

A partir de là on peut imaginer le meilleur comme le pire.

On en revient à ce qu'avait dit l'inventeur de la machine à tisser (Jackart) aux ouvriers qui s'inquiétaient de voir une machine faire le même travail qu'eux : "La machine produira plus, plus vite et vous aurez du temps libre". On a vu ce que ça a donné, on travaille autant et les machines, de plus en plus perfectionnées, font diminuer le nombre d'ouvriers et augmenter le nombre de chômeurs.

Je n'ose pas imaginer ce qui se passerait si, demain, un robot intelligent peut se passer de l'homme pour accomplir des tâches diverses et variées !!! Normalement, on devrait tous se la couler douce, mais en fait, on sera tous chez pôle !

Bonjour Zigbu,

Ce que disait Jaquard il y a deux cents ans s’est révélé exacte.

La mécanisation, l'informatisation, la robotisation, a libéré les hommes des tâches pénibles, dangereuses, répétitives, sans intérêt.

Cette révolution lente, puis accélérée, a permis de produire beaucoup,avec de moins en moins de monde, donnant du temps aux hommes.

Ces progrès incontestables, dans le domaine de la production de qualité, en quantité, ont, certes, des conséquences sociales positives,notamment sur le temps libre, les loisirs, mais ont en germe aussi, des effets négatifs, tel que l'exclusion au travail d'un grand nombre de nos contemporains.

C’est un phénomène inédit dans l’histoire des hommes.

L'assistanat est la réponse qui est venue à l'esprit du législateur, pour soigner ce fléau social, mais ne répond pas au sentiment de frustration légitime des exclus.

Chaque génération dans le passé s'est adaptée petit à petit aux crises qu'elles subissaient, mais au prix de beaucoup de souffrance, de destruction et de violence.

Notre époque ne fait pas exception à la règle, qui consiste à s’interroger et à douter sur notre façon de vivre ensemble ?

Poser la bonne question n’est pas nécessairement là garanti d’une bonne réponse, mais c’est l’ordre chronologique à suivre.

Ça rappelle la question : Est-ce qu'on travaille pour vivre ou vit-on pour travailler ?

La sophistication d'une société n'a pas grand chose à voir avec "l'assistanat", ce gros mot pour parler d'assistance.

Devrait-on refuser la direction assistée pour ne pas être un assisté ? :D

Si l'homme peut s'épargner les tâches pénibles et se consacrer à son épanouissement intellectuel, artistique, sportif, n'est-ce pas là un monde qu'on souhaiterait pour les futurs générations ?

Mais les machines industriels ne sont rien comparé à une IA capable de remplacer une classe de politiciens et de chefs stratégiques.

Mais les machines industriels ne sont rien comparé à une IA capable de remplacer une classe de politiciens et de chefs stratégiques.

Alors là, je ne me fais de bile, c'est pas demain le veille qu'on remplacera les politichiens par des robots. Ils sont bien placés pour pondre des lois qui interdiraient à une IA de remplacer un député ou un sénateur. Sont pas très bons dans leur boulot, mais sont pas cons non plus !!

Il y à bien le grand classique d'Asimov:

-Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu'un être humain soit exposé au danger.

-Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la Première loi.

-Un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la Première ou la Deuxième loi.

Peut-être pas pour tout de suite mais à quelle échelle de temps hawking s'inquiète ?

Les IA des très prochaines générations ne seront probablement pas en mesure de tout contrôler, mais peut-être y arriveront-elles par un virus ou une capacité "mal programmée" plus tard

Que ferait un robot s'il devait tuer ou laisser mourir quelqu'un pour en sauver plus ou "qqun de plus important" ?

Pour l'instant on a des applicatifs simples, mais on pourrait être tenté de laisser une machine étudier, analyser et nous dire quoi faire. Un jour peut-être elle ne nous demandera pas notre avis et elle fera

De la SF qu'on fait :D

une IA plus 1 milliard de x plus intelligente que tout les humain réunie

Les corps bioniques ne seront bien évidemment disponibles que pour les plus riches, ainsi le transhumanisme ne sera réservé qu'à une élite et les pauvres resteront dans leur coin avec leur corps en viande tout périssable et plein de maladie dont on sait comment les soigner mais que leur budget ne permettra pas de caresser en rêve.

Je crois que l'homme est trop orgueilleux pour se laisser dépasser par la machine et que le futur, ça sera des corps hybrique avec une intelligence humaine "boostée" mécaniquement, mais jamais totalement remplacée.

Il y à bien le grand classique d'Asimov:

-Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu'un être humain soit exposé au danger.

-Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la Première loi.

-Un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la Première ou la Deuxième loi.

Ce qui par induction nous amène au noeud gordien de la problèmatique de la robotique actuelle qui en l' espèce découle de l' esprit de fondateurs qui n' ont jamais réussi à s' incorporer e premier principe effectif d’Azimov : ne jamais nuire à un être humain.

Les corps bioniques ne seront bien évidemment disponibles que pour les plus riches, ainsi le transhumanisme ne sera réservé qu'à une élite et les pauvres resteront dans leur coin avec leur corps en viande tout périssable et plein de maladie dont on sait comment les soigner mais que leur budget ne permettra pas de caresser en rêve.

Je crois que l'homme est trop orgueilleux pour se laisser dépasser par la machine et que le futur, ça sera des corps hybrique avec une intelligence humaine "boostée" mécaniquement, mais jamais totalement remplacée.

En effet. Tous les appels pour donner des droits aux robots se soucient assez de rappeler qu'il faut soumettre le robot au contrôle de l'humain. Par tous les moyens possibles, d'ailleurs.

Pour ce qui est de l'IA en elle-même, le sujet est plus complexe qu'il n'y paraît. En effet, une IA n'est pas forcément un robot humanoïde. En fait, elle est déjà omniprésente dans nos vies sans que nous nous en soucions véritablement. Mais je ne veux pas parler de ça. Ma nuance irait plutôt sur ces programmes qui sont capable d'imiter de l'humain, voire de faire mieux que lui. Je pense à ce programme capable de créer un article qui parait écrit par un humain, mais je pense surtout à ce programme qui, par l'entrée d'une quantité immense de données, est capable de donner des réponses qu'un humain peut avoir du mal à déceler parce que sa mémoire reste limitée et faillible. On parle là d'un programme qui fait des diagnostics à la place d'un médecin en donnant ce qui est le plus probable en vue de ce qu'il sait et de ce que le patient a, mais aussi de la connaissance actuelle de la médecine. Mais l'inquiétude ne va généralement pas en ce sens, vu que cela est davantage bénéfique que négatif. Ce qui serait dangereux dans ce cas serait de, à terme, oublier que le programme ne fait que comparer de façon très logique par analogie, sans prendre aucun recul sur les particularités du patient en lui-même.

Mais parlons des robots. Si certains cherchent à créer quelque chose de purement utilitaire (comme cela existe déjà au Japon où des robots aident des personnes âgées à faire leurs courses, par exemple), d'autres tentent d'approcher le modèle sur lequel ils se fondent logiquement : nous. Par nous, j'entends davantage le monde vivant que l'être humain, dans la mesure où la capacité à raisonner et à apprendre existe plus ou moins. En revanche, apprendre à la machine comment sentir et, pire, comment faire des erreurs, est plus complexe, en particulier pour le sensible. A ce sujet, certains chercheurs ont "réussi" à rendre des robots capables d'être "névrosés".

Ce que je trouve fascinant, au fond, c'est de chercher à apprendre à quelque chose qui est clairement automatique à ne pas l'être. L'apprentissage qu'une machine voulant devenir humaine est en fait à l'opposé du nôtre qui consiste à rendre nos tâches automatiques afin de faire plus dans un temps donné, tout en étant toujours aussi juste. Avons-nous raison de chercher à nous refaire mécaniquement ?

Je l'ignore. J'ignore tout autant si Hawking a raison de parler si sombrement sur le futur. Je sais cependant qu'en lisant encore tout à l'heure un article sur les neurones miroirs, l'auteur s'inquiétait du fait que le contact humain ne l'est plus vraiment, puisque l'écran n'est pas un humain. De même, comme je l'ai dit plus haut, tous ceux que j'ai lu à propos de la question du droit des robots suggèrent un contrôle drastique du robot, jusqu'au point de le géolocaliser si nécessaire.

Tout ceci pour montrer qu'en fait, même si nous incorporons la technologie dans nos vies, nous la craignons aussi en même temps. Nous avons peur qu'un jour elle nous dépasse. Nous avons peur de passer au second plan. Même quand nous cherchons à rendre nos vies plus faciles à vivre, nous avons cette crainte de le faire de trop. C'est qu'au fond, je pense, cela fait de nous "quelqu'un". Or, en supprimant l'utilité de ce quelqu'un dans un système, cela revient à supprimer ce quelqu'un. Nous nous définissons par rapport aux autres et par rapport à ce que nous faisons, et non pas par rapport à nous-mêmes. Ce qui, je crois, est tout à fait logique.

Reste l'éternel débat de ce que serait l'intelligence. Si elle se limite à être une capacité de raisonnement, à pouvoir user d'une logique pour résoudre un problème, il existe bel et bien une intelligence artificielle qui puisse être plus performante que nous à l'heure actuelle. Mais, si l'intelligence humaine (l'auteur de la conférence de l'autre jour parlait d'une "intelligence naturelle") est plus que cela, si elle a besoin d'une sensibilité (et en fait, je pourrais l'affirmer puisque cela a été démontré), est capable d'intuition qui lui permette non pas de résoudre des problèmes, mais de dépasser par l'intuition ces problèmes, alors l'intelligence artificielle n'est pas équivalente à la nôtre pour le moment.

En réalité, je me demande si nous parlons vraiment de la même chose : est-ce qu'un robot capable de sentir par des capteurs, de raisonner par des algorithmes, de se comporter en somme comme un humain au point de pouvoir tromper un humain comme le voudrait le test de Turing, est vraiment semblable à un humain ? L'observation de l'humain en lui-même suffit à démontrer la diversité qu'il existe en réalité derrière l'apparente unicité de "l'intelligence humaine". A terme, nous pourrions tout à fait envisager qu'une intelligence autre se développe. Personnellement, je dirais que c'est déjà le cas, aucun humain n'ayant les capacités que nous donnons à ces robots.

Je tiens néanmoins à préciser une dernière chose : lorsque nous nous méfions de l'intelligence artificielle, cela revient à nous méfier de nous-mêmes. Les robots seront ce que nous en ferons ou, plutôt, ce que nous tenterons de les faire devenir. Du moins jusqu'aux limites où notre contrôle sera possible. Mais nous pensons souvent contrôler ce que nous n'avons que l'impression de maîtriser.

l'homme est trop orgueilleux pour se laisser dépasser par la machine et que le futur, ça sera des corps hybrique avec une intelligence humaine "boostée" mécaniquement

Jedino, merci d'avoir précisé que l'ia n'est pas un humanoïde

Faut pas flipper, voici un lien super: A réfléchir un petit poil.

http://www.slate.fr/story/96053/vie-cosmos-extraterrestre-probablement-super-robots.

Faut pas que l'homme s'imagine être le nombril du monde, ce n'est qu'une machine biologique, comme tout ce qui vit. L'homme ou l'humain n'a aucune supériorité comme trop se l'imaginent.Il est pas plus que ce qu'il est c'est à dire une illusion utopique.

De simple réaction physico chimique.

Cela me fait penser à un roman intitulé L'oiseau d'Amérique, de Walter Tevis.

Résumé :

Aux alentours des années 2467, longtemps après une grande catastrophe, l'humanité tout entière s'est résolue à ne plus rien faire car les robots font tout : des tâches les plus intellectuelles (gestion des naissances, respect des lois, gestion des pays, réponse à tous les besoins des humains) aux tâches les plus manuelles. Les principales occupations des hommes et des femmes sont de faire l'amour, fumer des joints et prendre des tranquillisants fournis en masse par le gouvernement pendant que les robots s'occupent du reste.

Malheureusement, le monde est vieillissant - les robots tombant en panne et personne n'étant là pour les réparer hormis certains robots, eux aussi en panne depuis longtemps - triste et monotone - plusieurs choses ayant été bannies : les livres, les films, les sentiments, les avocats, etc.

L'histoire est la rencontre de trois êtres que tout oppose : un professeur de l’Université de New York, Paul Bentley, - personnage très candide ignorant tout de la vie et des humains et qui tombe par hasard sur de vieux documents vidéo et de vieux livres (tous bannis), vestiges d'une humanité révolue mais ô combien vivante et intéressante - Mary Lou, jeune rebelle résistant par tous les moyens au système et Robert Spofforth, un robot de classe 9, la plus haute - très intelligent, ayant accès à LA connaissance, même celle du passé, mais qui rêve désespérément de se suicider, ce qui lui est impossible car interdit par ses constructeurs.

Ce robot est-il le dernier espoir de l'humanité ou sa dernière malédiction ?

(http://fr.wikipedia.org/wiki/L%27Oiseau_d%27Am%C3%A9rique)

C'est une façon de voir le futur un peu différente des scénarios de type Terminator, mais réfléchie et intéressante, et qui montre qu'il y a plusieurs décennies, l'inquiétude de certains était déjà présente.