Croyez-vous à la singularité technologique?

il y a 43 minutes, épixès a dit :

Personnellement je ne sais pas si la possibilité existe, je le crois, nuance.

Qu'une possibilité existe n'implique pas forcément qu'elle se réalise, ce serait nier toute contingence.

En ajout à ce qu'a dit quasi modo, je répéte donc que si possibilité existe, c'est plutôt quel frein pourrait empêcher sa création qui se pose.

Après dans quelle mesure le cerveau humain est-il comparable à un système d'information ?

Certains ont tenté de trouver des limites à cette différence comme dans l'expérience de pensée de la chambre chinoise (John Searle) ou la critique de John Lucas qui se base sur l'impossibilité (à priori) qu'une machine puisse faire des démonstration mathématiques aussi vastes qu'un mathématicien humain (à cause du théorème de Gödel).

il y a 4 minutes, Constantinople a dit :

En ajout à ce qu'a dit quasi modo, je répéte donc que si possibilité existe, c'est plutôt quel frein pourrait empêcher sa création qui se pose.

A part arrêter de développer l'informatique (ce qui m'apparait irréalisable), je n'en vois pas.

Je ne suis d'ailleurs pas convaincu que l'empêcher soit souhaitable.

Beaucoup d'écrits sur le sujet, tant dans des magazines spécialisés que sur le Net.. c'est LA grande question !

L'IA va t-elle nous dépasser ?

Techniquement, en rapidité de calcul, d'analyses elle dépasse déjà les hommes ! Reste la conscience, mais avec des données supplémentaires, elle y parviendra. L'humain connait-il vraiment la conscience ?

S'y ajouteront les questions sur l'avenir de l'emploi, de la liberté de circuler (auto performante sans chauffeur), de se soigner (médecins robots), etc..

Domaine où tout avance très vite !

il y a une heure, épixès a dit :

A part arrêter de développer l'informatique (ce qui m'apparait irréalisable), je n'en vois pas.

Je ne suis d'ailleurs pas convaincu que l'empêcher soit souhaitable.

Là dessus la science fiction a imaginé nombre de scénarios...Mais quoi qu'il arrive cela impacterait nécessairement l'évolution humaine de façon drastique.

Il y a 5 heures, Constantinople a dit :

Si il y a une "possibilité", elle adviendra nécessairement. Nous ne savons même pas vraiment ce qu'est la conscience ni comment elle fonctionne actuellement.

On a tendance aujourd'hui à croire que la conscience est phénoménale, c'est à dire indépendante de ses composants physique, si on rassemble cent millions d'individus et qu'on les fait échanger des messages écrits sur papier, une conscience semblable à la nôtre émergera de cette activité.
 

Il y a 3 heures, Gouderien a dit :

Je te trouve bien naïf. Les travaux sur l'intelligence artificielle avancent à grand pas dans de nombreux pays, et ce dans la plus complète anarchie et sans aucun contrôle, naturellement. L'intelligence artificielle sera là, au coeur de nos sociétés, bien avant que les hommes politiques se soient demandé si c'était une bonne ou une mauvaise chose. En fait elle est déjà là, sauf qu'elle n'est pas encore très "intelligente"- mais ça change rapidement. Autant dire que l'avenir de cette technologie et les conséquences qui en découleront sont complètement imprévisibles. Les auteurs de science-fiction en ont fait un de leurs thèmes favoris depuis le début du XXe siècle, et en général leur vision de la chose est plutôt pessimiste. On verra bien s'ils avaient raison. Je pense qu'on peut prédire sans trop de risque de se tromper qu'il y aura des intelligences artificielles partout d'ici 2050.

Nous sommes déjà entrés dans un monde de science-fiction, et les années à venir vont être riches en surprises - pas forcément bonnes.

Oui mais la singularité dans tous ça? la singularité technologique telle qu'on la décrit aujourd'hui, n'est pas une simple explosion de l'intelligence artificielle, elle demande une autre forme d'intelligence artificielle que l'en désigne de "forte", c'est à dire, au moins semblable à celle des humains, avec une illusion de conscience, une illusion de libre arbitre, une illusion de moi et de personnalité, un psychisme, des qualia, toute la complexité humaine quoi? et ça on ne sait même pas ce que c'est aujourd'hui en 2020, comment peut-on arriver à résoudre toutes ces énigmes en seulement trente ans, sachant que se sont des questions de nature philosophique avant tout?
 

il y a 14 minutes, riad** a dit :

Oui mais la singularité dans tous ça? la singularité technologique telle qu'on la décrit aujourd'hui, n'est pas une simple explosion de l'intelligence artificielle, elle demande une autre forme d'intelligence artificielle que l'en désigne de "forte", c'est à dire, au moins semblable à celle des humains, avec une illusion de conscience, une illusion de libre arbitre, une illusion de moi et de personnalité, un psychisme, des qualia, toute la complexité humaine quoi? et ça on ne sait même pas ce que c'est aujourd'hui en 2020, comment peut-on arriver à résoudre toutes ces énigmes en seulement trente ans, sachant que se sont des questions de nature philosophique avant tout?
 

Ce ne sont pas des énigmes à résoudre, plutôt un danger à éviter. Tu sembles raisonner comme si la "singularité technologique" était une chose souhaitable. Pas du tout, je pense qu'il faudrait même tout faire pour s'y opposer. Seulement dès que les IA atteindront une certaine puissance - ce qui devrait se produire dans les 20 ans à venir -, les choses arriveront d'elles-mêmes, inéluctablement. Quand les ordinateurs - et les robots - seront plus intelligents que nous, qui seront les vrais maîtres du monde? Et il me semble que tu introduits de la philosophie, voire de la métaphysique, dans des questions qui sont avant tout techniques.

Il est bien possible que des gens, orphelins inconsolables de Dieu, s'imaginent que le prochain dieu sera informatique. De mon point de vue, de telles idées n'ont aucun intérêt et sont même dangereuses.

il y a 3 minutes, Gouderien a dit :

Ce ne sont pas des énigmes à résoudre, plutôt un danger à éviter. Tu sembles raisonner comme si la "singularité technologique" était une chose souhaitable. Pas du tout, je pense qu'il faudrait même tout faire pour s'y opposer. Seulement dès que les IA atteindront une certaine puissance - ce qui devrait se produire dans les 20 ans à venir -, les choses arriveront d'elles-mêmes, inéluctablement. Quand les ordinateurs - et les robots - seront plus intelligents que nous, qui seront les vrais maîtres du monde?

L'humain a toujours conçu des outils pour faire des taches spécifiques, évidemment l'outil dépasse l'humain dans la capacité de faire cette tache, puisque c'est pour ça qu'il est conçu, ainsi une calculatrice dépasse de loin la capacité de notre cerveau à faire des calculs, mais ça s'arrête là, c'est le cas aujourd'hui de tout les ias capable de conduire une voiture, de reconnaitre un visage, de jouer au go, de composer de la musique, de faire des diagnostics...et bientôt des ias hautement spécialisées vont nous remplacer dans nos postes, elles travailleront à notre place, il y aura du chômage... voilà on a parlé des dangers, mais c'est pas le sujet.

Le sujet porte sur l'intelligence forte, cette forme d'intelligence artificiel n'existe pas aujourd'hui, et nous ne savons même pas comment procéder pour la créer, donc parler de ses dangers c'est bien mais dis-nous d'abord qu'est ce qui te fait croire qu'une telle forme d'ia puisse exister?
 

il y a 3 minutes, riad** a dit :

Le sujet porte sur l'intelligence forte, cette forme d'intelligence artificiel n'existe pas aujourd'hui, et nous ne savons même pas comment procéder pour la créer, donc parler de ses dangers c'est bien mais dis-nous d'abord qu'est ce qui te fait croire qu'une telle forme d'ia puisse exister?

 

Bien sûr qu'elle peut exister! C'est juste une question de temps et de moyens. Mais je n'en vois pas l'intérêt.

S'il s'agit de résoudre nos problèmes à notre place… je crois que l'existence-même de cette super-IA créera plus de problèmes qu'elle n'en résoudra.

il y a 11 minutes, Gouderien a dit :

Bien sûr qu'elle peut exister! Mais je n'en vois pas l'intérêt.

Moi non plus, mais moi au moins je suis un peu rassuré pour les raisons évoquées par @Constantinople, seulement toi, Elon Muks, Laurent Alexandre et les gars de youtube, vous semblez convaincus que la singularité est inévitable.
 

il y a 2 minutes, riad** a dit :

Moi non plus, mais moi au moins je suis un peu rassuré pour les raisons évoquées par @Constantinople, seulement toi, Elon Muks, Laurent Alexandre et les gars de youtube, vous semblez convaincus que la singularité est inévitable.
 

Ce terme de "singularité" m'énerve, car il comporte une dimension philosophique dans ce qui pour moi est avant tout un problème technique - d'ailleurs tu as créé ton topic en section philosophie. Les chercheurs qui travaillent à améliorer l'IA ne se demandent pas s'ils vont créer une sorte de "dieu informatique". Ils ne se demandent rien, d'ailleurs, c'est bien ça le problème, et c'est pourquoi nous n'y échapperons pas. Après, que sera la vie des hommes dans un monde dominé par les ordinateurs et les robots, aucune idée mais il me semble que ce ne sera pas joyeux.

.

Comme si la quantité avait la moindre importance et devrait concourir à un effet seuil ! Autant dire similairement qu'il suffirait de multiplier les substances chimiques, soit en genre soit en nombre, pour que la vie apparaisse spontanément dans une fiole ! C'est une croyance.

Nos machines présentes et à venir, seront toujours reliées par un cordon ombilical à leur créateur, elles ne pourront donc pas s'émanciper et encore moins prendre l'ascendant. Sans oublier l'écueil épistémique qui est éludé sans cesse dans cette conversation, celui de la volonté ou du désir ! Je ne crois pas qu'AlphaGo ait manifesté la moindre tendance a vouloir jouer au jeu de dames, ni, si on l'avait mis devant le fait accompli, réussi à jouer la moindre partie !

Je vois surtout le même phénomène socio-psychologique vis-à-vis des machines, que feu les gaulois d'avoir peur que le ciel leur tombe sur la tête.

Nos inventions nous permettrons, sans sombrer dans le transhumanisme, a vivre mieux si l'on sait en faire un usage convenable, à réduire les morts ou à épargner des vies, à soigner mieux, à mieux gérer notre impact sur la Terre, c'est un fait une machine est plus fiable que l'humain; seul exemple, la sécurité aérienne: 95% des accidents sont des erreurs humaines ! Raison pour laquelle, nombre de compagnies planchent sérieusement pour évincer l'humain de l'équation de pilotage...

N'oublions que derrière une machine, il y a en réalité d'autres humains, mais sans leurs émotions et leurs biais aléatoires. Et que donc si nous sommes avilis par une quelconque machine, c'est par la volonté uniquement d'une ou plusieurs personnes derrière, comme actuellement avec les géants du Gafa par exemple, rien de plus, rien de moins. 

il y a 38 minutes, Tequila Moor a dit :

 

Amusant mais scientifiquement léger. Tirer de grandes théories... à partir de son ignorance (car que savons-nous de l'univers?) me semble hasardeux. Nous ne voyons rien dans l'univers avec nos sens de nains et nos instruments primitifs, et nous en déduisons qu'il n'y a rien à voir? Et quand nous voyons quelque chose (comme les innombrables apparitions d'OVNI), nous proclamons que ça n'existe pas! 

Je retiens juste de cette vidéo la notion de "grand filtre", qui est intéressante.

Il y a 16 heures, riad** a dit :

"La singularité technologique (ou simplement la singularité) est l'hypothèse selon laquelle l'invention de l'intelligence artificielle déclencherait un emballement de la croissance technologique qui induirait des changements imprévisibles sur la société humaine1.

Au-delà de ce point, le progrès ne serait plus l’œuvre que d’intelligences artificielles, ou « supraintelligence » qui s’auto-amélioreraient, de nouvelles générations de plus en plus intelligentes apparaissant de plus en plus rapidement, créant une « explosion d'intelligence » créant finalement une puissante superintelligence qui dépasserait qualitativement de loin l'intelligence humaine" (wikipedia)

Pourquoi je ne crois pas à la machine à explorer le temps ?

Pour deux raisons : la première à cause du paradoxe du grand-père, la deuxième, si l'humanité inventera cette machine un jour, les voyageurs dans le temps seront déjà parmi nous, et depuis bien longtemps, comme nous n'avons jamais rencontré un humain ou une machine venu du futur, alors cette machine ne sera jamais inventée.

Pourquoi je ne crois pas à la colonisation de l'univers ?

Pour les mêmes raisons, s'il existe un moyen pour voyager plus vite que la lumière, les aliens seront parmi nous depuis des milliers d'années, comme personne n'est jamais venu ici, inutile de rêver de passer des vacances dans la galaxie d'andromède.

Pourquoi je ne crois pas à la singularité technologique ?

Toujours pour les mêmes raisons, une IA super-intelligente est par conséquent immortelle, il suffit de changer de corps, son corps comme son esprit évolueront avec le temps, du coup elle n'a pas besoin de trou de vers pour coloniser l'univers, or aucune IA n'a jamais visité la terre, donc, il n' y aura pas de singularité technologique.

Sauf, bien sur, si nous sommes seuls dans l'univers, dans ce cas, mes arguments ne valent plus rien, c'est pour ça qu'il est très important aujourd'hui de chercher la vie sur mars ou dans le système solaire, le jour ou nous trouvons la moindre bactérie ailleurs, cela signifie, que ce qui nous attend demain, ce n'est pas le transhumanisme, non , c'est simplement notre extinction , comme beaucoup d'autres espèces.
 

Bonjour,

Le débat fait rage, mais à mon avis, il existe une différence ontologique péremptoire entre l'homme et l'intelligence artificielle :

L'intelligence artificielle n'a pas de notions, parce que les notions sont dimensionnelles et non corpusculaires, donc infalsifiables.

La machine qui vous bat aux échecs ne sait même pas qu'elle est en train de jouer, et je vois mal comment elle le pourrait sans un déterminisme dimensionnel ultra-parallélisé.

La méthode du Deep Learning n'a certainement pas encore tout donné de son potentiel, mais elle ne sait, par exemple, pas encore faire spontanément l'analogie entre un escargot et un camping-car, faute d'une modélisation cognitive plus physique qu'ontologique. Par contre, Google a récemment mis au point la première machine schizophrène, qui voit des monstres partout. 

Mais même en raisonnant dans l'absolu : si on pouvait vous "copier-coller" dans une IA du futur, la nécessité du parallélisme serait telle qu'elle consommerait astronomiquement plus que votre cerveau de 100 watts. Jamais une machine polyvalente ne consommera moins qu'un bol de riz par jour. Ce n'est donc pas l'impossibilité technique mais plutôt sa rentabilisation qui devrait nous rassurer sur la pérennité humaine.

Cordialement, Fraction.

il y a 43 minutes, Tequila Moor a dit :

 

J'ai vu cette vidéo juste avant de poster ce sujet.

.

il y a une heure, deja-utilise a dit :

Comme si la quantité avait la moindre importance et devrait concourir à un effet seuil ! Autant dire similairement qu'il suffirait de multiplier les substances chimiques, soit en genre soit en nombre, pour que la vie apparaisse spontanément dans une fiole ! C'est une croyance.

 

La vie n'a pas encore apparu dans les fioles, mais on avance :
 

https://www.futura-sciences.com/sante/actualites/vie-chimie-prebiotique-vie-terre-2758/

Citation

Nos machines présentes et à venir, seront toujours reliées par un cordon ombilical à leur créateur, elles ne pourront donc pas s'émanciper et encore moins prendre l'ascendant. Sans oublier l'écueil épistémique qui est éludé sans cesse dans cette conversation, celui de la volonté ou du désir ! Je ne crois pas qu'AlphaGo ait manifesté la moindre tendance a vouloir jouer au jeu de dames, ni, si on l'avait mis devant le fait accompli, réussi à jouer la moindre partie !

Blue-machin la machine de IBM qui a battu le champion du monde des échecs, n'était qu'une grosse calculatrice, Alpha Go, n'est pas différent, c'est juste plus sophistiqué, il utilise des réseaux de neurones et donc des méthodes statistiques, hormis la compréhension de ce qu'il fait, il n'est pas capable de s'adapter, il suffit de changer un paramètre dans le jeu, et il se goure complétement.

Certains disent que c'est juste une histoire de complexité.
 

il y a 28 minutes, Tequila Moor a dit :

Je m'en doutais : ton argumentaire sur le voyage dans le temps et la colonisation de l'univers par vitesse supraluminique me semblait en être tiré.

Oui.

il y a 37 minutes, Gouderien a dit :

 

Amusant mais scientifiquement léger. Tirer de grandes théories... à partir de son ignorance (car que savons-nous de l'univers?) me semble hasardeux. Nous ne voyons rien dans l'univers avec nos sens de nains et nos instruments primitifs, et nous en déduisons qu'il n'y a rien à voir? Et quand nous voyons quelque chose (comme les innombrables apparitions d'OVNI), nous proclamons que ça n'existe pas! 

Je retiens juste de cette vidéo la notion de "grand filtre", qui est intéressante.

Des apparitions d'ovnis? tu penses que moimoimoi est un vaisseau spatial? SETI  l'ont  écouté, ils n'ont rien capté, c'est juste un caillou interstellaire.