Croyez-vous à la singularité technologique?

"La singularité technologique (ou simplement la singularité) est l'hypothèse selon laquelle l'invention de l'intelligence artificielle déclencherait un emballement de la croissance technologique qui induirait des changements imprévisibles sur la société humaine1.

Au-delà de ce point, le progrès ne serait plus l’œuvre que d’intelligences artificielles, ou « supraintelligence » qui s’auto-amélioreraient, de nouvelles générations de plus en plus intelligentes apparaissant de plus en plus rapidement, créant une « explosion d'intelligence » créant finalement une puissante superintelligence qui dépasserait qualitativement de loin l'intelligence humaine" (wikipedia)

Pourquoi je ne crois pas à la machine à explorer le temps ?

Pour deux raisons : la première à cause du paradoxe du grand-père, la deuxième, si l'humanité inventera cette machine un jour, les voyageurs dans le temps seront déjà parmi nous, et depuis bien longtemps, comme nous n'avons jamais rencontré un humain ou une machine venu du futur, alors cette machine ne sera jamais inventée.

Pourquoi je ne crois pas à la colonisation de l'univers ?

Pour les mêmes raisons, s'il existe un moyen pour voyager plus vite que la lumière, les aliens seront parmi nous depuis des milliers d'années, comme personne n'est jamais venu ici, inutile de rêver de passer des vacances dans la galaxie d'andromède.

Pourquoi je ne crois pas à la singularité technologique ?

Toujours pour les mêmes raisons, une IA super-intelligente est par conséquent immortelle, il suffit de changer de corps, son corps comme son esprit évolueront avec le temps, du coup elle n'a pas besoin de trou de vers pour coloniser l'univers, or aucune IA n'a jamais visité la terre, donc, il n' y aura pas de singularité technologique.

Sauf, bien sur, si nous sommes seuls dans l'univers, dans ce cas, mes arguments ne valent plus rien, c'est pour ça qu'il est très important aujourd'hui de chercher la vie sur mars ou dans le système solaire, le jour ou nous trouvons la moindre bactérie ailleurs, cela signifie, que ce qui nous attend demain, ce n'est pas le transhumanisme, non , c'est simplement notre extinction , comme beaucoup d'autres espèces.
 

L'homme ne réussira pas à créer une "réelle" intelligence artificielle, en tous cas pas avant son échéance à elle. C'est un fantasme que certains ont sans doute pour nier leur propre extinction.

Pour moi on ne peut qu'être agnostique à cette idée.

Impossible de vraiment savoir jusqu'où les progrès de l'IA vont nous conduire.

Il est à peu près certain qu'elles prendront de plus en plus de place dans nos vies par contre.

J'aime bien cette vidéo absolument délirante sur le sujet du basilique de roko, qui montre bien que même les gens les plus rationnels qui soient entrent parfois dans des délires phénoménaux

Les IA seront toujours imparfaites, à l'images des humains qui les ont créées.

Il y a 1 heure, riad** a dit :

Croyez vous à la singularité technologique ?

1. Si les voyages dans le temps sont possibles, où sont les voyageurs temporels venus des époques futures ? Au regard de la compréhension actuelle de la physique et du temps, les voyages temporels ne semblent pas être possibles, au mieux sont-ils extrêmement spéculatifs.

2. Si les voyages interstellaires sont technologiquement envisageables, la quantité d'énergie requise pour les accomplir est totalement hors de notre portée.

3. Je crois à la possibilité de la singularité technologique, non qu'elle soit inéluctable. L'apparition de la vie et de l'intelligence me semblent parfaitement contingentes, je ne crois ni en leur caractère sacré ni en leur miraculosité. Même si nous donnons naissance à une conscience artificielle (ou que nous en devenions nous-même grâce au transhumanisme) et que nous aurions alors le temps de coloniser la galaxie (pour l'univers c'est impossible eu égard à sa vitesse d'expansion), le problème de l'énergie resterait indépassable.

Certains argueront que nous n'avons pas tout découvert et qu'il reste possible qu'une révolution technologique ou conceptuelle nous permette de nous affranchir des limites actuelles. Alors en effet, c'est possible mais ça me semble assez improbable et je me refuse à confondre croire avec désirer, préférant me baser sur les connaissances établies que sur de pures spéculations.

Il y a 3 heures, épixès a dit :

c'est possible mais ça me semble assez improbable et je me refuse à confondre croire avec désirer

Possible, possible... eh justement, ne vouliez-vous pas dire "imaginable" plutôt ?

Non vraiment la seule question devant la Singularité, pour autant que l'analyse "opium du peuple" n'épuise pas le sujet (la question étant de croire ou non), ce dont je doute, la seule question c'est de savoir si c'est nécessaire, non pas possible.

il y a 49 minutes, ArLeKiN a dit :

Possible, possible... eh justement, ne vouliez-vous pas dire "imaginable" plutôt ?

Non vraiment la seule question devant la Singularité, pour autant que l'analyse "opium du peuple" n'épuise pas le sujet (la question étant de croire ou non), ce dont je doute, la seule question c'est de savoir si c'est nécessaire, non pas possible.

Seul le réel détermine ce qui est possible et c'est notre méconnaissance de celui-ci qui permet à l'imaginaire, qui n'a pas de telles limites, de glisser de la virtualité au concevable.

J'admets volontiers que "imaginable" est plus précis car moins plurivoque mais le terme "possible" en étant un synonyme admis, il ne me semble pas hors de propos dans ce contexte.

Vous parlez, je pense, de possibilité comprise comme contingence, de quelque chose qui pourrait ou non advenir et qu'une meilleure connaissance du réel ne permettrait pas forcément de déterminer.

Je parlais moi de possibilité comme liberté de spéculation permise et alimentée par notre ignorance, la connaissance venant là contraindre le champ des possibles. 

L'impossibilité de la singularité n'étant pas établie, elle reste donc possible et nous avons le loisir d'en discuter.

Il y a 6 heures, épixès a dit :

1. Si les voyages dans le temps sont possibles, où sont les voyageurs temporels venus des époques futures ? Au regard de la compréhension actuelle de la physique et du temps, les voyages temporels ne semblent pas être possibles, au mieux sont-ils extrêmement spéculatifs.

2. Si les voyages interstellaires sont technologiquement envisageables, la quantité d'énergie requise pour les accomplir est totalement hors de notre portée.

3. Je crois à la possibilité de la singularité technologique, non qu'elle soit inéluctable. L'apparition de la vie et de l'intelligence me semblent parfaitement contingentes, je ne crois ni en leur caractère sacré ni en leur miraculosité. Même si nous donnons naissance à une conscience artificielle (ou que nous en devenions nous-même grâce au transhumanisme) et que nous aurions alors le temps de coloniser la galaxie (pour l'univers c'est impossible eu égard à sa vitesse d'expansion), le problème de l'énergie resterait indépassable.

Certains argueront que nous n'avons pas tout découvert et qu'il reste possible qu'une révolution technologique ou conceptuelle nous permette de nous affranchir des limites actuelles. Alors en effet, c'est possible mais ça me semble assez improbable et je me refuse à confondre croire avec désirer, préférant me baser sur les connaissances établies que sur de pures spéculations.

Si il y a une "possibilité", elle adviendra nécessairement. Nous ne savons même pas vraiment ce qu'est la conscience ni comment elle fonctionne actuellement.

il y a 1 minute, Constantinople a dit :

Si il y a une "possibilité", elle adviendra nécessairement. Nous ne savons même pas vraiment ce qu'est la conscience ni comment elle fonctionne actuellement.

Croire à une possibilité ne dit pas qu'il y a possibilité.

Il y a 9 heures, riad** a dit :

"La singularité technologique (ou simplement la singularité) est l'hypothèse selon laquelle l'invention de l'intelligence artificielle déclencherait un emballement de la croissance technologique qui induirait des changements imprévisibles sur la société humaine1.

I.A. ou pas, l'imprévisibilité est ce qui caractérise l'avenir, en l'occurrence des sociétés humaines, rétrospectivement est-ce que, hormis hasard vu le nombre de bédouins, quelqu'un a par le passé prédit ce que nous vivons actuellement, pourtant anté-singularité ?

Dit autrement, nous vivons déjà un emballement technologique mû par la main de l'homme, ça n'a donc rien à voir avec ou sans la présence d'une I.A. !

Ce qui fait dire ça par certains, n'est autre que leur peur viscérale qui s'exprime, autrement dit, aujourd'hui comme hier, l'Homme est prompt à toutes sortes de croyances, dans le cas présent, cela concerne nos propres extensions et non plus des phénomènes purement naturels, mais le principe moteur sous-jacent est le même: résorber une peur irrationnelle. 

Citation

 

Au-delà de ce point, le progrès ne serait plus l’œuvre que d’intelligences artificielles, ou « supraintelligence » qui s’auto-amélioreraient, de nouvelles générations de plus en plus intelligentes apparaissant de plus en plus rapidement, créant une « explosion d'intelligence » créant finalement une puissante superintelligence qui dépasserait qualitativement de loin l'intelligence humaine" (wikipedia)
 

C'est oublier pourtant un point essentiel, souvent passé sous silence, celui de la volonté !

Une machine aussi sophistiquée qu'elle soit, ne désire pas, ne planifie pas, n'a pas d'instinct à satisfaire, elle ne fait qu'exécuter une tâche assignée, quand bien même elle aurait une certaine souplesse pour y parvenir tel le deep-learning, elle n'en demeure pas moins prisonnière et entièrement dépendante des programmeurs.

De plus dans la même veine, se pose la question de sa propre maintenance et de son alimentation en énergie et des matières premières, car si une I.A. est ultra-compétente dans un domaine, rien ne dit qu'elle saura tout sur tout et de surcroit sache ou ait les moyens de le(s) mettre en application, i.e. d'acquérir un savoir-faire ! Le spectre du soulèvement des machines est de l'ordre du fantasme pulsionnel et de l'ignorance crasse, une analyse plus fine ne laisse pas présager une telle possibilité, contrairement aux sociétés humaines coopératrices/maillées et poussées par des envies et besoins à satisfaire, l'intelligence seule n'est rien, aussi grande soit-elle ! Si je devais faire une métaphore, l'intelligence serait une automobile aussi perfectionnée que l'on voudra, mais il faudra toujours une destination pour qu'elle soit utile, la voiture ne décrète pas où l'on(elle) doit aller, c'est au conducteur de choisir ou vouloir. On n'a jamais vu un GPS prendre la poudre d'escampette ou " Siri "/ " Ok Google " nous poser la moindre question spontanément !

Non, ce qui alimente tout cela, c'est tout bonnement l'ignorance, plus nos machines deviennent complexes et hors de compréhension d'un seul humain, plus cela augmente le gouffre entre elles et notre entendement à leur sujet, et tout ce qui nous dépasse nous fait peur, et donc nourrit notre imaginaire à défaut de notre raison. Autant dire, que ce phénomène psychologique ne fera que croitre, car madame ou monsieur tout le monde sera de plus en plus largué par nos propres inventions collectives, la ou le projetant dans les mêmes indispositions que la badaud du moyen-âge et ses croyances tout azimut... ( Mouvement déjà entamé/en route ceci dit )

Il y a 1 heure, épixès a dit :

Vous parlez, je pense, de possibilité comprise comme contingence, de quelque chose qui pourrait ou non advenir et qu'une meilleure connaissance du réel ne permettrait pas forcément de déterminer.

Cher Epixes, il faudra me pardonner une certaine obscurité d'expression. 

La singularité n'est pas l'avenir probable selon moi, c'est le passé. L'évolution technique dépend moins que nous l'imaginons des initiatives, des fins et de l'imagination individuelles. En particulier à partir du moment, comme c'est le cas, ou tous les domaines d'activités sont corrélés par l'information, et ce de façon automatique et indépendante, et déjà bien au delà des capacités humaines, si bien qu' il n'y a plus concurrence possible (donc plus d'intervention décisive), dès lors il y a système, bel et bien autonome par rapport à nous, ce qui ne signifie pas absolument autonome.   

La question devient : à quel point ce système est-il indépendant et surtout, à quelle point ses nécessités sont elles impérieuses ? Ce sont elles qui déterminent son évolution. 

Il y a 10 heures, Imaginaerum a dit :

L'homme ne réussira pas à créer une "réelle" intelligence artificielle, en tous cas pas avant son échéance à elle. C'est un fantasme que certains ont sans doute pour nier leur propre extinction.

Je te trouve bien naïf. Les travaux sur l'intelligence artificielle avancent à grand pas dans de nombreux pays, et ce dans la plus complète anarchie et sans aucun contrôle, naturellement. L'intelligence artificielle sera là, au coeur de nos sociétés, bien avant que les hommes politiques se soient demandé si c'était une bonne ou une mauvaise chose. En fait elle est déjà là, sauf qu'elle n'est pas encore très "intelligente"- mais ça change rapidement. Autant dire que l'avenir de cette technologie et les conséquences qui en découleront sont complètement imprévisibles. Les auteurs de science-fiction en ont fait un de leurs thèmes favoris depuis le début du XXe siècle, et en général leur vision de la chose est plutôt pessimiste. On verra bien s'ils avaient raison. Je pense qu'on peut prédire sans trop de risque de se tromper qu'il y aura des intelligences artificielles partout d'ici 2050.

Nous sommes déjà entrés dans un monde de science-fiction, et les années à venir vont être riches en surprises - pas forcément bonnes.

il y a 20 minutes, ArLeKiN a dit :

Cher Epixes, il faudra me pardonner une certaine obscurité d'expression. 

La singularité n'est pas l'avenir probable selon moi, c'est le passé. L'évolution technique dépend moins que nous l'imaginons des initiatives, des fins et de l'imagination individuelles. En particulier à partir du moment, comme c'est le cas, ou tous les domaines d'activités sont corrélés par l'information, et ce de façon automatique et indépendante, et déjà bien au delà des capacités humaines, si bien qu' il n'y a plus concurrence possible (donc plus d'intervention décisive), dès lors il y a système, bel et bien autonome par rapport à nous, ce qui ne signifie pas absolument autonome.   

La question devient : à quel point ce système est-il indépendant et surtout, à quelle point ses nécessités sont elles impérieuses ? Ce sont elles qui déterminent son évolution. 

Si je vois clair au travers de cette obscurité, vous évoquez l'emballement de la technologie et de sa prise d'indépendance par rapport à nous, phénomène singulier émergent d'activités individuelles ou collectives mais non globales.

Ainsi en va-t-il, je crois, de la majorité (sinon la totalité) des productions humaines. Lorsqu'un phénomène devient trop complexe, que le nombre de facteurs est trop important et qu'une multitude d'initiatives individuelles commencent à former un schéma indépendant de la volonté humaine, advient alors le moment où le créateur est dépassé par une création non désirée.

Le système n'est pas indépendant de nous en ce sens qu'il ne subsisterait pas sans nous (ou tout au moins sans l'activité concernée) mais il l'est dans la forme qu'il prend et l'évolution qu'il subit. L'absence d'un projet humain global concernant une activité relève toutefois du détail eu égard à l'impossibilité d'en saisir tous les paramètres, ce qui le rend imprédictible et de fait, incontrôlable. 

Il y a 2 heures, épixès a dit :

Croire à une possibilité ne dit pas qu'il y a possibilité.

Il n'y a que deux alternatives : soit la complexité du cerveau humaine menant à la conscience est purement mécanique et il y a possibilité, soit il y a quelque chose de fondamentalement "supra mécanique" et c'est impossible.

à l’instant, Constantinople a dit :

Il n'y a que deux alternatives : soit la complexité du cerveau humaine menant à la conscience est purement mécanique et il y a possibilité, soit il y a quelque chose de fondamentalement "supra mécanique" et c'est impossible.

Là-dessus nous sommes parfaitement d'accord.

il y a 2 minutes, épixès a dit :

Ainsi en va-t-il, je crois, de la majorité (sinon la totalité) des productions humaines. Lorsqu'un phénomène devient trop complexe, que le nombre de facteurs est trop important et qu'une multitude d'initiatives individuelles commencent à former un schéma indépendant de la volonté humaine, advient alors le moment où le créateur est dépassé par une création non désirée.

Non en effet, ce n'est pas le fait que nos actions produisent des conséquences inattendues, qui est nouveau. C'est ce système, cette réalité n'existait pas auparavant, elle est singulière. 

à l’instant, épixès a dit :

Là-dessus nous sommes parfaitement d'accord.

Donc si il y a possibilité la question n'est pas "est il possible de" car nous savons que la possibilité existe, mais qu'est ce qui rendrait impossible le fait de parvenir à une ia dite "forte", est ce qu'il existe un frein capable de rendre impossible cette création.

il y a 2 minutes, ArLeKiN a dit :

Non en effet, ce n'est pas le fait que nos actions produisent des conséquences inattendues, qui est nouveau. C'est ce système, cette réalité n'existait pas auparavant, elle est singulière. 

La différence est que le système humain a créé la conscience unitaire pour rendre cohérent le système, autant que nous sachions, aucun autre système autre que biologique n'a été capable de faire de même, sauf à spéculation philosophiques. Tout au mieux il existe des systèmes sans mécanisme cohérent de contrôle.

il y a 1 minute, Constantinople a dit :

Donc si il y a possibilité la question n'est pas "est il possible de" car nous savons que la possibilité existe, mais qu'est ce qui rendrait impossible le fait de parvenir à une ia dite "forte", est ce qu'il existe un frein capable de rendre impossible cette création.

Personnellement je ne sais pas si la possibilité existe, je le crois, nuance.

Qu'une possibilité existe n'implique pas forcément qu'elle se réalise, ce serait nier toute contingence.

il y a 17 minutes, épixès a dit :

Personnellement je ne sais pas si la possibilité existe, je le crois, nuance.

Qu'une possibilité existe n'implique pas forcément qu'elle se réalise, ce serait nier toute contingence.

Sans vouloir répondre à sa place, je réponds en mon nom que ce serait oublier la façon dont fonctionne le capitalisme marchand. Comme le disaient déjà certains comme Jacques Ellul, le monde de la technique répond à l'impératif technique qui implique que ce qui peut être fait doit être fait.

Tout ce que nous faisons c'est recombiner de façon originale les diverses inventions que nous produisons, et s'il  existe une possibilité un jour de fabriquer une IA forte, alors elle aura lieu.

il y a 2 minutes, Quasi-Modo a dit :

Sans vouloir répondre à sa place, je réponds en mon nom que ce serait oublier la façon dont fonctionne le capitalisme marchand. Comme le disaient déjà certains comme Jacques Ellul, le monde de la technique répond à l'impératif technique qui implique que ce qui peut être fait doit être fait.

Tout ce que nous faisons c'est recombiner de façon originale les diverses inventions que nous produisons, et s'il  existe une possibilité un jour de fabriquer une IA forte, alors elle aura lieu.

Vous avez parfaitement raison, je m'étais trop éloigné du sujet initial pour me concentrer sur la notion de possibilité dans l'absolu.

Si en effet la possibilité existe qu'une IA forte puisse se faire, nul doute que nous la réifiions.