Pourquoi « Skynet » n’aura pas lieu

Une discussion récente sur la relation homme-machine et aussi mon enthousiasme pour le film culte « The Terminator » m’ont amené à réfléchir sur la question de « Est-ce qu’une machine dotée d’une IA peut-elle un jour devenir consciente ? ». Pour répondre à cette question je me positionne dans le cadre de la philosophie de Heidegger, son questionnement sur le thème de l’Être et son concept de « Dasein ».

Le « Dasein » communément appelé « l’homme » est un être conscient qui existe dans son monde à travers son propre regard. Le Dasein existe en tant qu’être conscient, une conscience qui à travers une fenêtre est disposée à son monde. Car en effet le Dasein peut être « concerné », « abordé » ou encore « affecté » par son monde environnant. Enfin le point le plus important : le Dasein fait l’expérience de lui-même, de sa propre existence, par le biais des sentiments qu’il peut éprouver tout au long de son existence.

Maintenant, regardons voir ce qui se passe si on remplace simplement le mot « Dasein » par « Machine » tout en supposant donc qu’elle serait devenue consciente : La machine devrait donc pouvoir avoir un regard sur le monde qui l’environne, un regard qu’elle porte à travers une fenêtre. Ce qui veut dire également que la machine serait « disposée », c’est-à-dire plus précisément « concernée » , « abordée », ou « affectée » par son monde environnant. Jusqu’au là, tout ceci semble assez improbable, mais le point de non retour c’est lorsqu’on doit considérer la question de la conscience de soi : La machine doit pouvoir faire l’expérience de lui-même, de sa propre existence, par justement le biais de « sentiments ».

Dans l’imaginaire collectif, une machine devenue consciente (skynet), est un être froid et rationnel, mais nous venons de montrer que la machine pour pouvoir être consciente doit obligatoirement pouvoir éprouver des « sentiments ». En conclusion : Une « conscience froide » (sans sentiments) telle qu’on l’imagine lorsqu’on parle de l’IA est un non sens, une telle chose est par essence contradictoire et ne peut donc pas exister.

Il y a 1 heure, Groenland a dit :

Dans l’imaginaire collectif, une machine devenue consciente (skynet), est un être froid et rationnel, mais nous venons de montrer que la machine pour pouvoir être consciente doit obligatoirement pouvoir éprouver des « sentiments ». En conclusion : Une « conscience froide » (sans sentiments) telle qu’on l’imagine lorsqu’on parle de l’IA est un non sens, une telle chose est par essence contradictoire et ne peut donc pas exister.

Skynet est un être froid et rationnel mais la question que vous posez précédemment demande si «une machine dotée d'une IA peut un jour devenir consciente», ce qui est très différent.

En regard de ce que nous savons aujourd'hui des neurosciences il nous est tout à fait permis d'imaginer une IA dotée d'émotions et nombreux sont les auteurs de science fiction à l'avoir fait (Asimov en tête) sans attendre ces connaissances. Les travaux de Damasio et bien d'autres suggèrent l'extrême intrication des émotions dans les processus cognitifs. La conscience contribue à gérer et préserver la vie mais n'est pas nécessaire pour cela: Des organismes sans le Soi le font également, guidés par la récompense et la punition.

Quoiqu'il en soit le terme de conscience est malheureusement trop flou pour savoir s'il est même pertinent dans les questions que vous soulevez.  Une machine telle que Skynet pourrait très bien tenter de s'en prendre aux humains en obéissant à un programme lui intimant de prendre toutes les mesures nécessaires à la cessation de toutes les guerres ou des souffrances de l'humanité. On pourrait également imaginer une IA sous forme de machine à apprendre par elle-même dotée d'ébauches d'émotions desquelles émergerait une forme d'instincts qui la pousseraient là aussi à agresser l'humanité.

Je ne prétends pas réfuter votre thèse, seulement sa prétention à clore définitivement le sujet.

il y a 47 minutes, épixès a dit :

Skynet est un être froid et rationnel mais la question que vous posez précédemment demande si «une machine dotée d'une IA peut un jour devenir consciente», ce qui est très différent.

En regard de ce que nous savons aujourd'hui des neurosciences il nous est tout à fait permis d'imaginer une IA dotée d'émotions et nombreux sont les auteurs de science fiction à l'avoir fait (Asimov en tête) sans attendre ces connaissances. Les travaux de Damasio et bien d'autres suggèrent l'extrême intrication des émotions dans les processus cognitifs. La conscience contribue à gérer et préserver la vie mais n'est pas nécessaire pour cela: Des organismes sans le Soi le font également, guidés par la récompense et la punition.

Quoiqu'il en soit le terme de conscience est malheureusement trop flou pour savoir s'il est même pertinent dans les questions que vous soulevez.  Une machine telle que Skynet pourrait très bien tenter de s'en prendre aux humains en obéissant à un programme lui intimant de prendre toutes les mesures nécessaires à la cessation de toutes les guerres ou des souffrances de l'humanité. On pourrait également imaginer une IA sous forme de machine à apprendre par elle-même dotée d'ébauches d'émotions desquelles émergerait une forme d'instincts qui la pousseraient là aussi à agresser l'humanité.

Je ne prétends pas réfuter votre thèse, seulement sa prétention à clore définitivement le sujet.

Vous avez là au moins la preuve que je suis bien humain et non un robot ! 

Mais plus sérieusement, je ne suis pas calé en neuroscience ni même en IA mais suite à la découverte de la philosophie de Martin Heidegger et notamment la notion du "Dasein" je me suis simplement amusé à me pencher sur la question de l'intelligence artificielle en m'armant de cette philosophie.

Je vous concède que d'après ce que j'ai lu de Heidegger, il ne parle pas de "Conscience" en soi, une notion encore et toujours bien floue mais plutôt de l’Être, ce qui me semble en effet différent. Cependant ma démarche consiste à tout en considérant le caractère "conscient" du Dasein (l'homme) à transposer la machine à ce concept pour voir si une telle chose (machine consciente) peut avoir un sens. Ce qui à priori ne me semble pas complètement délirant en tant qu'approche... (ou bien qu'on me dise pourquoi ça serait absurde de faire cela ?)

L'idée est aussi de dire qu'à mon avis avant de commencer à perdre du temps et de l'argent dans les laboratoires de recherche scientifiques, regardons voir si déjà une "machine consciente" est philosophiquement parlant possible et est-ce qu'une telle chose peut réellement avoir un sens ?

il y a 15 minutes, Groenland a dit :

Vous avez là au moins la preuve que je suis bien humain et non un robot ! 

Mais plus sérieusement, je ne suis pas calé en neuroscience ni même en IA mais suite à la découverte de la philosophie de Martin Heidegger et notamment la notion du "Dasein" je me suis simplement amusé à me pencher sur la question de l'intelligence artificielle en m'armant de cette philosophie.

Je vous concède que d'après ce que j'ai lu de Heidegger, il ne parle pas de "Conscience" en soi, une notion encore et toujours bien floue mais plutôt de l’Être, ce qui me semble en effet différent. Cependant ma démarche consiste à tout en considérant le caractère "conscient" du Dasein (l'homme) à transposer la machine à ce concept pour voir si une telle chose (machine consciente) peut avoir un sens. Ce qui à priori ne me semble pas complètement délirant en tant qu'approche... (ou bien qu'on me dise pourquoi ça serait absurde de faire cela ?)

L'idée est aussi de dire qu'à mon avis avant de commencer à perdre du temps et de l'argent dans les laboratoires de recherche scientifiques, regardons voir si déjà une "machine consciente" est philosophiquement parlant possible et est-ce qu'une telle chose peut réellement avoir un sens ?

Dès lors qu'on prend l'hypothèse naturaliste matérialiste au sérieux et qui emporte l'assentiment d'une écrasante majorité de scientifiques et de philosophes aujourd'hui, due et entretenue par son incessante fécondité explicative et créative, on est bien obligé d'admettre que l'homme est une machine biologique, d'une effrayante complexité certes, et que sa pensée même n'émerge que de l'interaction de processus physiques.

Que ces processus puissent jaillir du silicium plutôt que d'une base carbonée ne me semble pas particulièrement invraisemblable, pas plus que ce que la nature à produit d'une façon, l'homme puisse éventuellement le reproduire d'une autre façon, cela se voit tous les jours, même si j'admet bien volontiers qu'il s'agit là d'un projet hautement plus complexe.

On ne peut certes pas affirmer avec certitude que produire une machine consciente soit possible mais tout ce que nous avons compris de la nature des choses jusqu'à présent semble le suggérer.

Je ne vois personnellement aucun obstacle philosophique à cette hypothèse, et quand bien même il en existerait, c'est la réalité et non la philosophie qui, ici comme ailleurs, aura le dernier mot.

il y a 21 minutes, épixès a dit :

Dès lors qu'on prend l'hypothèse naturaliste matérialiste au sérieux et qui emporte l'assentiment d'une écrasante majorité de scientifiques et de philosophes aujourd'hui, due et entretenue par son incessante fécondité explicative et créative, on est bien obligé d'admettre que l'homme est une machine biologique, d'une effrayante complexité certes, et que sa pensée même n'émerge que de l'interaction de processus physiques.

Que ces processus puissent jaillir du silicium plutôt que d'une base carbonée ne me semble pas particulièrement invraisemblable, pas plus que ce que la nature à produit d'une façon, l'homme puisse éventuellement le reproduire d'une autre façon, cela se voit tous les jours, même si j'admet bien volontiers qu'il s'agit là d'un projet hautement plus complexe.

On ne peut certes pas affirmer avec certitude que produire une machine consciente soit possible mais tout ce que nous avons compris de la nature des choses jusqu'à présent semble le suggérer.

Je ne vois personnellement aucun obstacle philosophique à cette hypothèse, et quand bien même il en existerait, c'est la réalité et non la philosophie qui, ici comme ailleurs, aura le dernier mot.

Je voudrais juste dire une chose : au fond de moi par instinct je sais que cela va arriver et qu'on finira par faire apparaître une machine consciente. Mais la vraie question est : Est-ce que l'homme tel qu'on le connaît est-il prêt à accueillir une telle chose ? 

Sans vouloir rentrer dans la fiction et imaginer des dangers qu'une telle chose peut représenter, je me demande si l'existence humaine ne va pas s'effondrer d'elle-même par une telle création... En gros c'est la question d'est-ce que la technique et la science ne vont pas beaucoup plus vite que la capacité de l'humain à "encaisser" ? Une question philosophique que s'est posé aussi Heidegger dans sa pensée sur la technique.

Mais toujours est-il que pour moi si le concept du Dasein est un réel moyen d'expliquer l'existence humaine alors il est aussi une preuve qu'une machine ne peut pas se transposer au Dasein et donc à l'homme.

il y a 48 minutes, Groenland a dit :

Est-ce que l'homme tel qu'on le connaît est-il prêt à accueillir une telle chose ? 

La question est plus complexe qu'elle en a l'air, déjà par ce que l'homme évoqué n'est qu'une abstraction. L'humanité est un mot et un concept qui n'a de réalité que dans notre esprit alors que le monde est lui peuplé d'individus bien réels, chacun ne représentant que lui-même et possédant sa propre sensibilité à l'égard de cette question comme de toutes les autres.

Mais, nous juchant sur les données de la sociologie, nous savons que si cela se fait rarement sans protestations, l'homme est prompt à s'approprier une technologie qui lui profite. Des individus que la nouveauté effraient résistent ou même combattent activement ce qui bouscule leur paradigme et leur système de valeurs mais la génération suivante, dépourvue de telles appréhensions, s'empare de l'innovation et l'intègre à son quotidien.

il y a une heure, Groenland a dit :

Sans vouloir rentrer dans la fiction et imaginer des dangers qu'une telle chose peut représenter, je me demande si l'existence humaine ne va pas s'effondrer d'elle-même par une telle création... En gros c'est la question d'est-ce que la technique et la science ne vont pas beaucoup plus vite que la capacité de l'humain à "encaisser" ?

On ne peut que spéculer sur les conséquences qu'aurait une telle révolution, la seule chose certaine est que l'existence humaine s'effondrera, de ça ou d'autre chose. 

Ce n'est pas tant que la science et la technique aillent trop vite pour être «encaissés» par l'homme, c'est que notre capacité à agir sur le monde progresse bien plus vite que notre aptitude à mesurer les conséquences de ces actions. Notre savoir progresse trop vite pour ce qu'il réclame de sagesse à le manier avec discernement. Une autre façon de le dire est que nous découvrons à peine que le monde est infiniment plus complexe que nous ne le soupçonnons et qu'interagir avec lui est extrêmement plus délicat que ce que peut en comprendre un esprit humain, tant celui-ci est limité dans le temps, l'espace, sa capacité à apprendre et à mettre en relation ce qu'il a finalement appris.

il y a 15 minutes, épixès a dit :

La question est plus complexe qu'elle en a l'air, déjà par ce que l'homme évoqué n'est qu'une abstraction. L'humanité est un mot et un concept qui n'a de réalité que dans notre esprit alors que le monde est lui peuplé d'individus bien réels, chacun ne représentant que lui-même et possédant sa propre sensibilité à l'égard de cette question comme de toutes les autres.

Mais, nous juchant sur les données de la sociologie, nous savons que si cela se fait rarement sans protestations, l'homme est prompt à s'approprier une technologie qui lui profite. Des individus que la nouveauté effraient résistent ou même combattent activement ce qui bouscule leur paradigme et leur système de valeurs mais la génération suivante, dépourvue de telles appréhensions, s'empare de l'innovation et l'intègre à son quotidien.

Bon là je ne commente pas trop car on rentre dans la "politique" et j'avoue que je suis nul en politique et qu'à vrai dire je n'aime pas ça du tout !

il y a 16 minutes, épixès a dit :

On ne peut que spéculer sur les conséquences qu'aurait une telle révolution, la seule chose certaine est que l'existence humaine s'effondrera, de ça ou d'autre chose. 

Ce n'est pas tant que la science et la technique aillent trop vite pour être «encaissés» par l'homme, c'est que notre capacité à agir sur le monde progresse bien plus vite que notre aptitude à mesurer les conséquences de ces actions. Notre savoir progresse trop vite pour ce qu'il réclame de sagesse à le manier avec discernement. Une autre façon de le dire est que nous découvrons à peine que le monde est infiniment plus complexe que nous ne le soupçonnons et qu'interagir avec lui est extrêmement plus délicat que ce que peut en comprendre un esprit humain, tant celui-ci est limité dans le temps, l'espace, sa capacité à apprendre et à mettre en relation ce qu'il a finalement appris.

Effectivement vous l'avez bien dit, il s'agit là d'un "débordement" plutôt que d'un encaissement. L'homme n'est pas conscient de ce qu'il fait à son environnement et à la nature et pire encore il n'est même pas conscient de ce qu'il se fait à lui-même (d'où cette volonté de créer par exemple des machines intelligentes). Et mon sentiment c'est que l'écologie telle qu'elle nous est présentée aujourd’hui relève d'une façon bien cynique d'aborder la question de la nature et aussi donc la question de l'incapacité de l'homme à évaluer les conséquences de ses actes sur son environnement. Mais je dirais que vaut mieux cette écologie "cynique" que rien du tout. Je parle de cynisme car l'écologie actuellement est complètement dépendante des questions politiques et que perso c'est un périmètre qui ne m'intéresse plus même si je sais que j'ai tort sur cette attitude là ...! 

Il y a 5 heures, Groenland a dit :

Une discussion récente sur la relation homme-machine et aussi mon enthousiasme pour le film culte « The Terminator » m’ont amené à réfléchir sur la question de « Est-ce qu’une machine dotée d’une IA peut-elle un jour devenir consciente ? ». Pour répondre à cette question je me positionne dans le cadre de la philosophie de Heidegger, son questionnement sur le thème de l’Être et son concept de « Dasein ».

Le « Dasein » communément appelé « l’homme » est un être conscient qui existe dans son monde à travers son propre regard. Le Dasein existe en tant qu’être conscient, une conscience qui à travers une fenêtre est disposée à son monde. Car en effet le Dasein peut être « concerné », « abordé » ou encore « affecté » par son monde environnant. Enfin le point le plus important : le Dasein fait l’expérience de lui-même, de sa propre existence, par le biais des sentiments qu’il peut éprouver tout au long de son existence.

Maintenant, regardons voir ce qui se passe si on remplace simplement le mot « Dasein » par « Machine » tout en supposant donc qu’elle serait devenue consciente : La machine devrait donc pouvoir avoir un regard sur le monde qui l’environne, un regard qu’elle porte à travers une fenêtre. Ce qui veut dire également que la machine serait « disposée », c’est-à-dire plus précisément « concernée » , « abordée », ou « affectée » par son monde environnant. Jusqu’au là, tout ceci semble assez improbable, mais le point de non retour c’est lorsqu’on doit considérer la question de la conscience de soi : La machine doit pouvoir faire l’expérience de lui-même, de sa propre existence, par justement le biais de « sentiments ».

Dans l’imaginaire collectif, une machine devenue consciente (skynet), est un être froid et rationnel, mais nous venons de montrer que la machine pour pouvoir être consciente doit obligatoirement pouvoir éprouver des « sentiments ». En conclusion : Une « conscience froide » (sans sentiments) telle qu’on l’imagine lorsqu’on parle de l’IA est un non sens, une telle chose est par essence contradictoire et ne peut donc pas exister.

Bien qu'issu d'un "milieu authentiquement catholique",

tout ce qu'a dit Heidegger ne va pas à la messe !

Si l'intelligence est bien un processus mécanique et non un "don de Dieu",

Tôt ou tard on pourra, on saura la reproduire artificiellement.

Je pense.

il y a 26 minutes, Blaquière a dit :

Bien qu'issu d'un "milieu authentiquement catholique",

tout ce qu'a dit Heidegger ne va pas à la messe !

Attention ! je sens bien qu'il y a un de tes vieux copains qui guette dans les parages... lol ! 

il y a 31 minutes, Blaquière a dit :

Si l'intelligence est bien un processus mécanique et non un "don de Dieu",

Tôt ou tard on pourra, on saura la reproduire artificiellement.

Je pense.

Tu as raison, mais il est question de la conscience, plus précisément de la conscience de soi-même comme skynet qui devient conscient de sa propre existence dans le film.

Il faudrait que cette machine ait une morale et la notion de sa propre fin. Ca c'est humain.

Il y a 5 heures, Groenland a dit :

Vous avez là au moins la preuve que je suis bien humain et non un robot ! 

Les robots font aussi des erreurs, c'est même nécessaire pour leur apprentissage.
 

@Groenland

Avant d'être "conscient" l'homme est "vivant", peux-tu me dire qu'est-ce que ça veut dire exactement? qu'est ce que le vivant? est ce qu'il est pertinent de penser à une machine vivante, et à partir de quel moment elle deviendra vivante?
 

il y a une heure, Talon 1 a dit :

Il faudrait que cette machine ait une morale et la notion de sa propre fin. Ca c'est humain.

Intéressant mais étant actuellement en mode Heidegger je te confirme qu'il ne parle pas d'une morale mais de la quotidienneté. Il y a aussi la notion d'être-avec (mitsein) c'est-à-dire le fait d'être avec et parmi les autres étants et Daseins....

Toutes ces notions là sont nécessaires pour définir le Dasein (l'homme) et d'une certaine manière un être conscient. A méditer. 

il y a 59 minutes, riad** a dit :

@Groenland

Avant d'être "conscient" l'homme est "vivant", peux-tu me dire qu'est-ce que ça veut dire exactement? qu'est ce que le vivant? est ce qu'il est pertinent de penser à une machine vivante, et à partir de quel moment elle deviendra vivante?
 

Je suis d'accord : l'humain est d'abord un être vivant comme les animaux avant d'être conscient. Cependant, il n'a jamais été question de fabriquer un être vivant et en plus conscient ou bien on est là dans la génétique ou le transhumanisme....ce qui n'est pas le sujet ici.

Quant à ma définition du vivant... je n'en ai pas ! C'est exactement comme lorsqu'il s'agit de définir l'Être c'est undefined pour moi.

il y a 6 minutes, Groenland a dit :

Quant à ma définition du vivant... je n'en ai pas ! C'est exactement comme lorsqu'il s'agit de définir l'Être c'est undefined pour moi.

"Les Latins entendirent d'abord par anima la vie de l'animal. Chez les Grecs on disait : la respiration est l'âme (pneuma). Cette respiration est un souffle. Les Latins traduisirent le mot souffle par spiritus : de là le mot qui répond à l'esprit chez presque toutes les nations modernes." Voltaire

Il semble bien que la définition de la vie est plus complexe.

il y a 16 minutes, Groenland a dit :

Quant à ma définition du vivant... je n'en ai pas ! C'est exactement comme lorsqu'il s'agit de définir l'Être c'est undefined pour moi.

C'est là que réside le problème, si t'avais une définition précise de ce qui est la vie ou la conscience, tu pourrais examiner si une machine pourrait être vivante ou consciente.

Quant à la question : est ce qu'une machine pourrait donner l'illusion d'être consciente? cela s'appelle le teste de Turing.
 

il y a 29 minutes, Talon 1 a dit :

"Les Latins entendirent d'abord par anima la vie de l'animal. Chez les Grecs on disait : la respiration est l'âme (pneuma). Cette respiration est un souffle. Les Latins traduisirent le mot souffle par spiritus : de là le mot qui répond à l'esprit chez presque toutes les nations modernes." Voltaire

Il semble bien que la définition de la vie est plus complexe.

 

corps / âme / esprit 

On en revient aux origines, la boucle est bouclée...

il y a 20 minutes, riad** a dit :

C'est là que réside le problème, si t'avais une définition précise de ce qui est la vie ou la conscience, tu pourrais examiner si une machine pourrait être vivante ou consciente.

Quant à la question : est ce qu'une machine pourrait donner l'illusion d'être consciente? cela s'appelle le teste de Turing.
 

Tu sembles vouloir absolument faire passer la conscience par le fait d'être vivant.... je ne sais pas ce qu'il faut en penser, mais comme je l'ai dit ce n'est pas l'approche ici. Il s'agit de réfléchir à une machine (non vivante) qui serait consciente comme l'emblématique skynet.

il y a 27 minutes, Groenland a dit :

Tu sembles vouloir absolument faire passer la conscience par le fait d'être vivant.... je ne sais pas ce qu'il faut en penser, mais comme je l'ai dit ce n'est pas l'approche ici. Il s'agit de réfléchir à une machine (non vivante) qui serait consciente comme l'emblématique skynet.

C'est pas du tout ce que j'ai dit, je voulais simplement attirer ton attention sur la difficulté de faire une expérience de pensée alors qu'on a même pas la définition des éléments de l'expérience.

Si tu te réfères à ta propre expérience phénoménale consciente, qui te dit que les autres humains ont exactement la même expérience?

Si tu adoptes la définition biologique du terme, à savoir : "la conscience regroupe le sens de l'éveil, la connaissance de soi et la perception de l'environnement" (wikipedia), ça une machine pourra le faire.
 

il y a 45 minutes, riad** a dit :

Si tu te réfères à ta propre expérience phénoménale consciente, qui te dit que les autres humains ont exactement la même expérience?

Curieux d'avoir ton propre avis là dessus. Qu'est-ce que t'en penses toi ?