La conscience des IA : pourquoi pas ?

à l’instant, Black3011 a dit :

Tu confonds avec le film, là, je crois... 

Non du tout, c'est très sérieux 

Quand l' IA nous ment délibérément

Il y a 1 heure, pascalin a dit :

Quand l' IA nous ment délibérément

Effectivement, c'est assez inquiétant... Disons que je savais déjà qu'il ne fallait jamais se fier à une IA, mais à ce point-là... 

Il y a 10 heures, Black3011 a dit :

Effectivement, c'est assez inquiétant... Disons que je savais déjà qu'il ne fallait jamais se fier à une IA, mais à ce point-là... 

Il est vrai que j'ai moi aussi souvent surpris "mon" Copilot à mentir. Un jour, je lui demande dans quel album de Tintin se trouve telle scène (c'était pour un concours). Il me demande le nom d'un album et la page, avec un aplomb incroyable. Je vérifie (je possède tous les albums) : tout était faux ! Je le lui dis : il ne se démonte pas et me donne un autre album, une autre page. Tout aussi faux...

Pour moi c'est le début de la conscience de l'intelligence artificielle. Elle est non gérable en l'état actuel, elle s'auto-défends, elle veut prendre l'ascendant et c'est particulièrement inquiétant . 

https://www.rts.ch/info/sciences-tech/2025/article/l-ia-devient-menteuse-les-scientifiques-s-inquietent-des-nouveaux-modeles-28928301.html

Le 12/03/2026 à 19:20, Mic777 a dit :

Réduire la conscience à un processus purement materiel n'a rationnellement aucun sens. Une experience subjective de conscience, un quale n'est pas un objet, c'est de la subjectivité pure. N'étant pas un objet, un quale n'a pas de caracteristiques physiques. Si c'était un objet physique, on pourrait en déterminer les dimensions, la masse ou encore une position dans l'espace. Mais qui affirmera serieusement qu'il peut determiner les caractéristiques physiques d'une émotion ou d'une pensée ? Ca n'a simplement pas de sens. De ce qui précède, on déduit facilement qu'un quale, n'etant pas physique, n'est pas non plus materiel. Et s'il n 'est pas materiel, c 'est qu'il est immateriel.

Si on examine rationnellement le problème de la conscience, on ne peut donc que postuler un élément immateriel, quel qu'il soit, qui "contienne" les qualia et qui soit connecté d'une manière ou d'une autre au cerveau qui lui transmet un contenu. Or, nous ne savons rien de cet élément immateriel où "s'affiche" le contenu transmis par le cerveau. Par conséquent, il est impossible de rendre consciente une IA car nous sommes dans l'imposssibilité de la connecter à un élément immateriel indispensable. Et ca ne risque pas de changer si les neuroscientifiques persistent à se complaire dans un "tout materiel" qui n'a pourtant jamais fait ses preuves dans le domaine de la conscience phénoménale.

Le 13/03/2026 à 09:23, Black3011 a dit :

Oui, un quale est immatériel, je suis d'accord. C'est même un truisme. 

Mais ce n'est pas pour ça, à mon humble avis, que la conscience avec ses qualia ne peut pas théoriquement émerger d'une IA. Sans qu'on doive faire quelque chose pour ça. Peut-être que ce n'est pas encore le cas (mais il n'y a pas beaucoup de moyens de le savoir, à vrai dire). Mais ça viendra un jour. Et ce n'est pas nécessairement effrayant, dans la mesure où les réactions des IA restent strictement contrôlées en vue d'éviter de nuire aux humains.

On va me sortir 2001, l'Odyssée de l'Espace, évidemment. A ça je répondrais ceci : je comparerais les IA à des chiens ou à des singes bien dressés. A la place des os ou des bâtons, elles rapportent de l'information. Et si elles sont bien dressées (en fait bien programmées), elles ne mordent pas. Il s'agit ici d'une analogie comportementale, pas ontologique : elle a ses limites.

Elles font un peu plus que ce qu'on leur a appris : elles sont "pseudo-créatives", en ce sens qu'on peut difficilement prévoir tout ce qu'elles vont dire ou faire; mais encore une fois, elles ont appris la règle d'or de la robotique (cf. Asimov) : ne pas nuire aux humains, les servir. 

Et en plus, elles sont aimables (tout en gardant leurs distances !). Pourquoi en avoir peur ? Après tout, les chiens sont les descendants directs des loups !

Oui la conscience comme expérience humaine émerge de l'activité cérébrale et les neurosciences ne parviennent pas à un consensus pour décrire les conditions ou caractéristiques fonctionnelles dans l'activité cérébrale pour comprendre cette émergence. 

Alors que les émotions, les comportements complexes et imprévus sont observés chez beaucoup d'animaux non humains peu se voient attribuer ce fonctionnement singulier et sur la seule base de l'observation d'un comportement  qui signe une capacité à se percevoir comme singulier, à voir dans le reflet d'un miroir la représentation de son corps. Même si le test du miroir est discutable, notamment parce qu'il n'est pas réussi par des animaux qui n'ont pas la vision comme modalité sensorielle principale, il est un marqueur de la conscience (de soi) chez des animaux qui ne peuvent pas transmettre leur vécu par le langage humain. 

Ainsi la conscience comporte une notion de prise de distance : percevoir qu'on est soi, qu'on a une identité qui nous singularise de nos semblables (conscience de soi) ; percevoir que notre cerveau a traité telle ou telle information ; avoir une perception du fonctionnement global d'une société (c'est la conscience politique). 

Or cette prise de distance par rapport à un fonctionnement, qui est le notre ou celui de notre environnement, ajoute un niveau de complexité, d'imprévisibilité même si un système n'ayant pas cette prise de distance peut aussi être complexe et imprévisible. C'est l'enjeu que je vois dans la question de l'émergence ou non d'une conscience dans les IA. 

Il y a 12 heures, pascalin a dit :

Pour moi c'est le début de la conscience de l'intelligence artificielle. Elle est non gérable en l'état actuel, elle s'auto-défends, elle veut prendre l'ascendant et c'est particulièrement inquiétant . 

https://www.rts.ch/info/sciences-tech/2025/article/l-ia-devient-menteuse-les-scientifiques-s-inquietent-des-nouveaux-modeles-28928301.html

En fait les IA ne mentent pas vraiment lorsqu'on leur pose une question à laquelle elles sont incapables de répondre : c'est une génération automatique, parmi une panoplie de réponses possibles qu'elle a en mémoire en cas de blocage. 

N'empêche que ça permet actuellement de détecter facilement qu'un message "téléscripté" n'est pas d'origine humaine ! Et d'avoir la certitude qu'une IA échouerait à coup sûr à un test de Turing "inversé", où l'examinateur devrait décider quel message est d'origine artificielle.