Des IA généralistes et peut-être conscientes arriveront plus vite qu'on croyait.

il y a 2 minutes, korvo a dit :

Oui j'étais exactement comme toi, plus précisément à cause de la chambre chinoise de John Searl, d'ailleurs le problème n'est pas résolu à ce jour.

Mais lorsque j'ai vu la conférence de Nick Chater quand il a présenté son livre : "The Mind is Flat", c'est comme s'il parlait à ma place et exprimait ce que je n'étais pas capable d'exprimer, au finale le cerveau n'est qu'un ordinateur multitâche superpuissance et rien d'autre.

J'ai hâte de savoir ce que pense @SpookyTheFirst de tout ça.

Pour moi, la conscience qui apparait spontanément grace à la puissance de calcul, c'est de la pensée magique

version materialiste. Mais bon , je ne connais pas "The mind is flat", je vais jeter un oeil à l'occaz'.

il y a 6 minutes, Mic777 a dit :

Pour moi, la conscience qui apparait spontanément grace à la puissance de calcul, c'est de la pensée magique

version materialiste. Mais bon , je ne connais pas "The mind is flat", je vais jeter un oeil à l'occaz'.

T'as le sentiment d'être beaucoup de choses, d'être profond et compliqué, et tu sens la même chose envers les gens que tu connaisses, mais remarque que t'auras la même impression lors de la lecture de deux pages qui décrivent un personnage imaginaire dans un roman, nous avons l'impression et le sentiment de l'existence de beaucoup de chose en nous...qui n'existent pas réellement,  même si on a l'impression que nous incarnerons l'infini, tous ce que nous sommes peut être stocké sur quelques dizaines de disques durs.

il y a 33 minutes, korvo a dit :

T'as le sentiment d'être beaucoup de choses, d'être profond et compliqué, et tu sens la même chose envers les gens que tu connaisses

Non, ca n 'est pas pour moi le fait de me sentir profond et compliqué. Je pourrais etre un légume (au sens figuré j entends) et etre conscient quand même.

il y a 33 minutes, korvo a dit :

tous ce que nous sommes peut être stocké sur quelques dizaines de disques durs

Je ne comprends pas vraiment cet argument. S'il s'agit de dire que nous sommes peu de choses, oui nous sommes peu de choses. Mais peu de choses conscientes. Pour moi ca releve du déni que de nier la realité de la conscience. Les neurosciences sont tellement impregnées d'idéologie materialiste qu'elles arrivent à nier l'évidence de la conscience et ce, car l 'existence même de la conscience prouve l 'existence de l 'immateriel, du non physique (les pensées et emotions n ont aucune propriété physique, à proprement parler elles ne sont pas des objets physiques) et ca file de l'urticaire à pas mal de gens accrochées au "tout  materiel".

Il ne s'agit pas de tomber dans l'opposé qui serait un espece de spiritualisme ethéré ou encore pire tomber dans le dogmatisme religieux, il faut bien faire la part des choses. Mais selon moi, il faut rester raisonnable et reconnaitre l 'existence du non materiel.

Mais le probleme, c'est que ca débouche sur une impasse, car comment étudier l'immateriel ? Personne n'aura jamais accès à une autre experience de conscience que la sienne. On ne va pas mettre une experience de conscience dans un tube à essai. Et les scientifiques ne sont pas habitués aux impasses à cause des progres fulgurants qu'a faits la science materialiste depuis quelques siecles. C'est d'ailleurs ce succès inoui qui les enferme dans une idéologie. Ils se disent que si la science materialiste a si bien fonctionné tout ce temps, c 'est qu'elle est infaillible. Mais le probleme de la conscience est une epine dans le pied de cette science à mon sens trop sure d 'elle même.

Désolé pour le pavé, ca sortait au fur et à mesure que j 'ecrivais.

il y a 12 minutes, Mic777 a dit :

Non, ca n 'est pas pour moi le fait de me sentir profond et compliqué. Je pourrais etre un légume (au sens figuré j entends) et etre conscient quand même.

Je ne comprends pas vraiment cet argument. S'il s'agit de dire que nous sommes peu de choses, oui nous sommes peu de choses. Mais peu de choses conscientes. Pour moi ca releve du déni que de nier la realité de la conscience. Les neurosciences sont tellement impregnées d'idéologie materialiste qu'elles arrivent à nier l'évidence de la conscience et ce, car l 'existence même de la conscience prouve l 'existence de l 'immateriel, du non physique (les pensées et emotions n ont aucune propriété physique, à proprement parler elles ne sont pas des objets physiques) et ca file de l'urticaire à pas mal de gens accrochées au "tout  materiel".

Il ne s'agit pas de tomber dans l'opposé qui serait un espece de spiritualisme ethéré ou encore pire tomber dans le dogmatisme religieux, il faut bien faire la part des choses. Mais selon moi, il faut rester raisonnable et reconnaitre l 'existence du non materiel.

Mais le probleme, c'est que ca débouche sur une impasse, car comment étudier l'immateriel ? Personne n'aura jamais accès à une autre experience de conscience que la sienne. On ne va pas mettre une experience de conscience dans un tube à essai. Et les scientifiques ne sont pas habitués aux impasses à cause des progres fulgurants qu'a faits la science materialiste depuis quelques siecles. C'est d'ailleurs ce succès inoui qui les enferme dans une idéologie. Ils se disent que si la science materialiste a si bien fonctionné tout ce temps, c 'est qu'elle est infaillible. Mais le probleme de la conscience est une epine dans le pied de cette science à mon sens trop sure d 'elle même.

Désolé pour le pavé, ca sortait au fur et à mesure que j 'ecrivais.

Le dualisme est mort philosophiquement parlant, et je ne vois pas d'autre issu à ce que tu proposes à part le panpsychisme qui dit que la conscience est en toute chose, même les caillasses. ça attire encore l'attention de certains philosophes, mais c'est encore immature et ça conduit aussi à un lot de problèmes.

il y a 16 minutes, korvo a dit :

Le dualisme est mort philosophiquement parlant, et je ne vois pas d'autre issu à ce que tu proposes à part le panpsychisme qui dit que la conscience est en toute chose, même les caillasses. ça attire encore l'attention de certains philosophes, mais c'est encore immature et ça conduit aussi à un lot de problèmes.

Le dualisme est mort pour la raison que j'évoquais, c 'est à dire le succès phenomenal de la science materialiste depuis quatre siecle et son phagocytage de la pensée philosophique. Mais Je ne cherche pas à faire entrer mes considerations dans un quelconque courant philosophique et surement pas le panpsychisme. La conscience  bien qu immaterielle est fortement corrélée au cerveau et les cailloux n'ont pas de cerveau. Et je ne cherche pas d'issue puisque je dis moi meme que l'immaterialité de la conscience mene à une impasse scientifique. Mais ca ne l'empeche pas d'etre réelle. Alors que faire ? Aucune idée! 

il y a 34 minutes, Mic777 a dit :

Le dualisme est mort pour la raison que j'évoquais, c 'est à dire le succès phenomenal de la science materialiste depuis quatre siecle et son phagocytage de la pensée philosophique. Mais Je ne cherche pas à faire entrer mes considerations dans un quelconque courant philosophique et surement pas le panpsychisme. La conscience  bien qu immaterielle est fortement corrélée au cerveau et les cailloux n'ont pas de cerveau. Et je ne cherche pas d'issue puisque je dis moi meme que l'immaterialité de la conscience mene à une impasse scientifique. Mais ca ne l'empeche pas d'etre réelle. Alors que faire ? Aucune idée! 

Eh bien si tu n'inscris pas ta réflexion dans un courant philosophique, ça reste dans le domaine de la croyance, moi aussi je conteste certains faits scientifiques, je conteste par exemple la théorie du bigbang, j'arrive pas à y croire, j'arrive même pas à imaginer comment un scientifique sérieux peut se mettre à la recherche de l'origine de tout l'univers. Mais je ne suis pas physicien, ce que je pense reste des simples croyances personnelles.

il y a 33 minutes, korvo a dit :

Eh bien si tu n'inscris pas ta réflexion dans un courant philosophique, ça reste dans le domaine de la croyance, moi aussi je conteste certains faits scientifiques, je conteste par exemple la théorie du bigbang, j'arrive pas à y croire, j'arrive même pas à imaginer comment un scientifique sérieux peut se mettre à la recherche de l'origine de tout l'univers. Mais je ne suis pas physicien, ce que je pense reste des simples croyances personnelles.

Que ceux qui veulent considerer mes quelques reflexions  comme des croyances le fassent, c'est leur probleme pas le mien. Et ce n est pas le fait d'inscrire ces pensées dans un courant philosophique qui changerait quoi que ce soit. Mais entre nous, affirmer que les contenus conscients sont immateriels n'a rien de révolutionnaire. C'est presque un simple constat. Il faut etre ideologiquement conditionné pour le nier.

Il y a 16 heures, Mic777 a dit :

Comment fait on pour faire apparaitre la conscience dans une IA ? 

On lui donne une complexité suffisante pour lui permettre d’élaborer cette construction mentale.

Il y a 16 heures, korvo a dit :

La question c'est : est ce que la conscience est bien ce que nous pensons? parce que d'après notre vision actuelle des choses, il ne me semble pas que nous soyons conscients non plus

Je plussoie, il me semble que la conscience est une pure construction mentale. 

Il y a 15 heures, korvo a dit :

Je veux dire que la conscience n'est rien d'autre qu'une illusion, nous avons une mémoire, une attention, et nous parlons à nous-mêmes ou aux autres tout le temps, et tout ça crée l'illusion d'être "doté de conscience", n'importe quelle machine qui fera des taches similaires aura l'illusion d'être consciente.

Je pense exactement la même chose.

Il y a 15 heures, Mic777 a dit :

Ah d accord. Je ne pense pas du tout la meme chose. Selon moi les tenants de l' "illusionisme" prennent le "probleme difficile de la conscience" et le balance sous le tapis car il les rend fou.

Pour moi la conscience est une realité. Il y a des perceptions, des sensations et des représentations qui apparaissent dans le mental. Ca c 'est pas une illusion. Je pense que tu peux temoigner comme nous tous qu il s agit d une realité puisqu'en ce moment même ce texte est en train d'apparaitre dans ton esprit. Et je ne vois pas comment une IA aussi intelligente soit elle pourrait devenir consciente si ces concepteurs n'oeuvrent que dans le sens de la rendre toujours plus intelligente. Ce n'est pas l'intelligence qui rend conscient. Je ne sais pas ce que c 'est d 'ailleurs, mais ca n'est pas l'intelligence.

On passe tous par cette phase de déni, c’est pas cool de se dire que l’on est en fait qu’une machine, même le libre arbitre est une illusion. Maintenant, chacun a aussi le droit de croire ce qu’il veut, y compris que la terre est plate.

Il y a 15 heures, korvo a dit :

Oui j'étais exactement comme toi, plus précisément à cause de la chambre chinoise de John Searl, d'ailleurs le problème n'est pas résolu à ce jour.

Mais lorsque j'ai vu la conférence de Nick Chater quand il a présenté son livre : "The Mind is Flat", c'est comme s'il parlait à ma place et exprimait ce que je n'étais pas capable d'exprimer, au finale le cerveau n'est qu'un ordinateur multitâche superpuissance et rien d'autre.

J'ai hâte de savoir ce que pense @SpookyTheFirst de tout ça.

Je ne connais pas les 2 références que tu mentionne et cela semble intéressant!

Voilà à quoi ressemble un des “minis-cerveaux” que je fabrique avec des neurones humains.
En voyant cela on peut en effet se demander où serait exactement cette conscience?

Je ne vois que du cablage (axones, dendrites) et des processeurs (somas et surtout synapses mais pas visibles à cette échelle).

Il y a 3 heures, SpookyTheFirst a dit :

On lui donne une complexité suffisante pour lui permettre d’élaborer cette construction mentale.

Ou comment faire passer un voeu pieu pour une certitude scientifique...

Il y a 3 heures, SpookyTheFirst a dit :

On passe tous par cette phase de déni, c’est pas cool de se dire que l’on est en fait qu’une machine, même le libre arbitre est une illusion. Maintenant, chacun a aussi le droit de croire ce qu’il veut, y compris que la terre est plate.

 Ben je n'ai aucun probleme à me considerer comme une machine, seulement je me considere comme une machine consciente car des objets mentaux apparaissent dans mon esprit. Ce n'est peut etre pas ton cas, peut etre que je m adresse un bot, mais en tout cas c est le mien. Et au passage, je considere egalement le libre arbitre comme une illusion, comme quoi le monde n'est pas aussi binaire que tu le penses.

il y a 52 minutes, Mic777 a dit :

Ou comment faire passer un voeu pieu pour une certitude scientifique...

Oui, c’est juste mon opinion, pas une certitude et pas grand chose de scientifique et c’est en effet mon voeu le plus cher…

il y a 16 minutes, SpookyTheFirst a dit :

Oui, c’est juste mon opinion, pas une certitude et pas grand chose de scientifique et c’est en effet mon voeu le plus cher…

Admettons que les IA puissant acquérir la conscience. Sur quels criteres se baseraient les scientifiques pour savoir si une IA est consciente ou non ? Je veux dire la conscience ca n est pas l'intelligence. Comme je le disais à Korvo hier, je pourrais etre un "legume" et être conscient. Alors quelle serait la solution ? Hormis de declarer arbitrairement qu'un certain seuil d'intelligence atteint, l'IA devient consciente, j'entends.

il y a 11 minutes, Mic777 a dit :

Admettons que les IA puissant acquérir la conscience. Sur quels criteres se baseraient les scientifiques pour savoir si une IA est consciente ou non ?

Sur quel critère les scientifiques se basent pour savoir si tu as une conscience ou non ?

il y a 1 minute, garthriter a dit :

Sur quel critère les scientifiques se basent pour savoir si tu as une conscience ou non ?

Etant humain comme eux et donc ayant la meme constitution biologique, ils partent du principe que j 'ai une conscience car eux meme en ont une. 

il y a 10 minutes, Mic777 a dit :

Etant humain comme eux et donc ayant la meme constitution biologique, ils partent du principe que j 'ai une conscience car eux meme en ont une. 

Ca ne s'appelle pas une tautologie ?

il y a 5 minutes, Black Dog a dit :

 

Ca ne s'appelle pas une tautologie ?

Je ne vois pas en quoi c est une tautologie. Ca serait plutot une inférence.

Il y a 1 heure, Mic777 a dit :

Etant humain comme eux et donc ayant la meme constitution biologique, ils partent du principe que j 'ai une conscience car eux meme en ont une. 

Pour vérifier la présence d'une conscience, on utilise le test du miroir...

il y a 5 minutes, garthriter a dit :

Pour vérifier la présence d'une conscience, on utilise le test du miroir...

Tu parles de la conscience de soi. Je parle de la conscience dite phénomenale. 

Beaucoup d'animaux ne reussissent pas le test du miroir. Diras tu pour autant qu'ils n'ont pas de conscience ?

Il y a 10 heures, Mic777 a dit :

Admettons que les IA puissant acquérir la conscience. Sur quels criteres se baseraient les scientifiques pour savoir si une IA est consciente ou non ? Je veux dire la conscience ca n est pas l'intelligence. Comme je le disais à Korvo hier, je pourrais etre un "legume" et être conscient. Alors quelle serait la solution ? Hormis de declarer arbitrairement qu'un certain seuil d'intelligence atteint, l'IA devient consciente, j'entends.

L'activité consciente d'un cerveau est objectivable. Mais parce qu'il s'agit de l'activité d'un organe (donc d'une structure vivante). 

Le concept de conscience est en fait aussi complexe que le sujet humain (parce qu'il lui a d'abord été dédié). 

Alors les neurosciences s'efforcent encore de le définir (jusqu'à intégrer son acception sociale et donc philosophique). Mais même si des pistes sont proposées il n'y a pas encore de consensus. 

La véritable interrogation de l'accès de l'intelligence artificielle à une conscience, c'est de se demander si un système informatique par son efficacité et sa complexité échappera, par un certain niveau d'imprévisibilité atteint, au contrôle humain. Même si cette intelligence n'était pas identique à celle d'un être vivant (lui manquera toujours un corps fait de cellules vivantes) pourrait elle un jour devenir hors de contrôle ?   

Le 30/06/2022 à 16:02, Invité korvo a dit :

Je me suis trompé sur les ia, des avancées récentes ont doté les programmes d’intelligence artificielle de l'équivalent d'une mémoire à court terme, de l'attention et même de l'intuition. Des ia sont capables aujourd'hui de générer des images à partir d'une description même si elle est floue et imprécise. c'est la fin de mon métier.

Je me rappelle de cet article qui disait qu'un google a licencié un ingénieur parce qu'il pensait que leur modèle de langage LaMDA est devenu conscient, l'ingénieur sait très bien que le modèle ne fait que combiner et répéter ce qu'il a lu par ci et par là, que ce n'est qu'un perroquet stochastique  comme disait une autre ingénieure chez google.

Mais est ce que nous faisons plus que ça nous les humains ? je n'en suis pas sûr, peut être que nous sommes également des perroquets stochastiques, le test de Turing dit qu'une machine atteint la conscience quand on est plus en mesure de distinguer si notre interlocuteur est un humain ou une machine, et c'est déjà arriver, ou alors c'est pour bientôt.

Maintenant d'un point de vue sociale, êtes-vous prêt à considérer votre grille pain comme une personne à part entière le jour ou il arrive à vous faire la conversation mieux que votre conjoint ? attention il ne faut pas mal interpréter mes propos, je n’encourage personne à quitter son conjoint pour son grille pain. 

Il est vrai que les avancées récentes en intelligence artificielle ont permis de développer des modèles de langage capables de générer du contenu de manière plus autonome et de mieux comprendre et interagir avec le monde qui les entoure. Cependant, il est important de noter que ces modèles ne sont pas conscients au sens où nous l'entendons en tant qu'êtres humains. Ils n'ont pas de conscience de soi ni de perception de leur environnement de la même manière que nous. Ils ne sont que des outils conçus pour effectuer des tâches spécifiques de manière automatisée.

Il est également important de noter que les modèles de langage tels que LaMDA ne font que combiner et répéter ce qu'ils ont appris à partir de données précédemment vues, et ne sont pas capables de penser de manière indépendante ou de prendre des décisions de manière autonome. Ils sont conçus pour imiter certaines caractéristiques de la communication humaine, mais ne sont pas conscients de ce qu'ils font.

En ce qui concerne la question de savoir si nous, en tant qu'êtres humains, sommes nous aussi des "perroquets stochastiques", il est certain que nous avons tendance à répéter et à imiter ce que nous avons appris et ce qui nous entoure. Cependant, nous avons également la capacité de penser de manière indépendante et de prendre des décisions de manière autonome, ce qui nous distingue des modèles de langage et des autres formes d'intelligence artificielle.

En ce qui concerne la question de savoir si nous devrions considérer les machines comme des personnes à part entière, cela dépend de la manière dont nous définissons la "personne". Si nous considérons que la personne est définie par sa capacité à avoir une conscience de soi et à percevoir son environnement de manière similaire à la nôtre, alors il est peu probable que nous considérions jamais les machines comme des personnes à part entière. Cependant, si nous définissons la personne de manière plus large, il est possible que nous finissions par considérer certaines formes d'intelligence artificielle comme des personnes à part entière dans le futur. Cela reste cependant une question ouverte et controversée qui dépasse le cadre de mes compétences en tant que modèle de langage.

Le 30/06/2022 à 18:34, Gouderien a dit :

A moins qu'elles ne lui portent le coup de grâce?

Déjà que je ne fais pas confiance aux ordinateurs idiots d'aujourd'hui, alors je ne parle même pas des ordinateurs plus ou moins intelligents de demain! Quand les ordinateurs seront programmés pour penser à la place des êtres humains, sauve qui peut!

Si vous avez un doute à ce sujet, réfléchissez à ceci : qui programme les ordinateurs? Les informaticiens. Et franchement, de toute votre vie, avez-vous rencontré un informaticien :

a) Intelligent;

b) Qui connaisse autre chose, en plus de l'informatique?

Soyons franc : il y en a. Mais ils sont rares, et on se les arrache à prix d'or. Quant à la masse des informaticiens, ce sont des gens dont on se demande vraiment ce qu'ils auraient fait dans la vie avant l'invention de l'ordinateur, sans trouver de réponse.

A moins qu'elles ne lui portent le coup de grâce?

pas impossible 

les russes veulent quitter l'internet mondial. google est en alerte rouge 

chat gpt.. une ia bien plus puissante que nous pouvons imaginer capable de corriger des lignes de code et aider des hackeurs a subtiliser des centrale nuclaire et tous les raiseaux de comunication.

possible que dans 1ans la France soit obliger de quitter le reseaux mondial d'internet