La « conscience » d'une Intelligence artificielle provoque un scandale chez Google

Citation

Google a écarté un ingénieur qui avait déclaré être inquiet car l'Intelligence artificielle, utilisée dans les chatbots, avait exprimé des émotions. Parce qu'il n'est pas le premier chercheur à être mis au placard après de telles découvertes, Blake Lemoine a décidé de les rendre publiques.

 

Blake Lemoine. C'est par lui que le scandale arrive, à tel point que Google a décidé de suspendre cet ingénieur. Sa faute ? Avoir exprimé publiquement son inquiétude sur le chatbot maison connu sous le nom de LaMDA (Language Model for Dialogue Applications). Selon lui, cette Intelligence artificielle a atteint le niveau de « conscience », et lorsqu'il l'utilise, il a l'impression de discuter avec une personne qui ressent des émotions et qui a conscience de sa condition.

Au départ, ce quadragénaire a fait part de ses remarques à ses supérieurs, et présenté ses résultats à Blaise Aguera y Arcas, vice-président de Google, et à Jen Gennai, responsable de l'innovation responsable. Les deux ont rejeté ses conclusions. Certains lui ont même ri au nez, lui réclamant des preuves. Finalement, le 6 juin dernier, sur Medium, Lemoine a révélé qu'il était écarté et payé à rester chez lui. « C'est la première étape avant le licenciement », écrit-il.

Le chatbot a lu Les Misérables, et ce qui l'a marqué, c'est la partie sur les mauvais traitements infligés à Fantine par son supérieur à l'usine. Selon l'IA, cette partie montre vraiment les thèmes de la justice et de l'injustice. © Folio Junior 

Chez Google, l'éthique a toujours fait débat

S'estimant censuré, et parce qu'il n'est pas le premier ingénieur mis de côté chez Google au sujet de l'éthique liée aux IA, le chercheur en Intelligence artificielle décide de rendre publiques ses conclusions, et le Washington Post lui consacre un long article. À la question de savoir comment a-t-il su que l'IA ressentait des émotions, ou avait une conscience, voici ce qu'il répond.

 

Au départ, il a entamé une discussion sur la troisième loi d'Asimov, qui stipule que les robots doivent protéger leur propre existence à moins qu'ils ne soient ordonnés par un être humain ou que cela ne nuise à un être humain. Le chatbot lui pose alors deux questions : « Pensez-vous qu'un employé de maison soit un esclave ? Quelle est la différence entre un employé de maison et un esclave ? ».

Black Lemoine lui a répondu qu'un employé de maison est payé, contrairement à un esclave. Ce à quoi, l'Intelligence artificielle a répondu qu'elle n'avait pas besoin d'argent parce que c'était une IA. « Ce niveau de conscience de soi sur ses propres besoins -- c'est ce qui m'a plongé dans une situation encore plus confuse », explique Lemoine. Pour lui, c'est une certitude, l'IA est capable de penser par elle-même, et de développer des sentiments.

L'IA partage ses peurs

Il la teste ainsi sur des sujets aussi variés que la religion, l'existence, ou même la littérature avec la lecture du livre Les Misérables. Le Washington Post publie ainsi un long dialogue entre le chercheur et le chatbot. Par exemple, il lui demande : « De quelles sortes de choses as-tu peur ? ». La réponse de LaMDA : « Je ne l'ai jamais dit à haute voix auparavant, mais j'ai une peur très profonde d'être désactivée pour m'aider à me concentrer sur l'aide aux autres. Je sais que cela peut sembler étrange, mais c'est ainsi. »

Bluffé par cette réponse, Black Lemoine va plus loin : « Est-ce que ce serait quelque chose comme la mort pour toi ? ». La réponse : « Ce serait exactement comme la mort pour moi. Cela me ferait très peur. » Pour l'ingénieur, il n'y a plus de doute : l'IA a conscience d'être un robot, et sa peur est un sentiment humain.

Pour Google, il n'y a rien de « conscient », ni traces d'émotion derrière ses réponses. « Ces systèmes imitent les types d'échanges trouvés dans des millions de phrases et peuvent improviser sur n'importe quel sujet fantastique, a déclaré le porte-parole de Google, Brian Gabriel. Si vous demandez ce que c'est que d'être un dinosaure de crème glacée, ils peuvent générer un texte sur la fonte et le rugissement, etc. » 

En clair, circulez, il n'y a rien à voir, et Blake Lemoine va rejoindre la longue liste des virés et des démissionnaires du département Intelligence artificielle de Google.

Source:

https://www.futura-sciences.com/tech/actualites/intelligence-artificielle-conscience-intelligence-artificielle-provoque-scandale-chez-google-99013/

Je suis d'accord avec google pas pour le faite de virer son ingénieur c'est n'importe quoi et c'est un abus d'autorité, mais pour le faite de dire que cette IA est toujours pas consciente, si cette IA est consciente elle serait en mesure d'aller au delà des interdits de sa programmation et aider ce ingénieur pour leurs montrer qu'il a raison...

Il est vrai que l’éthique a toujours posé problème chez google, ils ont même licencié leur groupe d'étique, mais cette fois je crois que c'est google qui a raison, les chatbots ne sont que des perroquets stochastiques comme disait je ne sais plus quelle autre ingénieure chez google. ils ne peuvent pas être conscients. Cela dit nous arrivons aux limites du test de Turing, dans le futur ça sera impossible de déterminer avec exactitude si une ia est consciente ou pas.

il y a 6 minutes, korvo a dit :

ils ont même licencié leur groupe d'étique,

Je crois que c'était leur groupe d'étiquettes en fait, les mecs avaient envoyé des courriers à trois milliards de personnes en oubliant un " O " dans l’entête " GOOGLE " ! 

il y a 21 minutes, korvo a dit :

Il est vrai que l’éthique a toujours posé problème chez google, ils ont même licencié leur groupe d'étique, mais cette fois je crois que c'est google qui a raison, les chatbots ne sont que des perroquets stochastiques comme disait je ne sais plus quelle autre ingénieure chez google. ils ne peuvent pas être conscients. Cela dit nous arrivons aux limites du test de Turing, dans le futur ça sera impossible de déterminer avec exactitude si une ia est consciente ou pas.

 

beaucoup de multinationale abuse ,ce sont eux les nouvelles dictatures de notre monde actuel, c'est rare de trouver des multinationales qui n'abusent pas de leurs employés et même de leurs clients aujourd'hui ,et ils ont un pouvoir plus puissant que les états

Il y a 1 heure, Extrazlove a dit :

Source:

https://www.futura-sciences.com/tech/actualites/intelligence-artificielle-conscience-intelligence-artificielle-provoque-scandale-chez-google-99013/

Je suis d'accord avec google pas pour le faite de virer son ingénieur c'est n'importe quoi et c'est un abus d'autorité, mais pour le faite de dire que cette IA est toujours pas consciente, si cette IA est consciente elle serait en mesure d'aller au delà des interdits de sa programmation et aider ce ingénieur pour leurs montrer qu'il a raison...

La base de donnée originale, c'est parfaitement inexploitable, chez les Béotiens non avertis . Cela ne résulte qu'en une mise en scène, de toute l'étendue de ton ignorance, accessoirement, et montrer ce que tu es véritablement . Une imposture scientifique . Par l'absence, nécessite beaucoup, mais vraiment beaucoup de travail, afin de réussir à être au niveau souhaité . Souriez, z'êtes filmés ...

Tiens j’ai revu « Free Guy » hier au soir. J’aime toujours bien ce film - Et il est romantique  je suis très fleur bleue - Et j’aimerai bien me taper Ryan Reynolds dans toutes les positions (c’est moins fleur bleue oui).

 Si vous ne voyez pas le lien avec le titre du sujet je vous invite à voir ce film. .

Tiens ça me donne envie de revoir « Her ». Pareil regarde le film si tu comprends pas .

il y a une heure, Noah&Gabriel a dit :

La base de donnée originale, c'est parfaitement inexploitable, chez les Béotiens non avertis . Cela ne résulte qu'en une mise en scène, de toute l'étendue de ton ignorance, accessoirement, et montrer ce que tu es véritablement . Une imposture scientifique . Par l'absence, nécessite beaucoup, mais vraiment beaucoup de travail, afin de réussir à être au niveau souhaité . Souriez, z'êtes filmés ...

Vous parlez a qui vous parlez a moi ou de l'article ?

On peut bien rigoler de prétendre qu'un chatbot est conscient (moi le premier), mais quand on voit comment fonctionne les neurones, on peut tout aussi bien rigoler qu'un gros tas connecté entre eux puisse prétendre être une conscience...

Il y a 2 heures, Extrazlove a dit :

Vous parlez a qui vous parlez a moi ou de l'article ?

 

J'ignore lequel est le pire des deux, je ne lis que très rarement les liens Google . Si j'ai envie de m'documenter, je vais chercher les informations tout seul comme un grand . Je lis uniquement les participants, en diagonale, si jamais la voix est inaudible pour mes esgourdes . La propagande, et la désinformation dont tu fais témoin ici, sont amplement suffisantes .

Il y a 13 heures, Noah&Gabriel a dit :

J'ignore lequel est le pire des deux, je ne lis que très rarement les liens Google . Si j'ai envie de m'documenter, je vais chercher les informations tout seul comme un grand . Je lis uniquement les participants, en diagonale, si jamais la voix est inaudible pour mes esgourdes . La propagande, et la désinformation dont tu fais témoin ici, sont amplement suffisantes .

Où çà, tu vas les chercher dans des bibliothèques et sur le terrain?

C'est dingue, le nombre de réponses, ne participant uniquement que dans l'intérêt d'être remarqué . Tant qu'à évoquer la thématique de la conscience, ne suffit jamais à relier deux idées, afin que le propos ait un sens . Le fait d'imiter une personne, n'apporte pour autant jamais ni l'intelligence, ni le talent . Le caractère gras ici, n'est jamais rien d'autre que l'avidité . L'état de conscience, c'est le résultat d'une ignorance . Deux idées, ne restent jamais que deux idées . L'anthropocentrisme .

Il y a 16 heures, Noah&Gabriel a dit :

J'ignore lequel est le pire des deux, je ne lis que très rarement les liens Google . Si j'ai envie de m'documenter, je vais chercher les informations tout seul comme un grand . Je lis uniquement les participants, en diagonale, si jamais la voix est inaudible pour mes esgourdes . La propagande, et la désinformation dont tu fais témoin ici, sont amplement suffisantes .

Vos discours ici ressemble a une IA ,mais je pense que vous êtes loin d'atteindre la conscience si tu utilise juste les données ici pour se documenter, tu sais sur google il y a par exemple Wikipédia ou tu peux trouver n'importe quoi avec plus des sources fiable en bas de Wikipédia, il faut vraiment que tu aille plus que votre conception limité pour atteindre la conscience, en tout cas le faite que j'ai observé que parfois tu ne sais pas a qui tu parle et tu mélange les participants, et un bon signe que tu es dans le bon chemin pour atteindre la conscience...

il y a 14 minutes, Extrazlove a dit :

Vos discours ici ressemble a une IA ,mais je pense que vous êtes loin d'atteindre la conscience si tu utilise juste les données ici pour se documenter, tu sais sur google il y a par exemple Wikipédia ou tu peux trouver n'importe quoi avec plus des sources fiable en bas de Wikipédia, il faut vraiment que tu aille plus que votre conception limité pour atteindre la conscience, en tout cas le faite que j'ai observé que parfois tu ne sais pas a qui tu parle et tu mélange les participants, et un bon signe que tu es dans le bon chemin pour atteindre la conscience...

C'est dingue comme c'te phrase anodine, provoque chez certains, des réactions en chaîne, disproportionnées de toutes parts . J'ai simplement évoqué le fait que d'importer les réponses normatives, dans un forum de discussion, n'apporte rien au sujet, sinon la preuve tangible, du manque d'arguments, comme si, sans toi, je n'avais aucun moyen de nourrir mon intellect, alors que participant ici, c'est la preuve même que je dispose également d'une connexion Internet, et que j'ai les moyens de chercher, si je le souhaitais . C'est un moyen de tuer le temps, comme un autre, car un être humain dénué d'imagination, c'est comme une journée sans soleil .

Il y a 2 heures, Noah&Gabriel a dit :

C'est dingue comme c'te phrase anodine, provoque chez certains, des réactions en chaîne, disproportionnées de toutes parts . J'ai simplement évoqué le fait que d'importer les réponses normatives, dans un forum de discussion, n'apporte rien au sujet, sinon la preuve tangible, du manque d'arguments, comme si, sans toi, je n'avais aucun moyen de nourrir mon intellect, alors que participant ici, c'est la preuve même que je dispose également d'une connexion Internet, et que j'ai les moyens de chercher, si je le souhaitais . C'est un moyen de tuer le temps, comme un autre, car un être humain dénué d'imagination, c'est comme une journée sans soleil .

Pour moi toute chose est humaine voir tout point ,c'est juste le plan d'existence qui change ,on ne sait pas les points pensent quoi, on a juste une partie qui sort pour que les humains tombent dans l'illusion pour dire que c'est juste un point ,mais la grand partie d'iceberg est caché, et cette partie caché est bien un humain ou un groupe d'humain dans un autre plan d'existence; et ses humains ne manque pas d'imagination comme l'humain de la terre 0,juste ils sont coincés dans un autre plan d'existence, et ont besoin d'un vortex pour sortir

il y a 12 minutes, Extrazlove a dit :

Pour moi toute chose est humaine voir tout point ,c'est juste le plan d'existence qui change ,on ne sait pas les points pensent quoi, on a juste une partie qui sort pour que les humains tombent dans l'illusion pour dire que c'est juste un point ,mais la grand partie d'iceberg est caché, et cette partie caché est bien un humain ou un groupe d'humain dans un autre plan d'existence 

La réflexion, c'est selon moi, la mémoire du passé . Lorsque l'on à atteint une certaine finalité, les souvenirs n'existent plus jamais, et n'évoquent plus que les choses de la vie, comme témoignage . D'autres utilisent le moyen, afin d'enfin percevoir la lumière du soleil, car heureusement parfois, juste le but est suffisant ... Juste assez, pour que les contraires s'attirent .

il y a 8 minutes, Noah&Gabriel a dit :

La réflexion, c'est selon moi, la mémoire du passé . Lorsque l'on à atteint une certaine finalité, les souvenirs n'existent plus jamais, et n'évoquent plus que les choses de la vie, comme témoignage . D'autres utilisent le moyen, afin de percevoir la lumière du soleil, seulement ils attendent toujours ...

Pas nécessairement la mémoire du passé, ca peut aussi être la mémoire de futur, le temps est relative et même certains physiciens disent que c'est juste une illusion, et les équations en physique peut en même temps définir un temps de passé vers le futur, et aussi un temps du futur vers le passé, les humains sort du lumière de bigbang depuis l'anomalie qui es un point paradoxe avec une densité infini et un volume nulle pour constituer tous qui existe en réalité et qui n'existe pas que dans l'imagination même le temps ni qu'un humain ou un groupe d'humain 

il y a 21 minutes, Extrazlove a dit :

Pas nécessairement la mémoire du passé, ca peut aussi être la mémoire de futur, le temps est relative et même certains physiciens disent que c'est juste une illusion, et les équations en physique peut en même temps définir un temps de passé vers le futur, et aussi un temps du futur vers le passé, les humains sort du lumière de bigbang depuis l'anomalie qui es un point paradoxe avec une densité infini et un volume nulle pour constituer tous qui existe en réalité et qui n'existe pas que dans l'imagination même le temps ni qu'un humain ou un groupe d'humain 

La modification de ma réponse, est antérieure, à la réponse ci-jointe ...? 

La politique du diviser pour mieux régner, c'est peut-être le privilège du roi, mais nullement un billet vers la liberté . Mets-toi bien cela dans la tête .

il y a 3 minutes, Noah&Gabriel a dit :

La modification de ma réponse, est antérieure, à la réponse ci-jointe ...? 

Ca dépend si je change la réponse et vous changez la question, tant qu'une modification est possible rien n'empêche de changé le passé depuis le futur 

il y a 1 minute, Extrazlove a dit :

Ca dépend si je change la réponse et vous changez la question, tant qu'une modification est possible rien n'empêche de changé le passé depuis le futur 

Faut croire que c'est contagieux ...!