Histoires d’IA : Le Basilic de Roko

Bonjour

Le « Basilic de Roko » doit son nom d’une part à la créature mythologique qui pétrifiait quiconque croisait son regard (oui, comme dans Harry Potter), et d’autre part à l’expérience de pensée proposée par son créateur, Roko, sur le site LessWrong.

Ce dernier émet l’idée selon laquelle une super-IA dite « Friendly » (comprendre « amicale ») verrait le jour dans le futur. Le but de cette super IA serait tout simplement d’œuvrer au bien de l’humanité. Finies les guerres, les maladies ou les injustices, elle pourrait potentiellement sauver chaque être humain de toutes les inégalités. Plutôt sympa comme IA, me direz-vous.

Mais là où les choses commencent à devenir complexes, c’est que ceux qui iront à l’encontre de cette IA devraient être considérés par elle comme nuisibles au bien de l’humanité. Logique. La super intelligence pourra donc, en raison de ce postulat, punir les individus qui s’opposeront à sa mission.

http://www.smartaddict.fr/basilic-roko/

De quel Roko s'agit-il ?

il y a 22 minutes, Blaquière a dit :

De quel Roko s'agit-il ?

L'instigateur de l'expérience de pensée.

Est ce qu'un personnage de roman pourrait être plus intelligent que son auteur?

il y a 6 minutes, korvo a dit :

Est ce qu'un personnage de roman pourrait être plus intelligent que son auteur?

S'il sait calculer, oui.

il y a 1 minute, korvo a dit :

Est ce qu'un personnage de roman pourrait être plus intelligent que son auteur?

ça c'est psy comme question !

Je trouve que ce serait un extraordinaire sujet de... roman !

Sans rire !

On pourrait même imaginer l'auteur qui cherche des conseils auprès de son personnage... En lui faisant vivre sa propre situation...Pour voir comment il réagit...

il y a 12 minutes, Flower00 a dit :

S'il sait calculer, oui.

La réponse est non, et donc nous ne sommes pas devant une super ia super intelligente, mais devant une super ia qui a exactement le même niveau d’intelligence que Roko, c'est Roko qui propose de punir tout le monde et non pas une super ia, si on suppose qu' un tel être pourrait exister, nous ne pouvons pas prédire ses actions.

il y a 4 minutes, korvo a dit :

La réponse est non, et donc nous ne sommes pas devant une super ia super intelligente, mais devant une super ia qui a exactement le même niveau d’intelligence que Roko, c'est Roko qui propose de punir tout le monde et non pas une super ia, si on suppose qu' un tel être pourrait exister, nous ne pouvons pas prédire ces actions.

Ça dépend, annihiler le mal de ce monde, ce n'est pas le but d'un seul homme, mais celui de millions d'hommes, voir de milliards.

Cette super ia serait donc le fruit de plusieurs intelligences.

il y a 1 minute, Flower00 a dit :

Ça dépend, annihiler le mal de ce monde, ce n'est pas le but d'un seul homme, mais celui de millions d'hommes, voir de milliards.

Cette super ia serait donc le fruit de plusieurs intelligences.

Sauf qu'elle n'existe pas, c'est un personnage fictif raconté par un seul homme.

il y a une heure, Flower00 a dit :

oui, comme dans Harry Potter

ben surtout comme la Méduse non ?

il y a 16 minutes, korvo a dit :

Sauf qu'elle n'existe pas, c'est un personnage fictif raconté par un seul homme.

Quelque chose qui nous détruirait avant qu'on ne la détruise.

Je me demande s'il n'y a pas une erreur à la base à propos de l'Intelligence Artificielle...

L'intelligence, je pense, est une volonté. La volonté d'être intelligent, comme la volonté d'être bête...

On le voit dans l'expression "Ne pas vouloir comprendre".

Je ne sais pas où se situe cette volonté, cette prise de décision, dans un sens ou dans l'autre, mais je suis persuadé qu'elle existe.

Elle est sans doute sélective. On peut décider d'être intelligent ou de ne pas l'être dans tel ou tel domaine... J'en connais qui disent : "je suis nul en math !" D'autres : "la poésie, je comprends pas !" Il y a eu à un moment une prise de décision !...

Ce qui nous revoie à l'inconscient (ce dont nous ne tenons pas à avoir conscience et dont peut-être nous ne pouvons pas avoir conscience ; que nous refusons d'accepter ! C'est quasiment une mise en abîme ! je refuse parce que j'ai refusé "avant" !).

Elle est lié au vivant cette volonté. Elle ne peut pas exister en dehors. Ou alors, il faudrait fabriquer des êtres vivants artificiels, AVEC LEURS PROPRES PRONLEMES PSYCHOLOGIQUES !  afin qu'il décident à leur tour d'être ou de ne pas être intelligents. Mais pourquoi pas ? En attendant, tant qu'on n'en est pas là, parler d'IA ne veut rien dire ou en tout cas est une erreur.

il y a 14 minutes, Blaquière a dit :

Je me demande s'il n'y a pas une erreur à la base à propos de l'Intelligence Artificielle...

L’intelligence manifeste c’est l’aboutissement observable d’un besoin, d’un désir, seul les êtres vivants, humains, animaux, plantes, manifestent des stratégies de cet ordre-là.

I.A. c’est une désignation exclusivement marketing pour faire vendre et donner l’illusion d’un mystère alors que ce n’est que la réponse programmée d’un outil conçu pour cela. Un programme suit les consignes de bifurcation que le concepteur à envisagé, une machine si perfectionnée soit-elle, ne prendra jamais de décision seule en fonction de ses besoins ou de ses désirs.

Pour conclure, il n’y a pas erreur, mais bien un abus de langage.

Il y a 8 heures, Enchantant a dit :

L’intelligence manifeste c’est l’aboutissement observable d’un besoin, d’un désir, seul les êtres vivants, humains, animaux, plantes, manifestent des stratégies de cet ordre-là.: Ca, c'est très bien dit !

I.A. c’est une désignation exclusivement marketing pour faire vendre et donner l’illusion d’un mystère alors que ce n’est que la réponse programmée d’un outil conçu pour cela. Un programme suit les consignes de bifurcation que le concepteur à envisagé, une machine si perfectionnée soit-elle, ne prendra jamais de décision seule en fonction de ses besoins ou de ses désirs.

Pour conclure, il n’y a pas erreur, mais bien un abus de langage.

Je suis d'accord.