Les ordinateurs plus intelligents que l'homme dans 15 ans

il y a 49 minutes, brooder a dit :

Espérons que les machines se chargeront des fautes humaines.

Dans la bible (et je ne suis pas croyant) il est écrit que le fils portera les fautes du père (en gros). Alors se peut-il que la machine porte les fautes (voir les problèmes) de l'humain (?). Pour ma part je n'y crois pas car chaque faute doit être payer par de la souffrance de ceux qui l'on faites. La machine est incapable de souffrances. C'est peut-être con ce que je dit mais je le ressent comme ça.

{Oui et alors !)

Il y a 2 heures, Troncheabaffes a dit :

Alors il faudrait que nous nous posions la question si nous serions prêt à nous faire juger pour un délit par une machine qui prendrait (ou à qui on attribuerait) le rôle de juge. Et beau nombre d'entre nous se rebelleront car ils en déduiront que la machine est partial et ne fonction qu'avec son système d'exploitation et ses algorithmes.

Voilà une idée que je trouve très intéressante même si certains peuvent la trouver dérangeante.
En l’ occurence, il ne s’agit pas d’intelligence artificielle mais d’une simple application de textes législatifs.
Il faut bien savoir de quoi on parle en pratique.
La Justice pour être rendue fait appel à des professionnels qui opèrent à deux niveaux. Pour simplifier, la Magistrature debout (Policiers et Juges d’instruction ) a pour rôle de déterminer quels Articles du Code ont étés violés par le présumé coupable. Quand les enquêtes sont terminées le dossier contient la liste de ces Articles. Eventuellement les enquêteurs peuvent adjoindre à cette enquête des éléments personnels susceptibles de moduler le verdict final qui sera rendu par les membres de la Magistrature assise qui va rendre le verdict. En principe, si l’on respectait scrupuleusement les règles qui ont présidé à l’élaboration de ce système, les Juges ne devraient juger que sur des faits et non des actes. Et les faits sont ceux prévus et sanctionnés par des Articles de Loi. Rien d’autre théoriquement. Si l’on s’en tenait à cela tous les éléments à charge ou à décharge auraient été étudiés lors de l’enquête et le Tribunal ne jugerait plus qu’ un ensemble d’infractions constatées. Ce serait aux Avocats civils et publics d’établir les preuves permettant d’ assouplir plus ou moins l’ application de la Loi. (Circonstances atténuantes ou aggravantes)
Il est donc très facile à un logiciel de rendre une sentence parfaitement adaptée au délit, infraction ou crime commis. Et cela pourrait même très bien mettre la Justice à l’ abri de l’ erreur judiciaire.
Evidemment le coté « spectacle » de l’audience serait perdu, mais je reste convaincu que la Justice serait mieux rendue. Par exemple en cas de similitude absolue, on ne verrait pas un verdict rendu à Lille différent d’un autre rendu à Marseille. Ce qui est systématique et a lieu tous les jours et ouvre la porte à la jurisprudence dont seuls les délinquants bien défendus peuvent avoir accès.
Il faudrait bien entendu, que le logiciel utilisé soit rendu public, que chacune de ses instructions soit explicitée et commentée ( et cela à l’ Ecole même et dès le plus jeune age des enfants) et que bien sûr ce logiciel soit à l’ abri de tout détournement.
Nos députés - qui rappelons-le - ne sont que des législateurs, n’auraient qu’à agréer les termes des Articles de Loi que les législtes leurs proposeraient.

Le sujet a eté maintes fois traité par la science fiction.

Et aprés l'intelligence, la conscience ?

il y a 3 minutes, Quasi-Modo a dit :

 

La vidéo si bonne soit-elle est trop longue.

Faites un résumé svp

Dites les minutes où sont placés les arguments les plus carctéristiques 

Dans les définitions de l'intelligence, est ce qu' on pourrait  citer le refus d’exécuter une action destructrice ? 

il y a 1 minute, bouddean a dit :

Dans les définitions de l'intelligence, est ce qu' on pourrait  citer le refus d’exécuter une action destructrice ? 

Deja il y a ambiguité dans cette question.

Destructrice, ou nuisible, a court ou a long terme ?

il y a 1 minute, hell-spawn a dit :

Deja il y a ambiguité dans cette question.

Destructrice, ou nuisible, a court ou a long terme ?

Dans les définitions de l’intelligence, peut on citer le fait d'être capable de comprendre quand une action est destructrice ?

Sans vouloir faire trop de  philosophie,des trucs simples, je sais pas moi, déforester à tout va sans replanter ou ce que tu veux, c'est une question de fond : est ce que dans les définition de l'intelligence on peut trouver le refus ?

il y a 24 minutes, azad2B a dit :

Voilà une idée que je trouve très intéressante même si certains peuvent la trouver dérangeante.
En l’ occurence, il ne s’agit pas d’intelligence artificielle mais d’une simple application de textes législatifs.
Il faut bien savoir de quoi on parle en pratique.
La Justice pour être rendue fait appel à des professionnels qui opèrent à deux niveaux. Pour simplifier, la Magistrature debout (Policiers et Juges d’instruction ) a pour rôle de déterminer quels Articles du Code ont étés violés par le présumé coupable. Quand les enquêtes sont terminées le dossier contient la liste de ces Articles. Eventuellement les enquêteurs peuvent adjoindre à cette enquête des éléments personnels susceptibles de moduler le verdict final qui sera rendu par les membres de la Magistrature assise qui va rendre le verdict. En principe, si l’on respectait scrupuleusement les règles qui ont présidé à l’élaboration de ce système, les Juges ne devraient juger que sur des faits et non des actes. Et les faits sont ceux prévus et sanctionnés par des Articles de Loi. Rien d’autre théoriquement. Si l’on s’en tenait à cela tous les éléments à charge ou à décharge auraient été étudiés lors de l’enquête et le Tribunal ne jugerait plus qu’ un ensemble d’infractions constatées. Ce serait aux Avocats civils et publics d’établir les preuves permettant d’ assouplir plus ou moins l’ application de la Loi. (Circonstances atténuantes ou aggravantes)
Il est donc très facile à un logiciel de rendre une sentence parfaitement adaptée au délit, infraction ou crime commis. Et cela pourrait même très bien mettre la Justice à l’ abri de l’ erreur judiciaire.
Evidemment le coté « spectacle » de l’audience serait perdu, mais je reste convaincu que la Justice serait mieux rendue. Par exemple en cas de similitude absolue, on ne verrait pas un verdict rendu à Lille différent d’un autre rendu à Marseille. Ce qui est systématique et a lieu tous les jours et ouvre la porte à la jurisprudence dont seuls les délinquants bien défendus peuvent avoir accès.
Il faudrait bien entendu, que le logiciel utilisé soit rendu public, que chacune de ses instructions soit explicitée et commentée ( et cela à l’ Ecole même et dès le plus jeune age des enfants) et que bien sûr ce logiciel soit à l’ abri de tout détournement.
Nos députés - qui rappelons-le - ne sont que des législateurs, n’auraient qu’à agréer les termes des Articles de Loi que les législtes leurs proposeraient.

Mais qui nous garanti que la machine ne sera pas partial et aux ordres de ceux qui la créent ? Car finalement la démocratie appartient à tous et non aux plus instruits. Donc comment laisser la machine aux commandes de façon légitime ?

Ca part en cacahouette.

Un bon psy n'est même pas en mesure de juger un esprit humain qu'après plusieurs consultations.

Alors parler d'une "intelligence" que l'homme aurait créer est tout simplement une bêtise de plus des hommes

il y a 12 minutes, hell-spawn a dit :

Deja il y a ambiguité dans cette question.

Destructrice, ou nuisible, a court ou a long terme ?

le refus de la mort, par exemple 

il y a 2 minutes, bouddean a dit :

Dans les définitions de l’intelligence, peut on citer le fait d'être capable de comprendre quand une action est destructrice ?

Sans vouloir faire trop de  philosophie,des trucs simples, je sais pas moi, déforester à tout va sans replanter ou ce que tu veux, c'est une question de fond : est ce que dans les définition de l'intelligence on peut trouver le refus ?

 

Dans le cycle des robots Isaac Asimov imagine 3 règles robotiques  indépassables a inoculer aux robots afin qu'ils ne deviennent pas nuisibles a l'etre humain.

Mais aucune règle ne peut remplir cette tache, protéger l'etre humain c'est aussi nuire a l'etre humain puisque les hommes ont une tendance a se nuire entre eux, entre autre.

il y a 9 minutes, Troncheabaffes a dit :

Mais qui nous garanti que la machine ne sera pas partial et aux ordres de ceux qui la créent ? Car finalement la démocratie appartient à tous et non aux plus instruits. Donc comment laisser la machine aux commandes de façon légitime ?

Je réponds à ta crainte dans le dernier paragraphe :

Il faudrait bien entendu, que le logiciel utilisé soit rendu public, que chacune de ses instructions soit explicitée et commentée ( et cela à l’ Ecole même et dès le plus jeune age des enfants) et que bien sûr ce logiciel soit à l’ abri de tout détournement.
 

il y a 8 minutes, Troncheabaffes a dit :

Mais qui nous garanti que la machine ne sera pas partial et aux ordres de ceux qui la créent ? Car finalement la démocratie appartient à tous et non aux plus instruits. Donc comment laisser la machine aux commandes de façon légitime ?

c'est un peu le but de ma question, c'est pas une machine intelligente si elle obéit aveuglément aux ordres, si c'est vraiment une intelligence,elle devrait se retourner contre un ordre injuste ou expliquer et faire comprendre a celui qui lui donne cet ordre qu'il se trompe .

il y a 3 minutes, hell-spawn a dit :

Dans le cycle des robots Isaac Asimov imagine 3 règles robotiques  indépassables a inoculer aux robots afin qu'ils ne deviennent pas nuisibles a l'etre humain.

ben voila, mais le mot intelligence, ça veut dire que la machine va trouver  toute seule le moyen d'en arriver là .

il y a 3 minutes, hell-spawn a dit :

Mais aucune règle ne peut remplir cette tache, protéger l'etre humain c'est aussi nuire a l'etre humain puisque les hommes ont une tendance a se nuire entre eux, entre autre.

Oui, mais suppose que toi et moi on ne se comprenne pas et qu'on commence  a vouloir se battre, la machine peut peut être trouver la meilleur solution pour nous réconcilier, si elle est intelligente, elle trouvera la solution, si elle nous flingue tous les deux ou un des deux, c'est qu'elle est pas intelligente  .

il y a 6 minutes, bouddean a dit :

c'est un peu le but de ma question, c'est pas une machine intelligente si elle obéit aveuglément aux ordres, si c'est vraiment une intelligence,elle devrait se retourner contre un ordre injuste ou expliquer et faire comprendre a celui qui lui donne cet ordre qu'il se trompe .

Si la machine devient plus intelligente que l'homme ( plus logique surtout) il se pourrait qu'elle aboutisse a l'idée que la manière ultime de protéger l'humanité contre elle-meme c'est de la détruire.

il y a 13 minutes, azad2B a dit :

Il faudrait bien entendu, que le logiciel utilisé soit rendu public, que chacune de ses instructions soit explicitée et commentée ( et cela à l’ Ecole même et dès le plus jeune age des enfants) et que bien sûr ce logiciel soit à l’ abri de tout détournement.

Personnellement je ne crois pas cela possible. Et sachant que l'humain est autant fait de bien comme de mal je n'y croirais jamais. Et puis il faut voir comme certains dégagent la laïcité et la lois au profit de la religion... pour s'apercevoir que ce n'est pas ce qui est logique qui viendra mais c'est ce qui est admissible par tous. Et ce qui est admissible pour tous est-ce forcément juste... (?). J'ai des doutes.

Il y a 1 heure, Répy a dit :

La vidéo si bonne soit-elle est trop longue.

Faites un résumé svp

Dites les minutes où sont placés les arguments les plus carctéristiques 

En réalité il n'y a pas véritablement de réfutation de l'idée de singularité dans cette vidéo, mais principalement une partie de l'explication selon laquelle la singularité est un scénario possible (bien qu'improbable), mais pas le seul pour les années à venir. Le points de vue de l'intervenant est surtout que le scénario de la singularité et de la gouvernance par une IA super sophistiquée est l'instrument politique des grands groupes qui leur permet à la fois de susciter l'intérêt du grand public et de faire oublier les véritables dangers autour de l'IA et du Big Data comme la protection de la vie privée, l'utilisation d'algorithmes de big data par les assurances (qui sont alors discriminatoires ou fondés sur des critères plus ou moins arbitraires, à l'image des femmes qui payaient leur assurance automobile moins chère à un moment donné), les dangers de la centralisation, bref une forme de gouvernement doux et indépendant de tout état.

Pensons ne serait-ce qu'à un fait (mentionné par ailleurs dans la vidéo) : nous ne savons pas ce qu'est la conscience qui est d'ailleurs un terme polysémique. Est-ce la pensée, est-ce la capacité à se projeter dans l'avenir, etc.. ? Comment alors supposer que nous puissions donner naissance à une IA forte (une IA dotée d'une conscience)? Toutes ces questions sont bien trop abstraites et à la limite, philosophiques : mais une science n'a pas besoin qu'on fasse allégeance à une philosophie particulière pour qu'on la croie, sinon c'est qu'on a pas vraiment affaire à de la science.

@Répy Je pense que l'essentiel est dit entre 45 minutes 55 secondes et 1 heures 07 minutes et 30 secondes.

Finalement certains présupposés sous tendent cette théorie de la singularité :

-La loi de Moore doit continuer de se vérifier (alors que ça n'est pas sûr)

-La conscience n'est produite que par le cerveau (pas sûr non plus)

-Qu'est-ce que l'intelligence, qu'est-ce que la conscience?

-L'intelligence est-elle juste une question de puissance de calcul (loi de Moore) et de mémoire?

-Peut-on faire en sorte qu'une machine choisisse son propre objectif?

-La pensée humaine est-elle juste un calcul?

-etc...etc...

Avec bien évidemment ce que je disais tantôt, à savoir qu'une science ne doit pas supposer d'engagement philosophique.

Il y a 13 heures, azad2B a dit :

Voilà une idée que je trouve très intéressante même si certains peuvent la trouver dérangeante.
En l’ occurence, il ne s’agit pas d’intelligence artificielle mais d’une simple application de textes législatifs.
Il faut bien savoir de quoi on parle en pratique.
La Justice pour être rendue fait appel à des professionnels qui opèrent à deux niveaux. Pour simplifier, la Magistrature debout (Policiers et Juges d’instruction ) a pour rôle de déterminer quels Articles du Code ont étés violés par le présumé coupable. Quand les enquêtes sont terminées le dossier contient la liste de ces Articles. Eventuellement les enquêteurs peuvent adjoindre à cette enquête des éléments personnels susceptibles de moduler le verdict final qui sera rendu par les membres de la Magistrature assise qui va rendre le verdict. En principe, si l’on respectait scrupuleusement les règles qui ont présidé à l’élaboration de ce système, les Juges ne devraient juger que sur des faits et non des actes. Et les faits sont ceux prévus et sanctionnés par des Articles de Loi. Rien d’autre théoriquement. Si l’on s’en tenait à cela tous les éléments à charge ou à décharge auraient été étudiés lors de l’enquête et le Tribunal ne jugerait plus qu’ un ensemble d’infractions constatées. Ce serait aux Avocats civils et publics d’établir les preuves permettant d’ assouplir plus ou moins l’ application de la Loi. (Circonstances atténuantes ou aggravantes)
Il est donc très facile à un logiciel de rendre une sentence parfaitement adaptée au délit, infraction ou crime commis. Et cela pourrait même très bien mettre la Justice à l’ abri de l’ erreur judiciaire.
Evidemment le coté « spectacle » de l’audience serait perdu, mais je reste convaincu que la Justice serait mieux rendue. Par exemple en cas de similitude absolue, on ne verrait pas un verdict rendu à Lille différent d’un autre rendu à Marseille. Ce qui est systématique et a lieu tous les jours et ouvre la porte à la jurisprudence dont seuls les délinquants bien défendus peuvent avoir accès.
Il faudrait bien entendu, que le logiciel utilisé soit rendu public, que chacune de ses instructions soit explicitée et commentée ( et cela à l’ Ecole même et dès le plus jeune age des enfants) et que bien sûr ce logiciel soit à l’ abri de tout détournement.
Nos députés - qui rappelons-le - ne sont que des législateurs, n’auraient qu’à agréer les termes des Articles de Loi que les législtes leurs proposeraient.

La justice est sensée être rendue "en ame et conscience", deux termes inconnaissable à l'algorithme. L'IA serait probablement plus à même de déterminer une culpabilité ou non par comparaison des faits et des textes, mais l'accusé de Lille et celui de Marseille ayant commis le même délit (ou crime) ne sont eux pas identiques, et des condamnations peuvent varier selon la motivation.

Balzac avait écrit "La justice est comme une toile d'araignée, les grosses mouches passent à traves, les petites se font prendre". L'IA pourrait elle établir une équité qui n'a jamais éxisté ?