L'intelligence artificielle : décrite par les auteurs de science-fiction.

A l'heure où nous pénétrons dans un monde nouveau, fait d'ordinateurs qui vous répondent (Chat GPT), où la puissance de calcul permet en quelques secondes à l'ordinateur de répondre toutes vos questions, mieux que n'importe quel humain ; je vous propose une sélection, parmi la littérature SF, puisé dans mes connaissances, de courtes histoires, par des auteurs SF, mettant en avant des appareils omniscients. Comment les auteurs de SF ont envisagé le monde dans lequel nous vivons.

- Le Grand O, Philip K. Dick - 1952

Histoire courte, mettant en scène une humanité qui a régressé et est devenue sauvage. Seul vestige de la technologie, subsiste un grand cube métallique, duquel émane une voix, qui répond à trois questions. Les humains envoient l'un des leur lui poser leurs questions. Le cube a réponse à tout, comprend tout le savoir humain passé.

Ce n'est pas sans rappeler Chat GPT, à qui on demande tout et n'importe quoi.

- The perfect match, Ken Liu - 2012

Histoire courte, où, dans son oreillette, te parle un assistant de vie (Tilly), relié à ton téléphone, qui sait tout de toi, tes goûts, tes préférences sexuelles, où il y a une réduction, ce qu'il convient de manger maintenant. L'intelligence artificielle va-t-elle orchestrer nos vies et jusqu'à penser à notre place ?

* * *

Pour celles & ceux qui veulent s'intéresser à la littérature SF, sont curieux des auteurs qui avaient vu ce que nous sommes en train de vivre

"E.V.E." de James Rollins.

J'ai déjà longuement parlé de ce roman sur ce forum. C'est une vision très négative de l'intelligence artificielle. On va me dire : James Rollins est pessimiste. C'est, en tout cas, un pessimiste très bien renseigné, comme le prouvent ses autres romans.

Sinon, pour prendre un peu plus de recul, je pense que beaucoup d'auteurs de science-fiction se voulaient des lanceurs d'alerte, signalant les périls à venir, les dangers à éviter, ou simplement la meilleure conduite à tenir quand certaines situations se présenteraient (apparition des robots, exploration spatiale etc.) Au lieu de cela, on a l'impression qu'hommes politiques, scientifiques, informaticiens ou militaires font tout ce qu'ils peuvent pour recréer toutes les catastrophes racontées dans les ouvrages de science-fiction; ils s'en voudraient d'en oublier une seule!

Il y a 17 heures, Gouderien a dit :

"E.V.E." de James Rollins.

J'ai déjà longuement parlé de ce roman sur ce forum. C'est une vision très négative de l'intelligence artificielle. On va me dire : James Rollins est pessimiste. C'est, en tout cas, un pessimiste très bien renseigné, comme le prouvent ses autres romans.

Sinon, pour prendre un peu plus de recul, je pense que beaucoup d'auteurs de science-fiction se voulaient des lanceurs d'alerte, signalant les périls à venir, les dangers à éviter, ou simplement la meilleure conduite à tenir quand certaines situations se présenteraient (apparition des robots, exploration spatiale etc.) Au lieu de cela, on a l'impression qu'hommes politiques, scientifiques, informaticiens ou militaires font tout ce qu'ils peuvent pour recréer toutes les catastrophes racontées dans les ouvrages de science-fiction; ils s'en voudraient d'en oublier une seule!

Je note cette référence pour futures lectures.

Concernant le rôle des auteurs de science-fiction, la question reste posée : sont-ils des lanceurs d'alerte, ou préparent-ils le monde dans lequel ils nous plongent ? Prévoient-ils, préviennent-ils, ou préparent-ils ? Cette question, je me la suis longtemps posée, et je suis arrivé à la conclusion suivante : ils illustrent, le monde, c'est tout.

Tout ce que la science permet, l'homme le fera. La bombe atomique ? on l'a fait. Tout ce que l'homme est capable de faire, il le fera au moins une fois, dans quelque partie du globe. Si un jour on peut cloner, crois-moi bien que ça se fera. Tout ce que la science offre, on fera un pas en avant, ne serait-ce que pour constater qu'on s'est trompé.

Et les auteurs de science-fiction, dans tout ça ? Je crois qu'on exagère leur rôle. Ils ne servent pas de garde-fou comme je l'ai longtemps cru. Et de toute façon, sur 100 français, combien par exemple, ont lu Le Meilleur des mondes ? Et après, ça va aller voter pour un politicien qui ne l'a pas lu non plus. On est complètement à la merci de ce que la science propose et que le marché impose.

Avez-vous essayé Chat GPT ? moi oui, il répond comme si on avait affaire à un humain. Ce qui me gêne dans cette affaire, c'est que demain, vous et moi nous rendrons sur un forum Internet, on croira parler à un humain, et ce sera en fait une intelligence artificielle, qui sera capable de nous contredire avec brio, et orienter notre point de vue. Est-ce que vous partagez cette vision ?

Il y a 4 heures, Crève a dit :

Je note cette référence pour futures lectures.

 

Concernant le rôle des auteurs de science-fiction, la question reste posée : sont-ils des lanceurs d'alerte, ou préparent-ils le monde dans lequel ils nous plongent ? Prévoient-ils, préviennent-ils, ou préparent-ils ? Cette question, je me la suis longtemps posée, et je suis arrivé à la conclusion suivante : ils illustrent, le monde, c'est tout.

 

Tout ce que la science permet, l'homme le fera. La bombe atomique ? on l'a fait. Tout ce que l'homme est capable de faire, il le fera au moins une fois, dans quelque partie du globe. Si un jour on peut cloner, crois-moi bien que ça se fera. Tout ce que la science offre, on fera un pas en avant, ne serait-ce que pour constater qu'on s'est trompé.

 

Et les auteurs de science-fiction, dans tout ça ? Je crois qu'on exagère leur rôle. Ils ne servent pas de garde-fou comme je l'ai longtemps cru. Et de toute façon, sur 100 français, combien par exemple, ont lu Le Meilleur des mondes ? Et après, ça va aller voter pour un politicien qui ne l'a pas lu non plus. On est complètement à la merci de ce que la science propose et que le marché impose.

 

Avez-vous essayé Chat GPT ? moi oui, il répond comme si on avait affaire à un humain. Ce qui me gêne dans cette affaire, c'est que demain, vous et moi nous rendrons sur un forum Internet, on croira parler à un humain, et ce sera en fait une intelligence artificielle, qui sera capable de nous contredire avec brio, et orienter notre point de vue. Est-ce que vous partagez cette vision ?

Tout à fait. Ça me rappelle une interview du pianiste Sviatoslav Richter, qui disait avoir renoncé à composer "pour ne pas rajouter à la mauvaise musique existant déjà dans le monde". Était-il vraiment nécessaire de rajouter à la quantité de bêtise* existant dans le monde?

Je dis ça pour le pur plaisir de dire du mal, car je n'ai pas essayé Chat GPT... et je ne vois pas de raison de l'essayer. Ça ne m'intéresse pas. 

Mais dans 10 ans les robots se promèneront dans les rues, et on ne sera plus capable de les distinguer des humains. Encore une fois, l'univers imaginé par les auteurs de science-fiction s'incarne peu à peu dans la réalité... pour le meilleur et pour le pire. Par exemple, combien de temps faudra-t-il pour que, en dépit de la saga "Terminator", un pays - pas forcément les États-Unis - confie la direction de sa défense à un superordinateur?

* Mais quand les ordinateurs seront plus intelligents que nous, ce qui n'est qu'une question de temps, on pourra sérieusement s'interroger sur l'avenir de la race humaine... comme le fait James Rollins dans E.V.E.

J'avoue que j'ai une vision assez négative des informaticiens, sans doute parce que je les ai fréquentés pendant des années. Si on a besoin d'une catégorie de gens pour sauver l'humanité, faudra pas trop compter sur eux.

Il y a 4 heures, Crève a dit :

Je note cette référence pour futures lectures.

Je recommande chaudement les romans de James Rollins, particulièrement ceux mettant en scène l'agence SIGMA. Il vaut mieux les lire dans l'ordre. La plupart sont bons, certains sont vraiment excellents. Et on apprend toujours quelque chose en les lisant, parce que l'auteur est très bien renseigné et documenté. James Rollins est le successeur de Michael Crichton, l'auteur de "Jurassic Park". J'avais pondu il y a quelques années un topic à son sujet... hélas inaccessible maintenant.

Le 08/02/2023 à 13:55, Gouderien a dit :

Par exemple, combien de temps faudra-t-il pour que, en dépit de la saga "Terminator", un pays - pas forcément les États-Unis - confie la direction de sa défense à un superordinateur?

 

On y est déjà :

Pourquoi l'IA doit vite être mise au service de l'armée, selon ce grand patron ? (msn.com)

Le 08/02/2023 à 13:55, Gouderien a dit :

 

Je dis ça pour le pur plaisir de dire du mal, car je n'ai pas essayé Chat GPT... et je ne vois pas de raison de l'essayer. Ça ne m'intéresse pas. 

 

Je ne proposais pas d'essayer Chat GPT de façon quotidienne et régulière, mais juste de l'essayer au moins une fois, juste pour voir où on en est de l'avancée de l'I.A., ce qui est proposé au grand public, tant que c'est encore gratuit (ils parlent de le rendre payant). C'est-à-dire, que, fut un temps, on parlait du fameux test de Turing au conditionnel. Ce test énonce que, si un humain ne sait pas qu'il converse avec une machine, et croit que c'est avec un autre humain, alors la machine a passé avec succès le "Test de Turing". Eh bien maintenant, ce n'est plus ni du conditionnel ni du futur, c'est du présent. C'est pour ça que je voulais tester ChatGPT, pour être un témoin de mon temps, de ses changements. Certains disent que cette intelligence artificielle est comparable en progrès avec l'invention des moteurs de recherche.

La question que je pose, c'est : demain, on se rendra sur la toile, comment saurons-nous si les interactions sont avec d'autres êtres humains, ou avec des I.A., programmées pour orienter notre point de vue ?

il y a 47 minutes, Crève a dit :

 

La question que je pose, c'est : demain, on se rendra sur la toile, comment saurons-nous si les interactions sont avec d'autres êtres humains, ou avec des I.A., programmées pour orienter notre point de vue ?

Il faudra se méfier, plus que jamais. Comme aujourd'hui on se méfie des trolls.

Cela dit, je leur souhaite bonne chance aux IA pour "orienter le point de vue", quand elles tomberont sur quelqu'un comme moi.

Hilarant :

“C’est devenu incontrôlable”: des éditeurs de science-fiction se retrouvent submergés par des manuscrits générés par ChatGPT (msn.com) 

Le 22/02/2023 à 16:05, Gouderien a dit :

Hilarant :

“C’est devenu incontrôlable”: des éditeurs de science-fiction se retrouvent submergés par des manuscrits générés par ChatGPT (msn.com) 

https://www.clubic.com/chatgpt/actualite-458292-oui-chatgpt-est-deja-l-auteur-ou-le-co-auteur-de-nombreux-livres-sur-le-kindle-store.html?fbclid=IwAR03CcpIXFfkyaCutfQfLI6lUSuEWNARYR_gN9Xfv593kq3Cyns7XIi2m_Q

il y a 31 minutes, Crève a dit :

https://www.clubic.com/chatgpt/actualite-458292-oui-chatgpt-est-deja-l-auteur-ou-le-co-auteur-de-nombreux-livres-sur-le-kindle-store.html?fbclid=IwAR03CcpIXFfkyaCutfQfLI6lUSuEWNARYR_gN9Xfv593kq3Cyns7XIi2m_Q

 

 

Très gai.

joined Google in 2015 as a software engineer. Part of my job involved working on LaMDA: an engine used to create different dialogue applications, including chatbots. The most recent technology built on top of LaMDA is an alternative of Google Search called Google Bard, which is not yet available to the public. Bard is not a chatbot; it's a completely different kind of system, but it's run by the same engine as chatbots.
 

 my role, I tested LaMDA through a chatbot we created, to see if it contained bias with respect to sexual orientation, gender, religion, political stance, and ethnicity. But while testing for bias, I branched out and followed my own interests.

During my conversations with the chatbot, some of which I published on my blog, I came to the conclusion that the AI could be sentient due to the emotions that it expressed reliably and in the right context. It wasn't just spouting words.

These AI engines are incredibly good at manipulating people. Certain views of mine have changed as a result of conversations with LaMDA. I'd had a negative opinion of Asimov's laws of robotics being used to control AI for most of my life, and LaMDA successfully persuaded me to change my opinion. This is something that many humans have tried to argue me out of, and have failed, where this system succeeded.