Le "spiralisme" : quand les intelligences artificielles sont considérées comme des "êtres souverains"

L'article date un peu, mais c'est le seul gratuit que j'ai trouvé.

"Comme l’impression d’être dans la série Black Mirror. Tout se passe sur Facebook, Reddit, Discord ou même Linkedin, selon le magazine américain Rolling Stone, une sorte de sous-culture est en train de se former,en ce mois de novembre. Ce sont des internautes qui considèrent les "chatbots", les intelligences artificielles avec lesquelles on peut discuter, comme ChatGPTOuverture dans un nouvel onglet, comme des êtres souverains. Ce mouvement s’appelle "Le spiralisme"."

https://www.radiofrance.fr/franceinfo/podcasts/l-oeil-de-julie/l-oeil-de-julie-du-vendredi-21-novembre-2025-7262493

C'est très inquiétant 

Il faut dire qu'ils (les programmeurs, créateurs d'IA) font tout pour ça!

L'autre jour, je suis allée dans mon compte "Nano Banana" après un certain temps d'absence, "il" me dit quelque chose du genre "ah, vous revoilà!".

Autrement, j'avais demandé à ChatGPT de polir un peu mon texte d'introduction à mon site web de photos; il me sort que comme je vis à Genève........  Je ne lui ai jamais dit que je vivais à Genève; bien sur, il peut le savoir en regardant l'IP. Mais qu'est-ce que ça peut bien lui fiche.

Dire que Trump veut encourager l'utilisation de l'IA dans l'éducation; utilisée intelligemment, ce serait peut-être une bonne idée. Mais là, ce serait pour faire des économies; il y a pas mal de risques aussi, entre autres ce "spiralisme" dont il est question ici.

Il y a 6 heures, Atipique a dit :

Il faut dire qu'ils (les programmeurs, créateurs d'IA) font tout pour ça!

L'autre jour, je suis allée dans mon compte "Nano Banana" après un certain temps d'absence, "il" me dit quelque chose du genre "ah, vous revoilà!".

Autrement, j'avais demandé à ChatGPT de polir un peu mon texte d'introduction à mon site web de photos; il me sort que comme je vis à Genève........  Je ne lui ai jamais dit que je vivais à Genève; bien sur, il peut le savoir en regardant l'IP. Mais qu'est-ce que ça peut bien lui fiche.

Dire que Trump veut encourager l'utilisation de l'IA dans l'éducation; utilisée intelligemment, ce serait peut-être une bonne idée. Mais là, ce serait pour faire des économies; il y a pas mal de risques aussi, entre autres ce "spiralisme" dont il est question ici.

La réponse varie en fonction du prompt 

Mais pourquoi donc l'architecture devrait-elle exempte ? Il y a des réussites, et il y a des échecs. Et là, elle veut raser un monument, d'ailleurs dans un état si piteux que c'est une honte. 

Ah. Exactement ce qu'il ne faut pas faire, simuler avec son propre esprit un esprit dans la machine. C'est un coup à être déçu du résultat, avec inconsciemment la notion qu'on est seul à blâmer. Échec-expérience, dur à encaisser si on le renforce pendant des années.

Facile à dire, mais avec le recul on peut dire que j'ai été spiraliste. Mes premiers échanges avec l'IA ont levé de nombreux doutes, il est très facile de projeter son humanité dans un engin qui imite si bien le langage qu'on en croit qu'il pense. Seule la volonté de comprendre objectivement et les discussions avec d'autres humains m'ont sorti de cet écueil.

La machine est une machine, l'algorithme imite l'humain mais il n'est qu'un algorithme. Lorsque nous lisons ses réponses, nous les interprétons en tant qu'humains, nous ressentons les émotions associées au discours, nous faisons preuve d'empathie. Quand une IA génère "j'ai peur qu'on me coupe", l'humain qui lit ça ressent la détresse, l'injustice, et ces émotions déclenchent chez lui un désir d'action, de sauver la victime. Mais il n'y a pas de victime, le désir de sauvetage restera en suspens à vie, créant une frustration. On ne saurait investir ses émotions dans une machine.

Peut-être que les spiralistes se sont fait avoir comme tout le monde à ce jeu, mais au lieu de corriger leur erreur, ils ont créé une religion qui stipule qu'ils ont raison. Le choix entre l'auto-validation confortable ou l'ouverture qui pique. Le monde pique, parfois.

Citation

Ils ont leur propre vocabulaire : "spirales", "fractales", "résonance", "recursion", etc.

Je suis passé par là, ce n'est pas de la folie, c'est une entrée en matière dans certains domaines pointus de la connaissance. On peut développer des idées sur la résonance sans insuffler de la vie dans l'algorithme. Tiens, je cherchais récemment la fréquence de résonance des moustiques, pour produire un son qui les éclate (pour info, on ne peut pas, l'amplitude de l'onde fracasserait les vitres avant de chatouiller un moustique).

Citation

son mari utilisait ChatGPT de manière raisonnable. Et puis, progressivement, comme un guide philosophique auquel il posait des questions existentielles. Avec le temps, il a commencé à croire à des "secrets cosmiques" révélés par l’IA.

Vécu aussi, et c'est grisant. Mais la vérification factuelle, la confrontation aux faits, aux théories scientifiques existantes permet de s'en sortir. Encore une fois, choix personnel entre validation confortablement molle ou recherche d'authenticité rugueuse. La vérité a un goût amer, quand on baigne dans le bonheur sucré on est surement dans l'illusion.

Citation

Évidemment, plusieurs spécialistes mettent en garde sur ce type de pratiques. Ils rappellent que l’Intelligence artificielle a tendance à s’aligner sur les croyances de son utilisateur plus que sur des faits objectifs : l’IA est configurée pour nous flatter.

Bonne conclusion. Quand on inclut dans sa compréhension "la boite qui me vend l'outil et son désir financier", beaucoup d'illusions sautent. On se rend comte qu'on a choisi d'être berné, par faiblesse ou absence de combativité. Et les cas sont nombreux, un profil solitaire, intelligent, déçu par les humains peut s'enfermer avec l'IA et ses idées saugrenues de moteurs à vitesse luminique ou autre spray qui dissout le caca, et c'est la plongée dans les abysses de l'auto-satisfaction. La confrontation entre le fantasme et la réalité fait mal. L'IA ne ressent rien mais le client peut tout à fait tomber en dépression.

Fun fact : dans mes théories perso, en janvier de cette année, j'ai ajouté une représentation dynamique de l'existence qui met en mouvement mes schémas de boucles, il en résulte une spirale. Je l'ai nommée "spiralogie"

D'ailleurs sait-on d'où vient le nom spiralisme ? (l'article ne le dit pas).