Le dialogue en faillite

Il y a 4 heures, January a dit :

Ca a commencé comme ça », se rappelle Marie*, 27 ans. Un soir de décembre, rentrée à son domicile après une journée de travail difficile, la jeune femme prend mécaniquement son téléphone. Elle ouvre l'application ChatGPT et, comme on enverrait un SMS à un ami, lui adresse un « Bonsoir ». « Il m'a répondu : “Bonsoir, comment vas-tu ?”, alors j'ai dit : “Mal.” Il fallait simplement qu'on me pose la question pour que je vide mon sac. Et ç'a été l'intelligence artificielle… »

Il existait des réflexes similaires autrefois, du temps où même le téléphone n'existait pas, mais les personnes dans cette situation s'adressaient à Dieu, ou la sainte vierge, ou un saint, une sainte, je pense.

Un jour, nous aurons des robots pour nous tenir le crachoir et nous tapoter la main quand nous avons le moral dans les chaussettes.

Oui voilà c'est ce qui est expliqué là.   Des applis "d'auto-thérapie".  

.

à l’instant, kost. a dit :

C'est de notoriété publique qu'il y a des manques importants en ce qui concerne la santé mentale alors que les gens en demande dans ce domaine là et qui auraient besoin de soutien sont, eux, de plus en plus nombreux. Alors quand il n'y a plus d'humains pour écouter, certains peuvent trouver une écoute artificielle. Je ne sais pas ce qu'il faut en penser. Peut-être que certains écoutés y trouveront leur compte. Mais je doute qu'une IA aussi perfectionnée soit-elle puisse avoir les ressentis nécessaires pour aider quelqu'un qui souffre.

Non mais question ressenti ce n'est même pas la peine de se poser la question ; un agent conversationnel n'en a AUCUN.

il y a 4 minutes, chanou 34 a dit :

Non mais question ressenti ce n'est même pas la peine de se poser la question ; un agent conversationnel n'en a AUCUN.

voila. Bien alors je ne me pose pas de question. 

On sera tous d'accord là dessus mais du coup ? Il y a une vraie demande, et dans l'article par exemple, il y a un truc qui ne m'a pas laissée indifférente. On peut "tout" dire...  

Il y a 2 heures, Izanami a dit :

Sans être team IA je peux comprendre.

On a pas forcément de personne à qui parler IRL, et on va pas aller chez le psy à chaque coup de mou non plus. 

 

ce qui reste important à avoir à l'esprit, c'est que L'IA peu importe laquelle enregistre toutes les conversations, les garde en mémoire et travaille avec. donc il faut être certain de vouloir raconter notre plus intime à une machine qui fonctionne avec des techniciens, que cet intime sera enregistré, archivé. Que notre ip est connu (il faut un compte pour beaucoup d'ia) donc notre identité est connue. que notre intime se retrouvera sur un serveur pour toujours, utilisable par tout le monde, sans notre consentement, sans notre accord. 

beaucoup de gens pensent qu'il suffit d'effacer la conversation. mais c'est une erreur. ce n'est que la conversation sur l'interface qui est effacée. le reste est stocké dans son serveur de travail.

Je trouve tout ça dangereux , surtout quand on sait à quel point nous sommes manipulables . Ce peut être des outils formidables .

Et oui @January ( je ne sais pas si on pensait à la même chose) tout ce que l'on écrit ou que l'on dit sur internet reste , quelque part . 

il y a 20 minutes, January a dit :

On sera tous d'accord là dessus mais du coup ? Il y a une vraie demande, et dans l'article par exemple, il y a un truc qui ne m'a pas laissée indifférente. On peut "tout" dire...  

C'est vrai, là tu as raison.

C'est plus facile de tout raconter à un agent conversationnel par internet qu'à un humain assis en face de soi.

Mais à partir de ce moment, pourquoi ne pas écrire un journal intime?

je pense que le problème vient de la façon dont nous humains considérons les IA génératives. A partir du moment où elles répondent, on n'arrive pas à leur donner leur vraie nature.

il y a 10 minutes, chanou 34 a dit :

 

Mais à partir de ce moment, pourquoi ne pas écrire un journal intime?

 

Parce que le journal intime ne répond rien du tout peut-être....

à l’instant, kost. a dit :

Parce que le journal intime ne répond rien du tout peut-être....

Oui bien sûr. Mais là au moins, on reste maitre de ce qu'on en fait, ce qui n'est pas le cas sur internet.

il y a 1 minute, chanou 34 a dit :

Oui bien sûr. Mais là au moins, on reste maitre de ce qu'on en fait, ce qui n'est pas le cas sur internet.

Quelqu'un qui va mal et qui a besoin de parler se moque un peu de garder le contrôle, il a besoin que ça sorte et qu'on l'écoute. Un truc écrit n'écoute rien, il se contente de réceptionner. C'est d'ailleurs ce qui est dit dans l'article cité : la personne avait juste besoin qu'on lui demande pourquoi elle allait mal. Je l'ai dis, la société actuellement n'offre plus les services pour cette patientèle là. Et le mal être, le mal vivre ne cesse de s'accroitre. Alors ouais, la solution n'est pas la plus adaptée, mais elle a le mérite d'être malgré tout une oreille pour celles et ceux qui en ont besoin. Ce sont finalement à eux que la question devrait être posée : est-ce que d'une manière ou d'une autre cela les a soulagé ? si la réponse est oui, alors elle peut nous sembler étrange, mais au moins cela aura servi a quelque chose.

il y a une heure, chanou 34 a dit :

Non mais question ressenti ce n'est même pas la peine de se poser la question ; un agent conversationnel n'en a AUCUN.

Déjà que tous les humains n'en n'ont pas, des ressentis, de l'empathie...

Alors une technologie froide et sans âme enfermée dans une boite...tout va dépendre de qui lui "injecte" ce semblant de "réflexions humaines"...

Un psy est lui-même obligatoirement suivit par un autre psy...

Ca fait plus peur qu'envie!

il y a 29 minutes, kost. a dit :

Quelqu'un qui va mal et qui a besoin de parler se moque un peu de garder le contrôle, il a besoin que ça sorte et qu'on l'écoute. Un truc écrit n'écoute rien, il se contente de réceptionner. C'est d'ailleurs ce qui est dit dans l'article cité : la personne avait juste besoin qu'on lui demande pourquoi elle allait mal. Je l'ai dis, la société actuellement n'offre plus les services pour cette patientèle là. Et le mal être, le mal vivre ne cesse de s'accroitre. Alors ouais, la solution n'est pas la plus adaptée, mais elle a le mérite d'être malgré tout une oreille pour celles et ceux qui en ont besoin. Ce sont finalement à eux que la question devrait être posée : est-ce que d'une manière ou d'une autre cela les a soulagé ? si la réponse est oui, alors elle peut nous sembler étrange, mais au moins cela aura servi a quelque chose.

Ben oui mais...non. Un agent conversationnel, pour moi...non. 

Mais je ne juge pas ceux qui l'utilisent pour ça.

il y a 3 minutes, chanou 34 a dit :

Ben oui mais...non. Un agent conversationnel, pour moi...non. 

Mais je ne juge pas ceux qui l'utilisent pour ça.

Ouais mais tu n'es pas forcément concerné directement par ce besoin là. ALors que ce soit non pour toi est une chose. C'en est une autre si cette alternative (aussi critiquable soit-elle) satisfait ceux qui en ont besoin.

il y a une heure, chanou 34 a dit :

Oui bien sûr. Mais là au moins, on reste maitre de ce qu'on en fait, ce qui n'est pas le cas sur internet.

Mais ça n'aide pas. On écrit sur un journal intime. Point. Pas de retour, de conversation, d'un quelconque soutien moral 

Il y a 6 heures, January a dit :

Bonjour tous toutes  

 

J'ai lu ce témoignage : 

Ca a commencé comme ça », se rappelle Marie*, 27 ans. Un soir de décembre, rentrée à son domicile après une journée de travail difficile, la jeune femme prend mécaniquement son téléphone. Elle ouvre l'application ChatGPT et, comme on enverrait un SMS à un ami, lui adresse un « Bonsoir ». « Il m'a répondu : “Bonsoir, comment vas-tu ?”, alors j'ai dit : “Mal.” Il fallait simplement qu'on me pose la question pour que je vide mon sac. Et ç'a été l'intelligence artificielle… »

suite et article complet ici : https://www.lepoint.fr/societe/ils-se-confient-a-chatgpt-l-avantage-avec-l-ia-c-est-qu-il-n-y-a-pas-de-question-honteuse-11-03-2025-2584381_23.php

Comme Marie, et alors que plus d'un tiers des Français (39 %) recourt désormais « régulièrement » à l'intelligence artificielle, un nombre croissant d'entre eux confie l'utiliser à des fins personnelles. Sans tous chercher le courage de démissionner de leur poste, « discuter pour régler un problème » compte ainsi parmi les dix usages les plus répandus des plateformes génératives. 

[...]

« Difficile de résister », abonde la vingtenaire, à l'attrait de ce conseiller personnel ayant « réponse à tout », disponible sans limites de temps ni d'espace et offrant de remédier à ses difficultés familiales, intimes, amicales ou professionnelles. « Ce qui peut occuper dix séances chez le psy prend ici quinze secondes », ironise la jeune femme. Et de nuancer son propos : « Il est clair que ça ne remplace pas un spécialiste, mais on n'a pas tous le temps, l'envie, les moyens d'en consulter un… »

 

10 séances, 15 secondes ?  'vont être contents les psys. "Tu sers à rien !"   

 

 

Un intérêt qui n'a pas échappé aux acteurs de l'IA, désormais nombreux sur les créneaux du soutien moral et de la réflexion personnelle. 

Mais, pour certains utilisateurs : 

 « On ne peut pas dire que l'IA invite à se remettre en question. Elle est très flagorneuse et semble plutôt là pour vous conforter dans une situation, voire vous plaindre… »

 

Ah ben super.  Si c'est pour renforcer le narcissisme.. 

 

 

 

 

Alors, bien plus facile de discuter avec son téléphone ou avec quelqu'un ? (je ne parle pas de psy particulièrement).  On se confie à chat machin,  ou à quelqu'un de chair et d'os (et de coeur et de cerveau aussi..). 

Team IA ou IRL ?  (Intelligence Artificielle ou Vraie vie)

Vous me direz, on peut faire les deux, bref, je suis Team IRL évidemment. comment ça j'ai une dent contre l'IA ? mais pas du tout, j'ai toutes mes dents contre l'IA !

Ce truc ne fait que combler des manques, rien d'autre, rien de plus. 

 

A vous    

 

Il m'arrive de choisir le moyen terme :

Exprimer des émotions sur les réseaux sociaux, c'est espérer la parole de vrais gens avec une distance rassurante.

Les vrais gens ne sont pas tous compatissants, mais l'IA me semble à la fois trop intelligente et trop artificielle pour que j'aie envie de discuter avec elle...

il y a 45 minutes, Kira a dit :

Mais ça n'aide pas. On écrit sur un journal intime. Point. Pas de retour, de conversation, d'un quelconque soutien moral 

Mais l'erreur est là, de penser qu'un agent conversationnel peut constituer un soutien moral.

pas plus qu'un journal intime.

Tout est question de perception.

Faut que je vous parle des "Sophie".  Sophie, c'est un module intelligent qui est donné à chacun dès la naissance. Elle enregistre sons, images, tout, connaît tout de nous, de nos proches, de notre vie, et nous interagissons avec elle, nous nous confions à elle, depuis le tout début de notre vie. 

Et là vous vous demandez ? Elle a craqué January ou quoi ?  

Non non, les Sophie, c'est là : 

Dans cette trilogie de Pierre Raufast, il y a ces "modules". Et c'est assez fou ce que ça peut donner. Bon elles sont évoluées, super intelligentes, reconnaissent les émotions, tout hein ? Du grand luxe je vous dis. La trilogie est bien, pour les amateurs de SF, allez-y. 

Maintenant, je spoile, donc pour ceux qui veulent lire les bouquins, passez votre chemin  : 

il y a 1 minute, chanou 34 a dit :

Mais l'erreur est là, de penser qu'un agent conversationnel peut constituer un soutien moral.

pas plus qu'un journal intime.

Tout est question de perception.

Oui mais , l'IA répond .