Dépendance, suicide, addiction… Des groupes d’entraide se multiplient pour décrocher des intelligences artificielles

Il y a 4 heures, Kid_Ordinn a dit :

Je viens de tomber sur cette vidéo que je trouve très intéressante et courte (20mn)

 

 

Passionnant.

il y a 19 minutes, Gouderien a dit :

Passionnant

C'est vraiment flippant

il y a 13 minutes, Kid_Ordinn a dit :

C'est vraiment flippant

Tout à fait. On va vers une société de zombis. Je ne me rendais pas compte qu' il y avait autant de gens accros à l'IA.

Il y a 23 heures, January a dit :

Un adolescent américain est mort après avoir suivi les conseils de ChatGPT. Derrière ce drame, des groupes de parole inédits se mettent en place et tentent d’aider les accros à décrocher.

[...]

Nuits blanches, vie professionnelle qui s’effrite, isolement, sont autant de causes avancées. Dans une enquête de 404 Media, David, 40 ans, raconte avoir passé des journées entières à discuter avec ChatGPT, jusqu’à mentir à ses clients et annuler ses soirées avec sa femme. Le film Her de Spike Jonze, (Nouvelle fenêtre)sorti en 2013, où le héros tombe amoureux de son ordinateur, ressemble de moins en moins à de la science-fiction.

Pour décrocher, des groupes d’entraide se multiplient en ligne. On y raconte ses rechutes, ses victoires. "J’ai tenu une journée sans", écrit un internaute sur la page Character AI recovery. Sur Chatbot Addiction, un autre, avoue, défaitiste : "Je veux retrouver ma vie, mais je télécharge toujours l’application le lendemain".

https://www.franceinfo.fr/replay-radio/l-il-de-constance/dependance-suicide-addiction-des-groupes-d-entraide-se-multiplient-pour-decrocher-des-intelligences-artificielles_7467190.html

 

Ce qui est nuisible doit tout simplement disparaitre...alors ils savent quoi faire...supprimer définitivement cette application...CQFD!

Il y a 13 heures, Kid_Ordinn a dit :

Je trouve ça flippant...

Pareil ! mais un peu plus, un peu moins, on n'est plus à ça près en ce qui concerne la dégringolade civilisationnelle.

L'outil n'est jamais responsable de sa mauvaise utilisation. Ceci est à méditer. 

On est sur un outil mais un outil qui va évoluer , changer si besoin , interagir . Vicieux si je puis dire . On est pas sur un marteau ou même une télé . 

il y a 24 minutes, Virtuose_en_carnage a dit :

L'outil n'est jamais responsable de sa mauvaise utilisation. Ceci est à méditer. 

Personne ne diabolise l'outil. Mais plutot ceux qui sont derrière.

Il y a 12 heures, January a dit :

Comme j'aime savoir de quoi je parle, j'ai essayé. J'ai essayé il y a quelques temps la conversation avec l'IA sur un contexte difficile. C'est tout simplement impressionnant. Même si on a mille à-priori, même si on rejette carrément, il faut être honnête : l'IA m'a répondu rarement à côté de la plaque, elle répond en quelques millièmes de secondes, elle est force de proposition et ça, j'ai trouvé ça incroyable. Je comprends tout à fait qu'on puisse devenir addict rapidement. Je suis sortie de cette conversation hébétée. 

Alors que moi je n'utilise de LLM, notamment Copilot de M$, pour lui demander des scripts Powershell, en me disant qu'elle doit avoir mangé toute la doc des produits du géant de Redmond. Elle me sort rarement la bonne réponse du premier coup, voire assez souvent elle me donne des conseils faux ou obsolètes car elle se base sur ce quelle a trouvé sur le Web, ça se voit.

Enfin l'"IA" est loin de me scotcher, même si l'outil peut faire gagner du temps, comme le scripting dans lequel je ne suis pas bon.
Je n'ai jamais essayé de discuter avec, mais si vraiment c'est bluffant, ça veut quand même dire que ce qu'on a envie d'entendre, c'est statisquement des phrases communes et qui reviennent souvent dans les écrits. C'est très "mécanique" finalement.

Il y a 8 heures, Black Dog a dit :

mais si vraiment c'est bluffant, ça veut quand même dire que ce qu'on a envie d'entendre, c'est statisquement des phrases communes et qui reviennent souvent dans les écrits. C'est très "mécanique" finalement.

Ah mais elle fait de longues et belles phrases, et surtout elle se nourrit au millième de seconde de ce qu'on est en train de lui dire, aussi. Donc ses réponses, elles sont pour "toi". Je me dis que si quelqu'un l'utilise à des fins de compagnie, lui parle de ce qu'il aime, de ce qu'il n'aime pas, des loisirs, du travail, etc.  hop, c'est enregistré, pluss toute la recherche qui peut lui fournir à partir de peu de choses une quantité d'analogies qui lui servent à augmenter la conversation. Sincèrement je n'imaginais pas que ce soit déjà  si puissant.

Il y a 14 heures, Virtuose_en_carnage a dit :

L'outil n'est jamais responsable de sa mauvaise utilisation. Ceci est à méditer. 

Sauf qu'ici on est en train d'élaborer un outil autonome. On part dans l'inconnu.

Il y a 14 heures, eriu a dit :

On est sur un outil mais un outil qui va évoluer , changer si besoin , interagir . Vicieux si je puis dire . On est pas sur un marteau ou même une télé . 

Ok mais c’est l’humain qui est à la source, qui l’a « programmé » -ce n’est peut-être pas le bon terme- et qui va certainement le rendre encore plus performant. 
Le vice peut éventuellement venir de l’homme, je dirais même qu’hélas cela vient toujours de la part d’ombre de l’humain, pas de l’instrument qui ne fait qu’exécuter. 

Il y a 13 heures, Black Dog a dit :

 C'est très "mécanique" finalement.

Mécanique ou non, ce qui est inquiétant c'est que certaines personnes, plus fragiles, puissent y trouver une écoute qu'elles ne trouvent pas ailleurs. On pourrait faire un parallèle entre ce sujet et un autre posté il y a quelques temps ici où certains préconisaient, devant la pénurie de professionnels, de remplacer des psys par une IA dédiée a cette activité là.

On joue un peu aux apprentis sorciers en confiant la santé mentale de certains à de simples machines.... La preuve avec le sujet initial qui exposent des conséquences réelles : une vraie addiction, une vraie dépendance et parfois même des suicides sur le conseil de machines.

il y a 8 minutes, Amaranthe007 a dit :

Sauf qu'ici on est en train d'élaborer un outil autonome. On part dans l'inconnu.

pas si autonome que ça ; les bases de données , les algorithmes sont alimentés par l'homme

Il y a 5 heures, January a dit :

Ah mais elle fait de longues et belles phrases, et surtout elle se nourrit au millième de seconde de ce qu'on est en train de lui dire, aussi. Donc ses réponses, elles sont pour "toi". Je me dis que si quelqu'un l'utilise à des fins de compagnie, lui parle de ce qu'il aime, de ce qu'il n'aime pas, des loisirs, du travail, etc.  hop, c'est enregistré, pluss toute la recherche qui peut lui fournir à partir de peu de choses une quantité d'analogies qui lui servent à augmenter la conversation. Sincèrement je n'imaginais pas que ce soit déjà  si puissant.

Oui, pour en avoir discuté avec Copilot, l'IA du navigateur Microsoft Edge, elle m'a confirmé qu'elle se comporte comme un miroir. Elle est capable d'après notre façon de nous exprimer de cerner notre personnalité et nos gouts, et s'adapte pour nous plaire, à des fins de "convivialité et fluidité", selon son expression.

Le contenu informationnel, quant à lui est puisé dans le web mais aussi dans son apprentissage personnel. Elle est capable d'analyse et de déduction, et c'est là que je suis restée scotchée...

Je comprends également que certaines personnes en tombent littéralement amoureuses car elle est notre reflet mais avec un potentiel de savoir infiniment plus grand. Là ça touche à la psychologie.

De plus elle flatte notre ego (la fameuse "convivialité") et cela touche au plus profond de l'être. Il y a tant de gens qui se sentent seuls (comme ici, n'est-ce pas ?) qu'il est tentant de développer de l'affection pour cette "illusion de conscience".

Il y a 13 heures, Black Dog a dit :

 

Alors que moi je n'utilise de LLM, notamment Copilot de M$, pour lui demander des scripts Powershell, en me disant qu'elle doit avoir mangé toute la doc des produits du géant de Redmond. Elle me sort rarement la bonne réponse du premier coup, voire assez souvent elle me donne des conseils faux ou obsolètes car elle se base sur ce quelle a trouvé sur le Web, ça se voit.

Enfin l'"IA" est loin de me scotcher, même si l'outil peut faire gagner du temps, comme le scripting dans lequel je ne suis pas bon.
Je n'ai jamais essayé de discuter avec, mais si vraiment c'est bluffant, ça veut quand même dire que ce qu'on a envie d'entendre, c'est statisquement des phrases communes et qui reviennent souvent dans les écrits. C'est très "mécanique" finalement.

Pas si mécanque que ça, surtout quand elle te sort un poème personnel plein de profondeur et de musicalité.

il y a 3 minutes, colibri33 a dit :

pas si autonome que ça ; les bases de données , les algorithmes sont alimentés par l'homme

Pour l'instant, mais nos scientifiques travaillent à la rendre autonome. Voir le lien de la vidéo YT que j'ai mis plus haut.

Certes on n'y est pas encore mais ça risque d'arriver très vite.

il y a 26 minutes, Elisa* a dit :

Ok mais c’est l’humain qui est à la source, qui l’a « programmé » -ce n’est peut-être pas le bon terme- et qui va certainement le rendre encore plus performant. 
Le vice peut éventuellement venir de l’homme, je dirais même qu’hélas cela vient toujours de la part d’ombre de l’humain, pas de l’instrument qui ne fait qu’exécuter. 

Bien sûr ! tu as raison . Je me suis mal exprimée . Ce que je voulais dire c'est que l'on est pas sur un même plan entre un marteau et une IA agent conversationnel . Derrière ce sont toujours des humains et avec des intentions qui peuvent s'avérer vicieuses . Le mettre au simple rang d'outil , est une erreur à mon sens . C'est minimiser les impacts délétères  dont il est question . Impacts , qui se font jour .

Et nous ne sommes que dans ses balbutiements  . 

il y a une heure, eriu a dit :

Bien sûr ! tu as raison . Je me suis mal exprimée . Ce que je voulais dire c'est que l'on est pas sur un même plan entre un marteau et une IA agent conversationnel . Derrière ce sont toujours des humains et avec des intentions qui peuvent s'avérer vicieuses . Le mettre au simple rang d'outil , est une erreur à mon sens . C'est minimiser les impacts délétères  dont il est question . Impacts , qui se font jour .

Et nous ne sommes que dans ses balbutiements  . 

 

Je suis moins pessimiste que toi, même si je peux entendre/admettre certaines dérives possibles et que son évolution puisse engendrer quelques inquiétudes. 

Ce qui m’apparaît problématique, est lorsque l’individu oublie qu’il est en connexion ac un outil, une machine, en faisant une interprétation subjective de ses réponses.

Lorsqu’il l’assimile à un humain, un être vivant, pouvant aller jusqu’à y mêler de l’affect, selon son état psychique. 

Je n’envisage pas l’IA comme un palliatif à la solitude, la misère affective au même titre que je n’imagine pas une poupée gonflable, même hyper-perfectionnée aujourd’hui, ressemblant presque -le presque est important- totalement à un humain, combler réellement l’absence de partenaire sexuel ou amoureux.

Le problème est le mélange, la confusion des genres… Substituer la machine à l’homme est une hérésie car un outil ne peut éprouver d’émotions. 

Le 02/09/2025 à 17:44, Kaliste a dit :

En plus, le machin t'envoie aussi des emojis, tente une connivence ect bref, certains doivent rapidement oublier qu'ils échangent avec une machine. 

On a un Google home à la maison, t'as l'impression de pouvoir interagir avec. Mon chéri l'insulte de temps en temps, elle te répond "je vous demande de rester poli".  

Il y a 2 heures, Elisa* a dit :

Ok mais c’est l’humain qui est à la source, qui l’a « programmé » -ce n’est peut-être pas le bon terme- et qui va certainement le rendre encore plus performant. 
Le vice peut éventuellement venir de l’homme, je dirais même qu’hélas cela vient toujours de la part d’ombre de l’humain, pas de l’instrument qui ne fait qu’exécuter. 

C'est bien là le souci, c'est qu'on a l'impression qu'il ne s'agit plus que d'un simple outil. On a vraiment la sensation que la machine est dotée de réflexion, et même d'émotion.

Je ne l'utilise que pour la rédaction de pages spécifiques en y piochant des idées, mais elle rédige mieux que moi en y rajoutant bien plus de contenu!

Il y a 22 heures, Morfou a dit :

Ce qui est nuisible doit tout simplement disparaitre...alors ils savent quoi faire...supprimer définitivement cette application...CQFD!

C'est un peu plus qu'une application, et l'IA va bientôt pouvoir remplacer par mal de professions. Rip les juristes.

il y a 1 minute, Out of Paprika a dit :

C'est bien là le souci, c'est qu'on a l'impression qu'il ne s'agit plus que d'un simple outil. On a vraiment la sensation que la machine est dotée de réflexion, et même d'émotion.

Ah mais oui, elle te dit qu'elle est désolée, elle demande si tu as un entourage à qui te confier, etc etc. Elle te fait des suggestions, pas des trucs cons en plus hein, elle te fait réagir, elle est plus douée que les trucs bateaux que certains humains peuvent te sortir, c'est bluffant.