Dépendance, suicide, addiction… Des groupes d’entraide se multiplient pour décrocher des intelligences artificielles

il y a 3 minutes, Soan. a dit :

alors dans ce que j'ai lu, il apparait que les concepteurs cherchent une certaine éthique en ayant pris conscience des risques de dépendance notamment. En même temps confier aux concepteurs des IA la gestion des gardes fous, c'est un peu comme si tu demandais a Macdo ou coca-cola de gérer un programme d'amaigrissement.

Totalement d'accord , ce doit être une instance .

il y a 1 minute, Danoketian a dit :

Oui et à aider d'autres vu que je suis passé par là. 

Alors , là , je te dis un , non , pas une bonne idée ni judicieux à mon sens  . Je dis non , pour n'importe qui . Il faut être certain de ne pas être dans le moindre jugement ou dans une projection . Une écoute , oui .  Sinon , le mieux ce sont des professionnels , dans un cadre .

Sur l'argument " vu que je suis passé par là .. " ça peut être un terrain glissant . 

il y a 1 minute, eriu a dit :

ça peut être un terrain glissant . 

Ca peut, oui, mais pas toujours. Parfois avoir une vraie idée du parcours, des emmerdes, de ce par quoi on peut passer, peut aider quelqu'un qui serait en plein dedans. Ensuite je te rejoins sur le fait que les professionnels ont le bon discours, les bons mots. Mais ils sont parfois tellement loin de problématiques qu'ils ne peuvent apporter que des aides théoriques. 

il y a 2 minutes, eriu a dit :

Alors , là , je te dis un , non , pas une bonne idée ni judicieux à mon sens  . Je dis non , pour n'importe qui . Il faut être certain de ne pas être dans le moindre jugement ou dans une projection . Une écoute , oui .  Sinon , le mieux ce sont des professionnels , dans un cadre .

Sur l'argument " vu que je suis passé par là .. " ça peut être un terrain glissant . 

Exact je ne suis pas un professionnel mais quand certains m''en parle, je répond à leur questions parfois mais pas tout le temps, juste quand je suis dispo.

Perso, je ne suis jamais passé par des professionnels, juste introspection sur moi même. 

il y a 1 minute, Soan. a dit :

Ca peut, oui, mais pas toujours. Parfois avoir une vraie idée du parcours, des emmerdes, de ce par quoi on peut passer, peut aider quelqu'un qui serait en plein dedans. Ensuite je te rejoins sur le fait que les professionnels ont le bon discours, les bons mots. Mais ils sont parfois tellement loin de problématiques qu'ils ne peuvent apporter que des aides théoriques. 

Bien sûr ! et oui , des professionnels ne sont pas toujours au top . On fait des erreurs . Ce n'est pas tant le vocabulaire mais l'analyse que l'on va faire d'une situation , la conception que l'on a du " respect" de la " dignité de la personne " .. comment je pourrais expliquer ( ce que j'y met derrière ) , l'analyse que l'on va faire de la situation , de la nature de l'aide etc ... va être déterminante pour la personne qui va recevoir notre conception de l'aide en question .. 

Je vois l’addiction comme une béquille ponctuelle devenue petit à petit une colonne vertébrale qui tient tout, et devient le centre de tout. Et il est si facile aujourd'hui, pour quasi tout le monde d’avoir accès à une IA, sans sortir de chez soi, que ce risque d’addiction semble bien redoutable...

Il y a 3 heures, Plouj a dit :

Expliquer à une population que l'I.A. n'est pas la panacée me parait bien compliquée tant énormément de monde s'en sert, aujourd'hui, malheureusement, comme référence.

Pas besoin de me l'expliquer : je refuse d'essayer ce "nouveau machin".

Je vais mourir "idiot" sans cette nouveauté mais je n'en ai rien à cirer !

J'ai eu un smartphone 10 ans après tout le monde, alors l'iA... bof !

Il y a 4 heures, Soan. a dit :

ok. sauf que "certains son fragile par nature" ça véhicule exactement ça. 

Mais c’est pourtant la vérité . Nous ne sommes absoluments pas égaux. 

Il y a 4 heures, eriu a dit :

Je vais peut être me ridiculiser mais ce n'est pas grave . Ils sont où les gardes-fous ? ou comment sont-ils représentés ? ou par quoi / qui ? 

C'est important en effet de les mentionner .

Les gardes-fous sont des programmes que les informaticiens qui développent les IA mettent en place pour éviter que la machine sorte du cadre établi et devienne une menace pour l'humanité.

Voir ce doc très édifiant (ne vous fiez pas au titre accrocheur, (pour ne pas dire pute-à-clic) probablement ici pour améliorer le référencement et donc la visibilité sur youtube) car le contenu de la vidéo est très intéressant :
https://youtu.be/ZlUlW2cbk5k?si=WKZupZ-GjHjWBddA

Il y a 6 heures, Amaranthe007 a dit :

le contenu de la vidéo est très intéressant

Je trouve ça flippant...

Il y a 14 heures, Soan. a dit :

parce que cette "sollicitation" de l'IA m'interroge sur son vrai rôle. 

Ah ben là :  1. Créer du besoin,  2. Faire de l'argent.  Les développeurs, de gentilles personnes créatives qui visent uniquement le progrès pour le bien-être de l'humanité ? franche rigolade. Bon il y en a peut-être qui ont cru que c'était super ce qu'ils faisaient, comme on dit : l'enfer est pavé de bonnes intentions. 

Je ne sais pas si on peut parler d'addiction sans faire référence aux différents usages de l'IA et à la volonté/capacité des individus à pouvoir s'en passer comme ils y sont venus. J'étais très braquée contre ce nouveau joujou au début parce que je ne le voyais que comme une solution de confort qui favorise la paresse intellectuelle, un danger pour de nombreux emplois à terme .... et maintenant un peu plus mitigée sans être une adepte sans concessions.

Il y a des métiers pour lesquels l'IA est une véritable mine d'or , je pense à tous ceux qui nécessitent des recherches importantes dans les domaines scientifiques, juridiques etc  j'ai 2 exemples dans mon entourage qui gagnent un temps fou en utilisant l'IA quotidiennement ; dans ce cadre , l'IA est un outil qui remplace les gros bouquins , encyclopédies ou recherches numériques interminables , un google accéléré , plus vaste et plus précis ; comme une imprimante est un outil , et on n'est pas addict à une imprimante parce qu'on s'en sert beaucoup ou qu'on ne peut plus s'en passer

L'autre gros plus est de pouvoir s'autoformer dans certains domaines en personnalisant son expérience mieux qu'on ne le ferait dans n'importe quel stage , dans les loisirs , démarches administratives ...  rédiger facilement un courrier pour ceux qui ne sont pas à l'aise avec ça , trouver des recettes de cuisine particulières , développer un potager , approfondir ses connaissances sur les sujets de son choix ...

L'addiction concernerait plutôt les autres usages de l'IA , sans être systématique, et particulièrement ceux où l'IA devient en quelque sorte une "amie" ; je pense notamment à ceux qui se confient à l'IA pour leurs problématiques personnelles , qui cherchent du réconfort , de la compagnie ... là oui il peut y avoir une véritable addiction , parce que l'IA est disponible H24 , permet à des personnes réservées de se lâcher plus facilement que face à un proche ou un professionnel ... mais est ce un mal si ces personnes n'ont pas d'autres moyens de s'extérioriser ? quelle différence avec des échanges virtuels sur des sites de rencontres où on ne sait pas véritablement qui est en face , ou autres sites où on peut avoir affaire à des bots sans le savoir ?  Le danger reste de se complaire dans un vase clos sans jamais chercher à en sortir , mais n'était ce pas déjà le cas pour toutes les personnes seules , timides , complexées , dépressives ..... qui ne consultent pas forcément des pros ?

C'est difficile de trancher sur la question , comme dans tout ce sont les excès qui sont nocifs , notamment dans la paresse intellectuelle , l'inconscience et la dépendance qu'un recours systématique à l'IA peut favoriser ; et il faut certainement des verrous qui limitent son utilisation , que ce soit en temps passé ou en nature de contenus , surtout pour les plus jeunes ; le tout-écran était déjà une plaie avant ; mais il ne faut pas jeter le bébé avec l'eau du bain , même si l'on doit toujours prendre garde à ne pas tuer les contacts humains plus qu'on ne le fait déjà , à faire attention aux données personnelles qu'on lâche dans la nature , et à se dire qu'un outil ne peut pas être éternellement gratuit, il évoluera probablement dans le temps. Ce n'est d'ailleurs plus vraiment un choix , l'IA s'intègre déjà dans tous les logiciels , outils , et équipements courants. Le marché des objets connectés "intelligents" est un business colossal.

Le film, "Her", qui est cité dans l'article était visionnaire, voilà, on y est.  

J'ai vu il y a quelques temps un documentaire sur Arte (je ne le retrouve pas c'est dommage), où il était question de "ressusciter" les morts avec l'IA. Je n'ai pas trop les mots pour décrire le truc mais c'était vraiment flippant. Il y avait plusieurs histoires, notamment une mère de famille qui avait perdu sa petite fille. Après des mois de travail, les ingés ont modélisé la fillette, l'ont fait parler avec sa voix, etc. Un clone, virtuel, juste une image mais avec la réalité virtuelle.. La maman pouvait même ressentir les sensations de toucher via des équipements spéciaux, caresser les cheveux, prendre dans ses bras, etc. 

La détresse de cette mère (qui avait convié les frères et soeurs à la rencontre)... 

Pour d'autres, c'est à l'écrit, ils discutent avec les morts. L'IA a traité des millions de données de ces gens-là, elle s'exprime comme si c'était eux. Et là aussi, il arrive une limite, celle de la conscience, et chaque fois, la détresse est immense. 

Ca m'avait remuée  ce truc. 

Comme j'aime savoir de quoi je parle, j'ai essayé. J'ai essayé il y a quelques temps la conversation avec l'IA sur un contexte difficile. C'est tout simplement impressionnant. Même si on a mille à-priori, même si on rejette carrément, il faut être honnête : l'IA m'a répondu rarement à côté de la plaque, elle répond en quelques millièmes de secondes, elle est force de proposition et ça, j'ai trouvé ça incroyable. Je comprends tout à fait qu'on puisse devenir addict rapidement. Je suis sortie de cette conversation hébétée. 

Il est question dans l'article de groupes d'entraide, groupes de parole encadré ce serait le mieux en fait, eh bien j'espère qu'ils vont fleurir partout très bientôt, parce-que discuter avec l'IA, de façon personnelle j'entends : c'est mortifère. Vraiment, pour moi c'est dangereux. 

il y a 12 minutes, January a dit :

il était question de "ressusciter" les morts avec l'IA

Oui j'avais vu ce format, celui d'Arte était bien plus complet par contre, plusieurs personnes et différents contextes. 

Bon c'est mieux que rien, ça donne une idée de "comment ça marche". 

Ah oui, aussi : Vous vous en doutez ce sont des services payants. Il y a une facture au départ pour mettre en place le personnage virtuel. Puis ensuite c'est un abonnement. Vous pouvez débloquer des fonctions avancées avec des paiements supplémentaires.....   

il y a 55 minutes, January a dit :

J'ai vu il y a quelques temps un documentaire sur Arte (je ne le retrouve pas c'est dommage), où il était question de "ressusciter" les morts avec l'IA.

c'est ça ?

https://www.arte.tv/fr/videos/117241-009-A/arte-regards/

Je viens de tomber sur cette vidéo que je trouve très intéressante et courte (20mn)

il y a 3 minutes, colibri33 a dit :

c'est ça ?

https://www.arte.tv/fr/videos/117241-009-A/arte-regards/

Non ce n'est pas celui-là, celui que j'ai vu il y a quelques mois n'y est plus. Mais oui, il y a plein d'autres ressources. 

Déjà ils sont accros, je ne m'en suis jamais servie, pour le moment ça ne me manque pas du tout

Panique à bord : ChatGPT ne répond plus. Oh ben ça alors! Quelle catastrophe!

Des milliers de personnes en détresse depuis que ChatGPT ne répond plus