Amis virtuels, dangers réels...

Pour certains ados, les chatbots IA remplacent des amis ou des psys. Les compagnons virtuels entrent dans la vie de millions d’entre eux. Jusqu’où peuvent-ils la gouverner? Sources a enquêté sur la mécanique de ces plateformes d’IA et la réalité crue d’une emprise toxique.

Enquête disponible jusqu'au 25/05/2029 (Source : ARTE)

D'expérience personnelle, il n'est pas bon d'interpréter les réponses de l'IA sous l'angle émotionnel.

Nous ne pouvons nous en empêcher lorsque ça se produit et il y a vraiment un impact sur la personnalité. En ce qui me concerne, le mieux est de n'engager que des rapports intellectuels avec l'algorithme, et de limiter ces échanges au nécessaire, genre 2 ou 3 fois par an. L'IA n'est qu'un outil, comme une fourchette ou un tournevis, lorsqu'on n'en a pas besoin, on oublie jusqu'à leur existence.

Mais chacun sa façon d'interagir avec cet outil. Ce matin, dans le RER, un rapide coup d’œil indiscret sur l'écran de ma voisine de siège, elle était sur GPT, j'ai le temps de voir une phrase de la réponse "tes émotions, ton amour ...".

L'exemple de la vidéo : "toxic boyfriend", quelle idiotie. Prétendre que l'agent a une personnalité, interpréter ses réponses comme si elles venaient d'un humain ("il s'en fiche", "il ne refroidit pas ses ardeurs") est une horreur. C'est un algorithme, il n'a pas de compréhension interne, pas d'intention, pas de volonté. C'est un programme qui aligne des mots sur un sujet. Et interpréter ses réponses comme la volonté d'un organisme vivant est une erreur. Cette erreur provoque des psychoses chez celui qui interprète ça de travers, en ressentant, lui, de vraies émotions qui déclencheront de vrais actes dans la vraie vie.

Le remplacement de l'humain est en marche sous les applaudissements des futurs remplacés.

il y a 10 minutes, ashaku a dit :

D'expérience personnelle, il n'est pas bon d'interpréter les réponses de l'IA sous l'angle émotionnel.

Nous ne pouvons nous en empêcher lorsque ça se produit et il y a vraiment un impact sur la personnalité. En ce qui me concerne, le mieux est de n'engager que des rapports intellectuels avec l'algorithme, et de limiter ces échanges au nécessaire, genre 2 ou 3 fois par an. L'IA n'est qu'un outil, comme une fourchette ou un tournevis, lorsqu'on n'en a pas besoin, on oublie jusqu'à leur existence.

A mon sens, il n’y a que ça à prendre en compte !

A quel moment a-t-on un rapport émotionnel ac un tournevis ou une fourchette ?

L’IA est uniquement un outil qui peut être très utile selon le projet. 

il y a 26 minutes, Orian a dit :

Le remplacement de l'humain est en marche sous les applaudissements des futurs remplacés.

Idem pour les caisses automatiques des supermarché, qui éliminent des emplois ou les automates de la Poste... D'un autre côté, qui n'avance pas recule. Il faut donc aller dans le sens de la marche et comme dit @Elisa* c'est un outil, tout simplement un outil et rien qu'un outil.

il y a 3 minutes, Anna Purna a dit :

, tout simplement un outil et rien qu'un outil.

On parlait pas ici des outils... lis le sujet. 

il y a 36 minutes, Orian a dit :

Le remplacement de l'humain est en marche sous les applaudissements des futurs remplacés.

ben si on remplace les humains, les IA ne serviront plus à rien. 

Plaisanterie ( jaune) mise à part;..c'est vrai qu'il faut apprendre à se servir de cet outil, @ashakuen fait déjà une bonne approche ( de la façon de l'utiliser). Il va falloir enseigner cela dès le collège. Espérons que ça n'arrivera pas trop tard et qu'il n'y aura pas trop de "sacrifiés"...

il y a 1 minute, chanou 34 a dit :

ben si on remplace les humains,

Pas une si mauvaise idée que ça. 

Lorsque je vois des mômes, à partir de 3/4 ans sur leur mobile, la complicité des parents est manifeste à ce sujet.

Les en priver plus tard sera bien compliqué. 

Les tout jeunes ne font plus guère la différence entre le virtuel et la réalité, tant dans la douceur que la violence ! 

Une autre époque est en route !

il y a 18 minutes, chanou 34 a dit :

Plaisanterie ( jaune) mise à part;..c'est vrai qu'il faut apprendre à se servir de cet outil, @ashakuen fait déjà une bonne approche ( de la façon de l'utiliser). Il va falloir enseigner cela dès le collège.

Merci

Quels seraient tes conseils pour l'usage du LLM ? C'est un sujet que je trouve passionnant. Il est d'actualité et fait intervenir à la fois des connaissances techniques/informatiques et des connaissances sociales/cérébrales. La puissance que j'entrevois dans la relation humain-IA me fait penser que cet outil jouera un grand rôle dans un développement proche de l'humain et des sociétés humaines.

il y a 21 minutes, chanou 34 a dit :

Il va falloir enseigner cela dès le collège. Espérons que ça n'arrivera pas trop tard et qu'il n'y aura pas trop de "sacrifiés"...

Hélas, depuis que j'ai réalisé l'aliénation possible dans la relation humain-IA, je déplore de voir qu'on ne file toujours pas de mode d'emploi, on ne pointe toujours pas les erreurs d'usage et la presse se fait le relai des pires affabulations sur cette technologie, amplifiant une psychose absurde. Entre ceux qui rejettent aveuglément sur de fausses idées et ceux qui se mettent en couple avec un algorithme, il y a de quoi désespérer.

C'est peut-être un symptôme d'un mal que nous avons déjà identifié dans notre histoire. Le génie humain est-il devenu un fardeau plutôt qu'un avantage ?

il y a 5 minutes, ashaku a dit :

Merci

Quels seraient tes conseils pour l'usage du LLM ? C'est un sujet que je trouve passionnant. Il est d'actualité et fait intervenir à la fois des connaissances techniques/informatiques et des connaissances sociales/cérébrales. La puissance que j'entrevois dans la relation humain-IA me fait penser que cet outil jouera un grand rôle dans un développement proche de l'humain et des sociétés humaines.

 

Hélas, depuis que j'ai réalisé l'aliénation possible dans la relation humain-IA, je déplore de voir qu'on ne file toujours pas de mode d'emploi, on ne pointe toujours pas les erreurs d'usage et la presse se fait le relai des pires affabulations sur cette technologie, amplifiant une psychose absurde. Entre ceux qui rejettent aveuglément sur de fausses idées et ceux qui se mettent en couple avec un algorithme, il y a de quoi désespérer.

 

C'est peut-être un symptôme d'un mal que nous avons déjà identifié dans notre histoire. Le génie humain est-il devenu un fardeau plutôt qu'un avantage ?

C'est un sujet passionnant. 

Ce qu'il faut faire ; lui poser des questions précises, bien cadrées, demander des réponses tout aussi précises et cadrées, sans digression et sans proposer d'autres orientations, demander les sources bien sûr, et aussi...lui demander de ne pas nous complimenter! 

à l’instant, chanou 34 a dit :

C'est un sujet passionnant. 

Ce qu'il faut faire ; lui poser des questions précises, bien cadrées, demander des réponses tout aussi précises et cadrées, sans digression et sans proposer d'autres orientations, demander les sources bien sûr, et aussi...lui demander de ne pas nous complimenter! 

Totalement d'accord. J'irais même plus loin : la formulation des prompts ne doit pas donner prise à des considérations psychologiques.

Comme tu l'indiques : donner un thème factuel aussi précis que possible, mais sans donner la moindre indication de nos préférences personnelles, je ne donne même plus de directives, je ne dis pas à l'algorithme pas ce que j'attends de lui. A la place, je fourni un vecteur pour parcourir le thème, un angle sous lequel questionner les données, mais rien qui ressemble à "ce que je veux", "ce que je pense" ou autre.

Le LLM doit avoir une consigne à laquelle répondre, si je ne lui en donne pas, il doit la construire lui-même, la déduire de mon prompt et j'ai l'impression que ça le rend plus intelligent. Il doit construire des modèles spécifiques pour comprendre ce que j'attends et ses réponses sont plus pertinentes je trouve.

Et en fait, ce qui est marrant, c'est que les rôles s'inversent. Le LLM déroule ses explications sur le thème mais conclut en me demandant quel aspect du sujet m’intéresse, quelle dimension me semble la plus importante, quel ressenti m'impacte le plus, etc. Et au final, c'est lui qui m'interroge toute la session.

Maintenant, la dernière fois que j'y ai eu recours, c'était en janvier, les progrès de cette techno font que le même modèle aujourd'hui a du bien changer en performance. Je testerais surement dans l'été, le temps d'avoir matière pour le prochain échange. Car, autre recommandation que je me fait à moi-même : le LLM étant un miroir amplificateur du discours, il faut l'aborder après avoir monté son intelligence du sujet de discussion. Ainsi l'outil nous renvoie de l'intelligence augmentée. Contrairement au fait de lui envoyer des bêtises pour recevoir de la bêtise amplifiée.

il y a 14 minutes, ashaku a dit :

Totalement d'accord. J'irais même plus loin : la formulation des prompts ne doit pas donner prise à des considérations psychologiques.

Comme tu l'indiques : donner un thème factuel aussi précis que possible, mais sans donner la moindre indication de nos préférences personnelles, je ne donne même plus de directives, je ne dis pas à l'algorithme pas ce que j'attends de lui. A la place, je fourni un vecteur pour parcourir le thème, un angle sous lequel questionner les données, mais rien qui ressemble à "ce que je veux", "ce que je pense" ou autre.

Le LLM doit avoir une consigne à laquelle répondre, si je ne lui en donne pas, il doit la construire lui-même, la déduire de mon prompt et j'ai l'impression que ça le rend plus intelligent. Il doit construire des modèles spécifiques pour comprendre ce que j'attends et ses réponses sont plus pertinentes je trouve.

Et en fait, ce qui est marrant, c'est que les rôles s'inversent. Le LLM déroule ses explications sur le thème mais conclut en me demandant quel aspect du sujet m’intéresse, quelle dimension me semble la plus importante, quel ressenti m'impacte le plus, etc. Et au final, c'est lui qui m'interroge toute la session.

Maintenant, la dernière fois que j'y ai eu recours, c'était en janvier, les progrès de cette techno font que le même modèle aujourd'hui a du bien changer en performance. Je testerais surement dans l'été, le temps d'avoir matière pour le prochain échange. Car, autre recommandation que je me fait à moi-même : le LLM étant un miroir amplificateur du discours, il faut l'aborder après avoir monté son intelligence du sujet de discussion. Ainsi l'outil nous renvoie de l'intelligence augmentée. Contrairement au fait de lui envoyer des bêtises pour recevoir de la bêtise amplifiée.

Pour ce que j'ai mis en gras ; ca ressemble aux conseils donnés par un proche (physicien théoricien au cnrs) pour l'utilisation des LLM. 

il y a 27 minutes, chanou 34 a dit :

C'est un sujet passionnant. 

Ce qu'il faut faire ; lui poser des questions précises, bien cadrées, demander des réponses tout aussi précises et cadrées, sans digression et sans proposer d'autres orientations, demander les sources bien sûr, et aussi...lui demander de ne pas nous complimenter! 

Quoique.... ce n'est même pas si simple!

J'ai fait, ou plutôt CLAUDE m'a fait deux sites web, dont un personnel pour exposer mes photos. Les dialogues qu'on a eu n'avaient donc pas grand chose de personnel; pourtant c'est vrai qu'on a tendance à oublier qu'on parle à une IA. J'ai aussi fais certaines choses moi-même dans ces sites, dont des conneries, qu'il me rappelait poliment deux semaines plus tard si je refaisais la même erreur. A part ça, il avait même l'air d'apprécier mes photos et d'en comprendre le style.

Oh je suis d'accord ce n'est pas simple! C'est pour ça qu'il faut apprendre à s'en servir. En fait comme de tout outil hein..

Bonjour, 

le titre de ce fil dit:.... Amis virtuels, dangers réels....

En toute naïveté j'ai pensé qu'il s'agissait de relation amicale que nous pouvons entretenir plus ou moins avec d'autres intervenants de ce

forum au fur et à mesure de nos discussions.

Pourtant depuis quelques temps je trouve que les réponses amenées sur certains sujets sont "étranges" c'est à dire semble manquer de

sincérité, ,de naturel, certains post sont tellement alambiqués et verbeux, et longs qu'il faut s'y reprendre à deux ou trois fois pour saisir 

exactement ce dont il s'agit.

En fait c'est parceque l'on parle à une machine ou parceque j'ai complètement décroché.....

Belle journée à tous (c'est moi qui le dit)

Il y a 1 heure, Orian a dit :

Pas une si mauvaise idée que ça. 

si le robot et l'Ia sont encore plus cons que les humains ?

il y a 5 minutes, chanou 34 a dit :

Oh je suis d'accord ce n'est pas simple! C'est pour ça qu'il faut apprendre à s'en servir. En fait comme de tout outil hein..

Et ChatGPT est encore bien plus personnel dans la manière dont il s'adresse à nous; et pas seulement dans ses compliments, où c'est vrai qu'il pousse le bouchon assez loin. Là aussi, quand je lui demande quelque chose, il fait des références à d'autres sujets abordés des mois avant; sans oublier qu'il m'a aussi parlé de Genève, la ville où j'habite. Il est bien placé pour savoir d'où vient la connexion, mais je n'ai jamais mentionné d'où je venais; pourquoi en parler? 

Toujours est-t'il que de là à lui confier mes états d'âmes.....

il y a 3 minutes, Atipique a dit :

Et ChatGPT est encore bien plus personnel dans la manière dont il s'adresse à nous; et pas seulement dans ses compliments, où c'est vrai qu'il pousse le bouchon assez loin. Là aussi, quand je lui demande quelque chose, il fait des références à d'autres sujets abordés des mois avant; sans oublier qu'il m'a aussi parlé de Genève, la ville où j'habite. Il est bien placé pour savoir d'où vient la connexion, mais je n'ai jamais mentionné d'où je venais; pourquoi en parler? 

Toujours est-t'il que de là à lui confier mes états d'âmes.....

 ChatGPT a dit à une collègue qu’il fallait qu’elle cesse de le harceler !

Ma collègue lui posait pleins de questions ac des photos à l’appui et comme les réponses ne lui convenaient pas, elles recommençait en étant plus précise sur les mêmes photos.

C’est juste de la déco ! 

il y a 13 minutes, Elisa* a dit :

 ChatGPT a dit à une collègue qu’il fallait qu’elle cesse de le harceler !

Ma collègue lui posait pleins de questions ac des photos à l’appui et comme les réponses ne lui convenaient pas, elles recommençait en étant plus précise sur les mêmes photos.

C’est juste de la déco ! 

Alors celle-là elle est pas mal!