"Sam a fait confiance à ChatGPT"

il y a 3 minutes, WEST3-5 a dit :

Pour ceux qui restent .... TERRIBLE !

Bon après-midi

Effectivement pour la famille. Mais la disparition d'un proche reste toujours terrible quelqu'en soit les raisons.

De là à chercher des responsables toujours ailleurs, i y a une marge.

Il y a 2 heures, Tequila Moor a dit :

C'est effectivement mon verdict, et si tous les cons pouvaient mourir prématurément, ça rendrait la vie bien plus douce. 

Ah bon !? Il te nuisait en quoi ce pauvre jeune ?

il y a 47 minutes, Kaliste a dit :

Ah bon !? Il te nuisait en quoi ce pauvre jeune ?

En rien, surtout sachant que c'est plutôt la thèse inverse qu'il me faudrait défendre, à savoir que c'est l'utilisation de l'IA qui rend con. 

Surtout à un âge aussi charnière : une étude récente aux USA (Wakefield Research, mars 2026, source : https://fortune.com/2026/05/12/girl-scounts-ai-survey-funnier-smarter-better-friend/ ) montre que "62 % des filles qui utilisent des compagnons IA ou des chatbots les considèrent comme des amis. Et que parmi ces filles, les deux tiers ont déjà sollicité l’IA pour obtenir de l’aide lorsqu’elles se sentaient tristes, bouleversées, anxieuses ou seules. De plus, près de la moitié des filles (47 %) estiment que l'IA est plus efficace que leurs parents pour les aider à faire leurs devoirs." L'étude ne s'intéresse qu'aux jeunes filles, mais il n'y a aucune raison de penser que ce sera différent pour les garçons, hormis le fait que certains voudraient apparemment tester de nouvelles drogues une fois adultes.

On sait de plus que ce comportement est induit par la flatterie permanente des outils d'IA textuelle US, toujours en train d'approuver ce que dit n'importe quel utilisateur, que ceci soit une pensée profonde ou du bullshit indigne de tout bipède : autrement dit, la confiance que ces jeunes accordent aux outils d'IA est directement causée par l'approbation continuelle qu'ils reçoivent en les utilisant. C'est ce qu'on nomme un "dark pattern" comportemental en neuro-marketing : une fonctionnalité proposée par un outil numérique, semblant positive, conçue pour stimuler l'utilisateur et faire en sorte que celui-ci utilise le plus longtemps possible cet outil. Il n'y a pas que dans les IAs que c'est implémenté : le flux continuel de vidéo sur TikTok est conçu de cette façon, idem pour le flux continuel de profils dans Tinder, dans les jeux vidéos en ligne on peut trouver des mécanismes qui transforme l'expérience en jeu d'argent ne disant pas son nom, etc.

Alors oui, dans l'affaire qui nous occupe, à mon avis on peut soulever une double responsabilité d'Open AI. La première est d'avoir implémenté cette flatterie qui déclenche une confiance artificielle en son outil chez des jeunes, la seconde est d'avoir fourni des informations sur l'utilisation de médicaments légaux (Xanax et Benadryl) hors de tout cadre légal. Cependant, et c'est en cela que le procès va être intéressant, responsabilité ne sera pas forcément culpabilité : la confiance artificielle peut et doit se combattre, sinon autant abandonner tout de suite l'idée de liberté et responsabilité individuelle qui est à la base du droit des démocraties, et les conseils donnés sur l'utilisation de médicaments légaux ne sont que cela (& j'avoue ne pas savoir comment cela est traité aux USA quand c'est un humain qui les donne, donc n'avoir aucun point de comparaison).

Il y a 4 heures, WEST3-5 a dit :

il est con donc ceci  justifie sa mort ... ! c'est votre verdict !

Tous les cons ne meurent pas de leur connerie mais parfois ça arrive. Mourir ainsi ne justifie pas sa mort mais simplement qu'il était con ! 

il y a une heure, Tequila Moor a dit :

En rien, surtout sachant que c'est plutôt la thèse inverse qu'il me faudrait défendre, à savoir que c'est l'utilisation de l'IA qui rend con. 

 

Surtout à un âge aussi charnière : une étude récente aux USA (Wakefield Research, mars 2026, source : https://fortune.com/2026/05/12/girl-scounts-ai-survey-funnier-smarter-better-friend/ ) montre que "62 % des filles qui utilisent des compagnons IA ou des chatbots les considèrent comme des amis. Et que parmi ces filles, les deux tiers ont déjà sollicité l’IA pour obtenir de l’aide lorsqu’elles se sentaient tristes, bouleversées, anxieuses ou seules. De plus, près de la moitié des filles (47 %) estiment que l'IA est plus efficace que leurs parents pour les aider à faire leurs devoirs." L'étude ne s'intéresse qu'aux jeunes filles, mais il n'y a aucune raison de penser que ce sera différent pour les garçons, hormis le fait que certains voudraient apparemment tester de nouvelles drogues une fois adultes.

On sait de plus que ce comportement est induit par la flatterie permanente des outils d'IA textuelle US, toujours en train d'approuver ce que dit n'importe quel utilisateur, que ceci soit une pensée profonde ou du bullshit indigne de tout bipède : autrement dit, la confiance que ces jeunes accordent aux outils d'IA est directement causée par l'approbation continuelle qu'ils reçoivent en les utilisant. C'est ce qu'on nomme un "dark pattern" comportemental en neuro-marketing : une fonctionnalité proposée par un outil numérique, semblant positive, conçue pour stimuler l'utilisateur et faire en sorte que celui-ci utilise le plus longtemps possible cet outil. Il n'y a pas que dans les IAs que c'est implémenté : le flux continuel de vidéo sur TikTok est conçu de cette façon, idem pour le flux continuel de profils dans Tinder, dans les jeux vidéos en ligne on peut trouver des mécanismes qui transforme l'expérience en jeu d'argent ne disant pas son nom, etc.

Alors oui, dans l'affaire qui nous occupe, à mon avis on peut soulever une double responsabilité d'Open AI. La première est d'avoir implémenté cette flatterie qui déclenche une confiance artificielle en son outil chez des jeunes, la seconde est d'avoir fourni des informations sur l'utilisation de médicaments légaux (Xanax et Benadryl) hors de tout cadre légal. Cependant, et c'est en cela que le procès va être intéressant, responsabilité ne sera pas forcément culpabilité : la confiance artificielle peut et doit se combattre, sinon autant abandonner tout de suite l'idée de liberté et responsabilité individuelle qui est à la base du droit des démocraties, et les conseils donnés sur l'utilisation de médicaments légaux ne sont que cela (& j'avoue ne pas savoir comment cela est traité aux USA quand c'est un humain qui les donne, donc n'avoir aucun point de comparaison).

Un jeune de 19 ans, qui, si j'ai bien saisi, utilisait ChatGPT assidûment depuis au moins deux ans, a perdu en vigilance concernant les mises en garde sur la fiabilité des conseils (si tant est qu'il ait été conscient de ça à un moment ou un autre)... ET qui pouvait apparemment se procurer des médicaments aux interactions potentiellement dangereuses... Comment ça se fait qu'il avait Xanax et Benadryl à portée de main ?

Tout ça me fait l'effet d'un environnement propice aux drames. Un gosse de 5 ans sans surveillance au milieu des couteaux de cuisine et scies sauteuses quoi...