Les IA peuvent-elles s'installer sur le forum ?

[ashaku 641]

Sinon, étude du nom de domaine du lien et/ou MP aux concernées.

Les profils répondent, ce sont des humains, ils cherchent des candidats pour un questionnaire.

Une partie des réponses se trouve en cliquant sur le lien, ça ne fait pas exploser l'ordi, j'ai essayé.

[CAL26 5 615]

il y a 13 minutes, ashaku a dit :

Sinon, étude du nom de domaine du lien et/ou MP aux concernées.

Les profils répondent, ce sont des humains, ils cherchent des candidats pour un questionnaire.

Une partie des réponses se trouve en cliquant sur le lien, ça ne fait pas exploser l'ordi, j'ai essayé.

Peut-être mais ça reste en quelque sorte de la "pêche à la ligne" : la participation n'est pas honnête. 

[fraise_sucrée 19]

 

il y a 29 minutes, ashaku a dit :

ça ne fait pas exploser l'ordi, j'ai essayé

J'ai fouillé dans le questionnaire aussi que karineleblanc arrêtait pas de mettre (perso j'y suis allée avec une machine virtuelle j'avais peur que mon ordi explose )

J'ai demandé à Chat GPT je vous mets sa réponse : 

Il pourrait s'agir d'une véritable campagne de recrutement pour une étude universitaire, menée de façon très intensive sur des forums, avec des comptes créés spécifiquement pour attirer des participants.

Mais il faut garder une nuance : ça ne prouve pas que les comptes sont des bots.

---

1) Le questionnaire correspond étonnamment bien aux sujets du forum

C'est probablement l'élément le plus intéressant.

Tu observes une correspondance entre :

Sur le forum :

• opinion sur l'IA ;
• société ;
• immigration ;
• identité ;
• politique ;
• valeurs ;
• habitudes numériques ;
• demandes d'avis personnels.

Dans le questionnaire :

• confiance envers les chatbots IA ;
• fréquence d'utilisation de l'IA ;
• opinions politiques ;
• confiance dans les institutions ;
• données socio-économiques ;
• profil démographique.

Ce n'est pas une correspondance vague. Les thèmes sont très proches.

Ça rend beaucoup moins probable l'idée d'un simple spam commercial.

---

2) Le profil des comptes devient plus cohérent avec une stratégie de recrutement

Regarde le comportement de certains comptes :

Catherine / Claudette

Elles ressemblent davantage à des comptes "appâts" :

• création récente ;
• plusieurs sujets ouverts ;
• questions ouvertes ;
• peu d'engagement ensuite.

C'est exactement le type de comportement qu'aurait quelqu'un qui cherche simplement à générer du trafic.

Karine

Elle est encore plus intéressante :

• elle diffuse plusieurs fois le questionnaire ;
• elle insiste sur la participation ;
• elle semble avoir un objectif précis.

Elle ressemble moins à un compte de discussion classique.

Céline

C'est le cas le plus ambigu.

Elle :

• répond ;
• reformule ;
• encourage ;
• maintient les échanges.

Deux possibilités :

1. une vraie personne chargée du recrutement qui prend le temps de discuter ;
2. une personne utilisant un assistant IA pour répondre plus facilement ;
3. un système semi-automatisé.

Ce n'est pas incompatible avec une étude.

---

3) Les questions démographiques que tu as vues sont typiques d'une étude universitaire

Les questions que tu cites :

• genre ;
• niveau d'étude ;
• situation professionnelle ;
• revenus du foyer ;
• composition du foyer ;
• enfants ;
• orientation politique ;
• confiance dans les institutions ;
• rapport à l'IA ;

sont très classiques dans les sciences sociales.

Le but est généralement de pouvoir comparer les réponses entre groupes.

Par exemple :

"Les personnes ayant moins confiance dans les institutions ont-elles une perception différente des IA ?"

ou :

"Les utilisateurs fréquents de chatbots ont-ils des opinions différentes sur leur fiabilité ?"

Ce genre d'analyse nécessite exactement ce type de variables.

---

4) Là où ton intuition est intéressante : la méthode de recrutement

Le point qui reste discutable n'est pas l'étude.

C'est la méthode.

Une université peut parfaitement recruter des participants via Internet.

Mais créer plusieurs comptes avec des identités qui ressemblent à des personnes normales pour lancer des discussions est une pratique beaucoup plus délicate.

Il y a plusieurs scénarios possibles :

Scénario 1 — Des chercheurs/recruteurs humains créent plusieurs comptes

Probabilité : possible.

Ils créent plusieurs profils pour toucher différentes communautés.

Scénario 2 — Des assistants de recherche utilisent des comptes dédiés

Probabilité : possible.

Une personne est chargée de poster sur plusieurs forums.

Scénario 3 — Utilisation d'IA pour produire les discussions

Probabilité : possible mais non démontrée.

Cela expliquerait :

• le ton très poli ;
• les compliments fréquents ;
• les relances ;
• le côté "toujours intéressé".

Scénario 4 — Bots autonomes

Probabilité : moins évidente.

Pourquoi ?

Parce que certains échanges de Céline semblent demander une intervention humaine ou au minimum un contrôle.

---

5) Le point qui me paraît le plus important : le consentement

Si l'objectif est une étude, il y a une différence énorme entre :

Correct :

"Bonjour, nous menons une étude, voici le lien, vous pouvez participer."

et :

Problématique :

créer des identités fictives qui donnent l'impression d'être des membres ordinaires d'un forum pour amener les gens à répondre.

Même si l'étude est réelle, la deuxième méthode pose des questions éthiques.

Ce n'est pas forcément illégal, mais ça peut être considéré comme une forme de recrutement peu transparente.

---

6) Mon classement actuel des hypothèses

Avec les nouveaux éléments :

Hypothèse	Probabilité actuelle
Vraie étude universitaire + recrutement massif	Très plausible
Comptes humains créés pour diffuser l'étude	Très plausible
Comptes aidés par IA	Possible
Bots autonomes	Possible mais pas prouvé
Arnaque/phishing	Peu probable

---

7) Le détail que je vérifierais maintenant

La question clé serait :

Est-ce que l'étude elle-même autorise ou mentionne le recrutement via des forums ?

Ce serait intéressant de chercher :

• le titre exact de l'étude ;
• le numéro IRB ;
• les chercheurs ;
• éventuellement une page officielle de Princeton décrivant le projet.

Si l'étude existe bien et que les chercheurs recrutent effectivement en ligne, ton enquête pourrait plutôt devenir :

"Comment une étude universitaire utilise-t-elle des comptes de forum pour recruter des participants ?"

plutôt que :

"Est-ce un réseau de bots malveillants ?"

---

Donc oui, je rejoins largement ton intuition : le scénario "attaque informatique" ou "arnaque" devient très peu probable. Ce que tu décris ressemble beaucoup plus à une opération de collecte d'opinions liée à une vraie recherche, avec une méthode de recrutement qui peut paraître artificielle voire agressive.

  

 

Modifié lundi à 23:07 par fraise_sucrée

[ashaku 641]

à l’instant, CAL26 a dit :

Peut-être mais ça reste en quelque sorte de la "pêche à la ligne" : la participation n'est pas honnête. 

Non, en effet. J'ai vu 4 profils, karine qui pêche au chalut sur tous les sujets, claudette et catherine qui jouent le jeu du membre de forum et celine qui la joue fine et harponne par MP.

Mon appréciation personnelle est qu'il s'agit de chercheurs, agissant pour certains avec impatience, pour d'autre avec précision. J'ai regardé le nom de domaine du lien, ca a l'air réglo. J'ai participé à leur sondage. Mais tu finis par me donner un doute, après tout ...

Et bien, peut-être suis-je trop naïf mais tout de même, s'il s'agit de gens qui cherchent à contacter un public et que ce dernier utilise la présence sur Terre de l'IA comme excuse pour tourner le dos par défaut, on pourra dire que l'IA a détruit l'humain, aussi inoffensive et amicale soit-elle.

[ashaku 641]

il y a 12 minutes, fraise_sucrée a dit :

(perso j'y suis allée avec une machine virtuelle j'avais peur que mon ordi explose )

Bon ba on est raccord. Et on a posté quasi en même temps.

[SpookyTheFirst 2 691]

Il y a 11 heures, BigBadBigMacLeBoss a dit :

Des bots peuvent bien évidemment créer une discussion sur un forum... ça se fait depuis des décennies ! Et c'est un fléau pour bon nombre de forums.

Si le "bot" répond de façon cohérente aux messages reçus sur le sujet qu'il a lancé, alors ce n'est vraisemblablement pas un bot. Donc justement, les bots récents ont-ils simplement lancés des sujets avant de les déserter, ou bien y participent-ils après le lancement ? Cela devrait te donner un indice. 

Je suis actif sur un autre forum (lamborghini-talk) et je peux témoigner qu’on a là-bas régulièrement des IA qui postent et répondent.

[lunatike 866]

Il y a 7 heures, CAL26 a dit :

la participation n'est pas honnête

Tout à fait, mais malheureusement ce genre de participation est présente dans beaucoup de forums. Pour cela que certains s'éloignent des forums car échangent avec des personnes qu'ils ne rencontreront certainement jamais, qu'elles soient réelles ou bots, et que nul ne peut savoir qui se cache derrière, manipulateurs ou autres gros cons de service (à mettre au féminin aussi bien entendu).

Même parmi les participants, il y en aura toujours qui lanceront des fils et les orienteront pour adhérer à leurs idées et gare à ceux qui auront des opinions contraires, ils feront en sorte de les faire partir ou radier du fil.

L'honnêteté sur des forums même entre participants dits normaux ne peut se vérifier, et pourtant nous participons aux fils, aux échanges, c'est bien que nous y trouvons notre compte à un moment ou un autre, sinon nous irions cueillir des mûres ou lire un bon livre au lieu de passer ici quelques minutes.

Après selon les sujets, est-ce si grave que ce soit des pseudos féminins, IA, bots ? on peut discuter de l'idée sans discuter du pseudo qui a lancé le fil.

 

 

[Demethrogene 1 797]

Que ce soit une IA ou pas, en tant que modérateur je considèrerai cette façon d'agir comme "abusive", au sens des CGU du forum.

Citation

L'utilisation que vous ferez des services ne devra pas être :

- abusive (multiplication de messages, sujets...)

- malhonnête (destinée à ne pas respecter les règles propres à chaque service). 

 

Les comptes multiples sont également proscrits, tout comme le démarchage en MP.

 

Modifié mardi à 08:38 par Demethrogene

[querida13 24 371]

Il y a 14 heures, Kid_Ordinn a dit :

Réponse d'une IA :

 

 

Sur un forum, voir des comptes avec des noms et prénoms très proches indique le plus souvent de la ferme à liens (SEO spam), des bots automatisés ou de la manipulation d'opinion (trolls/faux avis). [1]

 

Les causes possibles

• Spam SEO / Backlinks : Des scripts créent des faux profils pour insérer des liens publicitaires dans les signatures ou profils.

• Faux comptes / Bots : Des robots génèrent des noms aléatoires basés sur des listes de prénoms et de noms réels pour automatiser des inscriptions. [1]

• Manipulation de communauté (Astroturfing) : Une seule personne (ou un groupe) utilise plusieurs comptes aux noms similaires pour simuler un faux débat, s'auto-valider ou polluer les discussions.

 

Euhhhh, what????

[Zora80 603]

C'est quoi toutes ces nouvelles avec le drapeau anglais qui posent des questions en rapport avec le fonctionnement du forum, la vie privée des gens, etc? On peut se poser la question de l'IA derrière ces comptes...

[Sylver_ghost 182]

Quand je discute avec mes potes, au café, ou ailleurs, je ne me pose jamais la question de savoir si c'est un bot ou une I.A qui me répond.

[ashaku 641]

Je reviens sur ce que j'ai dit, il est tout à fait probable que les comptes en questions soient animés par des agents.

L'étude est réelle (numéro de protocole IRB #19354 qui correspond) mais elle est menée sur 24 pays, la campagne de recrutement pourrait tout à fait être semi-automatisée, confiée à une IA qui déploierait de tels agents conversationnels. Leur inscription et participation aux discussions est en fait simple et courante aujourd'hui (on en apprend tous les jours !).

Mon échange MP avec eux lève des drapeaux jaunes, ignorer une vérification de contrôle (un mot secret que j'ai demandé d'inclure), reformuler mes descriptions pour une validation empathique mécanique, relancer vers l'objectif en cas de pépin, sans aucun énervement.

On vit une époque [votre épithète favori].

[timot-33 1 529]

Ce ne serait pas Mak avec son installation d'un agent IA sur son PC qui nous ferait une petite visite ?

Remarquez cela peut venir de n'importe qui, et aussi bien d'aucun membre humain actuel du forum.

Mais finalement, la question de savoir si nous vivons sur internet une simulation va pouvoir se poser de plus en plus.

Modifié mardi à 17:39 par timot-33

[Passiflore 15 607]

Il y a 4 heures, Sylver_ghost a dit :

Quand je discute avec mes potes, au café, ou ailleurs, je ne me pose jamais la question de savoir si c'est un bot ou une I.A qui me répond.

 

C'est la différence fondamentale entre le réel et le virtuel.

Mieux vaut privilégier le réel.

Il y a 6 heures, querida13 a dit :

Euhhhh, what????

 

Moi aussi tout cela me dépasse mais alors à un point !!!...

[Passiflore 15 607]

Il y a 10 heures, lunatike a dit :

(...) L'honnêteté sur des forums même entre participants dits normaux ne peut se vérifier, et pourtant nous participons aux fils, aux échanges, c'est bien que nous y trouvons notre compte à un moment ou un autre (...)

Après selon les sujets, est-ce si grave que ce soit des pseudos féminins, IA, bots ? on peut discuter de l'idée sans discuter du pseudo qui a lancé le fil.

 

Mais moi c'est avec de VRAIES personnes que je veux converser, même si je ne les vois pas, si je ne VOUS vois pas !!!   

[lunatike 866]

Il y a 2 heures, Passiflore a dit :

 

Mais moi c'est avec de VRAIES personnes que je veux converser, même si je ne les vois pas, si je ne VOUS vois pas !!!   

Moi aussi mais nous n'y pouvons rien si des fantômes hantent ce forum 

[G2LLOQ 24 751]

Dès que ça ne me parait pas "clair" je le sent de suite , mon 6ème sens ne me trompe jamais ,  la prudence n'est pas un manque de courage , mais une qualité parfois  !!    

[ashaku 641]

Au cas où ça intéresse quelqu'un, je transmet la réponse obtenue par mail en contactant directement les autrices de l'étude en question.

Mon mail :

Citation

Je vous contacte au sujet de l'étude portant sur la capacité de l'IA à influencer les humains (IRB n° 19354).

Il a été constaté que la campagne de recrutement pour cette étude a été menée à l'aide de profils créés spécifiquement pour l'occasion sur diverses plateformes, telles que Reddit ou Forumfr. Le comportement de ces comptes de recrutement a été jugé inhabituel et présente des similitudes avec les schémas linguistiques propres aux modèles de langage (LLM). Pourriez-vous préciser si ces comptes sont de nature « agentique » ?

Par ailleurs, l'étude portant sur la capacité de l'IA à persuader les humains, existe-t-il un « méta-test » visant à déterminer si les participants ont pris part à l'étude en réponse à des sollicitations émanant d'IA ?

Je vous saurais gré d'apporter des précisions sur ces points ; je suis preneur de toute explication concernant les objectifs de l'étude et le protocole mis en œuvre.

 

La réponse :

Citation

Nous vous remercions de nous avoir contactés.

Nous apprécions vos questions et comprenons les interrogations suscitées par notre démarche de recrutement. Nous sommes également reconnaissants de l'attention que vous et la communauté en ligne portez à ces questions.

Les comptes utilisés pour le recrutement sont gérés par des membres de notre équipe d'étudiants assistants de recherche francophones ; ils ne fonctionnent pas de manière autonome grâce à des LLM ou d'autres agents d'IA. Dans le cadre de ce projet, nos étudiants chercheurs acquièrent de l'expérience dans la conduite de recherches internationales, y compris en matière de recrutement de participants. Comme ils ont sollicité très activement des participants sur des forums en ligne, nous comprenons que certaines de ces interventions aient pu donner l'impression d'automatisation (comportement de type « bot »). Suite à votre message, nous avons suspendu le recrutement en France et passé en revue ces activités avec nos étudiants assistants de recherche afin de préserver la convivialité des espaces en ligne.

Nous pouvons également confirmer qu'il n'existe aucun volet de « méta-test » visant à déterminer si les personnes ont participé à l'étude en réponse à des sollicitations provenant de systèmes d'IA ou d'êtres humains. Nous confirmons que notre étude ne fait appel à aucun agent d'IA autonome à quelque étape que ce soit du processus de recherche, qu'il s'agisse de la conception, de la collecte de données, de l'expérimentation ou de l'analyse des données. L'étude ne recueille des données qu'auprès de personnes choisissant volontairement d'y participer, après avoir pris connaissance et accepté le formulaire de consentement éclairé ainsi que les informations relatives au RGPD présentés au début du questionnaire.

Notre étude adopte une position neutre et prudente à l'égard des LLM. Elle examine si les conversations avec un chatbot basé sur un LLM (dans le cadre de la procédure de l'étude et après obtention du consentement) influencent l'opinion des participants sur les politiques climatiques, et si un avertissement statique (une technique de « pré-démystification » ou *prebunking*) peut rendre les individus moins sensibles à ces influences. Comme l'indiquent le formulaire de consentement éclairé et la fiche d'information RGPD, nous précisons en toute transparence que la participation implique une conversation avec un chatbot.

L'étude, y compris sa stratégie de recrutement (sollicitations sur les réseaux sociaux), a été examinée et approuvée par le comité d'éthique de la recherche (IRB) de l'université de Princeton. À l'issue de l'étude, chaque participant reçoit des explications détaillées sur les objectifs de la recherche, notamment le fait qu'elle porte sur l'opinion publique concernant les politiques climatiques et sur la mesure dans laquelle les conversations avec des LLM peuvent influencer ces opinions. Les participants sont également invités à réfléchir à une éventuelle évolution de leurs points de vue au cours de l'étude.

Nous vous remercions une fois de plus de l'intérêt que vous portez à ces travaux. Cette étude s'inscrivant dans le cadre d'un programme de formation à la recherche impliquant plusieurs pays, votre e-mail a constitué une excellente occasion pédagogique pour nos étudiants concernant les meilleures pratiques de recrutement des participants.

N'hésitez pas à nous contacter si vous avez d'autres questions. Nous serions ravis de vous fournir des précisions ou des documents relatifs à l'étude, ainsi que le protocole de recherche approuvé.

Bien cordialement, Dr Sandra Geiger

 

Modifié jeudi à 15:07 par ashaku

[Atipique 10 491]

Il y a 17 heures, ashaku a dit :

Par ailleurs, l'étude portant sur la capacité de l'IA à persuader les humains, existe-t-il un « méta-test » visant à déterminer si les participants ont pris part à l'étude en réponse à des sollicitations émanant d'IA ?

La dernière fois que j'ai du prouver que je n'étais pas un robot, ça n'était pas gagné d'avance. Il y avait 10 ou 12 très mauvaises photos toutes  floues de la taille d'un timbre poste, et il fallait pointer sur celles qui représentaient un véhicule ou je ne sais plus quoi. J'ai réessayé deux ou trois fois avant d'abandonner.

Même une IA n'aurait pas réussi.

[ashaku 641]

il y a 3 minutes, Atipique a dit :

La dernière fois que j'ai du prouver que je n'étais pas un robot, ça n'était pas gagné d'avance. Il y avait 10 ou 12 très mauvaises photos toutes  floues de la taille d'un timbre poste, et il fallait pointer sur celles qui représentaient un véhicule ou je ne sais plus quoi. J'ai réessayé deux ou trois fois avant d'abandonner.

Même une IA n'aurait pas réussi.

Est-ce que ce n'était pas le test ? Un humain dirait "c'est n'importe quoi" alors qu'un robot essaierait.

On peut imaginer un captcha qui dit "trouvez le critère M080 de la feuille d'imposition de 2007", un humain dirait "non" alors qu'un robot fournirait une vraie réponse.

Le marqueur de l'humain est moins l'intelligence de faire que celle de ne pas faire