Intelligence artificielle : l’image absurde d’un rat au pénis XXL sème le trouble chez les scientifiques

Citation

INTELLIGENCE ARTIFICIELLE - Ce serait drôle (et juste un tout petit peu gênant) si ce n’était pas la surface émergente d’un gros problème pour la communauté scientifique mondiale. Le 13 février dernier, des résultats de recherches sur la fertilité ont été publiés dans une revue spécialisée, Frontiers in Cell Development and Biology. Une étude tout à fait sérieuse, validée par une publication reconnue… Mais qui visiblement n’a pas regardé de près les illustrations accompagnant la recherche.

Suite de l'article

Eh oui.... On a laissé passé une imbécilité produite par une IA..... tant que c'est un croquis pseudo scientifique raté, ça va, mais c'est franchement inquiétant, vu tout ce que l'on fait faire à ces IA à notre place

C'est bien de laisser bosser des IA, pourquoi pas après tout, mais bordel vérifier ce qui est produit, c'est le minimum non ?

Celui qui a pondu l'article n'a pas fait son job, et celui qui l'a produit non plus.

Ca fait beaucoup pour une revue scientifique, non ?

à l’instant, Nephalion a dit :

C'est bien de laisser bosser des IA, pourquoi pas après tout, mais bordel vérifier ce qui est produit, c'est le minimum non ?

Celui qui a pondu l'article n'a pas fait son job, et celui qui l'a produit non plus.

Ca fait beaucoup pour une revue scientifique, non ?

et là, ce n'est qu'une revue....

Ce n'est pas la première fois qu'une revue scientifique fait la risée de ses pairs car elle publie des conneries sans relecture (cf Alain Sokal et la revue "Social Text" dans les années 90). On peut accuser l'IA, c'est à la mode, mais le problème principal est le manque de relecture.

En même temps, il y a des trillions de chercheurs qui veulent placer leurs articles dans des revues (ils y sont obligés pour pouvoir exister dans un monde scientifique où le fait de publier régulièrement est le critère minimal d'appréciation d'une carrière) mais presque personne ne veut faire le boulot de la relecture (étrangement, "relecteur" compte moins comme critère d'appréciation d'une carrière, "relecteur" est plutôt un truc anonyme). Au bout d'un moment, ça coince...

Sans compter qu'il existe depuis une dizaine d'années des "agences noires de placement d'articles" spécialisées dans l'infiltration des comités de relecture, afin de faire exister en revue des articles qui n'y auraient théoriquement pas leur place : nul doute que le développement des outils IA est du pain béni pour elles (en savoir plus : https://www.lemonde.fr/passeurdesciences/article/2015/12/27/comment-des-chercheurs-ont-truande-des-revues-scientifiques_6001735_5470970.html ).

Après monté comme un âne, maintenant ce sera monté comme un rat. 

Il y a 12 heures, Nephalion a dit :

C'est bien de laisser bosser des IA, pourquoi pas après tout, mais bordel vérifier ce qui est produit, c'est le minimum non ?

Celui qui a pondu l'article n'a pas fait son job, et celui qui l'a produit non plus.

Ca fait beaucoup pour une revue scientifique, non ?

En effet, cela jette un discrédit dont le monde scientifique n'avait absolument pas besoin. Il est sensé y avoir des comités de relecture, pour de tels articles. L'erreur est lourde. 

Il y a 12 heures, guernica a dit :

Eh oui.... On a laissé passé une imbécilité produite par une IA..... tant que c'est un croquis pseudo scientifique raté, ça va, mais c'est franchement inquiétant, vu tout ce que l'on fait faire à ces IA à notre place

Tant que les problèmes suscités par les IA se limiteront à ce genre de "gag", on pourra s'estimer heureux.

Il y a 13 heures, Nephalion a dit :

Suite de l'article

Sur son blog, la spécialiste néerlandaise de l’intégrité scientifique a ainsi parlé d’un « triste exemple » de la naïveté des revues envers la « merde générée par IA ».
 

J’arrête pas de dire que chatGPT ne dit que de la merde (c’est pareil avec midjourney), et les gens sont en admiration de ces trucs sous prétexte qu’ils sortent des merdes bien empaquetées sans en lire le contenu. Ce sont des outils idéaux pour une époque comme celle que vous vivons. De l’apparence du vide en quantité que les gens lisent en diagonale pour confirmer leur avis.

Le 17/02/2024 à 20:17, Nephalion a dit :

Suite de l'article

salut Nephalion! et on appelle cela "l'intelligence artificielle"... je donne cet avis, ne comptez pas sur celle-ci pour aider l'humanité à devenir plus humaine... c'est la démonstration de "l'intelligence stupide"... de l'IA nous passons directement à l'IS. 

Le 17/02/2024 à 20:17, Nephalion a dit :

Suite de l'article

Euh...on ne trouve pas cette revue sur QOAM...

https://www.qoam.eu/journals?OpenAccess=&InstitutionalDiscounts=&NoFee=&PlanS=&Title=+Frontiers+in+Cell+Development+and+Biology.&Issn=&Publisher=

j'ai de très forts doutes sur son existence, ou tout au moins sur son sérieux..; et donc sur le sérieux du journaliste qui a écrit cet article.

Il y a 12 heures, chanou 34 a dit :

Euh...on ne trouve pas cette revue sur QOAM...

https://www.qoam.eu/journals?OpenAccess=&InstitutionalDiscounts=&NoFee=&PlanS=&Title=+Frontiers+in+Cell+Development+and+Biology.&Issn=&Publisher=

 

j'ai de très forts doutes sur son existence, ou tout au moins sur son sérieux..; et donc sur le sérieux du journaliste qui a écrit cet article.

Désolé, mais cette revue scientifique est mentionnée sur QOAM, à condition bien sûr d'en écrire le titre exact :

https://www.qoam.eu/journals/16999?returnUrl=%2Fjournals%3FOpenAccess%3D%26InstitutionalDiscounts%3D%26NoFee%3D%26PlanS%3D%26Title%3Dfrontiers%2Bin%2Bcell%2Band%2Bdevelopment%26Issn%3D%26Publisher%3D

Quant à l'article en question publié dans cette revue scientifique, il a été retiré depuis à cause de l'image du rat, sans que le contenu de l'article soit remis en cause. Ci-dessous l'article complet tel qu'il avait été publié :

https://venturebeat.com/wp-content/uploads/2024/02/fcell-11-1339390.pdf

il y a 33 minutes, tison2feu a dit :

Désolé, mais cette revue scientifique est mentionnée sur QOAM, à condition bien sûr d'en écrire le titre exact :

https://www.qoam.eu/journals/16999?returnUrl=%2Fjournals%3FOpenAccess%3D%26InstitutionalDiscounts%3D%26NoFee%3D%26PlanS%3D%26Title%3Dfrontiers%2Bin%2Bcell%2Band%2Bdevelopment%26Issn%3D%26Publisher%3D

Quant à l'article en question publié dans cette revue scientifique, il a été retiré depuis à cause de l'image du rat, sans que le contenu de l'article soit remis en cause. Ci-dessous l'article complet tel qu'il avait été publié :

https://venturebeat.com/wp-content/uploads/2024/02/fcell-11-1339390.pdf

 

En effet.  Je n'aurais pas dû faire un copier/coller à partir de l'article cité dans le premier message, où il est bien écrit : Frontiers in Cell Development and Biology.  et pas "Frontiers in Cell and Developmental Biology"

Le 17/02/2024 à 20:28, Nephalion a dit :

C'est bien de laisser bosser des IA, pourquoi pas après tout, mais bordel vérifier ce qui est produit, c'est le minimum non ?

Celui qui a pondu l'article n'a pas fait son job, et celui qui l'a produit non plus.

Ca fait beaucoup pour une revue scientifique, non ?

Le problème, c'est qu'il n'y a pas qu'un seul auteur de l'article (travail en équipe, répartition des tâches), ni par surcroît qu'un seul relecteur de l'article... Donc gros problème de coordination.

En l'ocurrence, 3 chercheurs chinois, dont un qui était sûrement chargé des illustrations et dont le nom rique bien d'être rayé lors d'une republication de cet article. Parmi les membres chargés de la relecture de l'article, l'un d'eux dit qu'il était chargé de relire le contenu mais n'était pas responsable de tout ce qui concernait les illustrations.

En cas de travail en équipe, je suppose qu'il y a des chefs d'équipe qui engagent à leur tour leur responsabilité en cas de faute.

il y a 5 minutes, chanou 34 a dit :

En effet.  Je n'aurais pas dû faire un copier/coller à partir de l'article cité dans le premier message, où il est bien écrit : Frontiers in Cell Development and Biology.

Comme quoi, il convient de toujours aller aux sources et d'opérer un minimum de vérifications avant d'émettre des doutes infondés qui font le lit à des délires généralisés (fausse revue scientifique > faux article > incompétence des revues de vulgarisation > incompétence des journalistes).

Le 17/02/2024 à 20:28, Nephalion a dit :

C'est bien de laisser bosser des IA, pourquoi pas après tout, mais bordel vérifier ce qui est produit, c'est le minimum non ?

Celui qui a pondu l'article n'a pas fait son job, et celui qui l'a produit non plus.

Ca fait beaucoup pour une revue scientifique, non ?

Je cite: 

"Les chercheurs ont en effet laissé le soin à Midjourney, le plus célèbre des programmes d’IA graphiques (qui crée des images en fonction d’indications données par commandes de texte), de faire les illustrations de leur étude. Pas seulement ce rat au sexe démesuré : tous les dessins, à y regarder d’un peu plus près, sont un étrange assemblage de visuels qui, de loin, passent pour des illustrations scientifiques, et de près des puzzles sans queue ni tête."

Il semblerait que les auteurs de cet article n'avaient comme seule intention de montrer ce qu'une IA (bêtise artificielle) est capable de de représenter graphiquement ce que la science lui offre comme données. 

Gardons simplement à l'esprit que ces différentes IA seront toujours FAIBLES.

Une IA FORTE n'existe que dans l'esprit humain, avec son bon sens, sa logique irrationnelle ou subjective, sa liberté de choisir de sauver la veuve et l'orphelin sans aucun calcul.