ChatGPT est-il de gauche ?

https://www.lagrandeconversation.com/politique/chatgpt-est-il-de-gauche/
 

Pour ceux qui ont la flemme de lire :

Les IA génératives ont-elles des biais politiques ? Oui, répond Fipaddict, qui a testé la plus connue d’entre elles : ChatGPT

il devrait être ni de droite ni de gauche puisque à priori en dehors de toute forme idéologique sauf la sienne évidement , donc il faudrait qu'il nous dise sa propre idéologie , qui , d'aprés moi , serait une idéologie scientiste donc dénué de toute idéologie politique mais uniquement un idéal pragmatique scientiste .

Votez chat j'ai pété !

il y a 7 minutes, guernica a dit :

Votez chat j'ai pété !

Sans vouloir franchir le pas d'un conspirationnisme de bon aloi en des temps où le trouble s'installe, faut-il être frappé de cécité ou faire preuve de mauvaise foi pour ne pas percevoir le message subliminal envoyé par les crypto-marxistes ayant infiltré les services d'OpenAI, ainsi par ce ChatGPT apparemment consensuel masquant volontairement sa nature originelle de ChatCGT ...

il y a 15 minutes, Elbaid1 a dit :

il devrait être ni de droite ni de gauche puisque à priori en dehors de toute forme idéologique sauf la sienne évidement , donc il faudrait qu'il nous dise sa propre idéologie , qui , d'aprés moi , serait une idéologie scientiste donc dénué de toute idéologie politique mais uniquement un idéal pragmatique scientiste .

mais de fait il n'est ni de droite ni de gauche, c'est un agent conversationnel! Ses réponses sont statistiques, il pioche dans le corpus qu'on met à sa disposition.

Ouais, enfin il a pas conscience du tout des coûts de sa création. Il atermoie, et radote sans cesse qu'il répondra à nos questions futures... sauf que si on paye pas les 19  euros, comment voulez-vous ? D'après moi, ça fait déjà un biais, et d'un.

C'est pour ça que je lui en veux pas, en plus B.AR.D permet de classifier les conversations, je m'explique : il fait comme un forum, on engage une conversation, et elle reste. On en engage une autre, ça fait un lien supplémentaire vers ladite. Et on conserve tout ça, et c'est apparemment gratuit. En plus, il a la même tendance que Chat G.P.T, c'est à dire qu'il dit "je" mais aucun intérêt à le suivre, par contre ouvertement on essaie de le mettre face à ses contradictions, on le cuisine un peu, et, en fait, à la fin il dit : "ah quand même !" -sous-entendu, c'est nous le client, donc on n'était pas censé comprendre la réponse du premier coup.

Il y a 13 heures, chanou 34 a dit :

mais de fait il n'est ni de droite ni de gauche, c'est un agent conversationnel! Ses réponses sont statistiques, il pioche dans le corpus qu'on met à sa disposition.

OUI ok mais si on lui laissait dirigé le monde , décider et organiser le monde ...... AH  la question se pose ! 

il y a 3 minutes, Elbaid1 a dit :

OUI ok mais si on lui laissait dirigé le monde , décider et organiser le monde ...... AH  la question se pose ! 

la question qui se pose est

- qui décide des corpus de textes à lui donner

- et sur quels critères.

il y a 1 minute, chanou 34 a dit :

la question qui se pose est

- qui décide des corpus de textes à lui donner

- et sur quels critères.

ah bin non , il faut se soit uniquement de sa propre réfléxion et non pas un choix orienté par les humains , si non se  serait de la triche ....

les critères ?  ah bin il est seul à décider des critères ...... alors je ne sais pas.... ça peut être uniquement sa survie ou bien la survie de la planète ou bien un dirigisme bien précis avec un plan pour atteindre le but fixé .... peu importe ; Mais ça doit être uniquement de sa propre volonté et non pas la volonté de l'être humain qui va orienter par derrière les choix de chatGpt . 

il y a 2 minutes, Elbaid1 a dit :

ah bin non , il faut se soit uniquement de sa propre réfléxion et non pas un choix orienté par les humains , si non se  serait de la triche ....

 

mais il n'a pas de réflexion...il ne réfléchit pas, il ne pense pas. Il n'est pas conscient.

Il y a 15 heures, Jim69 a dit :

https://www.lagrandeconversation.com/politique/chatgpt-est-il-de-gauche/
 

Pour ceux qui ont la flemme de lire :

Les IA génératives ont-elles des biais politiques ? Oui, répond Fipaddict, qui a testé la plus connue d’entre elles : ChatGPT

"consistant à générer automatiquement plusieurs milliers de requêtes paramétrées de manière à contourner les consignes de neutralité d’OpenAI (l’entreprise qui a développé cette IA), il met en évidence un biais progressiste dans les réponses. "

c'est très clair & précis . Çà fait plus de 15 - 20 ans que les chercheurs étudient les algorithmes et supputent qu'avec les réponses ' du tout venant ' la machine se radicalise jour après jours  .

On pourrait penser que les algorithmes sont neutres par nature. Dans quelle mesure contribuent-ils à reproduire les biais sexistes ?

les lanceurs d’alerte se sont rendu compte que les algorithmes présentaient des biais. ( aux algorithmes de reconnaissance faciale. ).

Coder un algorithme, c’est comme écrire un texte, il y entre une part de subjectivité qui se manifeste dans le choix des mots, les tournures de phrases, même si on a l’impression d’écrire un texte très factuel.

des lanceurs d’alerte ont attiré l’attention sur le traitement différencié de certains algorithmes. C’est d’ores et déjà un sujet à part entière dans la communauté scientifique.

ça me rappelle les conventions citoyennes où le citoyen est tiré au sort ...

ou encore , les réunions soit disant démocratiques ( mais triées à l'entrée ) où le 'poudré ' se produisait , vaste mascarade.

Edit ; si tu as regardé A-E lemoine sur Fr5 , on t'aura expliqué que chatGpt est l'arme absolue contre les discriminations sociales car même un "inculturé " de panier percé pourra rivaliser avec un p'tit bourgeois bien éduqué ! ( source think tank terra nova)

Il y a 2 heures, menon a dit :

Edit ; si tu as regardé A-E lemoine sur Fr5 , on t'aura expliqué que chatGpt est l'arme absolue contre les discriminations sociales car même un "inculturé " de panier percé pourra rivaliser avec un p'tit bourgeois bien éduqué ! ( source think tank terra nova)

Oui je l'ai vu, c'est suite à ça que j'ai cherché un article pour créer ce sujet.

Il y a 4 heures, chanou 34 a dit :

la question qui se pose est

- qui décide des corpus de textes à lui donner

- et sur quels critères.

Les programmeurs qui eux créent les algorithmes  ne sont pas neutres; et ces techies ne sont pas souvent d'extrême droite.

D'ailleurs la meilleure preuve en est la réintégration du PDG Sam Altman d'OpenAI; et surtout le fait que 500 employés étaient prêts à démissionner quand il a été viré.

il y a 9 minutes, Atipique a dit :

Les programmeurs qui eux créent les algorithmes  ne sont pas neutres; et ces techies ne sont pas souvent d'extrême droite.

D'ailleurs la meilleure preuve en est la réintégration du PDG Sam Altman d'OpenAI; et surtout le fait que 500 employés étaient prêts à démissionner quand il a été viré.

je suis d'accord ; le problème c'est les programmeurs ; pas l'agent conversationnel. C'est ce que je disais plus haut.

il y a 3 minutes, chanou 34 a dit :

je suis d'accord ; le problème c'est les programmeurs ; pas l'agent conversationnel. C'est ce que je disais plus haut.

En fait, je dirais plutôt que le problème est les erreurs que ChatGPT énonce avec aplomb comme des vérités indiscutables. On peut tirer des informations valable d'un texte, orienté ou pas, si les faits sont exacts.

On a tendance à le croire sur parole tant c'est bien dit, mais il dit tout et son contraire; il suffit de lui demander 2 ou 3 fois la meme chose pour s'en apercevoir. Il n'a aucune memoire de ce qu'il a déjà dit, et donnera des réponses différentes à la meme personne.

à l’instant, Atipique a dit :

En fait, je dirais plutôt que le problème est les erreurs que ChatGPT énonce avec aplomb comme des vérités indiscutables. On peut tirer des informations valable d'un texte, orienté ou pas, si les faits sont exacts.

On a tendance à le croire sur parole tant c'est bien dit, mais il dit tout et son contraire; il suffit de lui demander 2 ou 3 fois la meme chose pour s'en apercevoir. Il n'a aucune memoire de ce qu'il a déjà dit, et donnera des réponses différentes à la meme personne.

Tout à fait. Mais là aussi l'erreur vient également de l'humain, pas de l'outil.
En fait c'est LE piège typique ; à partir du moment où on a une interaction avec un objet, on l'"humanise" automatiquement. Or chatGPT est un objet, et encore pire c'est un objet virtuel...je pense que le saut paradigmatique est actuellement trop grand pour l'humain...il va nous falloir plusieurs dizaines d'années ( je sais je suis pessimiste...) pour qu'on intègre ce nouveau paradigme.

il y a 22 minutes, Atipique a dit :

Les programmeurs qui eux créent les algorithmes  ne sont pas neutres; et ces techies ne sont pas souvent d'extrême droite.

D'ailleurs la meilleure preuve en est la réintégration du PDG Sam Altman d'OpenAI; et surtout le fait que 500 employés étaient prêts à démissionner quand il a été viré.

Sam Altman, assez unanimement considéré par le milieu de la tech comme un génie dans le domaine de l’IA, a été rectuté en 2015 chez OpenAI  ... par Elon Musk ?!
Que l'on peut très difficilement considérer comme supposé "gauchiste" ?

Altman, par ailleurs, a toujours exprimé son profond désaccord à propos des éventuels dangers du déploiement aussi rapide d’intelligences artificielles, ce qui là aussi, n'est pas fondamentalement "gauchiste".

Le soutien des salariés d'OpenAI (et de Microsoft) face au renvoi d'Altam par le board (pour des raisons peu compréhensibles ??) n'a strictement rien de supposément idéologique, et encore moins "gauchiste".

il y a 2 minutes, frunobulax a dit :

Sam Altman, assez unanimement considéré par le milieu de la tech comme un génie dans le domaine de l’IA, a été rectuté en 2015 chez OpenAI  ... par Elon Musk ?!
Que l'on peut très difficilement considérer comme supposé "gauchiste" ?

Altman, par ailleurs, a toujours exprimé son profond désaccord à propos des éventuels dangers du déploiement aussi rapide d’intelligences artificielles, ce qui là aussi, n'est pas fondamentalement "gauchiste".

Quand je dis gauchiste, c'est plus pour respecter le titre de ce fil;  en fait pour plus de precision, j'aurais bien mieux fait de dire démocrate. Il ne faut pas oublier que la gauche aux USA n'a rien à voir avec la gauche en France par exemple.

Et Elon Musk, que j'ai entendu parler avec admiration de Trump, a dit dans une video récente qu'il avait voté pour Biden en 2020; comme quoi....

il y a 13 minutes, frunobulax a dit :

Le soutien des salariés d'OpenAI (et de Microsoft) face au renvoi d'Altam par le board (pour des raisons peu compréhensibles ??) n'a strictement rien de supposément idéologique, et encore moins "gauchiste".

Ce n'est pas tout a fait clair pour moi, c'est le renvoi d'Altam qui est peu comprehensible, ou bien le soutien des employés? Parce que son renvoi était justifié par ce que tu as dit toi-même:

"Altman, par ailleurs, a toujours exprimé son profond désaccord à propos des éventuels dangers du déploiement aussi rapide d’intelligences artificielles"

Or, Elon Musk, Microsoft et d'autres se font du souci sur les dangers  de l'AI dans le futur  et ont proposé un moratoire; Biden aussi s'est montré préoccupé, et le gouvernement a d'ailleurs récemment voté une loi (j'ai oublié les details).