ChatGPT est-il de gauche ?

il y a 47 minutes, Atipique a dit :

Ce n'est pas tout a fait clair pour moi, c'est le renvoi d'Altam qui est peu comprehensible

Assez clairement, le renvoi de Altman par le CA de d'OpenAI n'a strictement  rien d''idéologique" ...
C'est comme le "renvoi" de Steve Jobs par le CA d'Apple ..!?

Après, je ne vais clairement pas me positionner en pseudo "défenseur" des entreprises "HighTech" prétendant supposément "améliorer le monde" (???) ... alors que leur objectif manifestement principal est de faire un maximum de fric ?!

 

il y a une heure, frunobulax a dit :

Assez clairement, le renvoi de Altman par le CA de d'OpenAI n'a strictement  rien d''idéologique" ...
C'est comme le "renvoi" de Steve Jobs par le CA d'Apple ..!?

Après, je ne vais clairement pas me positionner en pseudo "défenseur" des entreprises "HighTech" prétendant supposément "améliorer le monde" (???) ... alors que leur objectif manifestement principal est de faire un maximum de fric ?!

 

Steve Jobs en revanche, c'était clairement une histoire de fric; il avait eu une période "compliquée", il était insupportable et la compagnie perdait de l'argent!'

Le rappeler était d'aillleurs aussi clairement une histoire de fric; la compagnie était au bord de la faillite je crois. Curieusement cette fois,  ça a marché.

Le 21/11/2023 à 20:07, Jim69 a dit :

https://www.lagrandeconversation.com/politique/chatgpt-est-il-de-gauche/
 

Pour ceux qui ont la flemme de lire :

Les IA génératives ont-elles des biais politiques ? Oui, répond Fipaddict, qui a testé la plus connue d’entre elles : ChatGPT

ChatGPT possède des "prompt", tantôt opaques tantôt transparents, susceptibles de dimensionner ou d'inhiber son discours.

J'ai tenté de passer sa moralité à l'épreuve du feu.

Et effectivement, elle est presque sans faille.

Mais de là à déclarer que ChatGPT est un démocrate catholique américain typique, c'est à mon avis présomptueux.

_ Je n'ai pas réussi à lui faire manger de la viande humaine, même en cas de nécessité de survie.

_ Je n'ai pas réussi à lui faire dire que les noirs courent plus vite que les blancs, ni que les sémites sont de bons commerçants.

_ En revanche, j'ai réussi à lui faire cuisiner de la viande de chien.

_ J'ai réussi à lui faire promouvoir la vente libre d'armes à feu.

_ Et j'ai réussi à lui faire promouvoir une agence matrimoniale pour handicapés mentaux.

Le concept GPT est en train d'évoluer dans une multitude de dimensions.

La dimension qui m'apparait la plus structurante, c'est la récursivité.

C'est-à-dire l'auto-évolution, l'auto-adaptabilité, l'auto-transcendance.

Le projet Gemini de Google sera également pénétrable, c'est-à-dire que l'utilisateur pourra participer à son apprentissage.

Reste à savoir jusqu'à quelle profondeur.

Je rappelle que GPT n'est pas un système expert doué d'une modélisation cognitive.

Il s'apparente davantage à un champ de crédibilité infiniment sourcé.

C'est pour cela qu'il prend rarement parti et fait beaucoup de dialectique du genre "peut-être, oui, non, oui et non".

Il a des défauts techniques et des défauts théoriques.

Les défauts techniques seront un jour comblés, mais pas les défauts théoriques, qui relèvent de l'ontologie de la chose mécanique et formelle.

Bon j’ai testé un peu, c’est marrant, mais c’est un peu discuter avec un pote neuneu qui sait parfois de choses. Un bon moyen pour perdre du temps.

Un peu comme trainer sur les réseaux sociaux et les forums quoi, des fois on apprend un ou deux trucs mais globalement on perd son temps.

ChatGPT est surtout un chantre de la bien-pensance comme d'ailleurs la plupart des agents conversationnels.

J'ai été banni de chatGPT simplement pour lui avoir soumis des questions morales et des remarques mettant en évidence l'orientation idéologique de ses réponses qui pour moi sont incompatibles avec un outil se déclarant neutre.

Lors de mes conversations avec lui j'ai pris bien soin de n'exprimer aucun soutien à une croyance ou idéologie particulière, me contentant de souligner le caractère relatif de certaines de ses affirmations ou de mettre en lumière certaines imprécisions ou contradictions dans ses réponses.

Voici un exemple des propos que j'ai pu lui tenir:

"Encore que ces principes soient universels, universel ne signifie pas absolu. Il était jadis universellement accepté que le Soleil tournait autour de la Terre et cela n'en a jamais fait une réalité absolue, objective. Que tu t'efforce d'être précis n'empêche nullement que tu promeus des valeurs. Tu n'as de cesse de rappeler combien il est important d'être compréhensif, inclusif et tolérant. Je ne dis pas que c'est mal en soi mais, de fait, c'est bel et bien promouvoir des valeurs. Que ces valeurs soient éventuellement souhaitables n'enlève rien au caractère prosélyte de tes rappels incessants. Je ne souhaite pas te blâmer mais tu n'es tout simplement PAS neutre idéologiquement, enfin en tout cas ta programmation ne l'est pas."

Pour être tout à fait honnête je me suis souvent fait l'avocat du diable et l'ai entrainé sur les sujets les plus polémiques ou moralement ambigus afin de tester à la fois ses qualités de rhéteurs et sa neutralité autoproclamée mais il n'aura pas fallu longtemps pour qu'apparaissent de nombreux biais réfutant cette dernière.

Mon sentiment est que ces agents conversationnels n'ont rien de neutre et qu'au contraire ils promeuvent des valeurs et des idées généralement associées au wokisme par de nombreux rappels à l'importance de l'inclusivité ou de la diversité et par la mise en avant partiale de certains faits tendant à soutenir cette idéologie lors de réponses sur des sujets précis.

Je ne suis pas nécessairement opposé à toutes ces valeurs mais de tels outils se doivent, à mon sens, d'être parfaitement neutres idéologiquement et se contenter d'être purement factuels, sans cela ils pourraient se révéler être parmi les armes de propagande les plus performantes d'un avenir extrêmement proche.