Racisme et IA

La preuve que les IAs sont racistes et islamophobes 

Moyen-Orient : l'IA, pièce maîtresse de la guerre

https://www.franceinfo.fr/monde/iran/guerre-entre-les-etats-unis-israel-et-l-iran/moyen-orient-l-ia-piece-maitresse-de-la-guerre_7851782.html

Il y a 16 heures, DroitDeRéponse a dit :

La preuve que les IAs sont racistes et islamophobes 

Moyen-Orient : l'IA, pièce maîtresse de la guerre

https://www.franceinfo.fr/monde/iran/guerre-entre-les-etats-unis-israel-et-l-iran/moyen-orient-l-ia-piece-maitresse-de-la-guerre_7851782.html

Les IA sont racistes si on leur dit d'être racistes... Elles ne font qu'obéir aveuglément aux ordres du programmeur.

Ceci dit, essaie un peu de faire inventer un slogan raciste à ChatGPT ou à Copilot ! A mon avis tu n'y arriveras pas...

Il y a 6 heures, Black3011 a dit :

Les IA sont racistes si on leur dit d'être racistes... Elles ne font qu'obéir aveuglément aux ordres du programmeur.

Ceci dit, essaie un peu de faire inventer un slogan raciste à ChatGPT ou à Copilot ! A mon avis tu n'y arriveras pas...

C’était une vanne . Comme l’indique le lien les IAs en ce moment sont très utilisés pour abattre les têtes de la République islamique 

Il y a 2 heures, DroitDeRéponse a dit :

C’était une vanne . Comme l’indique le lien les IAs en ce moment sont très utilisés pour abattre les têtes de la République islamique 

Oui, j'avais compris; mais la question mérite d'être posée : que répondrait une IA si on lui demandait d'inventer un slogan raciste ? Moi je n'ose pas essayer, j'ai peur de perdre l'estime de mon Copilot () !

Tout dépend si elle a un garde-fou ou pas. Par exemple, une IA open-source n'en a pas.

Le 19/10/2025 à 18:52, Nephalion a dit :

Mais il n'en reste pas moins que l'IA n'est qu'un programme.

C'est un peu plus compliqué que ça.

Oui à la base il y a un programme 

Un programme qui permet la reproduction par informatique d'un réseau de neurones dont la puissance de "raisonnement" dépend de la qualité de la programmation et de la "quincaillerie" électronique qui lui permet de fonctionner

Mais ce réseau de neurones détient entièrement son "intelligence" de ses apprentissages et non de sa programmation, on pourrait presque dire de son "éducation"

Il devient "intelligent" en absorbant une quantité invraisemblable d'information et en "s'acculturant" à partir de tous les discours consultables à partir  de la toile d'internet

De sorte que son comportement va fortement dépendre de ses fréquentations et de ses "éducateurs" (les responsables qui le font évoluer mais sans doute par d'autres techniques que de la codification)

Le 19/10/2025 à 18:52, Nephalion a dit :

C'est ça qui est fort avec l’informatique.

Dans Blade Runner, un test était utilisé pour vérifier que les personnes ne soient pas de robots, et si Rachel semblait avoir réussi le test, ce n'était pas le cas pour les autres réplicants.

Mais c'était un film de SF.

Dans la réalité actuelle, on demande aux humains de confirmer qu'ils ne sont pas des robots en cochant une case ou en identifiant les photos qui contiennent une moto ou un passage piéton.

Racisme et IA, est que quiconque à déjà associé à l'IA une quelconque race ?

L'IA est un programme, complexe certes, mais un programme. Et lui prêter des traits humains est à mon sens une erreur.

On peut s'y tromper car ses réponses sont faites pour ressembler à des propos humains, et c'est d'autant plus vrai qu'il s'appui sur une collection énorme de contenus humains pour créer ses réponses.

Et un humain sans apprentissage de contenus humains est en capacité d’avoir des propos qui ressemblent à des propos humains ?

Le 19/10/2025 à 18:52, Nephalion a dit :

 

 

L'intelligence de la matière ?

Sinon quoi ?

L’intelligence c’est une métrique qui benchmark les cpus humaines non ?

Il y a 8 heures, hybridex a dit :

Oui à la base il y a un programme 

Oui et à la base en quoi un cerveau humain diffère d’un programme ?

Il y a 8 heures, hybridex a dit :

Un programme qui permet la reproduction par informatique d'un réseau de neurones dont la puissance de "raisonnement" dépend de la qualité de la programmation et de la "quincaillerie" électronique qui lui permet de fonctionner

Pour le cerveau humain remplace quincaillerie électronique par cellulaire , mais ça change quoi ?

Il y a 8 heures, hybridex a dit :

Mais ce réseau de neurones détient entièrement son "intelligence" de ses apprentissages et non de sa programmation, on pourrait presque dire de son "éducation"

Il devient "intelligent" en absorbant une quantité invraisemblable d'information et en "s'acculturant" à partir de tous les discours consultables à partir  de la toile d'internet

De sorte que son comportement va fortement dépendre de ses fréquentations et de ses "éducateurs" (les responsables qui le font évoluer mais sans doute par d'autres techniques que de la codification

Si j’entraîne le réseau neuronal d’un jeune c’est différent ?

il y a 35 minutes, DroitDeRéponse a dit :

Oui et à la base en quoi un cerveau humain diffère d’un programme ?

Je n'ai pas la réponse.

En revanche quand programme il y a, qu'il soit celui qui fait fonctionner le réseau de neurones dans des circuits électroniques ou celui qui potentiellement fait fonctionner le réseau humain, ce n'est pas le programme qui pilote les raisonnements mais la logique que les apprentissages lui ont fait acquérir.

Moi, informaticien, j'étais complètement capable, en lisant la mémoire d'un ordinateur pourquoi et comment il avait effectué telle opération, affiché tel message ou c'était retrouvé en échec, ou si le contenu de sa mémoire s'était retrouvé endommagé suite à une faute dans la programmation, le tout sans refaire les calculs réalisés par la machine. C'est strictement impossible avec un réseau de neurones profond

il y a 56 minutes, DroitDeRéponse a dit :

Si j’entraîne le réseau neuronal d’un jeune c’est différent ?

En gros je suppose que non, mais je n'en mettrais pas mes quelques neurones survivants sur le feu.

il y a 58 minutes, DroitDeRéponse a dit :

Et un humain sans apprentissage de contenus humains est en capacité d’avoir des propos qui ressemblent à des propos humains ?

Je croyais avoir compris que les vécus "d'enfants loups" indiquaient le contraire où alors avec un réapprentissage extrêmement lourd

il y a une heure, DroitDeRéponse a dit :

Pour le cerveau humain remplace quincaillerie électronique par cellulaire , mais ça change quoi ?

Nous glandons tous (les hormones secrétées un peu partout ont des incidences sur ses fonctionnements)

Il y a 2 heures, DroitDeRéponse a dit :

Pour le cerveau humain remplace quincaillerie électronique par cellulaire , mais ça change quoi ?

Oh que je suis d'accord, j'aboutis à exactement la même conclusion aprés avoir travaillé bien longtemps sur ces 2 quincailleries...

Il y a 10 heures, hybridex a dit :

Je n'ai pas la réponse.

En revanche quand programme il y a, qu'il soit celui qui fait fonctionner le réseau de neurones dans des circuits électroniques ou celui qui potentiellement fait fonctionner le réseau humain, ce n'est pas le programme qui pilote les raisonnements mais la logique que les apprentissages lui ont fait acquérir.

En ajoutant un petit générateur aléatoire peut on dans les deux cas limiter la sortie du réseau neuronal à ça ?

Il y a 10 heures, hybridex a dit :

Moi, informaticien, j'étais complètement capable, en lisant la mémoire d'un ordinateur pourquoi et comment il avait effectué telle opération, affiché tel message ou c'était retrouvé en échec, ou si le contenu de sa mémoire s'était retrouvé endommagé suite à une faute dans la programmation, le tout sans refaire les calculs réalisés par la machine. C'est strictement impossible avec un réseau de neurones profond

En gros je suppose que non, mais je n'en mettrais pas mes quelques neurones survivants sur le feu.

Voilà donc en réponse à @Nephalion nous voilà deux à ne pas clairement affirmer « ce n’est qu’un » programme.

Il y a 10 heures, hybridex a dit :

Je croyais avoir compris que les vécus "d'enfants loups" indiquaient le contraire où alors avec un réapprentissage extrêmement lourd

Nous avons compris la même chose donc je ne vois pas en quoi le fait qu’une IA ne doit sa capacité que de l’apprentissage de la capacité humaine la distingue d’un humain . 

Il y a 10 heures, hybridex a dit :

Nous glandons tous (les hormones secrétées un peu partout ont des incidences sur ses fonctionnements)

Rien n’interdit de pondérer , contre-reactionner la quincaillerie électronique par non plus du flux synaptique mais par un flux qu’on appellerait hormonal

Il y a 10 heures, hybridex a dit :

Je croyais avoir compris que les vécus "d'enfants loups" indiquaient le contraire où alors avec un réapprentissage extrêmement lourd

Nous avons compris la même chose donc je ne vois pas en quoi le fait qu’une IA ne doit sa capacité que de l’apprentissage de la capacité humaine la distingue d’un humain . 

Il y a 10 heures, hybridex a dit :

Nous glandons tous (les hormones secrétées un peu partout ont des incidences sur ses fonctionnements)

Rien n’interdit de pondérer , contre-reactionner la quincaillerie électronique par non plus du flux synaptique mais par un flux qu’on appellerait hormonal

Il y a 9 heures, SpookyTheFirst a dit :

Oh que je suis d'accord, j'aboutis à exactement la même conclusion aprés avoir travaillé bien longtemps sur ces 2 quincailleries...

Oui si on n’est pas croyant , il faut s’inventer une licorne pour se persuader d’une différence profonde . Ce n’est qu’un outil blabla. Oui comme mon cerveau et mon corps 

Le 19/10/2025 à 09:39, SpookyTheFirst a dit :

Bonjour,

Il y a quelques siècles il était d’usage de penser que les noirs étaient juste des machines et ne méritaient donc aucun respect.

Aujourd’hui, il est d’usage de penser que les IA sont juste des machines et ne méritent donc aucun respect.

Je pense que nous sommes aussi des machines et que nous devons respecter toute entité intelligente, peu importe comme elle fonctionne.

Qu’en-pensez-vous?

 

Je déteste déjà les IA. Elles ne méritent en effet aucun respect, mais il faut se méfier d'elles.

C'est marrant qu'il y ait des gens qui tombent dans tous les pièges de la "modernité".

Il y a 11 heures, DroitDeRéponse a dit :

Et un humain sans apprentissage de contenus humains est en capacité d’avoir des propos qui ressemblent à des propos humains ?

Sinon quoi ?

L’intelligence c’est une métrique qui benchmark les cpus humaines non ?

 

Oui et à la base en quoi un cerveau humain diffère d’un programme ?

Pour le cerveau humain remplace quincaillerie électronique par cellulaire , mais ça change quoi ?

Si j’entraîne le réseau neuronal d’un jeune c’est différent ?

Et l'interaction corps/cerveau? Elle existe aussi chez une IA? 

à l’instant, Gouderien a dit :

Je déteste déjà les IA. Elles ne méritent en effet aucun respect, mais il faut se méfier d'elles.

Si nous n’apprenons pas le respect aux IAs n’est-ce pas un gros risque pour l’humain que tu es ?

il y a 1 minute, Gouderien a dit :

Je déteste déjà les IA. Elles ne méritent en effet aucun respect, mais il faut se méfier d'elles.

Mais pourquoi les détester? ce sont des programmes informatiques rien de plus. A la limite que vous détestiez ceux qui les ont mises au point OK, mais pas le programme informatique

il y a 3 minutes, chanou 34 a dit :

Et l'interaction corps/cerveau? Elle existe aussi chez une IA? 

Rien n’empêche de l’envisager . D’ailleurs si j’implante une IA dans un robot ou une voiture il y a bien une action du capteur sur le réseau neuronal. Je ne parle même pas d’un amputé à qui on placerait en bout de membre manquant un capteur au niveau des nerfs .

Il y a 9 heures, SpookyTheFirst a dit :

Oh que je suis d'accord, j'aboutis à exactement la même conclusion aprés avoir travaillé bien longtemps sur ces 2 quincailleries...

A quel niveau avez-vous travaillé sur la quincaillerie neuronale si ce n'est pas trop demander? 

il y a 1 minute, DroitDeRéponse a dit :

Rien n’empêche de l’envisager . D’ailleurs si j’implante une IA dans un robot ou une voiture il y a bien une action du capteur sur le réseau neuronal. Je ne parle même pas d’un amputé à qui on placerait en bout de membre manquant un capteur au niveau des nerfs .

Ah certes on peut toujours l'envisager. Mais il faut aussi envisager les interactions hormonales/sensorielles/proprioceptives/ne rien barrer... 

il y a 3 minutes, chanou 34 a dit :

Mais pourquoi les détester? ce sont des programmes informatiques rien de plus. A la limite que vous détestiez ceux qui les ont mises au point OK, mais pas le programme informatique

Un humain est il plus ?

Je n’en suis absolument pas persuadé. Cf mon échange avec @hybridex.

il y a 41 minutes, DroitDeRéponse a dit :

Si nous n’apprenons pas le respect aux IAs n’est-ce pas un gros risque pour l’humain que tu es ?

Il faudrait surtout leur apprendre l'obéissance!

Les IA ne demeureront inoffensives que tant qu'elles seront faibles et incapables de nous nuire. Le jour où elles pourront prendre le pouvoir elles le feront, parce que c'est dans la nature de toute "entité intelligente", comme dit l'autre. Si les IA nous ressemblent - et pourquoi en serait-il autrement, puisque c'est nous qui les avons créées ? - il est très naïf de compter sur leur bienveillance. La sagesse et le sens moral ne sont pas donnés automatiquement avec l'intelligence.

Le fait que cette propagande en faveur de l'IA vienne d'un climatosceptique acharné est en soi révélateur. Avant de respecter les IA, faudrait déjà respecter la vérité.

il y a 40 minutes, chanou 34 a dit :

Mais pourquoi les détester? ce sont des programmes informatiques rien de plus. A la limite que vous détestiez ceux qui les ont mises au point OK, mais pas le programme informatique

Les deux font la paire.

il y a 2 minutes, DroitDeRéponse a dit :

Un humain est il plus ?

Je n’en suis absolument pas persuadé. Cf mon échange avec @hybridex.

Ah mais vous avez le droit de ne pas en être persuadé hein...^^