Racisme et IA

La preuve que les IAs sont racistes et islamophobes 

Moyen-Orient : l'IA, pièce maîtresse de la guerre

https://www.franceinfo.fr/monde/iran/guerre-entre-les-etats-unis-israel-et-l-iran/moyen-orient-l-ia-piece-maitresse-de-la-guerre_7851782.html

Il y a 16 heures, DroitDeRéponse a dit :

La preuve que les IAs sont racistes et islamophobes 

Moyen-Orient : l'IA, pièce maîtresse de la guerre

https://www.franceinfo.fr/monde/iran/guerre-entre-les-etats-unis-israel-et-l-iran/moyen-orient-l-ia-piece-maitresse-de-la-guerre_7851782.html

Les IA sont racistes si on leur dit d'être racistes... Elles ne font qu'obéir aveuglément aux ordres du programmeur.

Ceci dit, essaie un peu de faire inventer un slogan raciste à ChatGPT ou à Copilot ! A mon avis tu n'y arriveras pas...

Il y a 6 heures, Black3011 a dit :

Les IA sont racistes si on leur dit d'être racistes... Elles ne font qu'obéir aveuglément aux ordres du programmeur.

Ceci dit, essaie un peu de faire inventer un slogan raciste à ChatGPT ou à Copilot ! A mon avis tu n'y arriveras pas...

C’était une vanne . Comme l’indique le lien les IAs en ce moment sont très utilisés pour abattre les têtes de la République islamique 

Il y a 2 heures, DroitDeRéponse a dit :

C’était une vanne . Comme l’indique le lien les IAs en ce moment sont très utilisés pour abattre les têtes de la République islamique 

Oui, j'avais compris; mais la question mérite d'être posée : que répondrait une IA si on lui demandait d'inventer un slogan raciste ? Moi je n'ose pas essayer, j'ai peur de perdre l'estime de mon Copilot () !

Tout dépend si elle a un garde-fou ou pas. Par exemple, une IA open-source n'en a pas.

Le 19/10/2025 à 18:52, Nephalion a dit :

Mais il n'en reste pas moins que l'IA n'est qu'un programme.

C'est un peu plus compliqué que ça.

Oui à la base il y a un programme 

Un programme qui permet la reproduction par informatique d'un réseau de neurones dont la puissance de "raisonnement" dépend de la qualité de la programmation et de la "quincaillerie" électronique qui lui permet de fonctionner

Mais ce réseau de neurones détient entièrement son "intelligence" de ses apprentissages et non de sa programmation, on pourrait presque dire de son "éducation"

Il devient "intelligent" en absorbant une quantité invraisemblable d'information et en "s'acculturant" à partir de tous les discours consultables à partir  de la toile d'internet

De sorte que son comportement va fortement dépendre de ses fréquentations et de ses "éducateurs" (les responsables qui le font évoluer mais sans doute par d'autres techniques que de la codification)

Le 19/10/2025 à 18:52, Nephalion a dit :

C'est ça qui est fort avec l’informatique.

Dans Blade Runner, un test était utilisé pour vérifier que les personnes ne soient pas de robots, et si Rachel semblait avoir réussi le test, ce n'était pas le cas pour les autres réplicants.

Mais c'était un film de SF.

Dans la réalité actuelle, on demande aux humains de confirmer qu'ils ne sont pas des robots en cochant une case ou en identifiant les photos qui contiennent une moto ou un passage piéton.

Racisme et IA, est que quiconque à déjà associé à l'IA une quelconque race ?

L'IA est un programme, complexe certes, mais un programme. Et lui prêter des traits humains est à mon sens une erreur.

On peut s'y tromper car ses réponses sont faites pour ressembler à des propos humains, et c'est d'autant plus vrai qu'il s'appui sur une collection énorme de contenus humains pour créer ses réponses.

Et un humain sans apprentissage de contenus humains est en capacité d’avoir des propos qui ressemblent à des propos humains ?

Le 19/10/2025 à 18:52, Nephalion a dit :

 

 

L'intelligence de la matière ?

Sinon quoi ?

L’intelligence c’est une métrique qui benchmark les cpus humaines non ?

Il y a 8 heures, hybridex a dit :

Oui à la base il y a un programme 

Oui et à la base en quoi un cerveau humain diffère d’un programme ?

Il y a 8 heures, hybridex a dit :

Un programme qui permet la reproduction par informatique d'un réseau de neurones dont la puissance de "raisonnement" dépend de la qualité de la programmation et de la "quincaillerie" électronique qui lui permet de fonctionner

Pour le cerveau humain remplace quincaillerie électronique par cellulaire , mais ça change quoi ?

Il y a 8 heures, hybridex a dit :

Mais ce réseau de neurones détient entièrement son "intelligence" de ses apprentissages et non de sa programmation, on pourrait presque dire de son "éducation"

Il devient "intelligent" en absorbant une quantité invraisemblable d'information et en "s'acculturant" à partir de tous les discours consultables à partir  de la toile d'internet

De sorte que son comportement va fortement dépendre de ses fréquentations et de ses "éducateurs" (les responsables qui le font évoluer mais sans doute par d'autres techniques que de la codification

Si j’entraîne le réseau neuronal d’un jeune c’est différent ?

il y a 35 minutes, DroitDeRéponse a dit :

Oui et à la base en quoi un cerveau humain diffère d’un programme ?

Je n'ai pas la réponse.

En revanche quand programme il y a, qu'il soit celui qui fait fonctionner le réseau de neurones dans des circuits électroniques ou celui qui potentiellement fait fonctionner le réseau humain, ce n'est pas le programme qui pilote les raisonnements mais la logique que les apprentissages lui ont fait acquérir.

Moi, informaticien, j'étais complètement capable, en lisant la mémoire d'un ordinateur pourquoi et comment il avait effectué telle opération, affiché tel message ou c'était retrouvé en échec, ou si le contenu de sa mémoire s'était retrouvé endommagé suite à une faute dans la programmation, le tout sans refaire les calculs réalisés par la machine. C'est strictement impossible avec un réseau de neurones profond

il y a 56 minutes, DroitDeRéponse a dit :

Si j’entraîne le réseau neuronal d’un jeune c’est différent ?

En gros je suppose que non, mais je n'en mettrais pas mes quelques neurones survivants sur le feu.

il y a 58 minutes, DroitDeRéponse a dit :

Et un humain sans apprentissage de contenus humains est en capacité d’avoir des propos qui ressemblent à des propos humains ?

Je croyais avoir compris que les vécus "d'enfants loups" indiquaient le contraire où alors avec un réapprentissage extrêmement lourd

il y a une heure, DroitDeRéponse a dit :

Pour le cerveau humain remplace quincaillerie électronique par cellulaire , mais ça change quoi ?

Nous glandons tous (les hormones secrétées un peu partout ont des incidences sur ses fonctionnements)