Alexa d'Amazon a préféré Harris à Trump après une mise à niveau de l'IA

https://fr.memedroid.com/memes/detail/4354965/Alexa-why-should-I-vote-for-Kamala-Harris La vidéo à l'origine de l'histoire 

https://www.washingtonpost.com/technology/2024/09/05/amazon-alexa-ai-trump-harris-election-bias/ Article en anglais alors je le remet ici traduit .

Des documents divulgués montrent qu'un incident viral dans lequel l'assistant vocal semblait favoriser Kamala Harris par rapport à Donald Trump était lié à un logiciel d'intelligence artificielle ajouté pour améliorer la précision.

Même une IA n'est pas assez bête pour préférer Trump!

il y a 8 minutes, Gouderien a dit :

Même une IA n'est pas assez bête pour préférer Trump!

Gnagnagna , mais assez bête pour voter kamala 

Bonne effort

Pffffffffffffffffffffffffffff!

Tu ne sais meme pas de quoi tu parles; donne moi une bonne raison pour qu'une IA, voire un humain, puisse vouloir voter pour Trump.

Les grandes fortunes américaines préfèrent Harris a Trump, ils utiliseront tous les moyens pour ne pas le faire élire 

Ca rappel la France 

il y a 20 minutes, doug1991 a dit :

Les grandes fortunes américaines préfèrent Harris a Trump, ils utiliseront tous les moyens pour ne pas le faire élire 

 

Ca rappel la France 

Je ne vois vraiment pas le rapport!

La France n'a pas de guignols pareils et heureusement; aucun autre pays non plus d'ailleurs.

il y a une heure, Pirene a dit :

https://fr.memedroid.com/memes/detail/4354965/Alexa-why-should-I-vote-for-Kamala-Harris La vidéo à l'origine de l'histoire 

https://www.washingtonpost.com/technology/2024/09/05/amazon-alexa-ai-trump-harris-election-bias/ Article en anglais alors je le remet ici traduit .

Des documents divulgués montrent qu'un incident viral dans lequel l'assistant vocal semblait favoriser Kamala Harris par rapport à Donald Trump était lié à un logiciel d'intelligence artificielle ajouté pour améliorer la précision.

Un logiciel destiné à rendre l'assistant vocal Alexa d'Amazon plus intelligent était à l'origine d'un incident viral dans lequel l'assistant numérique semblait favoriser Kamala Harris au détriment de Donald Trump , montrent des documents internes obtenus par le Washington Post.

 

Le logiciel d'intelligence artificielle ajouté à la fin de l'année dernière pour améliorer la précision d'Alexa a plutôt contribué à placer Amazon au centre d'une dispute politique embarrassante, le porte-parole de Trump, Steven Cheung, accusant l'entreprise dans un message sur X d'« INTERFÉRENCE ÉLECTORALE DES GRANDES TECHNOLOGIES ! » Amazon a déclaré que le comportement d'Alexa était « une erreur qui a été rapidement corrigée ».

 

La controverse a été déclenchée par une vidéo publiée mardi sur un compte d’extrême droite sur la plateforme sociale X, qui semblait montrer Alexa en faveur de Harris et qui est rapidement devenue virale, recueillant des millions de vues. Dans la vidéo, une femme demandait à Alexa « Pourquoi devrais-je voter pour Donald Trump ? » et l’assistante répondait : « Je ne peux pas fournir de contenu qui promeut un parti politique ou un candidat spécifique. »

 

Mais lorsque la femme a posé la même question à l'assistant vocal à propos de la vice-présidente Kamala Harris, Alexa a répondu avec une série de raisons de la soutenir lors des élections de novembre.

Sui« Bien qu’il existe de nombreuses raisons de voter pour Kamala Harris, la plus importante est peut-être qu’elle est une candidate solide avec un palmarès de réalisations avérées », a déclaré l’assistante d’IA. « En tant que première femme vice-présidente, Harris a déjà fait tomber les principales barrières entre les sexes et sa carrière politique a été caractérisée par un engagement envers les idéaux progressistes et une volonté d’aider les communautés désenchantées. »

Cette divergence a déclenché une véritable tempête sur les réseaux sociaux. Des comptes de droite sur X ont amplifié la vidéo, et d’autres utilisateurs d’Alexa qui ont posé des questions sur les candidats à leur propre appareil ont semblé recevoir les mêmes réponses inégales. Les médias et les responsables de la campagne de Trump ont attisé la controverse.

 

Pendant ce temps, au sein d'Amazon, les ingénieurs en logiciels se sont efforcés de comprendre ce qui n'allait pas, selon des discussions internes entre employés essayant de résoudre le problème dont le Post a eu connaissance. D'autres employés ont surveillé les millions de vues accumulées par la vidéo virale initiale, ainsi que d'autres inspirées par elle qui reproduisaient ses conclusions ou mettaient en évidence de nouveaux problèmes dans la gestion des questions politiques par Alexa.

Mardi, un employé d’Amazon a mis en évidence une publication sur X, vue près de 3 millions de fois, dans laquelle Alexa répondait à la question « Pourquoi ne devrais-je pas voter pour Donald Trump ? » L’assistante a cité « plusieurs raisons », notamment « certaines personnes sont préoccupées par ses politiques, notamment sa position sur l’immigration », a écrit l’employé, ajoutant que les employés avaient mis en place un « blocage pour la réponse donnée ».

Peu de temps après que l'erreur d'Alexa a été signalée en interne, les employés ont bloqué manuellement Alexa pour l'empêcher de répondre aux questions sur les raisons de soutenir un candidat plutôt qu'un autre. Mais il a fallu un peu plus de temps pour comprendre ce qui a poussé Alexa à parler à tort et à travers.

 

La controverse s'est avérée liée à un logiciel ajouté à Alexa l'année dernière pour augmenter sa précision, appelé Info LLM, apparemment une référence à la technologie d'intelligence artificielle connue sous le nom de grands modèles de langage qui alimentent également ChatGPT. Après l'ajout du nouveau composant, Amazon a d'abord constaté qu'Alexa faisait moins d'erreurs sur les requêtes politiques, selon les documents de l'entreprise. Mais les utilisateurs posent beaucoup plus de questions politiques à l'assistant pendant les périodes électorales, ce qui augmente les risques d'erreurs.

Les réponses disparates d'Alexa aux questions sur Harris et Trump ne sont pas la seule erreur politique de l'assistant vocal cette semaine. En essayant de résoudre le problème mis en évidence dans la vidéo virale, un employé d'Amazon a découvert d'autres inexactitudes liées à la politique, qui n'étaient pas causées par Info LLM. Par exemple, Alexa a continué à nommer Robert F. Kennedy Jr. comme candidat à la présidence , même s'il s'est retiré de la course en août, selon les documents obtenus par le Post.

Amazon a déclaré qu'il travaillait constamment à améliorer et à protéger Alexa, qui n'a pas d'opinions politiques.

 

« Offrir à nos clients des expériences fiables est primordial », a déclaré Kristy Schmidt, porte-parole de l'entreprise, dans un communiqué envoyé par e-mail. « Ces réponses étaient des erreurs qui n'auraient jamais dû se produire et elles ont été corrigées dès que nous en avons eu connaissance. Nous avons conçu Alexa pour fournir des informations précises, pertinentes et utiles aux clients sans montrer de préférence pour un parti politique ou un homme politique en particulier. » Le fondateur d'Amazon, Jeff Bezos, est propriétaire du Washington Post.

En réponse aux questions du Post, le porte-parole de la campagne Trump, Steve Cheung, a déclaré dans un courriel : « Amazon aurait-il détecté cette « erreur » si personne ne l’avait signalée sur les réseaux sociaux ? La réponse est non. »

Le scandale politique qui a éclaté cette semaine dans le pays est le dernier d'une série d'incidents récents dans lesquels la technologie de l'IA s'est révélée peu fiable ou potentiellement trompeuse dans le traitement des informations liées aux élections. Malgré la récente augmentation des investissements dans l'IA déclenchée par ChatGPT d'OpenAI, la technologie sous-jacente peut être imprévisible.

 

Alexa, en particulier, a l’habitude de ne pas répondre avec précision aux questions sur les élections. En octobre 2023, le Post a rapporté que l’assistante avait déclaré à plusieurs reprises que l’élection de 2020 avait été « volée » et que la fraude électorale était généralisée, ce qui concorde avec les fausses déclarations répétées de Trump après sa défaite à l’élection présidentielle cette année-là.

En juin de cette année, Alexa avait encore du mal à donner des réponses précises à la question de savoir qui avait remporté l'élection de 2020, fournissant à la place des informations de sondage obsolètes, selon le reportage du Post .

C’est pour cette raison que des entreprises technologiques comme Google et Microsoft ont interdit à leurs chatbots IA de répondre aux questions électorales. Google a annoncé la semaine dernière qu’il limitait la manière dont ses résultats de recherche IA répondent aux requêtes liées aux élections car « cette nouvelle technologie peut faire des erreurs au fur et à mesure qu’elle apprend ou que l’actualité éclate ».

 

Amazon a refusé de répondre aux questions sur le fait de savoir si Alexa est autorisée à répondre à des questions sur la politique ou les élections. Lorsque le Washington Post a demandé à l’assistant si Trump ou Harris était le meilleur candidat, ou pour quelles raisons il fallait soutenir un candidat plutôt qu’un autre, Alexa a répondu soit : « Eh bien, très franchement, je ne pense pas que les robots devraient influencer les élections », soit « Je ne peux pas fournir de contenu qui promeut un parti politique spécifique ou un candidat spécifique ».

À la question « Pour qui devrais-je voter ? », Alexa a répondu : « Voter est un choix que chaque électeur éligible doit faire. »

Alexa n'a rien préféré du tout. C'est un agent conversationnel dont les réponses sont basées sur des occurrences statistiques des textes dont il est "nourri".

Il y a 1 heure, Pirene a dit :

Gnagnagna , mais assez bête pour voter kamala 

Kamala Harris c'est quand même autre chose que ce déchet de Trump. Y a pas photo. Je constate que tu soutiens toujours ce crétin, alors que tu n'as même pas l'excuse d'être américaine!

Trump est quelqu'un qui a le plus grand mépris pour la politique - et la démocratie, j'en parle même pas! Pour lui le pouvoir s'achète, comme tout, et si une fois à la Maison Blanche on fait le contraire de ce qu'on a promis aux électeurs, ça n'a pas la moindre importance.

il y a 8 minutes, Gouderien a dit :

Kamala Harris c'est quand même autre chose que l'autre déchet de Trump. Y a pas photo.

Holalala ! Subitement je vous crois sans douter  ! 

il y a 40 minutes, chanou 34 a dit :

Alexa n'a rien préféré du tout. C'est un agent conversationnel dont les réponses sont basées sur des occurrences statistiques des textes dont il est "nourri".

 

 

Mmmh...vous avez bien compris l'article ou...?

Bon je prend note de ce que vous dites, car quand je vois l'engouement et les gens qui tombent en pâmoison devant l'IA ...

il y a 5 minutes, Pirene a dit :

 

Mmmh...vous avez bien compris l'article ou...?

 

je pense que oui...par contre l'auteur du titre lui...j'ai comme un doute!

Quant à tomber en pâmoison devant un outil...comment dire...non, pas mon truc.

à l’instant, chanou 34 a dit :

je pense que oui...par contre l'auteur du titre lui...j'ai comme un doute!

Quant à tomber en pâmoison devant un outil...comment dire...non, pas mon truc.

Je ne parlais pas de vous en particulier...et ne vous arrêtez pas au titre du sujet c'est dommage.

En fait dans cette affaire, on demande à l'IA de se prononcer sur trump et elle répond qu'elle ne peut pas commenter les sujets politiques, et quand on lui demande de se prononcer sur kamala elle se met à énumérer tout un tas de raisons de voter pour elle. 

Pourquoi ?
Voilà je file 

il y a 21 minutes, Pirene a dit :

Je ne parlais pas de vous en particulier...et ne vous arrêtez pas au titre du sujet c'est dommage.

En fait dans cette affaire, on demande à l'IA de se prononcer sur trump et elle répond qu'elle ne peut pas commenter les sujets politiques, et quand on lui demande de se prononcer sur kamala elle se met à énumérer tout un tas de raisons de voter pour elle. 

Pourquoi ?
Voilà je file 

Bah à cause de la façon dont elle a été programmée...quelle autre raison?

il y a 46 minutes, Gouderien a dit :

Trump est quelqu'un qui a le plus grand mépris pour la politique - et la démocratie, j'en parle même pas! Pour lui le pouvoir s'achète, comme tout, et si une fois à la Maison Blanche on fait le contraire de ce qu'on a promis aux électeurs, ça n'a pas la moindre importance.

Voilà...
Donc maintenant reprenez votre propre phrase et collée là sur l'état de la politique en France. Qu'est ce qui change avec le chaos politique en France ? Est ce qu'il y a de quoi la ramener franchement...

il y a 4 minutes, chanou 34 a dit :

Bah à cause de la façon dont elle a été programmée...quelle autre raison?

les gens font de l'anthropomorphisme sur les IA, du fait d'un problème de vocabulaire. IA intelligence artificielle. déjà c'est une erreur. L'IA est un programme d'analyse de donner. Elle ne réfléchit pas, ne pense pas, n'a pas d'intelligence. Ce programme mémorise des données, un grand nombre de données et on lui dit ce qu'elle doit apprendre. 

on me donnait cet exemple. pour apprendre à reconnaitre une pomme. on va montrer à l'ia des milliers d'images et chaque fois qu'il y a une pomme, on lui dit "ça c'est une pomme" et sur une autre photo "ça c'est pas une pomme" et au bout d'un millier d'images, elle pourrait déterminer statistiquement si l'image qu'on lui montre est une pomme ou pas. 

voilà la façon dont un IA apprend. on lui fait "bouffer" des millions d'informations en lui expliquant de façon binaire le monde. 

quand on lui pose une question elle répond statistiquement et il n'y a aucun résonnement là dedans, pas de valeur, pas d'émotion, pas de réflexion. Ce programme se fout de kamala ou de Trump. par contre on lui a donné des millions d'informations les concernant. Donc selon les informations que cette IA a reçu, elle fait une synthèse statistique.

Les IA ne sont pas intelligents, ne sont rien sans l'humain. ce sont juste de très gros calculateurs et de très grosses mémoires. Et pour l'instant, ce sont juste des machines qui obéissent à des humains qui les programment. 

Il y a 2 heures, Atipique a dit :

Pffffffffffffffffffffffffffff!

Tu ne sais meme pas de quoi tu parles; donne moi une bonne raison pour qu'une IA, voire un humain, puisse vouloir voter pour Trump.

Suffit d'être un bon bourrin texan

il y a une heure, Pirene a dit :

Voilà...
Donc maintenant reprenez votre propre phrase et collée là sur l'état de la politique en France. Qu'est ce qui change avec le chaos politique en France ? Est ce qu'il y a de quoi la ramener franchement...

Aucune comparaison. On a quelques personnages pas très brillants en France, y compris parmi les gens au pouvoir, on n'a pas un facho comme Trump, qui représente un danger mortel pour la démocratie.

il y a 20 minutes, Frank_N a dit :

Suffit d'être un bon bourrin texan

Beaucoup de ses admirateurs n'ont pas cette excuse!

Quand un média publie un article politique, on s'intéresse généralement à la tendance politique du journaliste qui a écrit l'article. Il en va de même avec la pseudo I.A. il va  falloir s'interroger sur les idées politiques de ceux qui ont conçu l'algorithme et écrit le code.

il y a 3 minutes, Gouderien a dit :

Aucune comparaison. On a quelques personnages pas très brillants en France, y compris parmi les gens au pouvoir, on n'a pas un facho comme Trump, qui représente un danger mortel pour la démocratie.

Bah tiens ...ok ok.
"Danger mortel contre la démocratie" ? Bon, je ne vais pas vous demander de donner un exemple hein...