Le jour où les IA seront hackees

Il y a 4 heures, pic et repic a dit :

cela coûterait de l'argent ( en consommation électrique ) de l'être car il semblerait que ça n'a aucune action sur les réponses de la dite IA ( elle n 'a pas de sentiments et semble s'en foutre royalement , bien qu'elle soit programmer pour l'être ( polie ) .

Ça a l'air con je sais (moi aussi je pensais comme vous avant de m’intéresser un peu plus sérieusement à la question) mais employer des formules de politesses avec un LLM améliore "la qualité" de ses résultats (après, tout dépend de ce que vous appelez "qualité", pour moi du caca c'est du caca mais bon ...)

Ce n'est pas que l'IA devient tout à coup bienveillante, c'est juste que dans des données d'entrainement les formules dites polies sont très souvent employées lorsque les données sont de qualité, et comme le LLM ne fait que reproduire tout ça en y mettant un peu de hasard, il faut l'inciter aller dans cette direction.

Ou pas (de hasard); si vous pouvez paramétrer la température à 0, vous pouvez lui demander deux fois la même chose il vous répondra deux fois la même chose à la virgule près. Il faut juste effacer le buffer de la session, sinon demander 1 fois ou 2 fois la même choses, ce n'est pas pareil vu que ça se rajoute dans le buffer de la session jusqu'à ce qu'il soit plein.

https://www.slate.fr/story/267704/soyez-poli-avec-chatgpt-intelligence-artificielle-politesse-chatbot-llm

L'étude :

Citation

The propensity exhibited by the models to generate more extended output in polite contexts. Polite and formal language is predominantly used in scenarios demanding descriptive instructions or instructional literature, often associated with longer text. Conversely, antagonistic and fervent discourse involves impolite language, which is also associated with extended lengths. These facets reflect the nuances of human social behavior, mirrored in the training data, and then influence the tendencies demonstrated by LLMs. However, GPT-4 did not echo this trend of increased output length in the presence of highly impolite prompts. It is conjectured that GPT-4, being a superior model, might prioritize the task itself and effectively control the tendency to “argue” at a low politeness level.

https://arxiv.org/html/2402.14531v1#S5

Justement, après avoir écouter une émission sur l'IA, je lui parle désormais sans politesse comme à une machine qu'elle est, je lui donne des requêtes comme celle d'un moteur de recherche, pas de tu , pas de merci, pas d'émotion. Des injonctions. 

L'IA est une machine qui doit le rester. L'anthropomorphisme est une erreur.

Il y a 1 heure, Axo lotl a dit :

Justement, après avoir écouter une émission sur l'IA, je lui parle désormais sans politesse comme à une machine qu'elle est, je lui donne des requêtes comme celle d'un moteur de recherche, pas de tu , pas de merci, pas d'émotion. Des injonctions. 

L'IA est une machine qui doit le rester. L'anthropomorphisme est une erreur.

Vous venez de le dire, c'est une machine.

Donc on ne va pas éviter le bon prompt juste parce que ça donnerait l'impression qu'on lui cause poliment.

Il faut utiliser le bon prompt, point, c'est du prompt engineering; savoir comment lui fournir des données pour recevoir certaines autres donnés en retour (je ne parle pas de question qu'on pose ou même de "requête" c'est pas du tout ça, là aussi ce serait anthropomorphique de voir les choses comme ça, c'est des données).

Des données en entrée => ça donne des données en sortie.

C'est ça un LLM.

https://www.promptingguide.ai/fr

Le 18/04/2025 à 10:32, Gouderien a dit :

Si une IA n'est pas capable de se défendre contre une tentative de hacking, c'est qu'elle n'est pas très intelligente...

Sauf qu'elle sera attaquée par des IAs également

Le 18/04/2025 à 09:51, Axo lotl a dit :

Parce qu'un jour les serveurs d'IA seront hackés, qu'ils regorgent de milliards de données personnelles recoupées , classées, analysées, que se passera-t-il ?

La majorité des données sont anonymes ou anonymisées (ou pseudonymisées). Et ca se développe encore de plus en plus. D'autres part tu auras de plus en plus des IAs de surveillance, spécialisées en sécurité (des super agents de sécurité), face aux super IAs délinquantes. L'habituel jeu du gendarme et du voleur, avec des millions de portes coupe-feu, etc. donc beaucoup d'énergie à dépenser pour des résultats de plus en plus faibles.