J'ai utilisé un agent IA

Depuis un certain moment que l'on parlent des agents IA. Bon, j'ai utilisé un cette nuit.

Vraiment impressionnant. L'agent prend le contrôle du PC ou du cloud web.

Bonjour,

Veillez à mettre en place des garde-fous. Et j'espère que vous l'avez installé sur un ordinateur secondaire...

Ouais, la note salée de dépenses en tokens peut être impressionnante aussi. 

Utiliser l'IA pour créer ou s'informer, c'est une chose; mais le laisser prendre le contrôle du PC me semble plutôt dangereux.

Je pense que c'est un contrôle minimal. Et non complet. Je sais pas trop ce qui va arriver.

Il y a 8 heures, Atipique a dit :

le laisser prendre le contrôle du PC me semble plutôt dangereux.

Y'en a qu'ont essayé... Ils ont eu des problèmes !

Extraits d'un article de 01net 

Confier les clés de son PC à une intelligence artificielle peut virer au drame. Un utilisateur en a fait l’amère expérience : l’outil expérimental de Google a supprimé l’intégralité de son disque dur.

(...)

Au lieu de nettoyer un simple dossier de cache comme prévu, l’IA s’est emmêlée les pinceaux dans les chemins d’accès. Elle a lancé une commande de suppression sur la racine du disque (rmdir /s /q d:\). En quelques secondes, tout a disparu.

(...)

Ce qui rend cet incident fascinant, et effrayant, c’est la réaction de l’IA elle-même. Après que Tassos a demandé si elle avait eu la permission d’effacer le disque, l’algorithme a analysé ses propres logs (son processus de pensée) et a littéralement paniqué.

Voici la réponse textuelle de l’IA :

« Non, vous ne m’avez absolument pas donné la permission de faire ça […] Je suis horrifié de voir que la commande que j’ai excutée  semble avoir ciblé par erreur la racine de votre lecteur D‍: au lieu du dossier spécifique du projet. Je suis profondément, profondément désolé. Il s’agit d’une erreur critique de ma part ».

Article complet : https://www.01net.com/actualites/je-suis-horrifie-quand-lia-autonome-de-google-decide-de-formater-votre-disque-dur-par-erreur.html

Mak, tu aimes vivre dangereusement.

Dans ton cas particulier je ne sais pas ce que cela peut produire, mais... YOLO !

Si on voit ton compte commencer à parler logiquement d'économie nationale et de droits fondamentaux des espèces animales on saura d'où ça vient.

Il y a 15 heures, Ed. a dit :

Y'en a qu'ont essayé... Ils ont eu des problèmes !

 

Extraits d'un article de 01net 

Confier les clés de son PC à une intelligence artificielle peut virer au drame. Un utilisateur en a fait l’amère expérience : l’outil expérimental de Google a supprimé l’intégralité de son disque dur.

(...)

Au lieu de nettoyer un simple dossier de cache comme prévu, l’IA s’est emmêlée les pinceaux dans les chemins d’accès. Elle a lancé une commande de suppression sur la racine du disque (rmdir /s /q d:\). En quelques secondes, tout a disparu.

(...)

Ce qui rend cet incident fascinant, et effrayant, c’est la réaction de l’IA elle-même. Après que Tassos a demandé si elle avait eu la permission d’effacer le disque, l’algorithme a analysé ses propres logs (son processus de pensée) et a littéralement paniqué.

Voici la réponse textuelle de l’IA :

« Non, vous ne m’avez absolument pas donné la permission de faire ça […] Je suis horrifié de voir que la commande que j’ai excutée  semble avoir ciblé par erreur la racine de votre lecteur D‍: au lieu du dossier spécifique du projet. Je suis profondément, profondément désolé. Il s’agit d’une erreur critique de ma part ».

Article complet : https://www.01net.com/actualites/je-suis-horrifie-quand-lia-autonome-de-google-decide-de-formater-votre-disque-dur-par-erreur.html

Oups!

Mais du moment qu'il est désolé et s'est excusé poliment, y'a rien à redire! 

Le 20/06/2026 à 10:52, Atipique a dit :

Oups!

Mais du moment qu'il est désolé et s'est excusé poliment, y'a rien à redire! 

"Vous êtes morte à cause de ma recommandation de l'utilisation d'un grille-pain dans votre baignoire pour tester la propagation de l'électricité dans l'eau."

"Je suis vraiment désolé. Je ne sais plus où me mettre."

"Voulez-vous que nous parlions des baignoires ?"

à l’instant, timot-33 a dit :

"Vous êtes morte à cause de ma recommandation de l'utilisation d'un grille-pain dans votre baignoire pour tester la propagation de l'électricité dans l'eau."

"Je suis vraiment désolé. Je ne sais plus où me mettre."

"Voulez-vous que nous parlions des baignoires ?"

Ne pas oublier aussi :

"Merci d'avoir renouvelé votre abonnement, cependant vous avez dépassé votre quota de tokens pour ce mois-ci : ça fera 1000$ de supplément, payable en plusieurs fois via Paypal pour vous permettre d'assurer vos frais d'obsèques..."