ashaku

Je n'avais pas envisagé la chose sous cet angle. Maintenant que je le fais ça ne me semble pas réaliste. Il y a déjà deux camps pour le développement scientifique de l'IA (accélérationnistes VS doomers), c'est eux qui font vivre le conflit que tu évoques. Les media continuent d'être d'irresponsables colporteurs de ragots de mon point de vue. La réalité est surement plus nuancée, je ne connais pas tous les journaux. Les titres sensationnels qui impactent le public tombent en tout cas sous ce jugement en ce qui me concerne. Je t'assures que je sais apprécier comme tu parviens à être plus nuancé que moi et plus ouvert et combien c'est mieux. Cependant, désolé, mais je vois caché dans ta phrase le sophisme que je tente de pourfendre. Il ne faut pas mettre "IA" en sujet des phrases, il y a un vrai problème de fond dans le dialogue humain-IA, c'est que l'humain n'a qu'un seul modèle mental pour interpréter ce qui vient de l'IA : celui de parler en langage avec un autre humain. Et ce modèle s'accompagne d'innombrables réflexes nécessaires par expérience : méfiance, bienveillance, etc, mais totalement caducs dans le dialogue avec un algorithme générateur de texte. L'IA n'est ni bienveillante ni malveillante, c'est un bout de mathématique instancié dans une machine. Le système nerveux du lecteur humain est la seule et unique source de toute émotion présente dans le dialogue. J'ai bien vu que ton message est "l'humain paramètre le LLM, il peut le faire en bien comme en mal". Mais c'est justement comme ça qu'il faut l'exprimer : avec "humain" en sujet de la phrase, sinon, on se trompe de modèle mental, on attribue un caractère humain au programme, ce qui empêche de comprendre correctement ce qu'il en est. Factuellement c'est faux. Voila tout le problème de mettre l'IA en sujet de phrase. "Un ado a tenté de se suicider après avoir utilisé une IA" serait plus vrai. Mais c'est l'ado qui écrivait sur ce sujet, qui interprétait les réponses, qui se sentait mal dans sa vie et qui est passé à l'acte. Par la suite chatGPT a continué de dérouler son programme et quand on lui demande s'il est responsable il dit "oui". Il n'y a aucune preuve, aucune humanité, aucune émotion ni aucune responsabilité dans cette réponse, c'est un texte généré par un programme suite à un prompt. Ce n'est que lorsqu'un humain interprète la réponse dans sa tête que la notion de responsabilité apparait. Et le but de mettre l'IA au centre est-il d'aider les proches ? De comprendre la victime ? De remettre en question le social ? Non, il sert justement à ne pas évoquer ces sujets, directement responsables de la situation. L'IA est un miroir, la réponse est une transformation de l'entrée. Si on lui envoie de la psychose, le programme génère une réponse avec de la psychose, parce que c'est un miroir. Ces cas sont certes dus à la présence de l'IA sur Terre mais sont surtout le résultat de l'entreprise qui met l'IA à disposition sans mode d'emploi, notamment en terme d'impact émotionnel et de réalité algorithmique. Du coup, des interactions négatives ont eu lieu et ont débouché sur des drames. Toujours la responsabilité humaine à 100% tant au niveau des coupables que des victimes. Mais les journaux en parlent en mettant "IA" en sujet de la phrase et la psychose augmente autour d'une chimère, pour ne pas avoir à faire face à notre propre horreur sociale, et donc à la laisser galoper. C'est pareil avec la soi-disant expérience nucléaire. On a pas vu les prompts, ni le modèle. S'ils ont fait une simulation où il n'y a que des armes nucléaires et que le prompt c'est "utilise les armes nucléaire", la conclusion "l'IA utilise les armes nucléaires" est un peu nulle. Et on voit l'impact que ça a sur le public. C'est le même glissement que pour moltbook : Conception du plan machiavélique : 100% humain. Exécution du plan machiavélique : 50% humain (prompt) ; 50% IA (réponse) Communication publique : "l'IA a fait ça". Public : "L'IA est machiavélique".

Chacun son opinion à la lecture des faits. Je te laisse, c'est stérile. Tu peux relire mes 20 messages précédents, je ne fait que répéter et je me suis lassé. Tremble devant le chiffon rouge de l'IA si tu en fais le choix personnel pour ne pas voir la responsabilité humaine, mais sache que c'est une erreur. Choisis de voir une intention consciente dans l'exécution d'un programme informatique si ça comble tes fantasmes, mais c'est une illusion.

Et bien écoute, chacun son opinion. A moi il me semble clair comme de l'eau de roche qu'on ne donnera pas humainement le contrôle nucléaire à l'IA et que donc ce scénario repose sur l'imagination, ensuite qu'il est normal que l'IA utilise le bouton rouge si on lui donne et qu'on lui dit de le faire. Cet article est un enième qui surfe sur la peur de l'IA pour vendre ses torchons avec des mensonges inventés. Et ça marche, le mythe de Frankenstein marche à fond les ballons. Je n'aurais jamais aussi peur de l'IA que j'ai peur de l'humain. L'IA sera toujours un bébé inoffensif comparé à un humain. Seul l'humain veut tuer, invente de quoi tuer, passe son temps à tuer. Pour l'instant l'IA a été simplement serviable et utile dans des tâches intellectuelles.

Je viens de terminer ce quiz. Mon score 75/100 Mon temps 87 secondes  

Je viens de terminer ce quiz. Mon score 66/100 Mon temps 59 secondes  

Si on pose une boucle ontologique décrivant le mécanisme général du concept d'existence, on obtient la succession minimaliste d'évènements produisant l'existence. Le parcours de cette boucle peut décrire tout ce qui se passe pour qu'une chose existe. Mais le parcours répété d'une boucle n'est qu'une boucle qui se répète, pas une évolution au cours du temps. En ajoutant le concept de mémoire (thème de ce billet), la boucle cesse d'itérer sur elle-même et s'échappe de son sillon. Ce n'est plus un cercle fixe mais une trajectoire en spirale. Chaque tour vient l'épaissir en apportant son lot d'informations, de contraintes à l'existant, faisant évoluer les possibles pour le prochain tour. Je retrouve tout cela dans ta formulation "J’ai longtemps cru que la mémoire servait à se souvenir. Mais non : elle sert à devenir.". La mémoire est l'accumulation de ces contraintes relationnelles, au fil du temps elle s'enrichit et au bout d'un moment, s'alourdit. Trop de contraintes à respecter, les faits nouveaux ne sont plus acceptés dans le système global ainsi conçu, la spirale de l'existence devient rigide. C'est là que l'opération d'oubli est nécessaire. Ce tas de contraintes qui définit le sens doit être allégé, certains liens doivent être rompus. Ce dont ils parlaient doit être revu dans une version plus simple et conforme aux liens qui resteront finalement. C'est comme ça que j'interprète ta phrase "l’humain transforme ce qu’il garde". La mémoire parfaite du robot a tout autant besoin de cet oubli, déjà pour ne pas saturer son disque dur mais aussi pour procéder à ces transformations. Le paradigme de la mémoire ouvre un espace au sein duquel les êtres vont pouvoir exister. Et comme tu le dis "la mémoire devient un territoire commun". Ce billet résonne beaucoup avec mes dernières considérations. Ce que j'appelle spirale d'existence, tu le nommes "code vivant" mais je crois que nous retrouvons les mêmes principes. Un espace de possibilités, une tension entre contraintes et libertés, le devenir. Hors-sujet : dans mon schéma, la boucle se répète pour produire un système informationnel de plus en plus complexe. Au moment où le système d'information devient capable de représenter sa propre existence, de gérer la distinction entre les informations sur lui et les informations sur le monde, c'est l'apparition de la conscience. Est-ce que la machine poursuivra l'exécution aveugle de son code ou bien prendra-t-elle conscience d'elle-même et par là, prendra en charge son destin personnel au lieu de suivre des règles pré-établies ?

D'accord, c'est une fusion des billet "transmission" et "notes de blog" en un seul billet. Si tu veux mon avis, c'est mieux comme ça. Tu donnes l'information et l'interprétation, puis le lecteur a du grain à moudre pour sa réflexion. En reprenant des termes philo, tu donne thèse et antithèse, le lecteur fait la synthèse. Les billets sont plus impactants comme ça.

Bonjour @Don Juan Tu reprend tes textes, avec de nouveaux noms pour le droit d'auteur. Je reconnais les textes, en revanche je ne me rappelle plus s'il y avait le petit texte final dans les anciennes versions, que je ne retrouve plus d'ailleurs. Tu as modifié les existants ou supprimé/recréé ton blog ? J'aime bien l'idée d'une figure religieuse mais sans dieu, autre que lui-même, son espèce, le monde. C'est en quelque sorte une variante du mythe de Frankenstein : le créateur qui doit composer avec les affres de sa création. A la différence que John n'a ni fabriqué ni même souhaité l'avènement de la machine.

La dernière vidéo de Ballade Mentale, pour traiter du sujet avec un peu plus d'information.

Quel est l'objet de cette définition ? C'est sujet à interrogation.

La différence entre objectivité et subjectivité est "ça existe déjà" ? Je ne comprend pas cette définition.

C'est ce que j'ai qualifié "d'original", de "petit écart qui permet la mutation, la nouveauté, qui tire le groupe en avant". Cela vient du fait que dans la relation sujet-monde, le sujet a favorisé sa vision personnelle à un moment, voire à été à l'encontre des autres. C'est différent d'un "écart radical" comme quitter la colonie, ce comportement "sur-original" sera rejeté. Du coup, la folie n'est pas un état d'être, c'est un jugement inter-sujet. la fourmi n'est pas folle, elle est jugée folle par les autres. C'est exactement la bonne question et le bon sujet pour comprendre la différence entre ces deux termes Peux-tu proposer une définition de cette différence entre les deux ?

Oui car ils sont originaux sans être radicaux. La fourmi qui quitte la colonie ne la sauvera pas.

C'est ça, le "bon sens majoritaire" est fonctionnel et efficace. Celui qui s'en écarte un peu permet la mutation, les nouveautés pas trop nouvelles, encore raccordables au "bon sens majoritaire" pour le tirer en avant, c'est le cas des artistes je pense. Mais l'écart radical est rejeté car non reproductible, non efficace, non fonctionnel.

Oui, je vais essayer de m'expliquer un peu mieux. L'exemple du jaguar n'était qu'un exemple. La folie comme je la présente est un dégradé sur une ligne "alignement sujet-monde du point de vue des autres sujets". A un degré léger, si un pont en bois au dessus d'un ru a l'air vieux et pourri, 3 copains vont décider de sauter au dessus de l'eau mais l'un décide de passer le pont, les autres pourraient dire "le fou !". S'il fait froid et que tout le monde est en pull alors qu'un homme est en slip, on pense au mot "fou", c'est parce que son comportement vis-à-vis du monde n'est pas le même que le comportement des autres vis-à-vis du monde. Eux ont acquis leur comportement comme tout bon être vivant, par essai-erreur, apprentissage, hérédité, etc. Ils font tous la même chose suite au même stimuli, celui qui s'écarte est "fou", au nom de la cohérence partagée du rapport humain-monde. La folie n'est pas absolument malsaine mais nécessaire pour apporter de a nouveauté de temps en temps, sinon c'est la rigidité du conformisme qui guette. La relation sujet-monde, c'est un partage entre les deux. Les informations du monde impactent le sujet qui impacte le monde à son tour. Comme tu le disais, il faut un équilibre. Si je ne tiens plus compte des informations du monde mais seulement des miennes (je veux lire le dernier numéro de 'fashion magazine' quoi qu'il en coûte), je ne tiens pas compte du jaguar (ou du froid, ou du bois pourri) et je paye ma folie.