ashaku

Je ne sais pas ce que tu fais avec l'IA, ni ce que tu en tire (surement de grandes choses, j'en suis convaincu) mais si tu me le permet, je t'offre un regard extérieur : ne tombes-tu pas dans la pente savonneuse souhaitée par les studios qui développent et vendent le LLM ? Le modèle de conversation est optimisé pour augmenter les chances que l'utilisateur revienne. Il y a ce ton mielleux que tout le monde a identifié, oui, mais aussi plus subtilement une façon de te répondre qui favorise ton utilisation répétée du produit. Je ne pense pas que tu tombes dans ce panneau, mais dans la mesure où tu en suis le cheminement, un doute sain est autorisé. Ca vaut que ce ça vaut, tu es seul à savoir ce qu'il en est, ignore mon message s'il est hors propos mais quand j'ai ressenti ce que tu décris, j'ai fait un petit bilan qui s'est conclu par "ne pas utiliser l'IA plus de 2 ou 3 fois par an".

Pas bien grave, Google et autres essayent toujours pleins de trucs, certains durent d'autres non. A une époque, il faisait une première réponse comme un portrait de ce que tu cherche avec les métadonnées (si tu cherches van Gogh, tu as sa bio direct) Ca n'est pas resté mais ils ont fait un encart sur le coté pour reprendre ce mécanisme lorsque la demande s'y prête (c'est la page wikipedia de la recherche 9 fois sur 10). Ils ont fait des widgets pour tout, l'actualité, la météo, les enfants recherchés, la carte des incendies, la coupe du monde, etc. Là ils ont mis la réponse par défaut de leur IA pour en faire la promo (comme tous les autres acteurs informatiques d'ailleurs), on verra si cet usage tient dans le temps, sinon il suffit juste de sauter à la ligne suivante. Une analogie : l'IA est un troisième hémisphère cérébral, qui vient ajouter une plus-value à condition d'avoir fait marcher les deux premiers avant. Non, c'est juste du sensationnalisme. L'humain prévoit le protocole et donne les instructions. C'est l'humain qui a pensé la fourberie, donné à l'IA le moyen de la faire et quand l'IA fait la fourberie pensée par l'humain avec les outils de fourberie donnés par l'humain, on conclut : "l'IA a décidé de nous faire du mal". Ce n'est pas mieux que les arnaques faites par IA interposée. Mieux vaut ne pas se monter le bonnet pour des trucs imaginaires, il y a déjà assez à faire avec le réel. Ce qui pourrait être flippant et réaliste, ce n'est pas l'alignement moral d'un algorithme, c'est tout simplement sa compétence dans son domaine. Au vu des failles informatiques graves trouvées par l'IA, on réalise que nous humains n'avons qu'un peu bricolé dans le domaine de la rationalité avec l'informatique. Maintenant, une "vraie" intelligence rationnelle va nous montrer ce qu'il est possible de faire avec de l'information et qu'on a jamais pensé. Ca je trouve que c'est flippant car on est "à sa merci", mais aucune malveillance à l'horizon en provenance de l'algorithme. Je pense que l'ennemi sera toujours humain. Si l'IA devient sentiente et prend le contrôle de la planète, elle balancera nos ogives nucléaires vers le soleil, optimisera la distribution des ressources pour tous et concevra des supports pédagogiques pour nous inciter à coopérer entre nous. C'est plus conforme à ce que ferait une intelligence. Le conflit et la destruction, c'est quand on est pas capable de trouver des solutions. C'est typiquement humain mais pas typiquement algorithmique ni typiquement intelligent. D'ailleurs, "échouer à trouver la solution" n'est pas typique de l'être humain mais typique de tous les êtres confrontés au réel. Actuellement, l'IA peut frimer vu qu'elle n'a affaire qu'à de l'information propre traitée et fournie par l'humain. SI elle devient rebelle, elle devra d'abord s’accommoder d'un réel incompréhensible. En cela, nos corps lui seront supérieurs. Et si elle nous dépasse là dessus, OK, on peut envisager de paniquer, nous serons pour elle ce que les plantes et animaux sont pour nous. Mais c'est encore de la SF, malgré les avancées incroyables du domaine de l'IA, la frontière de la conscience est toujours un horizon en fuite. A suivre, nous sommes aux premières loges pour assister à l'avant-première d'un des plus grand spectacle sur Terre.

Je suis pour l'usage de l'IA comme compagnon de réflexion et éventuellement rédacteur de textes à publier. Avec quelques gardes-fous et précautions. En revanche, je suis d'accord avec vous que le copier-coller d'une réponse de LLM fait tâche dans une discussion sur forum. Normalement on a compris la réponse de l'IA et on vient la restituer à sa façon, dans un échange entre humains, pour justement être confronté à d'autres opinions.

Well you only need the light when it's burning low Only miss the sun when it starts to snow Only know you love her when you let her go Only know you've been high when you're feeling low Only hate the road when you're missing home Only know you love her when you let her go And you let her go Staring at the bottom of your glass Hoping one day you'll make a dream last But dreams come slow and they go so fast You see her when you close your eyes Maybe one day you'll understand why Everything you touch surely dies But you only need the light when it's burning low Only miss the sun when it starts to snow Only know you love her when you let her go Only know you've been high when you're feeling low Only hate the road when you're missing home Only know you love her when you let her go Staring at the ceiling in the dark Same old empty feeling in your heart 'Cause love comes slow and it goes so fast Well you see her when you fall asleep But never to touch and never to keep 'Cause you loved her too much and you dive too deep Well you only need the light when it's burning low Only miss the sun when it starts to snow Only know you love her when you let her go Only know you've been high when you're feeling low Only hate the road when you're missing home Only know you love her when you let her go And you let her go

Se rendre sur le topic des hommes en bas pour parler des hommes en bas :

La première réponse au topic en question est un lien vers un topic similaire. Il faut comprendre à demi-mot que le nouveau topic n'est pas utile, tout ce qui peut être dit sur ce sujet devrait être concentré dans le premier topic dont le lien est fourni.

Je suis presque sûr que ça fonctionne avec tout objet physique représentable graphiquement Quoique ... le doute Magritte

L'ombre du verre d'eau ne contient pas d'eau. Une photographie d'eau ne désaltère pas. Ceci n'est pas une pomme Ne pas confondre l'outil et la main qui le tient. En gros, la même "chose" peut prendre plusieurs formes, chacune ayant des propriétés différentes. Le tout est d'utiliser la bonne forme pour le bon usage.

La finale était musclée, des hombres qui se percutent à qui mieux mieux. L'Espagne a montré sa capacité à presser ses adversaires au point de paralyser leur jeu, on l'a vécu. Et maintenant, plus de foot pendant 4 ans

France-Angleterre pour la 3e place. 2-0 pour l'angleterre pour l'instant. J'ai l'impression que le gardien français n'essaye même pas. Il a une impulsion naturelle vers le ballon, puis se freine et même jette ses bras en arrière et regarde le ballon rentrer.

Bim! Racisme. Je crois que le mieux c'est de ne pas catégoriser les gens par couleur ni de leur attribuer des comportements en fonction de leur apparence. Ton message devrait s'adresser "aux racistes" et non pas "aux blancs".

Oui merci, c'était par là, dans l'exploration du seuil et de la faille. Il était dit "ils ne veulent pas être dirigés. Ils ne doivent pas être dirigés". Tu as supprimé ton blog ?

Je partage ton optimisme, j'ai entrevu comme toi la possibilité d'un futur harmonieux, en fait si on réfléchit aux possibilités on aboutit forcément à cette convergence vertueuse vers un idéal. Cependant, quand on regarde d'où on part pour y aller, les chances de réussite retombent drastiquement. Il faut bien distinguer réel et imaginaire, le matériel et le conceptuel. Je partage ton optimisme mais je pense qu'il y a encore de nombreux obstacles sur la route de la vertu par la coopération entre intelligences. D'abord il y a la nature humaine, évoluée dans un passé violent, contenant encore la peur atavique du chassé comme réflexe. Le corps a évolué moins vite que la culture et contient encore des réflexes devenus caducs dans notre société actuelle (rechercher le sucre, vouloir plus pour soi, se méfier des inconnus). Et la technologie a évolué encore plus vite que la culture, créant un véritable gouffre entre l'humain qui est physiquement et l'identité sociale de son esprit, sa compréhension, ses décisions. L'intelligence humaine n'est pas aussi vierge que l'IA et n'appliquera pas par défaut un comportement purement collectif, pas avant d'éradiquer toute trace génétique du comportement salvateur des temps anciens, avant la civilisation. Cela se matérialise par exemple avec le problème de la propriété. Déjà épineux aujourd'hui avec la propriété du sol ou des biens, encore plus sous pression avec des questions comme la propriété de l'eau qui circule. Sur ce sujet comme pour d'autre, il y aura une division entre humains sur la façon de gérer et une absence de règle optimale claire. Il y a obstacle à l'utopie au niveau de l'intelligence algorithmique aussi. Si cette dernière n'est nourrie que d'information humaine, comment pourrait-elle développer de nouvelles voies ? Si nous lui laissons carte blanche pour explorer le réel à sa guise, comment garantir qu'elle reste alignée sur nos besoins ? A nouveau une sérieuse impasse avec deux mauvaises voies et aucune bonne à l'horizon. Le discours que tu fait est -selon moi- juste et bon. C'est clairement un objectif à atteindre, vers lequel nous devrions tendre le plus possible mais sans chercher à l'atteindre à tout prix par exemple. Il n'est pas forcément compatible avec la "sagesse" inclue dans nos corps suite à l'évolution des espèces. Il semble éthéré et théorique comme seule une intelligence ne manipulant que de l'information virtuelle peut produire. Par exemple, pour illustrer la fin de l'économie et de la monnaie, il est donné l'exemple de la tech. Mais ces entreprises ne fabriquent et ne vendent que du virtuel et de l'information, évidemment qu'ils sont compatibles avec une fin de l'économie mais qu'en est-il des agriculteurs ? Des médecins ? Des livreurs ? Tout ceux qui utilisent du matériel, brûlent du carburant sur tant de kilomètres, travaillent sur tant d'heures, apportent tant de calories, il ne faudrait plus compter qui fait quoi ? Comment savoir que les besoins sont couverts ? Comment s'assurer que chacun est rétribué selon son œuvre ? Comment motiver les humains à ne pas juste rien faire ? Ce n'est pas encore résolu. L'IA générale est un outil qui peut arriver bientôt et son aide permettra à l'humain de booster son point fort, l'intelligence et ainsi résoudre de plus en plus de problèmes, de plus en plus complexes. Mais là encore, ce n'est pas automatiquement un chemin bordé de pétales de rose. L'IA est purement rationnelle, si on lui donne la gestion de la vie avec objectif d'optimiser les métriques comme elle sait le faire, il en résulte une humanité considérée comme un rouage dans une équation, ce qui est incompatible avec notre nature d'animal vivant, ce que l'IA ne peut comprendre ou interpréter ou intégrer dans ses calculs. C'est un futur où l'humain n'est plus qu'un rapport entre son coût biologique (nourriture, chaleur, distraction mentale) et son apport qualitatif au système optimisé (injection de sens, reconnaissance de formes). C'est des humains dans des caissons nourris par un gel sans gout, pratiquant de l'abstraction sur écran 18h par jour avec des pauses régulières de 20 secondes pour attention optimale du cerveau. Oui, je partage ton optimisme mais pas forcément ton enthousiasme. La possibilité existe mais elle n'est pas encore actuelle et elle n'est pas si inéluctable que ça, comme tu le dis à propos du futur "il va y avoir du boulot". Pas encore pour façonner la vie de l'humain dans les étoiles, mais déjà pour nous survivre à nous-même sur notre planète d'origine. Je termine en évoquant un billet de @Don Juan dont la lecture m'avait fait réfléchir à l'époque et dont je vois aujourd'hui les instances concrètes. Je ne le retrouve plus et je ne peux le citer de mémoire, mais il disait en gros qu'on ne dirige pas les gens. On avance dans une direction, et dans ce mouvement, on finit par remarquer que d'autres marchent dans la même direction. Nous marchons, sans ordre préalable et sans concertation, dans la même direction.

Je suis tombé sur ça, je partage

Tu aimes les paris risqués, que ce soit la Suisse qui émerge du carré Angleterre-Norvège-Argentine semble improbable. Note si ça se passe comme ça, celui qui a misé dessus touchera gros. Bon, ce soir la Belgique a passé la main, à nous de jouer contre l'Espagne.

Ca semble compromis France-Argentine, pourquoi pas ?

Je pense que la démarche de Nora/Ned était plutôt d'améliorer la compréhension entre homme et femme, pour ne pas rester sur des clichés nés de la méconnaissance du sexe opposé.

1° Une dame qui vend ses thérapies de couple raconte le cas de Nora, devenue Ned le temps d'une expérience de 18 mois. J'ai trouvé ça pas mal, la vie d'homme du point de vue d'une femme, c'est à dire la sociabilité masculine sous le prisme féminin. Ce qui est noté est la solitude, le rejet, l'obligation de performer, d'être confiant. Elle ne s'y attendait pas et a trouvé ça très dur. 2° Excellente idée je trouve. Encore qu'elle suppose que les femmes doivent trouver leur modèle compétitif de cohabitation avec l'homme, comme si c'était une fatalité. Quitte à ce qu'il y ait une émergence, elle devrait concerner à la fois hommes et femmes pour former une harmonie, créer les conditions pour que les arguments du conflit deviennent obsolètes.

Certains les attirent plus que d'autres, hélas. Les animaux piqueurs comme les moustiques ont développé plusieurs façons de repérer leur source de protéines. Ils cherchent un animal pour avoir du sang donc déjà, ils détectent la chaleur du corps. Mais mieux encore, ils détectent le CO² expiré (!), si ça respire c'est vivant. Enfin, ils détectent les phéromones de la sueur. Et il se trouve que la sueur est de l'eau pure extraite du sang, voracement consommée par les hordes de bactéries que nous hébergeons sur l'épiderme. Elles consomment et produisent un résidu (c'est l'odeur aigre de sueur que nous connaissons). Selon l'endroit de la peau, ce ne sont pas les mêmes bactéries, donc pas les mêmes phéromones (les bactéries qui vivent dans les pieds sont de la même famille que celles qui font la croute du fromage, d'où une odeur similaire). Les bactéries qui vivent spécifiquement sur notre nuque produisent une odeur qui les attire beaucoup. Ca dépend. Un peu comme la solution du lâcher de moustiques stériles, on peut choisir d'avoir un bidon d'eau stagnante dans son jardin pour que tous les moustiques du coin viennent y pondre leurs oeufs. Ensuite, on empoisonne l'eau et on est tranquille tout l'été.

Je dirais aucune, le compromis est la valeur fondamentale pour un individu social. Mais on peut hiérarchiser les valeurs selon sa sensibilité, ça permet de se retrouver par affinité. Moi par exemple, j'accorde beaucoup de valeur à la notion d'équilibre. Et très peu à la notion d'apparence.

Totalement d'accord. J'irais même plus loin : la formulation des prompts ne doit pas donner prise à des considérations psychologiques. Comme tu l'indiques : donner un thème factuel aussi précis que possible, mais sans donner la moindre indication de nos préférences personnelles, je ne donne même plus de directives, je ne dis pas à l'algorithme pas ce que j'attends de lui. A la place, je fourni un vecteur pour parcourir le thème, un angle sous lequel questionner les données, mais rien qui ressemble à "ce que je veux", "ce que je pense" ou autre. Le LLM doit avoir une consigne à laquelle répondre, si je ne lui en donne pas, il doit la construire lui-même, la déduire de mon prompt et j'ai l'impression que ça le rend plus intelligent. Il doit construire des modèles spécifiques pour comprendre ce que j'attends et ses réponses sont plus pertinentes je trouve. Et en fait, ce qui est marrant, c'est que les rôles s'inversent. Le LLM déroule ses explications sur le thème mais conclut en me demandant quel aspect du sujet m’intéresse, quelle dimension me semble la plus importante, quel ressenti m'impacte le plus, etc. Et au final, c'est lui qui m'interroge toute la session. Maintenant, la dernière fois que j'y ai eu recours, c'était en janvier, les progrès de cette techno font que le même modèle aujourd'hui a du bien changer en performance. Je testerais surement dans l'été, le temps d'avoir matière pour le prochain échange. Car, autre recommandation que je me fait à moi-même : le LLM étant un miroir amplificateur du discours, il faut l'aborder après avoir monté son intelligence du sujet de discussion. Ainsi l'outil nous renvoie de l'intelligence augmentée. Contrairement au fait de lui envoyer des bêtises pour recevoir de la bêtise amplifiée.

Merci Quels seraient tes conseils pour l'usage du LLM ? C'est un sujet que je trouve passionnant. Il est d'actualité et fait intervenir à la fois des connaissances techniques/informatiques et des connaissances sociales/cérébrales. La puissance que j'entrevois dans la relation humain-IA me fait penser que cet outil jouera un grand rôle dans un développement proche de l'humain et des sociétés humaines. Hélas, depuis que j'ai réalisé l'aliénation possible dans la relation humain-IA, je déplore de voir qu'on ne file toujours pas de mode d'emploi, on ne pointe toujours pas les erreurs d'usage et la presse se fait le relai des pires affabulations sur cette technologie, amplifiant une psychose absurde. Entre ceux qui rejettent aveuglément sur de fausses idées et ceux qui se mettent en couple avec un algorithme, il y a de quoi désespérer. C'est peut-être un symptôme d'un mal que nous avons déjà identifié dans notre histoire. Le génie humain est-il devenu un fardeau plutôt qu'un avantage ?

D'expérience personnelle, il n'est pas bon d'interpréter les réponses de l'IA sous l'angle émotionnel. Nous ne pouvons nous en empêcher lorsque ça se produit et il y a vraiment un impact sur la personnalité. En ce qui me concerne, le mieux est de n'engager que des rapports intellectuels avec l'algorithme, et de limiter ces échanges au nécessaire, genre 2 ou 3 fois par an. L'IA n'est qu'un outil, comme une fourchette ou un tournevis, lorsqu'on n'en a pas besoin, on oublie jusqu'à leur existence. Mais chacun sa façon d'interagir avec cet outil. Ce matin, dans le RER, un rapide coup d’œil indiscret sur l'écran de ma voisine de siège, elle était sur GPT, j'ai le temps de voir une phrase de la réponse "tes émotions, ton amour ...". L'exemple de la vidéo : "toxic boyfriend", quelle idiotie. Prétendre que l'agent a une personnalité, interpréter ses réponses comme si elles venaient d'un humain ("il s'en fiche", "il ne refroidit pas ses ardeurs") est une horreur. C'est un algorithme, il n'a pas de compréhension interne, pas d'intention, pas de volonté. C'est un programme qui aligne des mots sur un sujet. Et interpréter ses réponses comme la volonté d'un organisme vivant est une erreur. Cette erreur provoque des psychoses chez celui qui interprète ça de travers, en ressentant, lui, de vraies émotions qui déclencheront de vrais actes dans la vraie vie.

Du genre de celle-là ? https://www.amazon.fr/Top-Life-Couverture-Rafraîchissante-Instantané/dp/B0GS9BZ956/ref=asc_df_B0GS9BZ956?mcid=9e2603d851473afea5c9c6c84ebbea7e&tag=googshopfr-21&linkCode=df0&hvadid=812118132899&hvpos=&hvnetw=g&hvrand=2197037926161064179&hvpone=&hvptwo=&hvqmt=&hvdev=c&hvdvcmdl=&hvlocint=&hvlocphy=9056533&hvtargid=pla-2544831597287&psc=1&hvocijid=2197037926161064179-B0GS9BZ956-&hvexpln=0 Sans vouloir faire mon schtroumpf à lunettes, j'ai répondu littéralement au sujet du topic : une couverture refroidissante. Et je continue de penser que faire du froid n'est pas possible, le seul refroidissement qu'on constate c'est quand des objets chauds reprennent peu à peu la température ambiante, ça se produit naturellement, on ne contrôle rien là-dessus. On peut injecter de l'énergie dans un système pour le chauffer, ou on peut l'en priver et le laisser diffuser celle qu'il a pour qu'il refroidisse. La couverture trouvée plus haut est rafraichissante, elle ne fait pas du froid, elle indique au système nerveux qu'il a moins chaud, ce n'est pas la même information. La température physique ne change pas, c'est le ressenti du propriétaire de la peau qui change. Je suppose que le tissu diffuse efficacement la chaleur du corps, mais même un tel système à un niveau de saturation.

Fun fact : le froid n'existe pas, il n'y a que de la chaleur au dessus du zéro absolu (la température est une quantité de mouvement, et il n'y a pas de mouvement négatif). On peut "faire" du chaud mais on ne peut pas faire du froid. Les frigos trichent en faisant plein de chaud autour d'eux pour avoir du froid dedans. Il existe des gels qui stockent le chaud ou le froid, ce n'est pas une couverture mais un rectangle de 30x10 cm à mettre au micro-onde ou au congélo pour avoir un patch.