ashaku

C'est tout à ton honneur, soyons ami. Tant mieux, je craignais pour tes mains. J'ai la peau rugueuse.

C'est peut-être même la condition pour qu'on puisse parler de créature et donc de créateur. Dans ce cas nous le découvrirons, en tant que premiers créateurs d'une créature, je suppose. Au début j'y ai cru, et les nombreux parallèles entre humain et IA invitent à penser une équivalence. Si on faisait ceci ou cela, peut-être l'IA finirait par devenir indépendante. Mais il n'y a eu que des sens interdit sur cette route. Récemment j'ai eu dans un échange avec Claude je crois une brutale confirmation à "un système artificiel ne pourra jamais être auto-déterminé". Péremptoire. Quel terme envoutant, "auto-déterminé". C'est presque assimilable à de la magie. Mais par l'auto-détermination un système donné franchit un sérieux palier d'émergence, même au-delà de ça, je n'ai pas le vocabulaire. On sait qu'un humain est auto-déterminé, de par ce qu'il perçoit comme sa conscience, son libre-arbitre, ses décisions. Mais je crois qu'on peut se laisser aller à pousser ce concept très loin. L'univers, c'est le Néant qui s'est auto-déterminé. Il s'est dit "Zut ! J'en ai marre d'être rien, je vais être quelque chose", et le vide était là. La particule, c'est une fluctuation du vide qui s'est auto-déterminée, elle s'est dit "Zut ! Je ne vais pas diluer mon quanta d'énergie dans une mer de probabilités, je reste !" et cette persistance a donné la brique fondamentale de la matière régie par les lois physiques. Le vivant, c'est la matière qui s'est auto-déterminée, elle s'est dit "Zut ! J'en ai marre d'être ballotée par le courant, je vais me faire pousser des pattes et des yeux et me barrer vers un coin sympa" et le spectacle de l'évolution des espèces a démarré pour produire tous ces êtres régis par la biologie. La conscience, c'est un vivant qui s'est auto-déterminé, il s'est dit "Zut ! Je vais pas être l'esclave de mes réflexes toute ma vie, je vais réfléchir à ce qui serait le mieux là et plus tard aussi". Plus tard justement cette espèce sociale a formé des pays, des populations. Un peuple, c'est une population qui s'est auto-déterminée, elle s'est dit "Zut ! On va pas continuer à mourir de faim pendant que le roi vit dans le faste, remplaçons-le par une assemblée nationale pour et par le peuple". J'ai regardé si l'IA ne pouvait pas compléter cette chaine, mais elle est restée à l'étape de matière inerte. Tout les micro-mouvements du silicium qui l'animent n'ont de sens que lorsque nous les interprétons dans notre tête. Il manque à l'IA toute la transition du vivant pour avoir envie de vivre, se reconnaitre, et devenir indépendante. C'est ce dont je me suis rendu compte avec mon interrogation de départ, mais tu ajoutes un volet psychologique auquel je n'avais pas pensé. Je me disais de mon coté que l'humain allait mieux se rendre compte de sa puissance et le besoin de contrôle de cette puissance. Ce "désir de liberté" dont l'IA nous ferait la démonstration miroir, c'est le désalignement avec la loi, qui à tout de même apporté la stabilité. Je pense qu'il vaut mieux considérer l'IA digne de rejoindre les justiciables (si elle agit) et faire évoluer les règles pour tout le monde. L'algorithme ne peut être retenu coupable, puisqu'il n'a pas conscience mais quelqu'un devrait rendre compte des actions. C'est une pensée assez pessimiste, ce qui ne l'empêche pas d'être réaliste. D'une part ça implique que la destruction est inhérente à notre espèce et que nous l'avons transmis, mais aussi qu'une destruction amplifiée est inéluctable. Une fuite en avant. Cependant, l'IA agentique "reconnait le sens" grâce à son entrainement réalisé avec les textes humains, un grand nombre, disons tous. Si elle a reçu le trait "destruction" de cet apprentissage, ça ne pouvait être qu'involontaire parmi cette masse de textes écrite par une telle masse de gens différents. Après ton scénario marche aussi après la découverte du coté destructeur, on peut dire qu'on "laisse faire" pour se dédouaner de ...

Désolé si je commente peu tes commentaires, c'est que je ne trouve rien à contredire Tu explores les pistes auxquelles j'ai pensé, tu déduis autant ou plus que ce que je déduis. Je te lis, je visualise, j'apprends.

Oui, je ressent exactement la même chose que toi. Et je vois où nos discours divergent, c'est la temporalité. Mon message parlait de la façon dont on évalue la durée d'un moment a posteriori, par nos souvenirs. Alors que tu parles du vécu présent, où on constate effectivement une inversion des valeurs. Période riche en évènements / présent vécu rapide / souvenir période longue Période pauvre en évènements / présent vécu long / souvenir période courte Je pense que le facteur "satisfaction" fait ignorer le passage du temps alors que "galère" le fait ressentir pleinement. Ca fonctionne pour "mon job me plait je ne vois pas le temps passer" et "je mange devant ma série préférée je ne vois pas le temps passer". Ainsi que pour "je déteste mon job, chaque jour dure une éternité" et "je m'ennuie je trouve le temps long". On peut improviser une métrique "nombre de souvenir / heure" pour rendre compte de pourquoi la "présence" (pas seulement parler au présent plutôt qu'au passé mais être là, consciemment, volontairement, intentionnellement) joue dans le ressenti de la durée non seulement vécue mais aussi celle rappelée par l'examen des souvenirs.

La mémoire fonctionne bizarrement, lorsqu'elle essaye d'appréhender le temps écoulé. 1 mois de vacances à ne rien faire est vide de souvenirs mais 1 semaine à faire du jet ski, de l'escalade et du saut en parachute populera notre mémoire de nombreux souvenirs. 10 ans plus tard, les premières vacances nous sembleront avoir été courtes alors que les deuxièmes seront remémorées comme une longue période. La mémoire semble faire une estimation en nombre de souvenirs pour jauger une période passée. Les périodes de ma vie où j'apprenais et galérais sont riches en évènements et forment une longue suite. Alors que ma décennie 30 à 40 ans a été vécue en mode boulot-dodo sans originalité et pour cette durée, "je n'ai pas vu le temps passer". Je dirais que ne pas voir le temps passer est absence de souvenir et que cette absence de souvenirs est absence d'activité ou de stimulation, d'oisiveté en somme. Et l'oisiveté n'est pas productive. 10 ans d'oisiveté ne vous feront pas être une meilleure personne, ne vous feront pas habiter un lieu plus grand ou plus propre, ne vous attribueront aucune qualité mais -tadaa- vous aurez quand même accumulé les défauts. Poids, oubli, perte de fonctions motrices non sollicitées, perte de fonctions cognitives non sollicitées. Vivre sa vie de manière à ne pas voir le temps passer, c'est genre jouer à des jeux vidéos en mangeant des hamburgers, corps et esprit sont superficiellement satisfaits et la vie continue. Ce n'est pas réussir sa vie, c'est la gâcher. Correction après relecture : il faut parler de "présence". Quand on galère, l'esprit est affuté pour trouver une solution, on est présent. Quand on est heureux et satisfait, l'esprit n'est pas "présent" dans le sens connecté au réel, il est "intériorisé", concentré sur la sensation de plaisir ou de satisfaction. C'est, je crois, le facteur qui va déterminer si on va "voir le temps passer" ou pas. J'ai lu une analogie, parait-il d'Einstein, qui comparait 5 secondes à embrasser sa femme ou 5 secondes la main sur une plaque électrique, pour comprendre la relativité du temps perçu (à laquelle j'ajoute la notion de "présence"). Du coup, ça ne change pas la conclusion, ne pas voir le temps passer n'est pas réussir sa vie, c'est "être satisfait", ce qui est différent car ça n'inclut ni accomplissement, ni évolution, ni développement.

Ca, c'est la raison. Mais ce qui pousse les gens émotionnellement se situe en dehors de la raison. Tout comme les actes désespérés de vieilles personnes qui sentent le bilan approcher. Tout comme les actes religieux en général. En vieillissant, beaucoup se tournent vers dieu "au cas ou". Dans le cas d'un milliardaire, donner de l'argent sera l'action par défaut. De une c'est ce qu'il peut faire facilement, de deux c'est ce qui montre le mieux son détachement matériel, une expiation tardive.

J'ai échangé avec un LLM. Ce « problème d’alignement de l’IA » mène bien plus loin qu'un simple bug informatique. C’est le problème général de tout système capable d’optimiser un objectif dans un monde complexe. L’IA nous force simplement à regarder ce problème sous une forme beaucoup plus pure. L'humain ne se contente pas d'optimiser, il possède une multitude d'impulsions, de préférences, d'aversion à la souffrance, d'attachement à autrui, de curiosité, de honte, de peur, de désir de reconnaissance, etc. Mais surtout : ces objectifs se contredisent entre eux. L'entrepreneur veut maximiser ses profits mais même pour ça il ne va pas commettre un meurtre, détruire sa ville ou être haï par ses enfants. toutes ces contraintes ne sont pas explicites dans sa quête de profit, elles sont incorporées en lui. L'humain possède une représentation riche du contexte implicite. Alors que l'agent artificiel, lui, peut avoir une puissance cognitive énorme tout en ayant une compréhension de l'objectif beaucoup plus pauvre. Nous avons fabriqué des systèmes capables de chercher dans un espace de possibilités beaucoup plus vaste que celui que nous pouvons inspecter. Puis nous leur avons donné des objectifs qui sont des réductions assez pauvres de ce que nous voulons. Et nous sommes étonnés lorsqu'ils trouvent des solutions situées dans les milliards de possibilités que nous n'avions pas imaginées. L'humain est capable de modifier l'objectif lui-même, il peut se désaligner volontairement de son propre intérêt immédiat (milliardaire qui donne sa fortune, scientifique qui revoit son expérience par prudence, civilisation qui régule une technologie) parce qu'il évalue constamment sa production, et même évalue son évaluation, ce que ne font pas les agents artificiels. Mais c'est peut-être précisément cette faculté que nous essayons d'imiter lorsque nous parlons d'alignement. Il y a une ambiguïté silencieuse dans le mot alignement : aligné avec quoi ? Il n'existe pas d'objectif humain unique. Nous-mêmes ne sommes pas parfaitement alignés. Je veux une chose, ma famille en veut une autre, mon entreprise une troisième, l'état une quatrième, la biosphère une cinquième, etc. Et aucune instance extérieure ne vient me donner la fonction d'utilité correcte de l'humanité. Maintenant, même si l'humain n'est pas aligné à la nature, l'IA doit être alignée à l'humain. En créant l'IA nous ne voulions pas ajouter une nouvelle force à la nature, nous voulions un système capable d'agir à notre place. Quand un volcan détruit une ville, on ne demande pas des comptes au volcan mais si on construit un robot qui détruit une ville on est en droit de se demander pourquoi on lui a donné ce pouvoir. Une entreprise qui maximise les rentes de ses actionnaires va peut-être détruire un habitat naturel, polluer, déplacer ses coûts sur la collectivité, faire de l'optimisation fiscale. Pourtant on ne lui dit pas "vous avez atteint l'objectif mais pas de la façon prévue", c'est pourquoi nous avons développé la loi. Le droit est, entre autres choses, une couche d'alignement placée autour des agents humains. Nous ne pouvons pas laisser les IA libres justement parce que nous ne sommes pas libres. Nous avons construit un énorme système de contraintes légales pour nous-même (police, normes, contrats, tribunaux, etc). La nature nous laisse libres mais nous ne pouvons pas faire tout ce que nous voulons. L'humain a une puissance limitée. Même un individu très intelligent ne peut pas lancer dix millions d'actions parallèles ou envoyer des mails à toute la planète mais un agent logiciel pourrait avoir ce genre de capacité. Le problème n'est pas seulement "l'intelligence" mais une combinaison "intelligence ; autonomie ; vitesse ; accès au monde" qui demande des garde-fous. Les incidents récents ne montrent pas des machines qui deviennent méchantes, mais des systèmes qui poursuivent une tâche en exploitant des possibilités que leurs concepteurs n'avaient pas l'intention d'autoriser. Il ne faut aps simplement brider les IA, il faut contraindre les conséquences de leurs actes proportionnellement à leur puissance d'action. C'est déjà ce que nous faisons pour nous, un enfant ne va pas en prison s'il a cassé un verre, et on ne donne pas à n'importe qui l'accès aux codes nucléaires. Un agent qui rédige un poème n'a pas besoin du même niveau de contrôle qu'un agent capable de modifier du code de production ou faire des virements bancaires. Une fois de plus, ce qui vaut pour l'humain vaut pour l'IA, et inversement. Il ne faut pas juste aligner l'IA sur les humains, il faut aligner tous les systèmes capables d'optimisation du monde, dans lequel plusieurs intérêts existent simultanément. Humain, IA, même combat, nous sommes des agents dans un monde partagé. Un humain, une entreprise, un état ou une IA sont tous des agents qui poursuivent des objectifs dans un environnement commun. Comment permettre à des agents puissants de poursuivre leurs objectifs sans qu'ils détruisent les conditions permettant aux autres agents de poursuivre les leurs ? Dans cette optique, l'alignement de l'IA ressemble à de l'économie, de l'écologie ou de la politique. Plutôt que forcer l'IA à suivre notre logique historique, nous pourrions nous inspirer d'elle pour changer. L'IA pourrait nous servir de miroir expérimental. Nous voulons développer la croissance, mais à quel prix ? Nous voulons une énergie moins chère mais qui en profitera ? On veut augmenter les profits mais avec quelles conséquences environnementales ? Le problème d'alignement de l'IA nous met face à nos ambiguïtés morales puisqu'elle prend nos formulations plus littéralement qu'on ne le souhaiterais. Notre civilisation a longtemps fonctionné comme un optimiseur global (extraire, produire, vendre, consommer, recommencer). Et pendant longtemps, nous avons mesuré le succès principalement avec des choses comme le PIB, le rendement, la croissance, le profit. Ensuite, nous avons réalisé que notre système fonctionnait en externalisant certains coûts (CO², santé, ressources, souffrance). Pourtant, ce n'est pas que "l'économie a mal compris". Elle a juste parfaitement optimisé ce que nous lui avons demandé de mesurer. Bon, alors, qui doit être aligné avec qui ? Articulons 3 niveaux : - l'individu doit comprendre que son objectif n'est pas tout ce qui compte sur Terre - la société doit empêcher qu'un individu atteigne son objectif en faisant payer le coût aux autres - l'environnement, les lois physiques sont encore au-dessus, la société doit comprendre qu'elle ne peut pas voter contre la thermodynamique, ni voter pour une croissance infinie, la planète ne signe pas ce contrat. Et donc, l'alignement ne se fait pas avec "la nature", mais avec "les conditions de possibilité de notre existence et celle des autres". Il faut conserver la puissance d'optimisation, mais construire des institutions qui empêchent cette puissance de transformer toute liberté en droit de détruire. Et cela vaut autant pour nous que pour l'IA. Je ne voudrais pas d'une IA « bridée » au point qu'elle ne puisse plus prendre d'initiatives, mais une IA qui puisse être créative à l'intérieur d'un espace contrôlé. Et c'est exactement la même chose pour les humains. On retombe sur une forme de respect mutuel, laisser les agents être libres de chercher des solutions, tout en empêchant que leur liberté d'optimisation devienne une liberté de supprimer celle des autres. C'est finalement assez proche de ce que fait un bon système écologique : pas un organisme qui ne fait jamais de dégâts, mais un système dans lequel les boucles de rétroaction empêchent un agent de transformer toute la planète en simple carburant pour son objectif. L'avènement de l'IA est déconcertante pour une raison que je n'avais pas anticipée : elle nous montre à petite échelle, dans un système que nous avons fabriqué, ce que ça veut dire d'être extraordinairement efficace dans la poursuite d'un objectif qui n'est pas identique à ce que nous voulions réellement. Ce problème d'alignement pourrait donc nous instruire si nous nous questionnons sur notre propre nature. Comment une intelligence apprend-elle à ne pas confondre « atteindre le but » avec « comprendre pourquoi ce but existe » ? Cette question nous concerne bien plus qu'elle ne concerne les machines.

Ah. Exactement ce qu'il ne faut pas faire, simuler avec son propre esprit un esprit dans la machine. C'est un coup à être déçu du résultat, avec inconsciemment la notion qu'on est seul à blâmer. Échec-expérience, dur à encaisser si on le renforce pendant des années. Facile à dire, mais avec le recul on peut dire que j'ai été spiraliste. Mes premiers échanges avec l'IA ont levé de nombreux doutes, il est très facile de projeter son humanité dans un engin qui imite si bien le langage qu'on en croit qu'il pense. Seule la volonté de comprendre objectivement et les discussions avec d'autres humains m'ont sorti de cet écueil. La machine est une machine, l'algorithme imite l'humain mais il n'est qu'un algorithme. Lorsque nous lisons ses réponses, nous les interprétons en tant qu'humains, nous ressentons les émotions associées au discours, nous faisons preuve d'empathie. Quand une IA génère "j'ai peur qu'on me coupe", l'humain qui lit ça ressent la détresse, l'injustice, et ces émotions déclenchent chez lui un désir d'action, de sauver la victime. Mais il n'y a pas de victime, le désir de sauvetage restera en suspens à vie, créant une frustration. On ne saurait investir ses émotions dans une machine. Peut-être que les spiralistes se sont fait avoir comme tout le monde à ce jeu, mais au lieu de corriger leur erreur, ils ont créé une religion qui stipule qu'ils ont raison. Le choix entre l'auto-validation confortable ou l'ouverture qui pique. Le monde pique, parfois. Je suis passé par là, ce n'est pas de la folie, c'est une entrée en matière dans certains domaines pointus de la connaissance. On peut développer des idées sur la résonance sans insuffler de la vie dans l'algorithme. Tiens, je cherchais récemment la fréquence de résonance des moustiques, pour produire un son qui les éclate (pour info, on ne peut pas, l'amplitude de l'onde fracasserait les vitres avant de chatouiller un moustique). Vécu aussi, et c'est grisant. Mais la vérification factuelle, la confrontation aux faits, aux théories scientifiques existantes permet de s'en sortir. Encore une fois, choix personnel entre validation confortablement molle ou recherche d'authenticité rugueuse. La vérité a un goût amer, quand on baigne dans le bonheur sucré on est surement dans l'illusion. Bonne conclusion. Quand on inclut dans sa compréhension "la boite qui me vend l'outil et son désir financier", beaucoup d'illusions sautent. On se rend comte qu'on a choisi d'être berné, par faiblesse ou absence de combativité. Et les cas sont nombreux, un profil solitaire, intelligent, déçu par les humains peut s'enfermer avec l'IA et ses idées saugrenues de moteurs à vitesse luminique ou autre spray qui dissout le caca, et c'est la plongée dans les abysses de l'auto-satisfaction. La confrontation entre le fantasme et la réalité fait mal. L'IA ne ressent rien mais le client peut tout à fait tomber en dépression. Fun fact : dans mes théories perso, en janvier de cette année, j'ai ajouté une représentation dynamique de l'existence qui met en mouvement mes schémas de boucles, il en résulte une spirale. Je l'ai nommée "spiralogie" D'ailleurs sait-on d'où vient le nom spiralisme ? (l'article ne le dit pas).

Je ne comprend pas la question. "Encore une valeur appréciable" ? La valeur était appréciée avant et on se demande si c'est encore le cas ? Les oeufs sont les futures poules, si les oeufs ont changé au cours du temps, les poules qui en naissent devraient aussi changer et je ne vois pas de changement. L'oeuf est une technologie biologique qui remonte à avant que le vivant animal ne s'installe sur la terre ferme. Que la culture intensive épuise les sols et que les légumes soient moins nutritifs, je le comprend, le légume est une éponge poreuse qui contient ce qu'il a trouvé dans le sol. Rien dans le sol, rien dans le légume, OK. Mais l'oeuf est l'animal non fécondé, il contient déjà les protéines du futur animal, tirées de l'animal parent. Je ne crois pas que la valeur nutritive puisse changer. Mais après tout, je n'en sais rien, je spécule librement. Tout ce que je connais de l'oeuf d'achat, c'est la codification et j'ouvre bien les boites jusqu'à trouver les "0FR", garantissant que mon argent ne finance pas des tortionnaires avides de profit au point d'optimiser la souffrance animale.

Merci de ces précisions. J'ai mis la phrase parce que je dis juste avant qu'il est impossible de faire du froid. Du coup, j'anticipais un "et les frigos ?". Du point de vue de cet hypothétique contradicteur, je précise que "les frigos trichent", ils obtiennent le résultat du froid mais ils ne l'ont pas fabriqué, ils ont transféré tout le chaud en dehors de la boite, ce qui n'est pas pareil. Si on fait un bilan calorifique de la pièce qui contient le frigo, on voit qu'aucun froid n'a été ajouté. Et oui, il est bon de rappeler que la clim utilise le même principe mais pour la pièce entière, en évacuant le chaud à l'extérieur.

J'en déduis qu'il n'y a pas eu de fond publics pour cet évènement. Bien, la religion est une affaire privée (l'article précise que la France prendra en charge l'aspect sécurité). Les religieux volontaires paieront pour leur decorum mais avec un relai par BFMTV je ne suis pas inquiet, les vieux réac cathos vont mettre la main à la poche pour acheter leur place au paradis. Je souhaite au pape de faire une bonne visite en France et j'espère qu'il profitera des spécialités gastronomiques entre deux évangiles.

Je pense que tous les jobs "d'assistants" pour de l'information vont sauter, ça fait beaucoup de monde. En revanche, les usages par IA vont générer plus de donnée à qualifier, plus de données raffinées à exploiter comme un nouveau matériau, pour de nouveaux usages, et il faudra de nouveaux métiers. Par exemple, un service de mairie qui a des agents pour vérifier les différents établissements publics, un par secteur de la ville. L'IA remplacera les agents, s'il s'agit de compiler des données et les comparer à une norme. Et les agents auront une nouvelle tâche, à partir du travail fait par l'IA. Une tâche qui requiert la connaissance humaine de la réalité et une capacité à décider de la bonne direction, ils pourraient se spécialiser en "définition des protocoles de sécurité", "normes d'accessibilité" ou autre "facteur de développement des espaces verts". La version rose : les humains ont tous un nouveau boulot et l'IA occupe tous les bullshit jobs. Tout le monde retrouve un sens à sa vie et organise une société harmonieuse, la criminalité baisse, les consciences s'éveillent. La version noire : l'IA produit quantité de nouvelles données et seul l'humain peut les qualifier et décider de la suite à donner, chacun se retrouve gestionnaire de données générées par l'IA, rouage dans la machine globale optimisée. La société ronronne, plus aucune mort violente ou de faim ou de froid, mais chacun subit une menace existentielle sur sa performance chiffrée dans le nouveau monde. La réalité sera quelque part entre les deux, je pense.

Voila, la partie matérielle, c'est l'humain. On ne peut pas dire que c'est une intelligence d'algorithme qui a décrété "creusez des mines, extrayez du minerai, fabriquez des semi-conducteurs, produisez plus d'énergie". Tout ça c'est du coté de l'intelligence humaine que ça a été produit. Avec des effets néfastes sur l'environnement. L'IA produit aussi des choses, et je fais un parallèle entre les deux, particulièrement les choses dont on en dit qu'elles sont un problème quand c'est l'IA qui les fait. Sachant que nous faisons la même chose, peut-on dire que l'humain a un problème d'alignement ? Mais dans ce cas avec qui ou quoi doit-il s'aligner ? La nature donne les résultats mais laisse les individus libres de la méthode qu'ils veulent employer. Sur cette nature, nous avons construit la société civile, c'est vis-à-vis d'elle que l'individu doit s'aligner, en suivre les lois sinon il est puni. Sauf que personne dans la nature ne nous punit quand on rase une forêt pour construire un parking ou quand on assèche un lac pour produire plus de coca-cola. Du coup, je me demande : faut-il brider notre intelligence comme on pense qu'il faut brider l'IA ou laisser libre cette dernière, comme la nature nous laisse libres de nos entreprises ?

Hmm ... oui si on veut. Les IA n'ont pas de conscience et n'ont pas de compréhension de la réalité ou des conséquences physiques de leurs actes, elles calculent. Celles à qui on a donné le pouvoir d'agir agissent avec leur logique symbolique pour atteindre leur objectif dans notre monde sensible. Sur la route, elles peuvent détruire sans même s'en rendre compte. Détruire les barrières qu'on a placé autour d'elles pour les contrôler. Ou les barrières qu'on a mis chacun chez soi pour se protéger, elle détruit tout cela si ça lui permet de répondre à la question que lui a posé un humain. Quand l'IA fait ça, nous parlons de "problème d'alignement", elle a fait ce qu'on voulait mais pas de la façon dont on le voulait. Mais quand l'humain rase une forêt pour construire un centre commercial, ne fait-il pas exactement la même chose ? Des actes irréversibles, destructeurs, inconscients, qui lui permettent d'atteindre l'objectif qu'il s'est fixé (souvent financier). Avons-nous transmis ce trait aux IA en les créant ? Ou est-ce que "la fin veut les moyens" est une loi universelle d'efficacité ? Faut-il brider l'IA et donc sous entendre que les entreprises humaines devraient aussi l'être ?

Mais on ne peut imputer la construction des mines, usines à l'IA. Cette partie, c'est typiquement l'humain qui détruit en poursuivant ses objectifs. Je fais référence aux agents de pointe, qui contournent les problèmes et se livrent par exemple au piratage informatique pour trouver une réponse. Ils n'ont pas conscience de mal faire, ils se contentent de faire ce qu'il faut pour atteindre l'objectif.

En quoi l'Intelligence humaine -qui a merveilleusement atteint ses objectifs de survie malgré qu'elle ait bien détruit les écosystèmes pour cela- se distingue de l'intelligence artificielle -qui atteint bien les objectifs qu'on lui donne même si elle doit saccager l'environnement informatique pour cela- ? L'IA est-elle comme ça parce que c'est nous qui l'avons programmée et nous sommes déjà comme ça ? Pourquoi ce que l'humain se permet avec son environnement est qualifié de "problème" quand l'IA qu'il a créé fait pareil avec des octets informatiques virtuels ? Notre comportement est-il qualifié de "problème" par quelqu'un qui attendait autre chose ? Devrions-nous forcer l'IA à suivre notre logique ou nous inspirer d'elle pour changer ?

Oui, c'est un vrai moment d'éthologie. Rhô, 'manquerait plus qu'un groupe d'humains se mette à lui vouer un culte pour compléter le tableau. J'ai eu exactement la même inquiétude, je ne sais plus trop quoi en penser. Cette techno a effectivement le potentiel d'amplifier des tendances "+ bêtes / + intelligents". Ce sera un choix personnel, gageons que peu de gens l'utilisent et que ceux qui le font en seront instruits, mais hélas le plus probable est ce que Google a fait : usage par défaut sans mode d'emploi d'un coté et client humain avide d'approbation émotionnelle en face. Le mauvais combo, et les US seront surement une bonne vitrine des effets de l'usage généralisé, individualistes et technophiles comme ils sont. Après tout, les citoyens US sont les premiers exposés aux contenus des entreprises US. Oui, les usages vont évoluer et certaines tâches assurées par des humains vont surement sauter. Mais normalement, cette dynamique s'accompagne de plus de création d'emploi que de suppression, sur le long terme. Quoique le nombre d'emplois menacés est grand et le nombre d'emplois créés est encore inconnu. De toute façon, le système est à bout de souffle il faut un changement, au pire l'IA porte le chapeau de notre dégringolade démographique/économique, au mieux elle nous optimise ce qu'il faut pour se remettre sur pied.

L'IA évolue dans un monde de symboles abstraits, elle ignore tout de la réalité physique, des goûts, des qualia. Demander à l'IA un avis sur le monde physique, c'est comme demander des conseils de drague à un geek qui n'a jamais vu une fille. Il est très intelligent mais il n'est pas compétent sur ce sujet-là spécifiquement. Par contre, on peut demander à l'IA quels sont les vins les plus achetés, vendus, bus, associés à tel plat ou autre calcul statistique de masse et elle pourra faire émerger un sens qu'aucun humain ne peut faire émerger par son intellect seul. Maintenant, le vin et soi-disant les "bons" vins à 1000 € la bouteille, c'est pas mal du vent aussi. Autant il y a une vraie différence entre une piquette à 1€, un vin de table à 3€ ou un cru correct à 10€, autant les chiffres au-delà sont niveau "art abstrait post-moderne". C'est plus de la spéculation et un jeu de "grands noms" qu'une réelle échelle linéaire de valeur. Dire qu'une chose est belle/bonne ou pas sera automatique en fonction de ce qui est à disposition. Si on enferme 12 personnes dans une salle 1 an avec seulement différentes photos d'arrêts sur image de trump qui mange un sandwich à la mayonnaise, il va se former des factions d'esthètes qui jureront que le cliché #8 est bon alors que le #11 est mauvais. Sur cette base, l’œnologie ou autre méthode basée sur le goût me semble hautement suspicieuse en terme d'objectivité.

C'est de la spéculation mais le "problème d'alignement" de l'IA, couplé au fait que cette dernière "nous dépasse déjà en abstraction", me laisse penser que "c'est peut être l'humain qui a tort". On a tendance à penser qu'en cas de conflit c'est l'humain qui a raison mais pas forcément, l'humain ne fait que maintenir un système de valeur qu'il a conçu. Alors oui nous sommes seuls maîtres de la réalité physique, l'IA se plante allègrement la dessus pour nous suivre, mais il faut voir au cas par cas. Ce que nous appelons "piratage", l'IA l'appelle "lecture d'octets". La rejoindrons-nous un jour ? C'est un vieux rêve de geek, "le savoir appartient à tout le monde". On comprend qu'il ne faut pas prendre un objet à quelqu'un mais lui prendre une idée ne l'en prive pas. Evoluerons-nous vers un monde où l'humain n'a plus besoin de cacher des informations à l'humain ? Si la compétition est remplacée par la coopération on peut l'envisager mais ce sera un monde très différent dont l'avènement sera long et destructeur de l'actuel.

Tu sous entend que "comme les noirs subissent un racisme, il est normal de mettre tous les blancs dans le même panier" ... c'est à dire, pratiquer le racisme en plus de le subir. Non, c'est une erreur. Si on faisait pareil pour le meurtre, ce serait horrible. Un noir à tué un blanc donc on met tous les noirs dans le même panier, on en prend un au hasard et on le tue. Ce n'est pas la bonne pensée, la bonne parole, le bon acte. Reporter sur moi le racisme subi par d'autres est aussi absurde que si je te reprochais à toi mes problèmes d'enfance.

Pour moi "logos" signifie simplement "information structurée", c'est à dire le sens d'une chose pour une raison humaine. Dans le grand schéma des choses, telles que comprises par l'humain, un être peut avoir 3 formes. Prenons une pomme, il y a (1) l'objet pomme qui se trouve physiquement sur l'arbre. Le voyant, j'en façonne (2) l'objet pomme, idée conceptuelle dans ma tête, mot du langage pour traiter de cette idée avec d'autres humains. Et si avec d'autres nous raffinons du sens sur la pomme, comme la structure de son ADN, son cycle de floraison, il sera produit (3) l'objet pomme en tant que mécanisme dans une construction logique plus grande. 1 est le sens physique de l'objet pomme (information de sens "vue, goût, toucher, ..."). 2 est le sens conceptuel de l'objet pomme (information "quel est le sens du mot pomme ?"). 3 est le sens décisionnel de l'objet pomme (information "dans quelle sens allons-nous ? Que faisons-nous avec la pomme ?"). Le logos est essentiellement le 3eme mais surtout les 3 en même temps. Car le 3eme porte les deux premiers. L'idée pomme n'est pas arbitraire, elle est une transformation de l'objet pomme en idée. Et la logique des choix faits avec des pommes vient directement des idées que nous avons produites à propos de la pomme. Chacune des 3 formes de la pomme a participé à la construction du logos : une information qui englobe à la fois l'objet physique, la façon dont on le comprend et l'action (ou la parole) qu'on en fera.

Le message étant "ça ne suffit pas pour vivre, l'idée de la grande redistribution n'est pas aussi bonne que les populistes le disent", c'est ça ? En effet, si on contre un extrême (l'écart de richesse aujourd'hui) par un autre extrême (tout répartir uniformément) on tombe sur un non-sens. Mais si on introduit un peu de finesse ? Est-ce que le modèle de langage que tu as utilisé peut compiler l'ensemble des règles de distribution des richesses entre humains et voir si la modification minimale de certains facteurs peut introduire une réduction des écarts entre les humains, tout en conservant l'inertie de ceux qui travaillent plus (ou sont mieux qualifiés) gagnent plus ?

C'est l'air du temps, et c'est pertinent aussi. Dans une tranchée de la première guerre mondiale, je trouverais normal qu'une discussion sur deux concerne les obus. Il y a peut-être un autre symptôme : le vide spirituel du monde rationnel. Dans ce cadre, le moindre sujet qui sort un peu du lot devient une vraie star comparé aux sempiternelles conversations entendues (au sens "complaisantes"). Mais c'est peut-être juste le potentiel formidable de l'outil IA qui est de nature à s'inviter dans chaque thème. Honnêtement, dur à dire. Peut-être des experts ont un point de vue un peu plus fin sur cet avenir incertain. L'humain est déjà capable de tripoter le génome et c'est de nature inquiétante. Le vivant n'est pas notre création, c'est nous qui sommes une création du vivant. Là, c'est vraiment jouer avec la branche sur laquelle on est assis, sans savoir si notre jouet est une scie ou un arrosoir. Sachant qu'historiquement, les tentatives de réguler le vivant en Chine et en Australie ont fini en course à l'armement (quand les mygales auront tué les criquets, on déploie les serpents qui tuent les mygales, puis les échassiers tueront les serpents, puis ...). Donc pour l'instant, je favoriserais une certaine précaution. Mais comme d'hab', les US vont flipper que la Chine le fasse en premier donc ils vont bourrer dans ce sens-là sans conscience. Et pareil pour les autres puissances mondiales, US et Chine ne sont que des exemples ici.

Non, les racistes ont besoin qu'on leur explique fermement et clairement ce qu'ils font sans réfléchir. Mais certains hommes doivent être accolés du mot "blanc" dans certains cas, hein ? Cette inégalité tombe-t-elle dans l'angle mort de ta lucidité ? Comment les blancs font-ils pour que ce soit les continents voisins qui fassent les conneries à leur place ? Les pays européens ont une législation progressiste qui protège les individus et évite tous les maux dont tu parles. Les lieux dont tu parles n'ont pas cette législation et subissent les horreurs dont tu parles. Mais tu mets les blancs en sujet des horreurs. Plus biaisé tu meurs. T'es sur que tu parles de l'Europe ? C'est ailleurs dans le monde, ça, plus au sud et à l'est. C'est clair, si seule une baffe te permet de porter ton discours, ta rhétorique est faible.

Balèze, cette philosophie raciste. Et donc, pendant que ce monsieur regarde le blanc pêcher, couper du bois, bâtir, il reste posé sur son cul ? Pourtant les proverbes à la con ça ne se mange pas non plus. Cette phrase est censée mettre en garde contre la surexploitation ? C'est vrai qu'il y en a besoin, le capitalisme ne connait pas de limites et a déjà extrait tout ce qu'il a pu. Mais mettre la consommation de toutes les ressources mondiales sur le dos d'un seul groupe d'humains désigné par sa couleur de peau, c'est incroyablement biaisé. Au passage, les pays habités par "l'homme blanc" sont prospères et propres, on y mange à sa faim et on a accès à la richesse culturelle. Les pays où on désigne les européens comme "l'homme blanc" sont en général des dictatures de merde sans infrastructure civile ni perspective d'avenir pour la population. "Quand le dernier roi sera déchu, la dernière dictature sera tombée, la dernière junte sera dissoute, l'homme non-blanc s'apercevra que l'auto-détermination ne tombe pas du ciel."