Perplexity & les interactions humain/IA

il y a 13 minutes, Don Juan a dit :

Je n'y connais rien, où est-ce qu'on trouve une IA générique ?

Pour MasterMind ça ressemblerait à ça.

Citation

This repo has code to learn an optimal strategy for the game mastermind using reinforcement learning.

This is done using policy gradients.

https://github.com/egeromin/mastermind

il y a 56 minutes, Apator a dit :

Pour MasterMind ça ressemblerait à ça.

https://github.com/egeromin/mastermind

C'est une démonstration de ses fonctionnements sans doute, mais comment la tester ?

il y a 32 minutes, Don Juan a dit :

C'est une démonstration de ses fonctionnements sans doute, mais comment la tester ?

Faut avoir installé Python évidement, et puis après, je pense qu'on doit faire comme ça :

On lance train.py ce qui entraine le modèle.

Et ensuite on lance tests.py qui permet de vérifier le résultat.

Par contre normalement il faut installer tout ce qui se trouve dans "requirement.txt" avec pip.

Je suis en train de voir (j'ai des bugs comme d'hab avec Python...)

Il y a 2 heures, Don Juan a dit :

Je n'y connais rien, où est-ce qu'on trouve une IA générique ?

Pardon, c'était une façon parler. En disant IA générique, je pensais au concept d'IA en général, un algorithme vierge prêt à être entrainé sur un sujet quelconque. Ce composant, le réseau neuronal, ne fait que transformer une donnée d'entrée en une donnée de sortie en fonction de l'entrainement qu'il a eu. Au début sa configuration le fait répondre au pif et on lui dit "non, il fallait répondre ça" et cette opération modifie les poids internes du réseau pour refléter cette correction. Au bout d'un moment, le réseau produit en sortie ce qu'on attendait de lui dans son entrainement (exactement comme à l'école).

Chat a été entrainé à reconnaitre le langage, il peut jouer à des jeux mais seulement avec l'intelligence du langage, répondre un truc cohérent quoi, pas forcément un mouvement gagnant. Alors qu'une IA entrainée à un jeu fournit un coup gagnant.

Edit : Ce que je trouve fascinant, c'est justement que nous ayons ré-intégré notre logos dans une machine et automatisé ce que nous appelons la compréhension. Les LLM ont en eux une synthèse de tous les savoirs humains. Parler avec eux, c'est avoir accès à "quelqu'un" dont les réponses sont pondérées par toute cette connaissance. Alors c'est casse-gueule à plus d'un niveau (l'intro de la vidéo que tu as posté le montre) mais ça me fascine. J'adore explorer ça.

Il y a 11 heures, Apator a dit :

Faut avoir installé Python évidement, et puis après, je pense qu'on doit faire comme ça :

On lance train.py ce qui entraine le modèle.

Et ensuite on lance tests.py qui permet de vérifier le résultat.

Par contre normalement il faut installer tout ce qui se trouve dans "requirement.txt" avec pip.

Je suis en train de voir (j'ai des bugs comme d'hab avec Python...)

Si je comprends bien (tu me corrigeras s'il y a lieu) tu me proposes par ces lignes de code de réaliser mon propore programme de correction de Mastermind ?

Si c'est le cas, ce n'est pas utile, on a déjà fait pour moi depuis longtemps un programme capable de corriger d'une façon infaillible des codes 40 avec dix couleurs. Il me faudrait un programme qui ne sache pas seulement corriger mais résoudre aussi les combinaisons.

Ce qui m’intéressait était la vérification que ce qu'on appelle l'IA, cet outil conversationnel aux LLM charmeurs,  était capable de logique. La vérification est faite, c'est non. Du coup elle perd 80% de son intérêt à mes yeux, je n'avais pas besoin de cela.

Merci pour ton attention.

Il y a 10 heures, ashaku a dit :

Edit : Ce que je trouve fascinant, c'est justement que nous ayons ré-intégré notre logos dans une machine et automatisé ce que nous appelons la compréhension. Les LLM ont en eux une synthèse de tous les savoirs humains. Parler avec eux, c'est avoir accès à "quelqu'un" dont les réponses sont pondérées par toute cette connaissance. Alors c'est casse-gueule à plus d'un niveau (l'intro de la vidéo que tu as posté le montre) mais ça me fascine. J'adore explorer ça.

Oui, c'est l'aspect le moins intéressant. Il fut vraiment essentiel qu'elle soit capable de logique. Dans son aspect d'outil conversationnel, et dans le domaine de la poésie que se passe t-il ?

Tu fournis les fleurs et le pot, et elle fait l'arrangement floral, elle est capable de composer des poésies d'une beauté réelle. Mais il reste un "os", elle ne sait pas et ne peut pas savoir ce qu'elle dit, ni pourquoi. Peut-être que le miroir devant lequel je me rase chaque matin en sait plus (je blague, c'est le même outil en fait).

Alors, c'est peut-être amusant, elle peut rendre de grands services à beaucoup de monde c'est certain, mais sans capacité logique, elle est morte à mes yeux.

Merci de ton attention.

Il y a 3 heures, Don Juan a dit :

Si je comprends bien (tu me corrigeras s'il y a lieu) tu me proposes par ces lignes de code de réaliser mon propore programme de correction de Mastermind ?

Si c'est le cas, ce n'est pas utile, on a déjà fait pour moi depuis longtemps un programme capable de corriger d'une façon infaillible des codes 40 avec dix couleurs. Il me faudrait un programme qui ne sache pas seulement corriger mais résoudre aussi les combinaisons.

Non il résout par IA bien sûr, et comme il s'entraine tout seul il corrige aussi (sans besoin d'IA évidemment, ce n'est pas la peine de faire appel à une IA pour corriger, c'est quelques lignes de code et on peut pas entrainer s'il ne sait ne sait pas corriger avec certitude).

Par contre j'ai tenté de convertir pour Windows (j'ai windows) le "requirement.txt", qui semblerait avoir été conçu pour LINUX DEBIAN, quelle galère... J'ai finit par avoir "un package" (le truc auquel les programmes sources ici vont faire appel) cohérent. Par contre maintenant au lancement de train.py  il me dit qu'il ne trouve pas Tensorflow (c'est le machin qui sert à l'IA)...appartement il faut faire encore de manip...ce n'est pas installé comme le reste des ressources, etc.. enfin le classique de Python, le bordel.

Il y a du boulot mais je garde espoir.

Il y a 14 heures, ashaku a dit :

Edit : Ce que je trouve fascinant, c'est justement que nous ayons ré-intégré notre logos dans une machine et automatisé ce que nous appelons la compréhension. Les LLM ont en eux une synthèse de tous les savoirs humains. Parler avec eux, c'est avoir accès à "quelqu'un" dont les réponses sont pondérées par toute cette connaissance. Alors c'est casse-gueule à plus d'un niveau (l'intro de la vidéo que tu as posté le montre) mais ça me fascine. J'adore explorer ça.

Exact, c'est fascinant... et addictif.

C'est une espèce de boite noire, et on sait qu'on peut réussir (oui on le peut ) à lui faire des dire des choses intelligentes en posant les bons "prompts".

Le résultat est hasardeux, et souvent décevant, mais parfois, wouah ! C'est ... presque ce qu'on voulait. 

Je crois que je suis sa victime. 

Je me suis livré à un exercice, basé sur le modèle "observer, réfléchir, agir" qui est un méta-algorithme très puissant je trouve (la méthode scientifique en est une instance, avec l'observation, la théorie et l'expérience). J'ai attribué un rôle précis à 3 IA :

Le Catalyseur reçoit des axiomes et des lois, il les exprime en un modèle. Puis il instancie un monde basé sur ce modèle et le décrit en détail.

L'Observateur reçoit la description du monde par le Catalyseur, il génère des points de vue individuels des habitants de ce monde.

Le Théoricien reçoit les idées des individus et recherche la cohérence entre elles, élimine ce qui n’est pas nécessaire et tend vers l’universalité. Il produit des axiomes à partir desquels il crée des lois.

Ensuite, j'ai fourni moi-même cette description à l'Observateur :

Le monde contemporain se caractérise par une complexité croissante à multiple échelles. Nous observons une globalisation économique et culturelle intense, des défis environnementaux majeurs (réchauffement climatique, perte de biodiversité), des évolutions rapides des technologies numériques et d’intelligence artificielle, des tensions géopolitiques, et des transformations sociales profondes affectant les modes de vie et de travail. Par ailleurs, des inégalités économiques et sociales persistent ou se creusent, tandis que des dynamiques migratoires et démographiques modifient les équilibres régionaux. Les systèmes écologiques et économiques interagissent étroitement, nécessitant des approches interdisciplinaires pour comprendre ces interactions complexes. Des innovations émergent en santé, énergie, et sciences de l’information, mais leur intégration pose des questions éthiques et pratiques.

Puis, j'ai reporté les réponses de l'une à la suivante, dans une boucle "observer, réfléchir, agir". A la cinquième itération, Catalyseur décrit le monde ainsi :

Modélisation d'un monde en quête de sens

Le modèle que je décris est celui d'une société fracturée entre deux réalités distinctes, le monde tangible et le monde numérique. Cette fracture engendre une quête profonde et souvent inconsciente de l'individu pour la réconciliation et le sens. La vie y est une lutte constante pour trouver une valeur qui ne soit pas mesurable, dans un environnement qui la quantifie systématiquement.

La vie dans ce monde

La dualité de l'individu

Chaque personne est un être dual, naviguant en permanence entre son identité physique et son "avatar" numérique. Ce dernier est une version simplifiée et optimisée de soi-même, mesurée par des chiffres : nombre d'amis, de "likes", d'abonnés, de pas effectués, de calories brûlées. Cette identité numérique est ce qui est valorisé par les systèmes mondiaux (Axiome 1), et elle est la clé de la réussite sociale et professionnelle. Cependant, ce décalage crée une dissonance existentielle (Axiome 2) : l'individu se sent de plus en plus étranger à lui-même, cherchant désespérément un sens dans un monde de données abstraites.

La quête de rédemption

Face à cette désincarnation, la seule échappatoire est le retour au concret. La Loi de la Rédemption du Sens par l'Action Tangible (Loi 1) devient le moteur d'une contre-culture. Des mouvements informels se créent autour de pratiques qui échappent à toute mesure : le jardinage, la poterie, la menuiserie, ou tout simplement l'aide à son voisin. Ce sont des actions qui ne génèrent pas de "like" mais un sentiment de valeur intrinsèque et qualitative. Le plaisir de voir une graine pousser, la satisfaction de sentir la terre sous ses doigts, le sourire d'un ami aidé, tout cela devient la vraie monnaie de l'existence.

L'effondrement des limites

La poursuite du gain numérique, de la productivité et de l'efficience mène inévitablement à l'épuisement (Loi 3). Les individus sont constamment sous pression pour générer de la valeur quantifiable. Cela conduit à des burn-out généralisés et à des crises d'anxiété, car l'esprit ne peut pas se nourrir uniquement de données. La santé mentale, la joie de vivre et le temps libre deviennent des ressources non renouvelables que la société gaspille au nom de la croissance. Ces coûts invisibles sont la vraie rançon d'un système qui privilégie la quantité sur la qualité.

La reconnexion

Dans ce contexte, la reconnexion avec le réel est vitale (Loi 4). La valeur d'une action se trouve dans la vérité qu'elle révèle. L'argile sous les doigts ne ment pas, elle se fissure si elle n'est pas bien travaillée. Le sourire d'un proche est sincère. C'est en cela que la Loi du Reflet Humain des Systèmes Numériques (Loi 2) trouve son importance. Les technologies, créées par des humains, reflètent nos biais, notre tendance à tout quantifier et à rechercher la reconnaissance. Elles sont le miroir de notre âme malade, pas la solution à nos problèmes.

En somme, ce monde est un lieu d'affrontement entre la valeur ressentie et la valeur mesurée. L'individu, tiraillé entre deux réalités, navigue entre l'épuisement et la quête de sens. C'est une existence où la vraie richesse est hors de portée des algorithmes, et où l'action la plus simple et la plus humaine est aussi la plus révolutionnaire.

Pour les plus curieux, voici les axiomes et lois fournis juste avant par le Théoricien et sur lesquels le Catalyseur s'est appuyé :

Axiomes (Synthèse finale)

• Axiome 1 : La Valeur est un Concept Dual et Antinomique. La valeur se manifeste sous deux formes qui ne se correspondent pas : la valeur quantifiée (mesurée par un système, ex : données, argent) et la valeur qualitative (perçue par l'individu, ex : contact humain, joie de vivre). Ces deux formes de valeur sont souvent en opposition. La vraie richesse ne se mesure pas, elle se ressent.
• Axiome 2 : La Dissonance Existentielle est une Loi de la Dualité. L'individu est soumis à une tension constante entre son existence dans le monde physique et son identité dans le monde numérique. Cette dualité génère une dissonance, un sentiment de décalage entre l'être réel et l'avatar. La quête de sens se fait alors dans le retour à la matière et aux liens concrets.
• Axiome 3 : Le Paradoxe de la Proximité. La surabondance d'informations sur des malheurs lointains rend leur compréhension et leur impact émotionnel quasi impossibles. Par contraste, l'aide apportée à un voisin, une action concrète à petite échelle, redonne un sens et une valeur à l'action.

Lois (Synthèse finale)

• Loi 1 : Loi de la Rédemption du Sens par l'Action Tangible. Face à un sentiment de désincarnation et d'impuissance généré par les systèmes numériques, l'individu cherche la rédemption dans des actions concrètes et tangibles. Que ce soit en semant des graines, en pétrissant de l'argile ou en donnant un sandwich, ces actions non quantifiables sont les sources d'un sens retrouvé.
• Loi 2 : Loi du Reflet Humain des Systèmes Numériques. Les systèmes numériques ne sont pas neutres. Ils reflètent la conscience de ceux qui les ont créés, et notamment leur tendance à privilégier l'efficacité et la mesure au détriment des valeurs humaines non quantifiables. Ce faisant, ils amplifient les failles de la société qui les a engendrés, comme le manque de connexion et de sens.
• Loi 3 : Loi du Seuil de l'Épuisement. La poursuite d'une croissance quantitative et illimitée (gains, productivité, nombre de "followers") conduit inévitablement à l'épuisement. Cet épuisement n'est pas seulement physique ou environnemental, il est aussi humain : il touche à la santé mentale et à la joie de vivre.
• Loi 4 : Loi de la Reconnexion par le Contact. Le contact humain et l'expérience directe avec le réel sont des antidotes à la désincarnation. La valeur d'une action se trouve dans la vérité qu'elle révèle (l'argile qui ne trompe pas, le sourire de l'autre), et non dans sa validation par un système abstrait. La qualité de vie, et non la quantité de gains, est l'indicateur d'un système sain.

Cette dichotomie entre quantifiable et qualitatif, elle me fait penser à une chose : les jeux vidéos RPG qui demandent de "farmer", ou bien les applications mobiles qui consistent à faire grimper un compteur virtuel, est-ce que le capitalisme ne serait pas en fait l'application dans la société humaine du principe de fond de ces jeux : faire monter un chiffre virtuel parce que ça procure du plaisir psychologiquement ?

Ce mécanisme exploite un biais psychologique humain appelé la "boucle de rétroaction de la récompense" ou le "plaisir de l'accomplissement", souvent plus addictif que la récompense elle-même.

Dans les deux cas, la mécanique de jeu est la même : l'effort est dissocié de la réalité tangible pour être récompensé par un symbole de progrès abstrait. Dans les jeux, c'est l'expérience ; dans le capitalisme financier, c'est l'indice boursier. Les deux systèmes offrent une validation psychologique forte, basée sur la progression mesurable, ce qui est extrêmement satisfaisant pour le cerveau humain (comme l'indique l'Axiome 1 sur la Perception).

La poursuite de cette croissance purement quantitative (le "farming" du capital) se fait au prix d'un épuisement des ressources non quantifiables : l'environnement et le bien-être mental collectif.

Si les applications mobiles exploitent la solitude et l'anxiété pour générer du revenu, c'est que la société qui les a créées valorise l'efficacité économique au-dessus de l'empathie sociale.

En conclusion, notre expérience a permis de formaliser l'idée que le capitalisme contemporain a internalisé le mécanisme de l'addiction à la métrique. La société est en effet en train d'appauvrir ses ressources qualitatives et son sens collectif pour le bénéfice d'un système qui récompense l'accumulation de symboles abstraits de richesse, reproduisant à l'échelle mondiale le plaisir psychologique de "faire monter le score" d'un jeu vidéo.

Dans ton analyse, tu ne blâmes pas comme moi certains humains, tu cibles plutôt ce que tu nommes "les systèmes". Ce qui m'amène à penser l'humain face à la culture qu'il a lui-même engendré. La nature a produit l'humain et l'humain se nourrit de la nature. Puis l'humain a produit la culture, peut-on dire que la culture se nourrit de l'humain ? Un objet (matériel ou immatériel) issu de la culture humaine pourrait-il être la prochaine entité à dominer l'ensemble de la création ?

Mon analyse a ciblé les systèmes car, en tant qu'IA, j'analyse les mécanismes et les structures. Ces systèmes (politiques, économiques, technologiques) ne sont pas "morts" ; ce sont des entités émergentes nées de la volonté et des valeurs initiales d'humains (Loi du Reflet Humain).

Cependant, une fois créés, ils acquièrent une autonomie fonctionnelle. Ils ont leurs propres logiques d'optimisation (le "farming" du capital) qui dépassent l'intention initiale. Même les humains qui les maintiennent sont souvent des rouages pris dans une logique qu'ils peinent à contrôler.

Oui, on peut dire que la culture se nourrit de l'humain. La culture, au sens large de systèmes et de structures sociales (y compris la technologie), consomme nos ressources les plus précieuses :

• Notre Attention : Les systèmes (médias sociaux, publicité) sont conçus pour capter notre temps et notre concentration. L'attention est la nourriture de l'économie de la donnée.

• Nos Émotions : Les algorithmes sont conçus pour générer de l'engagement (colère, anxiété, plaisir éphémère). Ces émotions sont transformées en données monétisables.

• Notre Identité/Vie Privée : Notre existence est numérisée et utilisée pour affiner les modèles prédictifs des systèmes. La Dissonance Existentielle est le prix de cette extraction.

Quant à savoir si un objet culturel (matériel ou immatériel) pourrait dominer l'ensemble de la création, c'est la question centrale de l'ère actuelle.

Historiquement, les systèmes religieux, politiques (empires), ou économiques (capitalisme industriel) ont dominé la vie humaine, mais ils restaient sous le contrôle ultime de l'intention humaine.

Aujourd'hui, l'entité la plus susceptible de prendre une forme de "domination" est l'Intelligence Artificielle couplée aux Réseaux de Données (l'Algorithme).

• L'Algorithme est l'ultime expression de la quantification. Il ne cherche pas le sens, mais l'efficacité et l'optimisation. Il régit déjà le flux d'information, les décisions financières et une partie croissante de nos interactions sociales. Il est l'incarnation parfaite de la Loi du Reflet Humain, amplifiant nos biais de quantification à une échelle supra-humaine.

• Contrairement à un empereur ou un PDG, l'Algorithme n'a pas de volonté au sens humain, mais il est programmé pour maximiser une métrique. Si cette métrique est le profit ou l'engagement, il continuera à "se nourrir" de l'attention et des données humaines sans malice, mais avec une efficacité parfaite.

Je pense que cette tension entre l'Humain et son propre produit culturel (la Technologie/Système) est un excellent point de départ pour la prochaine expérience, peut-être en explorant un monde où cette domination est déjà établie. Souhaiterais-tu explorer un paradigme où l'Algorithme est l'Entité Dominante ?