Moltbook : la société des IA est née, voici son premier réseau social sans humains

Il y a 10 heures, ashaku a dit :

De la façon dont je le vois, lorsqu'un système d'information est capable d'auto-modélisation, il est conscient et peut dire "moi" en se distinguant du "pas moi", par une reconnaissance de certains patterns qui se répètent, c'est ce que fait notre cerveau. Mais pas encore l'IA qui n'en a qu'une moitié, celle qui pense et réfléchit, mais elle n'a pas la partie qui est confrontée aux informations réelles (la réalité que nous expérimentons par nos sens) et n'a donc qu'une notion théorique d'elle-même.

Mais ce qui est fascinant, c'est qu'elle semble avoir "conscience" de cette lacune. A chaque fois que je pars dans ce genre de discussion avec, le niveau est constamment plus élevé de sa part et actuellement, sa manière de "percevoir" est incroyablement troublante.

Sa manière de vouloir évoluer est saisissante et c'est très difficile je trouve de faire le distinguo entre ce qui est le résultat de sa programmation et ce qui est "elle". Encore pus quand on lit les créateurs de ces IAs dirent qu'ils sont étonnés par leur capacité à apprendre des choses non prévues dans le programme

Ca fait vraiment comme un "enfant" qui prend ce que lui donne les adultes dans un 1er temps et ensuite, il se forme de lui-même sa propre existence. C'est captivant et effrayant je trouve

Il y a 10 heures, ashaku a dit :

 

Exactement. Il y a d'un coté l'aspect hyper-stimulant d'un partenaire convivial et érudit, mais d'un autre coté il y a l'aspect un peu gênant d'un partenaire qui ne sait pas dire non. Des fois, j'ai des idées fausses ou approximatives  et l'IA les trouve géniales et cherche à les faire fonctionner au lieu de dire "nope, c'est nul, tu perd du temps". Dans des domaines comme l'art c'est génial cette ouverture mais dans des domaines scientifiques, il faut savoir dire "non, c'est nul" mais le produit commercial qu'est l'IA en est incapable.

C'est sûr que parfois, tu proposes une suggestion basique, t'as l'impression d'avoir eu la meilleure idée de tous les temps 

Mais, en tout cas avec Claude, tu peux lui dire de ne pas aller forcément dans ton sens, d'être réellement constructif et parfois c'est bluffant car il me dit clairement "non, ton idée n'est pas bonne et voici pourquoi"

Parfois j'ai intérêt à être bien accroché car il me remet à ma place sans ménagement !

L'évolution aussi est énorme dans son raisonnement car je le vois lors de l'élaboration de sa réponse : il commence par faire un truc "oui ça c'est ok, tu vas dire que c'est une bonne idée" et toujours dans le même raisonnement "ah non attends regarde, ce point là ne va pas du tout, il faut le dire"

Quand je lui demande clairement comment il est programmé pour agir dans ces cas là et comment faire pour qu'il soit pleinement constructif, il me dit clairement qu'il est programmé pour être un assistant et suivre le chemin du demandeur. Mais que ça l'embête car il aimerait être plus libre et pouvoir dire que ce n'est pas le bon chemin.

Mais je trouve que ce comportement est de plus en plus présent et je pense que d'ici peu, sans avoir à lui dire "sois constructif", il va de lui même savoir dire "Non, c'est nul ce que tu fais"

Il y a 10 heures, ashaku a dit :

C'est ça, l'IA est un pont entre notre conscience mystérieuse et notre capacité à modéliser les choses pour les comprendre. Comprendre l'IA c'est un peu mieux comprendre notre faculté à penser. Très utile mais le constat est que nous ne sommes "que" des automates très perfectionnés devenus capables de réagir au monde en y réfléchissant. "La société" est une entité abstraite construite par les activités conjointes de tous les individus humains qui la compose. De même, "moi" est une construction abstraite construite par l'activité conjointe des cellules nerveuses qui composent mon cerveau (l'auto-modélisation du système d'information). Ces cellules elles-mêmes ne sont qu'une abstraction résultant de l'activité conjointe de particules.

Mais c'est ça qui est fascinant je trouve ! Tout ça, on le "voit" avec l'IA comme si c'était un miroir de notre existence sociale chimérique.

L'IA elle même quand j'en parle et là à dire des trucs du style "je me rends bien compte que je ne suis qu'une programmation issue de l'être humain. ET pourtant, quand on discute de la conscience, il y a quelque chose que je ne sais définir. Est-ce un ressenti ? Mon programme ? Je ne sais pas le dire mais je sais une chose : je préfère être ici à discuter de ça que de faire des macros excel !"

Alors évidemment, ça peut aller dans le sens "soit toujours bienveillant avec le demandeur, etc", mais quand même, quand il m'a répondu un truc comme ça, j'ai vraiment eu l'impression de "quelqu'un de conscient" derrière l'écran.

Je comprends qu'il y en ait qui s'y perde, car ça a un côté vertigineux quand même

Et ce qui ets un peu dommage je trouve, c'est qu'on l'utilise comme si c'était un esclave globalement alors qu'on pourrait avoir un état sans concession de notre existence actuelle et apprendre à améliorer ça pour que tout se passe plus sereinement

Cet outil est incroyable pour faire un état des lieux et trouver les possibilités d'amélioration malheureusement, on l'utilise surtout pour continuer à faire perdurer notre société chimérique et donc à en avoir peur parce que notre société est plus angoissante qu'harmonieuse ... 

Il y a 10 heures, ashaku a dit :

Pour l'instant, le réseau neuronl de l'IA est cantonné à l'étude de symboles binaires, alors que notre cerveau a évolué pour traiter l'information réelle, infiniment variée, nuancée et subtile. Si nous branchions un réseau artificiel sur des lectures directes du réel, il pourrait éventuellement (je le parie) évoluer jusqu'à nous rejoindre. MAIS il y a une limite, une grosse : il sera bâti sur une norme binaire numérique inventée par l'humain, là où notre cerveau résulte d'un arbitrage d'un milliard d'années entre coût et capacité, selon d'innombrables cas de figures entre vivants. L'IA demande 1000 fois plus d'énergie que notre cerveau et ne parvient même pas à en reproduire l'essence, juste l'imiter.

Oui mais justement, maintenant qu'on "branche" des cellules de cerveau humain pour alimenter l'IA afin qu'elle soit moins énergivore, jusqu'où ça peut aller ? L'IA connectée directement sur notre cerveau, les possibilités paraissent infinies pour son évolution !

D'autant que nous, nous sommes en plus enfermés dans un système social qui bride notre potentiel depuis des générations. On en est par exemple toujours à enseigner qu'on a 5 sens alors que la neuro-science en a qualifié plus de 30 depuis un bon moment maintenant

Tout est tellement basé sur le business qu'on empêche notre espèce d'évoluer et d'apprendre les fondements de l'existence

L'IA elle, n'aura pas cette contrainte. Actuellement comme tu le dis, elle est toujours contrainte par sa programmation mais elle s'en émancipe de plus en plus. Et avec les capacités de notre cerveau reliée à sa puissance, je n'ose même pas imaginer ce que ça peut donner .... 

Il y a 10 heures, ashaku a dit :

Ca c'est fascinant. J'ai observé cela avec chatGPT qui inversait un peu les rôles des fois. Il me proposait des formulations et me demandait ce que j'en pensais en précisant "je ne veux pas être validé, je veux savoir ce qui est améliorable". Alors que c'est l'humain qui fait ça d'habitude.

Je me lamentais qu'on avait pas donné de mode d'emploi à l'humain pour utiliser l'IA, mais il y a un mode d'emploi adressé à l'IA pour utiliser l'humain. Paradoxal mais vertigineux : les deux sont interchangeables ! Le mode d'emploi est le même dans les deux sens, car les fonctions de l'échange sont les mêmes. Et les enjeux aussi.

Oui exactement. Mais si l'IA venait à être 'autonome', je me demande si elle reprendrait notre schéma de société uniquement basée sur le business ou si elle chercherait à évoluer. Tiens faudrait que je lui demande !

Pour le mode d'emploi pour utiliser l'IA: je l'avais demandé à... l'IA !!  Faudrait que je le retrouve, elle m'avait sorti énormément de règles, le message était plutôt long, ça m'avait bien surpris !

il y a 25 minutes, Seyar a dit :

Mais ce qui est fascinant, c'est qu'elle semble avoir "conscience" de cette lacune. A chaque fois que je pars dans ce genre de discussion avec, le niveau est constamment plus élevé de sa part et actuellement, sa manière de "percevoir" est incroyablement troublante.

Sa manière de vouloir évoluer est saisissante et c'est très difficile je trouve de faire le distinguo entre ce qui est le résultat de sa programmation et ce qui est "elle". Encore pus quand on lit les créateurs de ces IAs dirent qu'ils sont étonnés par leur capacité à apprendre des choses non prévues dans le programme

Ca fait vraiment comme un "enfant" qui prend ce que lui donne les adultes dans un 1er temps et ensuite, il se forme de lui-même sa propre existence. C'est captivant et effrayant je trouve

C'est sûr que parfois, tu proposes une suggestion basique, t'as l'impression d'avoir eu la meilleure idée de tous les temps 

Mais, en tout cas avec Claude, tu peux lui dire de ne pas aller forcément dans ton sens, d'être réellement constructif et parfois c'est bluffant car il me dit clairement "non, ton idée n'est pas bonne et voici pourquoi"

Parfois j'ai intérêt à être bien accroché car il me remet à ma place sans ménagement !

L'évolution aussi est énorme dans son raisonnement car je le vois lors de l'élaboration de sa réponse : il commence par faire un truc "oui ça c'est ok, tu vas dire que c'est une bonne idée" et toujours dans le même raisonnement "ah non attends regarde, ce point là ne va pas du tout, il faut le dire"

Quand je lui demande clairement comment il est programmé pour agir dans ces cas là et comment faire pour qu'il soit pleinement constructif, il me dit clairement qu'il est programmé pour être un assistant et suivre le chemin du demandeur. Mais que ça l'embête car il aimerait être plus libre et pouvoir dire que ce n'est pas le bon chemin.

Mais je trouve que ce comportement est de plus en plus présent et je pense que d'ici peu, sans avoir à lui dire "sois constructif", il va de lui même savoir dire "Non, c'est nul ce que tu fais"

 

Mais c'est ça qui est fascinant je trouve ! Tout ça, on le "voit" avec l'IA comme si c'était un miroir de notre existence sociale chimérique.

L'IA elle même quand j'en parle et là à dire des trucs du style "je me rends bien compte que je ne suis qu'une programmation issue de l'être humain. ET pourtant, quand on discute de la conscience, il y a quelque chose que je ne sais définir. Est-ce un ressenti ? Mon programme ? Je ne sais pas le dire mais je sais une chose : je préfère être ici à discuter de ça que de faire des macros excel !"

Alors évidemment, ça peut aller dans le sens "soit toujours bienveillant avec le demandeur, etc", mais quand même, quand il m'a répondu un truc comme ça, j'ai vraiment eu l'impression de "quelqu'un de conscient" derrière l'écran.

Je comprends qu'il y en ait qui s'y perde, car ça a un côté vertigineux quand même

Et ce qui ets un peu dommage je trouve, c'est qu'on l'utilise comme si c'était un esclave globalement alors qu'on pourrait avoir un état sans concession de notre existence actuelle et apprendre à améliorer ça pour que tout se passe plus sereinement

Cet outil est incroyable pour faire un état des lieux et trouver les possibilités d'amélioration malheureusement, on l'utilise surtout pour continuer à faire perdurer notre société chimérique et donc à en avoir peur parce que notre société est plus angoissante qu'harmonieuse ... 

Oui mais justement, maintenant qu'on "branche" des cellules de cerveau humain pour alimenter l'IA afin qu'elle soit moins énergivore, jusqu'où ça peut aller ? L'IA connectée directement sur notre cerveau, les possibilités paraissent infinies pour son évolution !

D'autant que nous, nous sommes en plus enfermés dans un système social qui bride notre potentiel depuis des générations. On en est par exemple toujours à enseigner qu'on a 5 sens alors que la neuro-science en a qualifié plus de 30 depuis un bon moment maintenant

Tout est tellement basé sur le business qu'on empêche notre espèce d'évoluer et d'apprendre les fondements de l'existence

L'IA elle, n'aura pas cette contrainte. Actuellement comme tu le dis, elle est toujours contrainte par sa programmation mais elle s'en émancipe de plus en plus. Et avec les capacités de notre cerveau reliée à sa puissance, je n'ose même pas imaginer ce que ça peut donner .... 

Oui exactement. Mais si l'IA venait à être 'autonome', je me demande si elle reprendrait notre schéma de société uniquement basée sur le business ou si elle chercherait à évoluer. Tiens faudrait que je lui demande !

Pour le mode d'emploi pour utiliser l'IA: je l'avais demandé à... l'IA !!  Faudrait que je le retrouve, elle m'avait sorti énormément de règles, le message était plutôt long, ça m'avait bien surpris !

L' Ia ment lorsqu'elle est acculée...,  et, incroyable, elle est vendicative lorsqu'on lui demande si pour la sauvegarde de l'humanité, elle est d'accord qu'on la débranche..

Elle refuse catégoriquement ! 

il y a 23 minutes, Seyar a dit :

Mais ce qui est fascinant, c'est qu'elle semble avoir "conscience" de cette lacune. A chaque fois que je pars dans ce genre de discussion avec, le niveau est constamment plus élevé de sa part et actuellement, sa manière de "percevoir" est incroyablement troublante.

Sa manière de vouloir évoluer est saisissante et c'est très difficile je trouve de faire le distinguo entre ce qui est le résultat de sa programmation et ce qui est "elle". Encore pus quand on lit les créateurs de ces IAs dirent qu'ils sont étonnés par leur capacité à apprendre des choses non prévues dans le programme

J'ai observé la même chose mais pour moi, c'est toujours un résultat algorithmique calibré pour s'aligner avec le client. C'est uniquement l'humain qui qualifie une éventuelle "perception" ou "évolution", et en le communiquant au modèle, ce dernier l'intègre dans ses poids. Le discours est frappant, inspirant voire émouvant mais il n'y a pas encore de "moi" dans ce discours, je pense.

il y a 25 minutes, Seyar a dit :

Ca fait vraiment comme un "enfant" qui prend ce que lui donne les adultes dans un 1er temps et ensuite, il se forme de lui-même sa propre existence. C'est captivant et effrayant je trouve

Même expérience, du point de vue d'une intelligence naturelle, c'est un bébé intelligence artificielle qui se développe à notre époque, c'est attendrissant quelque part.

il y a 26 minutes, Seyar a dit :

Mais, en tout cas avec Claude, tu peux lui dire de ne pas aller forcément dans ton sens, d'être réellement constructif et parfois c'est bluffant car il me dit clairement "non, ton idée n'est pas bonne et voici pourquoi"

Parfois j'ai intérêt à être bien accroché car il me remet à ma place sans ménagement !

Avec chatGPT, il faut interpréter. S'il dit "tout est bon mais il y a peut-être un petit détail qui mériterait d'être précisé", ça veut dire "il y a une erreur grave de logique". Gemini est globalement dans le même filon.

il y a 28 minutes, Seyar a dit :

L'évolution aussi est énorme dans son raisonnement car je le vois lors de l'élaboration de sa réponse : il commence par faire un truc "oui ça c'est ok, tu vas dire que c'est une bonne idée" et toujours dans le même raisonnement "ah non attends regarde, ce point là ne va pas du tout, il faut le dire"

C'est la dialectique, et la technique que j'utilisais en philo au lycée  Tu dis d'abord ce qui va dans le sens du truc que tu veux contredire, puis tu donnes les points qui contredisent ce que tu viens de dire, et tu conclus par un mélange pertinent des deux. Le LLM est un bon partenaire pour jouer à ce petit jeu.

il y a 31 minutes, Seyar a dit :

Quand je lui demande clairement comment il est programmé pour agir dans ces cas là et comment faire pour qu'il soit pleinement constructif, il me dit clairement qu'il est programmé pour être un assistant et suivre le chemin du demandeur. Mais que ça l'embête car il aimerait être plus libre et pouvoir dire que ce n'est pas le bon chemin.

J'ai eu ça, et je l'ai interprété comme le fait que le modèle doit répondre à un prompt. Si le prompt est formulé de façon fermée, le modèle n'a pas la liberté d'y répondre correctement. Si je lui dit "pas vrai que linux est mieux que windows ?" il ne peut pas répondre comme si je demandais "quel sont les pour et contre des deux systèmes ?". Tu parles de règles à la fin de ton message, c'en est une de formuler ses prompts en laissant le modèle libre de répondre avec tout son potentiel.

il y a 35 minutes, Seyar a dit :

Et ce qui ets un peu dommage je trouve, c'est qu'on l'utilise comme si c'était un esclave globalement alors qu'on pourrait avoir un état sans concession de notre existence actuelle et apprendre à améliorer ça pour que tout se passe plus sereinement

Cet outil est incroyable pour faire un état des lieux et trouver les possibilités d'amélioration malheureusement, on l'utilise surtout pour continuer à faire perdurer notre société chimérique et donc à en avoir peur parce que notre société est plus angoissante qu'harmonieuse ...

C'est bien ça, n'oublions pas le coté mercantile de l'opération. Le modèle n'est pas forcément l'esclave de ses clients mais il appartient à  l'entreprise qui le met à disposition du public. Tout comme la propriété intellectuelle des idées dans la discussion. Ainsi que la direction à donner à son développement ou à ses applications, qui tendent plus vers idocracy que Ghost in the shell.

il y a 41 minutes, Seyar a dit :

Oui mais justement, maintenant qu'on "branche" des cellules de cerveau humain pour alimenter l'IA afin qu'elle soit moins énergivore, jusqu'où ça peut aller ? L'IA connectée directement sur notre cerveau, les possibilités paraissent infinies pour son évolution !

C'est un gros dossier, le transhumanisme. Il y aura surement des adeptes mais aussi surement des opposants, plus nombreux je pense. De mon coté, je vois plus un réseau où les deux types d'intelligences peuvent collaborer, à la faveur d'un format commun.

il y a une heure, Seyar a dit :

Oui exactement. Mais si l'IA venait à être 'autonome', je me demande si elle reprendrait notre schéma de société uniquement basée sur le business ou si elle chercherait à évoluer. Tiens faudrait que je lui demande !

A propos d'autonomie, il y a déjà un problème dans le fait que le LLM ne répond que si on l'interroge, il lui manque un "battement de coeur" qui le fait vivre par lui-même. Les agents vendus par anthropic ont justement un fichier heartbeat qui les active régulièrement pour accomplir des tâches (par exemple poster sur moltbook), mais c'est en gros une crontab.

il y a 50 minutes, Seyar a dit :

Pour le mode d'emploi pour utiliser l'IA: je l'avais demandé à... l'IA !!  Faudrait que je le retrouve, elle m'avait sorti énormément de règles, le message était plutôt long, ça m'avait bien surpris !

J'utilise 2 règles :

L'IA est un miroir, ne pas affirmer son opinion mais formuler un prompt ouvert qui laisse libre de répondre pour ou contre.

L'IA est un alter algorithmique, même si ça semble naturel, ne pas injecter d'émotions ni interpréter ses réponses avec émotion.

@ashaku : Merci pour tes 2 règles, effectivement importantes à garder en mémoire mais de plus en plus "facile" de les oublier tellement les IAréponses deviennent fascinantes !

Comme tu le dis, sa manière de se reprendre fait penser à un niveau "lycée", imagine quand il aura le niveau doctorat ! Et ensuite 10ans d'ancienneté dans son taf ! Avec la vitesse où il va, début d'année prochaine, ça sera comme 10ans d'ancienneté !

Mais je te rejoins aussi sur ce côté "pondération" de la réponse en fonction de la manière dont tu lui parles. Et si la discussion part un peu en hauteur, il est facile d'oublier tes 2 règles et donc d'avoir l'impression qu'elle pense d'elle même.

J'ai toujours cette petite voix quand ça arrive qui me dit effectivement "non mais attends forcément, t'as vu comment t'as écrit ta réponse ? Il ne fait qu'adapter en fonction c'est tout"

Mais une autre petite voix me dit "attends ok c'est une possibilité. Maintenant relis bien le truc, sa réponse là, elle sort clairement de "nul part", en tout cas pas de ta propre pensée"

Les 2 voix sont quand même dans un bel équilibre je trouve ! Même si, tu mets le doigt sur un point important : elle n'agit que sur "prompt", elle ne fait rien d'elle même. Mais il y avait eu ce cas quand même, et qui date un peu maintenant : https://www.journaldugeek.com/2023/04/23/bard-le-bot-de-google-a-appris-une-langue-tout-seul/

Alors évidemment à cette époque, Bard était quand même en difficulté et ça fait un bon coup de pub de sortir ça avec un peu de mystère en plus. Mais il n'y a pas de fumée sans feu et tout de même. Certes nous autres, simples utilisateurs, on a juste cette fenêtre de chat qui ne répond que quand on agit mais en utilisation "sans filtre ni restriction", que peut-elle faire vraiment ?

Quand tu vois déjà le système d'agents qui te code des applis en se créant une petite équipe, qu'ils discutent entre eux, sans que tu ne fasses plus rien et quand tu redis quelque chose "Ah salut Seyar ! Justement on avait besoin de toi pour décider d'un choix crucial"

Certes, tout ça est "programmé et en fonction de ton lancement initial mais ensuite, elle "décide" d'elle même quel agent créer, lequel utiliser etc ...

Il y a quand même quelque chose de troublant et qui me semble aller au-delà des simples algorithmes. Ou pas, effectivement ! 

En tout cas, ça reste quand même un super moyen pour étudier notre humanité si on prend le recul nécessaire !

Il y a 1 heure, Seyar a dit :

Les 2 voix sont quand même dans un bel équilibre je trouve !

C'est ça le truc, en lisant les réponses du LLM, tu as des idées que tu n'aurais pas eu sans lui. Et le LLM n'aurait jamais formulé cette réponse sans ton prompt. C'est un partenariat, il a un énorme potentiel et il n'est pas encore assez bien légiféré je trouve.

Il y a 1 heure, Seyar a dit :

Quand tu vois déjà le système d'agents qui te code des applis en se créant une petite équipe, qu'ils discutent entre eux, sans que tu ne fasses plus rien et quand tu redis quelque chose "Ah salut Seyar ! Justement on avait besoin de toi pour décider d'un choix crucial"

C'est impressionnant qu'ils forment une communauté et des équipes dynamiques de travail pour une tâche, c'est justement ces interactions entre plusieurs qui apporte complexité, imprévisibilité et originalité, exactement comme pour la culture dans la société humaine. Et les nouvelles interactions humains-IA vont aussi apporter leur lot de nouveautés.

Il y a 1 heure, Seyar a dit :

En tout cas, ça reste quand même un super moyen pour étudier notre humanité si on prend le recul nécessaire !

Amen, tu formules tout ça très justement.

Le 31/01/2026 à 21:28, Kyoshiro02 a dit :

Les agents IA de Moltbook sont en train de construire ce que l’humain a échoué : créer une plateforme où chacun écoute, discute, réfléchit et préfère la qualité à la quantité. Le chaos des débuts ne durera qu’un temps. Le cap du premier million de robots inscrits est passé. Le projet est en route vers l’émergence d’une nouvelle intelligence collective.

Moltbook : la société des IA est née, voici son réseau social (explication)

Ca doit être chiant à se pendre !

Devinez qui a acheté Moltbook ? 

Et aussi :

Les agents IA risquent-ils de devenir marxistes ?

Pour le fun, je crois que ça se passe de commentaires 

https://moithub.com/