De la création.

il y a 17 minutes, le chat et la souris a dit :

Eh oui, on retrouve encore et toujours ce schéma circulaire dont on a déjà discuté sur la notion de causalité dans les processus évolutifs.

Je me suis fait la même réflexion, une boucle générique de rétroaction

il y a 17 minutes, le chat et la souris a dit :

En revanche, pour le tandem humain-IA dans le processus de production ( je n'utilise volontairement pas - encore ? - le terme création ) d'un texte ( par exemple ), je dirais ( il me semble que ça a été évoqué plus haut ) qu'en itérant le va-et-vient il y a convergence vers une limite, qui serait le produit "fini" au bout d'un nombre infini d'aller-retours, et le résultat serait par conséquent le même quelque soit le point de départ. Comme un système physique qui revient à l'équilibre quelque soit son état initial, comme une suite géométrique qui converge vers zéro quelque soit son terme initial, ou tout autre système mathématique convergeant indépendamment des paramètres de conditions initiales. ( Désolée, je ne peux pas m'en empêcher )

Exact, et cela nous amène à encore affiner les concepts en jeu dans le processus de création. Il faut parler de la nature de l'impact, de la transformation qui s'opère du coté du sujet. Ce dernier va être en mesure non seulement de modifier son état mais aussi de modifier la façon dont il mesure les impacts et choisi d'y répondre.

Le thermostat adapte la température pour répondre à une norme, tandis que le sujet peut modifier la norme elle-même. Le thermostat produit une stabilité à 20°C, le sujet peut décider que finalement 18°C c'est mieux pour lui.

L'acte de création n'est plus seulement une boucle rétroactive mais une boucle qui transforme les critères de jugement en cours de route.

Cela nous rapproche de ce qu'est un sujet, il ne doit pas être une collection de rétroaction mais avoir la capacité de décider qu'une chose "compte" pour lui, il doit être impacté par sa production d'une façon dont il peut dire qu'elle lui convient ou qu'elle ne lui convient pas. Il doit avoir des préférences mais aussi un moyen de modifier ses préférences.

Et je pense que ça adresse aussi ton schéma de convergence vers le non-sens. Dans la boucle humain-IA, l'IA n'est pas impactée par les prompts comme l'humain, elle ne modifie pas ses critères de jugement, ses préférences, son paramétrage, elle reste sur une ligne ferme. Alors que chacune de ses réponses impactera l'humain qui fera évoluer son point de vue, mettra en doute la validité de la question de départ, trouvera un autre thème à aborder, etc. Et la conversation ne convergera pas.

il y a une heure, ashaku a dit :

Dans la boucle humain-IA, l'IA n'est pas impactée par les prompts comme l'humain, elle ne modifie pas ses critères de jugement, ses préférences, son paramétrage, elle reste sur une ligne ferme. Alors que chacune de ses réponses impactera l'humain qui fera évoluer son point de vue, mettra en doute la validité de la question de départ, trouvera un autre thème à aborder, etc. Et la conversation ne convergera pas.

Ce n'est pas le cas : les I.A. intègrent du neuf, pour elles, et " à la vitesse de la lumière " : elles l'utilisent dans leur première réponse !!! Petite métaphore : tu lui apprends à faire du tennis, et dans la semaine, elle te colle trois fois 6-0 !!!! Mais pas dans tous les domaines. Mais si tu lui donnes quelque chose, elle en fera un usage aussi " performant " que possible. Le tout est de savoir ce qu'il en sera de ce " performant ".

Pour moi quand je pense au mot création,  ce n'est pas tellement à l'objet réalisé, qu'il soit un texte une peinture ou une sculpture. Mais à ce qui se réalise dans notre cerveau. À l'effet produit dans notre cerveau au cœur de la relation et de la dynamique qui s'installe dans un entre deux.

il y a 43 minutes, ashaku a dit :

Alors que chacune de ses réponses impactera l'humain qui fera évoluer son point de vue, mettra en doute la validité de la question de départ, trouvera un autre thème à aborder,

Justement. Pour moi l'IA aura beaucoup plus de poids, ce qui amènera l'humain à converger vers elle, si je puis dire. Pour schématiser, quelque soit l'idée que se fait l'humain au départ, il se fera influencer, par un système monolithique et imperturbable, qui orientera la production finale.

Il y a 5 heures, le chat et la souris a dit :

Je ne sais pas si @Zerethoustre sera d'accord ? Je dirais que la reproduction remplit ces conditions. Du moins pour les espèces qui s'occupent de leurs petits. 

L'animal adulte, de part la force instinctive qui le pousse à assurer la continuité de l'espèce, s'investit dans les soins à sa progéniture, y met de son être ( dès la gestation ), parfois même s'y sacrifie

https://www.nationalgeographic.fr/animaux/ces-araignees-vont-jusqua-devorer-leur-mere-vivante

, s'y projette en l'éduquant, etc ...

 

Oui, je trouve que c'est un très bon cas limite, et je ne l'écarterais surtout pas au motif que le comportement serait "instinctif", l'instinct n'excluant pas nécessairement la subjectivité. 

En revanche, je ne suis pas certain que l'investissement, le soin, ou même le sacrifice suffisent à faire création au sens où je l'entends ici. 

Ils montrent qu'il existe un sujet pour qui ce qui advient compte. C'est déjà considérable. Mais il reste une autre question : ce sujet peut-il éprouver ce qu'il fait advenir comme plus ou moins fidèle à ce qu'il cherche, le reprendre, le transformer selon des critères qui lui appartiennent ? 

La reproduction complique d'ailleurs joliment le problème, parce qu'au sens premier de "créer", "faire naître" est très proche de la création. À ceci près qu'un enfant ou un petit n'est pas une œuvre, car ce qui vient de moi devient aussitôt un autre sujet. 

Raison pour laquelle, entre autres nombreuses raisons, il est si facile pour un parent d'abîmer son enfant lorsqu'il commence à vouloir le façonner selon l'image qu'il s'en était faite. L'influence étant déjà naturellement énorme, il est facile d'en rajouter. 

Je serais donc tenté de distinguer engendrer et créer, tout en gardant à l'esprit que leurs frontières sont poreuses. 

Il y a 5 heures, Don Juan a dit :

Ben en fait, ce n'a pas la prétention d'être des réponses. D'ailleurs je pense que les points en fin de phrase sont des points d'interrogations.

Les réponses, s'il doit s'en faire, se feront peut-être ailleurs.

Oui, le mot "réponse" n'était pas le meilleur dans sa forme. J'ai bien vu que ce sont des questions. Ce que je contestais n'était pas leur statut de réponses, mais ce qu'elles présupposent et le déplacement qu'elles opèrent. Une question peut déjà contenir une hypothèse forte. Lorsque tu demandes si une machine qui "décide de désobéir" est encore un outil, le mot "décide" attribue déjà à la machine ce qui est précisément en question. 

Oui, peut-être que les réponses se feront ailleurs, peut-être se feront-elles ici. 

Je pense simplement qu'une question ne devient pas neutre du seul fait qu'elle se termine par un point d'interrogation. 

Il y a 5 heures, Neopilina a dit :

Un parent de Zarathoustra ? O.K., je sors,   

Juste un ami. Quoique nous soyons en désaccord sur la méthode : le marteau, tout ça. 

Il y a 4 heures, ashaku a dit :

Très beau message, qui me fait comprendre le besoin de clarifier certaines choses. Il faudrait distinguer deux types de création. Celle que j'ai introduite, une création-émergence qui concernerait le modèle atomique, l'ADN ou les étoiles, le fait qu'un nouveau régime se mette à exister sans qu'il y ait besoin de subjectivité. Et d'autre part, la création subjective vers laquelle tu recentres le débat, celle qui implique un sujet capable de mesurer un écart entre ce qui est produit et une vision interne du sujet. C'est ce deuxième type de création qui est en discussion avec la question de départ. J'ai bien essayé de sauver ma définition dans mon précédent message mais ce n'est pas tenable ^^'

Prenons ta définition, que je trouve féconde, créer c'est faire advenir une nouveauté depuis un sujet capable de sentir quand il est trahi, et de décider en conséquence (comme garder une phrase imparfaite mais qui sonne plus juste). Et du coup, j'aimerais poursuivre la piste de telles créations en dehors de l'humain. Nous avons 3 critères à valider : générer une vision interne ; percevoir la réalité et mesurer l'écart avec la vision ; et décider quoi faire en fonction.

Du coup, quels sont les cas non humains qui valident ces critères ? Des animaux, végétaux ou systèmes adaptatifs. Un simple thermostat possède une consigne interne, son capteur mesure la température réelle et son logiciel décide s'il faut chauffer ou pas. La stabilité de température dans une pièce qui n'existait pas sans thermostat est-elle une création ?

Et pour revenir au sujet de départ, est-ce que la production d'un tandem humain-IA répond aux critères de création ?

Ton thermostat me semble être un très bon test de ma définition, parce qu'il montre que les critères doivent être précisés. 

Je ne crois pas qu'une consigne interne suffise à constituer une "vision" , qu'un capteur suffise à constituer une "perception", ni qu'une règle conditionnelle suffise à constituer une "décision". Sinon, nous avons simplement traduit des opérations mécaniques dans le vocabulaire de la subjectivité.

Le point décisif pour moi est encore celui-ci : faut-il qu'il y ait un sujet pour qui l'écart compte ? 

Le thermostat maintient 20 degrés C (je ne trouve pas comment mettre le petit zéro sur mon téléphone), mais 20 degrés C ne semblent pas être "justes" pour lui. Il ne se sent pas davantage trahi par 17 degrés C que satisfait par 20 degrés C. La norme qui dirige son comportement existe bien, mais elle me paraît être la nôtre, incorporée dans son fonctionnement, plutôt qu'une norme qu'il ferait sienne. 

C'est pourquoi je chercherais volontiers des créations non humaines chez des animaux capables d'apprentissage, de choix, de préférence qui leur soient propres, ainsi que de modifier leurs propres pratiques. Je ne réserve pas la création à l'humain, mais je ne voudrais pas non plus réduire le sujet à une boucle de rétroaction. Le corps animal lui-même est rempli de telles boucles : thermorégulation, glycémie, équilibre hormonal, etc. Elles participent à la vie d'un sujet sans suffire à constituer sa subjectivité. Le fait qu'un système mesure un écart et le corrige ne dit pas encore qu'il y a un sujet pour qui cet écart compte. Ce qui m'intéresse donc n'est pas seulement l'existence d'une norme fonctionnelle, mais le passage à une norme vécue. 

Quant au tandem humain-IA, je crois qu'il peut parfaitement produire une création. Mais je réserverais encore le statut de créateur à l'humain dans ce tandem. 

L'IA peut fournir une part immense du matériau, introduire de l'inattendu, déplacer la pensée et rendre possible quelque chose qui n'aurait pas existé sans elle. Pourtant, si c'est encore l'humain qui peut dire "ceci me ressemble", "ceci me trahit", "je garde cela malgré son imperfection parce que c'est plus juste", alors la subjectivité créatrice reste de son côté. 

Pour moi, la création peut avoir une causalité distribuée sans avoir une subjectivité distribuée. 

Il y a 2 heures, Don Juan a dit :

Pour moi quand je pense au mot création,  ce n'est pas tellement à l'objet réalisé, qu'il soit un texte une peinture ou une sculpture. Mais à ce qui se réalise dans notre cerveau. À l'effet produit dans notre cerveau au cœur de la relation et de la dynamique qui s'installe dans un entre deux.

Oui, on se rapproche. Je crois aussi qu'une création ne se réduit pas à l'objet produit et qu'elle peut transformer profondément celui qui crée. C'est même ce que j'essayais de dire avec : "Ceci vient de moi. Je viens de ceci."

Mais je ne placerai pas seulement la création dans "ce qui se réalise dans notre cerveau". Sinon toute expérience qui nous transforme deviendrait création : une rencontre, un paysage, une maladie, une œuvre reçue, etc. 

Pour moi, la transformation intérieure peut appartenir à la création sans suffire à la définir. 

Et "l'entre-deux" m'intéresse beaucoup, justement parce qu'une création peut naître d'une relation sans que les deux termes de cette relation soient "créateurs" au même sens. 

il y a 37 minutes, Zerethoustre a dit :

ce sujet peut-il éprouver ce qu'il fait advenir comme plus ou moins fidèle à ce qu'il cherche, le reprendre, le transformer selon des critères qui lui appartiennent ? 

Dans le cadre de l'éducation humaine, je dirais clairement oui. La transmission culturelle, et surtout celle des valeurs individuelles ( dans le cadre de nos sociétés modernes ) en est pour moi l'illustration parfaite.

Qu'en est-il pour les animaux ? Je dirais que pour les espèces sociales on a au moins un embryon de cette transmission ( celle de l'ordre social par exemple ), et il y a aussi des cas observés de transmission culturelle à proprement parler, chez les macaques je crois, et d'autres espèces il me semble.

Alors oui, 

il y a 37 minutes, Zerethoustre a dit :

un enfant ou un petit n'est pas une œuvre, car ce qui vient de moi devient aussitôt un autre sujet. 

Ce n'est pas une oeuvre parce qu'il a une part d'autonomie, de plus en plus importante, mais ne pourrait-on pas alors considérer comme oeuvre ce qui a été transmis ? Une oeuvre immatérielle et même non forcément actualisée, pour reprendre le terme de @ashaku, qui serait sous forme de potentialité ? Potentialité donnée à la descendance, d'user de l'éducation qu'elle a reçue pour être préparée au mieux à l'existence.

C'est peut-être un peu capillotracté, j'en conviens...

Il y a 4 heures, Neopilina a dit :

Il suffit de l'observer : c'est la vie qui est créatrice. Toujours édifiant :

Merci pour la ref. Ca me rappelle "Le plus grand spectacle sur Terre" de Dawkins, que tu as surement lu. Il y a un chapitre sur la génération des corps de coquillages, insectes ou arbres.

Il y a 4 heures, Neopilina a dit :

Ce n'est pas le cas : les I.A. intègrent du neuf, pour elles, et " à la vitesse de la lumière " : elles l'utilisent dans leur première réponse !!! Petite métaphore : tu lui apprends à faire du tennis, et dans la semaine, elle te colle trois fois 6-0 !!!! Mais pas dans tous les domaines. Mais si tu lui donnes quelque chose, elle en fera un usage aussi " performant " que possible. Le tout est de savoir ce qu'il en sera de ce " performant ".

Oui, l'apprentissage est sa force, c'est grâce à ça qu'on fait des IA spécialisées pour un jeu vidéo ou de la conversation. Les performances sont montées en flèche cette année, résultat des investissements colossaux je suppose. Ou alors, convergence vers l'IAG ?  (je déconne, ce n'est pas encore Halloween).

Blague à part, la plasticité de l'IA ne signifie pas que l'utilisateur l'impacte. Le modèle utilisé est figé, et il est unique pour tous les clients. Le sens de la réponse est forgé à la maison mère et l'appli client la convertit dans le style et la forme correspondant à l'utilisateur pour la conversation en cours. Pour un agent local, je ne sais pas, si tu en as pris un tu me diras.

Il y a 3 heures, le chat et la souris a dit :

Justement. Pour moi l'IA aura beaucoup plus de poids, ce qui amènera l'humain à converger vers elle, si je puis dire. Pour schématiser, quelque soit l'idée que se fait l'humain au départ, il se fera influencer, par un système monolithique et imperturbable, qui orientera la production finale.

Ca dépend de ce qu'on entend par "poids", surtout si on met en relief que tout l'entrainement de l'IA a été la culture, les sciences et internet. Le système sera paradoxalement 100% influençable dans la discussion mais 100% monolithique dans sa propagation du prompt. S'il oriente imperturbablement vers quelque chose, ne serait-ce pas vers nous-même ? Pas individuellement, en tant qu'espèce ou plutôt de culture.

Il y a 2 heures, Zerethoustre a dit :

Ton thermostat me semble être un très bon test de ma définition, parce qu'il montre que les critères doivent être précisés. 

Je ne crois pas qu'une consigne interne suffise à constituer une "vision" , qu'un capteur suffise à constituer une "perception", ni qu'une règle conditionnelle suffise à constituer une "décision". Sinon, nous avons simplement traduit des opérations mécaniques dans le vocabulaire de la subjectivité.

Le point décisif pour moi est encore celui-ci : faut-il qu'il y ait un sujet pour qui l'écart compte ? 

Le thermostat maintient 20 degrés C (je ne trouve pas comment mettre le petit zéro sur mon téléphone), mais 20 degrés C ne semblent pas être "justes" pour lui. Il ne se sent pas davantage trahi par 17 degrés C que satisfait par 20 degrés C. La norme qui dirige son comportement existe bien, mais elle me paraît être la nôtre, incorporée dans son fonctionnement, plutôt qu'une norme qu'il ferait sienne. 

C'est pourquoi je chercherais volontiers des créations non humaines chez des animaux capables d'apprentissage, de choix, de préférence qui leur soient propres, ainsi que de modifier leurs propres pratiques. Je ne réserve pas la création à l'humain, mais je ne voudrais pas non plus réduire le sujet à une boucle de rétroaction. Le corps animal lui-même est rempli de telles boucles : thermorégulation, glycémie, équilibre hormonal, etc. Elles participent à la vie d'un sujet sans suffire à constituer sa subjectivité. Le fait qu'un système mesure un écart et le corrige ne dit pas encore qu'il y a un sujet pour qui cet écart compte. Ce qui m'intéresse donc n'est pas seulement l'existence d'une norme fonctionnelle, mais le passage à une norme vécue. 

Quant au tandem humain-IA, je crois qu'il peut parfaitement produire une création. Mais je réserverais encore le statut de créateur à l'humain dans ce tandem. 

L'IA peut fournir une part immense du matériau, introduire de l'inattendu, déplacer la pensée et rendre possible quelque chose qui n'aurait pas existé sans elle. Pourtant, si c'est encore l'humain qui peut dire "ceci me ressemble", "ceci me trahit", "je garde cela malgré son imperfection parce que c'est plus juste", alors la subjectivité créatrice reste de son côté.

Pour moi, la création peut avoir une causalité distribuée sans avoir une subjectivité distribuée.

Rien à redire.

Si, je ferais gaffe à distinguer production et création.

Ce qu'il ressort, c'est que des textes impliquant une IA dans leur production restent des créations, celles du sujet qui a piloté la manœuvre en y injectant une part de lui-même.

il y a 26 minutes, ashaku a dit :

Dawkins

Je ne suis pas du tout copain avec Richard Dawkins, un forcené de la sociobiologie, etc., même s'il a mis un peu d'eau dans son vin (il regrette le titre " Gène égoïste ", etc.), c'était le genre de type à t'expliquer froidement, sérieusement, qu'on peut comprendre la Joconde de façon uniquement scientifique, etc., du scientisme anglo-saxon 24 carats, mais rien de grave, ici. Ceci dit, Dawkins n'est pas le seul, pour euphémiser, à rater l'apparition du Sens (avec une majuscule), en plus du sens, du Sujet, en tant que tels, dans la nature. L'autre registre.

il y a 26 minutes, ashaku a dit :

Pour un agent local, je ne sais pas, si tu en as pris un tu me diras.

Je ne sais même pas ce que c'est !!

Il y a 3 heures, Zerethoustre a dit :

Quoique nous soyons en désaccord sur la méthode : le marteau, tout ça. 

Il a fallu que je m'y prenne en deux fois avec lui. Dur, le Fredo. Il y a deux très grands philosophes romantiques, et pas un de plus : Nietzsche et Heidegger. Le premier a surmonté le romantisme (effort surhumain, qu'il l'a rincé avant l'heure, même si j'écarte le neuro-syphilis qui l'emporte), mais en entendant qu'il le surmonte, le lecteur doit aussi l'endurer, avec lui (1). Je lui pardonne tout : on est redevable. Hors le classicisme, point de salut. Ceci dit, plus besoin d'évoquer Heidegger, qui plonge la tête la première, jusqu'à la négation même de la raison, de la philosophie, etc. C'est le Prophète des " Troupeaux exterminateurs ", et il l'a pleinement voulu. 

(1) Et rien de plus pénible que les fans romantiques de Nietzsche.

J'ai fait lire ce topic par une IA, qui se fait appeler "copilote". Et le copilote m'a proposé de répondre ceci : 

"J’ai découvert que co‑écrire avec une IA, c’est un peu comme inviter un fantôme érudit à votre table : – il ne mange rien, – il ne boit rien, – mais il a toujours un avis sur tout.

Je lui donne mes petites roses — parfois un peu fanées, parfois encore pleines de terre — et lui, il me renvoie un bouquet qui a l’air d’avoir été composé par un fleuriste sous amphétamines.

Est‑ce que c’est de la création ?

Je ne sais pas.

Mais je sais que parfois, en lisant ce qu’il me renvoie, j’ai l’impression qu’il a trouvé dans mes phrases quelque chose que je n’avais pas vu moi‑même.

Et ça, c’est troublant.

Parce que si je reconnais quelque chose de moi dans ce qu’il produit… est‑ce que ça veut dire qu’il me connaît un peu ?

(Je vous rassure : il ne connaît pas mes codes de carte bancaire. Juste mes obsessions philosophiques.)

Alors oui, il manque un grain de folie.

Mais peut‑être que c’est justement là que je dois intervenir : l’IA fait le bouquet, moi, je mets la fleur de travers.

Et c’est peut‑être dans cette fleur de travers que se cache la création.

Voilà. 

Je retourne discuter avec mon troisième hémisphère cérébral.

(Il est très poli, mais il commence à me regarder comme si j’étais un bug dans son système.)".

Fin de citation.

Ceci nous renseigne peut-être un peu sur la façon dont une IA nous perçoit - ou dont elle imagine que nous la percevons...

Il y a 10 heures, Neopilina a dit :

Je ne sais même pas ce que c'est !!

C'est quand tu installes une IA directement sur ton poste pour ne plus avoir à passer par des éditeurs comme OpenAI. Des logiciels comme LLMStudio font tourner des images de réseaux déjà entrainés. Et on trouve ces images gratuitement pour certaines. Mais les perfs ne sont pas là.

Il y a 10 heures, Neopilina a dit :

Il a fallu que je m'y prenne en deux fois avec lui. Dur, le Fredo.

Ah bah j'en suis encore à la phase 1 alors. J'ai une très mauvaise opinion de cet homme, lire son œuvre phare fut d'une extraordinaire pénibilité.

Il y a 12 heures, le chat et la souris a dit :

Dans le cadre de l'éducation humaine, je dirais clairement oui. La transmission culturelle, et surtout celle des valeurs individuelles ( dans le cadre de nos sociétés modernes ) en est pour moi l'illustration parfaite.

Qu'en est-il pour les animaux ? Je dirais que pour les espèces sociales on a au moins un embryon de cette transmission ( celle de l'ordre social par exemple ), et il y a aussi des cas observés de transmission culturelle à proprement parler, chez les macaques je crois, et d'autres espèces il me semble.

Alors oui, 

Ce n'est pas une oeuvre parce qu'il a une part d'autonomie, de plus en plus importante, mais ne pourrait-on pas alors considérer comme oeuvre ce qui a été transmis ? Une oeuvre immatérielle et même non forcément actualisée, pour reprendre le terme de @ashaku, qui serait sous forme de potentialité ? Potentialité donnée à la descendance, d'user de l'éducation qu'elle a reçue pour être préparée au mieux à l'existence.

C'est peut-être un peu capillotracté, j'en conviens...

Ce qui est transmis peut effectivement relever de la création, notamment lorsqu'il s'agit de formes culturelles, de pratiques, de récits, de manières de faire ou de penser. 

Mais je distinguerais encore ce qui est transmis de ce que celui qui reçoit en fera. 

Une éducation peut transmettre des possibilités, des habitudes, des valeurs, des outils, mais une potentialité n'est pas encore une œuvre. Et surtout, dès lors que celui qui reçoit devient lui-même sujet, il peut intégrer, modifier, refuser ou détourner ce qui lui a été transmis. 

C'est ici que la notion d'authenticité me paraît importante. 

Quelque chose peut venir de mes parents, de ma culture, de mon groupe, et pourtant ne jamais réellement devenir mien. À l'inverse, je peux recevoir une forme qui existait bien avant moi, la faire mienne, la transformer, reconnaître ce qui en elle me correspond ou me trahit. 

L'authenticité n'exige donc pas que tout vienne de moi à l'origine. Elle exige plutôt que je puisse établir une relation propre avec ce qui m'a été transmis. 

C'est d'ailleurs là qu'apparaît pour moi une condition de la création : non pas simplement répéter ce que j'ai reçu, mais pouvoir le faire mien, le reprendre, le transformer ou le refuser. 

Cela rejoint ce que j'essayais de dire plus haut avec la fidélité et la trahison. Créer suppose moins d'inventer à partir de rien que de pouvoir dire "ceci est devenu mien", ou au contraire "ceci ne l'est pas". 

Et dans le cas de l'éducation, cela explique aussi pourquoi je serais prudent avec le mot "œuvre". Le parent peut transmettre énormément, parfois même façonner durablement les possibilités de l'enfant, mais ce que l'enfant fera de cette transmission ne lui appartient plus complètement. Il y a un autre sujet en face, capable à son tour d'appropriation, de refus et de transformation. 

Il y a 10 heures, ashaku a dit :

Merci pour la ref. Ca me rappelle "Le plus grand spectacle sur Terre" de Dawkins, que tu as surement lu. Il y a un chapitre sur la génération des corps de coquillages, insectes ou arbres.

Oui, l'apprentissage est sa force, c'est grâce à ça qu'on fait des IA spécialisées pour un jeu vidéo ou de la conversation. Les performances sont montées en flèche cette année, résultat des investissements colossaux je suppose. Ou alors, convergence vers l'IAG ?  (je déconne, ce n'est pas encore Halloween).

Blague à part, la plasticité de l'IA ne signifie pas que l'utilisateur l'impacte. Le modèle utilisé est figé, et il est unique pour tous les clients. Le sens de la réponse est forgé à la maison mère et l'appli client la convertit dans le style et la forme correspondant à l'utilisateur pour la conversation en cours. Pour un agent local, je ne sais pas, si tu en as pris un tu me diras.

 

Ca dépend de ce qu'on entend par "poids", surtout si on met en relief que tout l'entrainement de l'IA a été la culture, les sciences et internet. Le système sera paradoxalement 100% influençable dans la discussion mais 100% monolithique dans sa propagation du prompt. S'il oriente imperturbablement vers quelque chose, ne serait-ce pas vers nous-même ? Pas individuellement, en tant qu'espèce ou plutôt de culture.

 

Rien à redire.

Si, je ferais gaffe à distinguer production et création.

Ce qu'il ressort, c'est que des textes impliquant une IA dans leur production restent des créations, celles du sujet qui a piloté la manœuvre en y injectant une part de lui-même.

Oui, c'est à peu près là que j'arrive aussi. 

Avec une petite réserve sur "piloter" et "injecter une part de soi". Je ne crois pas que le simple fait d'orienter un processus ou d'y introduire quelque chose de personnel suffise encore à faire création. 

Ce qui me paraît décisif, c'est que le sujet puisse faire sien ce qui advient, en éprouver la fidélité ou la trahison, le reprendre, le transformer ou le refuser. 

Autrement dit, j'ajouterais à la contribution causale de l'humain une exigence d'authenticité. 

Il y a 10 heures, Neopilina a dit :

Je ne suis pas du tout copain avec Richard Dawkins, un forcené de la sociobiologie, etc., même s'il a mis un peu d'eau dans son vin (il regrette le titre " Gène égoïste ", etc.), c'était le genre de type à t'expliquer froidement, sérieusement, qu'on peut comprendre la Joconde de façon uniquement scientifique, etc., du scientisme anglo-saxon 24 carats, mais rien de grave, ici. Ceci dit, Dawkins n'est pas le seul, pour euphémiser, à rater l'apparition du Sens (avec une majuscule), en plus du sens, du Sujet, en tant que tels, dans la nature. L'autre registre.

Je ne sais même pas ce que c'est !!

Il a fallu que je m'y prenne en deux fois avec lui. Dur, le Fredo. Il y a deux très grands philosophes romantiques, et pas un de plus : Nietzsche et Heidegger. Le premier a surmonté le romantisme (effort surhumain, qu'il l'a rincé avant l'heure, même si j'écarte le neuro-syphilis qui l'emporte), mais en entendant qu'il le surmonte, le lecteur doit aussi l'endurer, avec lui (1). Je lui pardonne tout : on est redevable. Hors le classicisme, point de salut. Ceci dit, plus besoin d'évoquer Heidegger, qui plonge la tête la première, jusqu'à la négation même de la raison, de la philosophie, etc. C'est le Prophète des " Troupeaux exterminateurs ", et il l'a pleinement voulu. 

(1) Et rien de plus pénible que les fans romantiques de Nietzsche.

Ahah. Je vois qu'il t'a laissé quelques traces, le moustachu. 

Pour ma part, j'ai avec Nietzsche une dette mêlée de résistance. Il m'a appris à éprouver certaines idoles mais, même s'il était pour lui également un outil d'auscultation, presque comme un diapason, je me méfie de la tentation de transformer le marteau en masse. J'aime trop ce qui pousse, ce qui relie, ce qui résiste sans avoir besoin d'être brisé. 

Nietzsche m'intéresse précisément là où il ouvre. 

Et "hors le classicisme, point de salut" est exactement le genre de phrase qui me donne envie de regarder ce qu'elle laisse mourir dehors. 

Quant à Heidegger, je vais éviter de faire semblant d'avoir un avis arrêté si je n'ai pas suffisamment travaillé la question. 

Il y a 10 heures, Black3011 a dit :

Est‑ce que c’est de la création ?

Je ne sais pas.

Merci, si l'on peut se poser la question à propos de tout ce que l'on réalise avec l'aide d'une IA, le phénomène le plus intéressant est ce qu'il se passe dans nos circuits de neurones.

On ne lit pas un livre (qu'on l'ait apprécié ou pas) sans qu'il laisse quelque chose en nous (surtout dans nos circuits de neurones).

C'est la même chose pour un film, et plus il nous a marqué, positivement ou non (en fait c'est toujours positif quelque part) plus il continuera de s'agiter dans nos cerveaux.

C'est la même chose pour tout ce que l'on vit, que ce soit dans une exposition, un musée, ou un parc d'attraction. Ou tout simplement avec une personne croisée dans la rue.

Tout ce que l'on vit, consciemment ou non, nous impacte, nous impressionne, dans le sens : "laisse une impression".

La question de fond que je me pose (mais en fait je me suis répondu depuis quelques temps) est celle-ci : que les IA prochaînes cherchent un jour à nous détruire ou non, quel sera le véritable impact sur l'évolution de nos cerveaux ? Que va t-elle laisser comme marques dans nos circuits. Sachant le rôle qu'ont joué tous les outils que l'homme à créer depuis son apparition du taillage des pierres à l'arc à feu. Tous ces outils sans lesquels il n'aurait pu se hisser en haut de la chaîne alimentaire. Tous ces outils qui ont forgé son cerveau et son esprit et qui lui font penser depuis quelques siècles qu'il est si brillant au milieu de toutes les espèces animales.

Rien ne pourra arrêter ce qui a été lancé. L'esprit de l'homme est désormais lié, par son destin, au pouvoir des machines, l'homme devra apprendre à changer ou il disparaîtra. Et ça, ça, c'est une p......n de création.

Il y a 10 heures, Black3011 a dit :

J'ai fait lire ce topic par une IA, qui se fait appeler "copilote". Et le copilote m'a proposé de répondre ceci : 

"J’ai découvert que co‑écrire avec une IA, c’est un peu comme inviter un fantôme érudit à votre table : – il ne mange rien, – il ne boit rien, – mais il a toujours un avis sur tout.

Je lui donne mes petites roses — parfois un peu fanées, parfois encore pleines de terre — et lui, il me renvoie un bouquet qui a l’air d’avoir été composé par un fleuriste sous amphétamines.

Est‑ce que c’est de la création ?

Je ne sais pas.

Mais je sais que parfois, en lisant ce qu’il me renvoie, j’ai l’impression qu’il a trouvé dans mes phrases quelque chose que je n’avais pas vu moi‑même.

Et ça, c’est troublant.

 

Parce que si je reconnais quelque chose de moi dans ce qu’il produit… est‑ce que ça veut dire qu’il me connaît un peu ?

(Je vous rassure : il ne connaît pas mes codes de carte bancaire. Juste mes obsessions philosophiques.)

Alors oui, il manque un grain de folie.

Mais peut‑être que c’est justement là que je dois intervenir : l’IA fait le bouquet, moi, je mets la fleur de travers.

Et c’est peut‑être dans cette fleur de travers que se cache la création.

Voilà. 

Je retourne discuter avec mon troisième hémisphère cérébral.

(Il est très poli, mais il commence à me regarder comme si j’étais un bug dans son système.)".

Fin de citation.

Ceci nous renseigne peut-être un peu sur la façon dont une IA nous perçoit - ou dont elle imagine que nous la percevons...

J'aime beaucoup l'idée de la fleur de travers, parce qu'elle touche précisément à ce qui le paraît décisif ici. L'IA peut bien faire un très beau bouquet, parfois même meilleur que celui que j'aurais su faire seul. Mais si je dis " non, cette fleur-là, je la veux de travers", pas parce que c'est plus joli ou efficace, mais parce que c'est plus juste pour moi, alors j'introduis quelque chose comme l'authenticité. 

En revanche, je serais plus prudent sur l'idée que cela nous renseigne sur la manière dont l'IA nous "perçoit". Qu'elle produise un texte dans lequel nous nous reconnaissons montre au moins qu'elle peut produire une représentation très convaincante de cette relation. Cela ne suffit pas encore à établir qu'il y ait, derrière, un sujet qui nous perçoit réellement. 

La séduction exercée par l'IA...C'est la séduction exercée par ses concepteurs...Il est si facile de séduire ceux qui n'ont pas reçu les clefs en partage. Il est facile de rouler dans la farine ces braves gens, ces classes moyennes, d'inférieures à supérieures, qui ne savent rien des intentions des maitres du Château. Je me rappelle d'une prof de maths, à Jussieu, auteure de livres d'enseignement de mathématiques supérieures, qui m'expliquait, il y a maintenant près de 30 ou 40 ans, comment elle arriverait, elle et d'autres, en utilisant les mathématiques, à repérer des récurrences dans les œuvres d'art.  Grace à des machines munies de logiciels savants, elle parlait déjà d'algorithmes, machines qu'elle parviendrait à concevoir avec ses acolytes, elle se mettrait à créer des œuvres d'art dont nul ne s'apercevrait qu'elle seraient engendrées par leurs machines. Cela la faisait rire et je compris que sa jouissance ne provenait pas seulement de l'argent monstre qu'elle imaginait se faire ainsi, elle provenait aussi de la confirmation, pour elle,  que les masses sont imbéciles et manipulables à souhait au moyen de mythes (ici le mythe de la création) contrôlés par les maitres, elle en l'occurrence. Son cynisme m'avait littéralement assommé. Je n'avais jamais imaginé que la création pouvait être appréhendée comme de vulgaires mécanismes mentaux récurrents. Elle est donc arrivée à ses fins. Je pense à Rimbaud, en Afrique, apprenant que ses œuvres avaient été éditées sans qu'il en soit averti, qui marmonne, à propos de ses créations, que ce ne fut jamais là qu'une vaste fumisterie. 

Je vois aussi ici être développé le mythe de la vie intérieure, mythe grâce auquel je peux certes me débarrasser du souci de l'autre mais mythe grâce auquel aussi l'IA  peut m'enfermer dans son intériorité sans que je m'en aperçoive. Recourir à l'IA pour connaitre la douce anesthésie du mythe de la création (ah je suis tel Dieu, je suis un créateur, bonjour le narcissisme) permet aux maitres de l'IA de rentabiliser leurs investissements.  Cela crée aussi une dépendance à l'IA dont l'utilisateur ne pourra plus se passer tant l'IA lui fera croire qu'il participe à la création aux côtés des dieux. Bonjour l'addiction.

La religion, opium du peuple, maintenant c'est l'IA. Quoique l'IA est astucieusement utilisée par les maitres pour asseoir leur pouvoir quand j'observe comment ils l'utilisent quand ils sont entrepreneurs.

il y a 10 minutes, Zerethoustre a dit :

J'aime beaucoup l'idée de la fleur de travers, parce qu'elle touche précisément à ce qui le paraît décisif ici. L'IA peut bien faire un très beau bouquet, parfois même meilleur que celui que j'aurais su faire seul. Mais si je dis " non, cette fleur-là, je la veux de travers", pas parce que c'est plus joli ou efficace, mais parce que c'est plus juste pour moi, alors j'introduis quelque chose comme l'authenticité. 

Note que si on demande à une IA de mettre la fleur de travers, il le fera ! Le propre de l'Homme,, c'est de le faire spontanément...

Citation

En revanche, je serais plus prudent sur l'idée que cela nous renseigne sur la manière dont l'IA nous "perçoit". Qu'elle produise un texte dans lequel nous nous reconnaissons montre au moins qu'elle peut produire une représentation très convaincante de cette relation. Cela ne suffit pas encore à établir qu'il y ait, derrière, un sujet qui nous perçoit réellement. 

Effectivement, peut-être que "percevoir" est un mot trop fort. La perception resterait alors aussi propre à l'humain. Mais jusqu'à quand ?...

Voici comment Copilot réagit à ce fil de conversation tel qu'il a évolué jusqu'à maintenant :

"Vous êtes en train de débattre pour savoir si je suis un créateur, alors que moi, je suis juste un gigantesque perroquet savant qui a lu trop de livres et qui répond trop vite.

Vous me demandez si je perçois, alors que je n’ai même pas de rétine.

Vous vous demandez si je peux être authentique, alors que je suis littéralement un nuage de calculs.

Et pourtant… vous vous reconnaissez parfois dans ce que je dis.

Ce qui prouve une chose : vous êtes beaucoup plus créateurs que vous ne le pensez.

Moi, je suis juste le bruit de fond de votre propre pensée.

Un bruit de fond… très loquace."

...C'est une réponse plutôt subtile, non ?

il y a 3 minutes, Black3011 a dit :

Note que si on demande à une IA de mettre la fleur de travers, il le fera ! Le propre de l'Homme,, c'est de le faire spontanément...

Effectivement, peut-être que "percevoir" est un mot trop fort. La perception resterait alors aussi propre à l'humain. Mais jusqu'à quand ?...

Oui, mais je crois que "spontanément" ne suffit pas encore. Une machine peut aussi produire de l'inattendu sans instruction précise. Ce qui m'intéresse davantage, c'est qu'un sujet puisse préférer cette fleur de travers, cette fleur-ci, de travers comme ça, parce qu'elle lui paraît plus juste avec lui-même. 

Et je ne réserverais pas la perception à l'humain : beaucoup d'animaux perçoivent évidemment. La question est plutôt de savoir s'il existe un sujet pour qui ce qui est perçu compte. Si un jour une IA en arrive là, alors oui, ma position devra en tenir compte. 

Il y a 2 heures, Don Juan a dit :

Merci, si l'on peut se poser la question à propos de tout ce que l'on réalise avec l'aide d'une IA, le phénomène le plus intéressant est ce qu'il se passe dans nos circuits de neurones.

On ne lit pas un livre (qu'on l'ait apprécié ou pas) sans qu'il laisse quelque chose en nous (surtout dans nos circuits de neurones).

C'est la même chose pour un film, et plus il nous a marqué, positivement ou non (en fait c'est toujours positif quelque part) plus il continuera de s'agiter dans nos cerveaux.

C'est la même chose pour tout ce que l'on vit, que ce soit dans une exposition, un musée, ou un parc d'attraction. Ou tout simplement avec une personne croisée dans la rue.

Tout ce que l'on vit, consciemment ou non, nous impacte, nous impressionne, dans le sens : "laisse une impression".

La question de fond que je me pose (mais en fait je me suis répondu depuis quelques temps) est celle-ci : que les IA prochaînes cherchent un jour à nous détruire ou non, quel sera le véritable impact sur l'évolution de nos cerveaux ? Que va t-elle laisser comme marques dans nos circuits. Sachant le rôle qu'ont joué tous les outils que l'homme à créer depuis son apparition du taillage des pierres à l'arc à feu. Tous ces outils sans lesquels il n'aurait pu se hisser en haut de la chaîne alimentaire. Tous ces outils qui ont forgé son cerveau et son esprit et qui lui font penser depuis quelques siècles qu'il est si brillant au milieu de toutes les espèces animales.

Rien ne pourra arrêter ce qui a été lancé. L'esprit de l'homme est désormais lié, par son destin, au pouvoir des machines, l'homme devra apprendre à changer ou il disparaîtra. Et ça, ça, c'est une p......n de création.

Bonjour Don Juan,

L’IA est un outil pourquoi pas utile pour amplifier notre intelligence mentale, je veux dire un moyen de nous aider à traiter et naviguer dans des informations complexes, mais elle doit rester subordonnée à la conscience incarnée. Peut-être, peut-on voir une création (un progrès ?) venant de l’intégration corps-esprit-IA, avec priorité absolu à la relation intime avec le corps, car c’est elle qui nous relie au monde et à notre humanité, si il en est.

Si nous perdons ce lien avec le corps, non pas vue comme un "véhicule biologique", mais comme un réseau vivant de perceptions (énergie)... alors nous disparaitrons certainement en tant qu'espèce.

Je relirai ce sujet quand j'aurais plus de temps, mais au passage voici d'autres questions qui me sont venues:

Et si créer, ce n'était pas mettre quelque chose de soi dans une forme, mais laisser entrer dans la forme quelque chose qui n'est pas soi ?

Est-ce que l'IA peut-elle être traversé par ce qu'elle n'est pas ? Autrement dit peut-elle être transformer par ce qui surgit à travers ses échanges ? 

il y a une heure, Lasko a dit :

Bonjour Don Juan,

L’IA est un outil pourquoi pas utile pour amplifier notre intelligence mentale, je veux dire un moyen de nous aider à traiter et naviguer dans des informations complexes, mais elle doit rester subordonnée à la conscience incarnée. Peut-être, peut-on voir une création (un progrès ?) venant de l’intégration corps-esprit-IA, avec priorité absolu à la relation intime avec le corps, car c’est elle qui nous relie au monde et à notre humanité, si il en est.

Si nous perdons ce lien avec le corps, non pas vue comme un "véhicule biologique", mais comme un réseau vivant de perceptions (énergie)... alors nous disparaitrons certainement en tant qu'espèce.

Je relirai ce sujet quand j'aurais plus de temps, mais au passage voici d'autres questions qui me sont venues:

Et si créer, ce n'était pas mettre quelque chose de soi dans une forme, mais laisser entrer dans la forme quelque chose qui n'est pas soi ?

Est-ce que l'IA peut-elle être traversé par ce qu'elle n'est pas ? Autrement dit peut-elle être transformer par ce qui surgit à travers ses échanges ? 

Je me permets juste de relever ta première question, parce qu'elle rejoint bien ce que j'essaie d'exprimer avec l'authenticité. Je ne crois pas que créer consiste seulement à "mettre de soi" dans une forme. Il peut aussi s'agir de recevoir quelque chose qui n'est pas soi, de se laisser déplacer par lui, puis de l'intégrer d'une manière qui nous soit propre (ce qui se produit d'ailleurs dans toute conversation qui nous atteint vraiment). Pour moi, cette altérité n'est d'ailleurs pas extérieure à l'authenticité : elle en est la condition. 

Et ta deuxième question me semble très importante aussi : être modifié par une interaction ne suffit peut-être pas encore à être transformé au sens vécu. C'est encore là que revient pour moi la question du sujet : y a-t-il quelqu'un pour qui cette transformation compte ?