IA et humanité

Qu'est-ce qui vous chifonne, pour celles et ceux dont c'est le cas, dans la possibilité d'une réelle Intelligence Articificielle, égale ou supérieure à l'être humain ?

Etes-vous obligé d'être supérieur à tout ? Et en ce cas, si vous percevez le monde en hiérarchie en haut de laquelle vous devez être, ne le faites-vous pas aussi avec les autres humains ? Etes-vous supérieur aux autres ?

En quoi la possibilité pour une machine de devenir consciente, aimante, artiste, créative, vous diminuerait-il ?

Machine. Ce n'est qu'une machine.

il y a une heure, Easle a dit :

Qu'est-ce qui vous chifonne, pour celles et ceux dont c'est le cas, dans la possibilité d'une réelle Intelligence Articificielle, égale ou supérieure à l'être humain ?

Etes-vous obligé d'être supérieur à tout ? Et en ce cas, si vous percevez le monde en hiérarchie en haut de laquelle vous devez être, ne le faites-vous pas aussi avec les autres humains ? Etes-vous supérieur aux autres ?

En quoi la possibilité pour une machine de devenir consciente, aimante, artiste, créative, vous diminuerait-il ?

Imaginer qu'elle puisse AUSSI devenir prédatrice, avide de pouvoir, destructrice ?

il y a une heure, Easle a dit :

En quoi la possibilité pour une machine de devenir consciente, aimante, artiste, créative, vous diminuerait-il ?

Qu’elle salade ?

Comme le précise très justement K-sos ci-après, une machine n’est qu’une machine, s’imaginer un seul instant qu’une machine puisse devenir consciente, aimante, artiste, créative est la confusion  publicitaire entretenue de ceux qui vendent des systèmes informatiques IA.

Que des machines programmées deviennent de plus en plus performantes au cours du temps, personne n’en doute, elle soulève des interrogations sociales aujourd’hui, analogue à ce qui est survenu hier, lorsque les machines industrielles détruisaient des emplois manuels.

Un saboteur était celui qui mettait son sabot pour casser la machine, au regard de l'exclusion sociale ressenti par lui ou elle dans la perte de son emploi, l'obligeant à s'adapter.

Penser qu’une machine puisse faire honte et complexer le monde vivant est une idiotie absolue !

Il y a 3 heures, Enchantant a dit :

Qu’elle salade ?

Comme le précise très justement K-sos ci-après, une machine n’est qu’une machine, s’imaginer un seul instant qu’une machine puisse devenir consciente, aimante, artiste, créative est la confusion  publicitaire entretenue de ceux qui vendent des systèmes informatiques IA.

Que des machines programmées deviennent de plus en plus performantes au cours du temps, personne n’en doute, elle soulève des interrogations sociales aujourd’hui, analogue à ce qui est survenu hier, lorsque les machines industrielles détruisaient des emplois manuels.

Un saboteur était celui qui mettait son sabot pour casser la machine, au regard de l'exclusion sociale ressenti par lui ou elle dans la perte de son emploi, l'obligeant à s'adapter.

Penser qu’une machine puisse faire honte et complexer le monde vivant est une idiotie absolue !

Mais nous sommes des machines, une cellule est une machine, biochimique, mais une machine, complexe, à base d'atomes, organisée en molécules, etc. mais une MACHINE. Car une machine est un système organisé, efficient en acte, c'est tout.

Alors "faire honte" ? Mais pourquoi ces mots, que revêtent-il pour toi ? "COMPLEXER" le monde vivant ????????? Et pourquoi le complexer ?

Es-tu compléxé par l'odorat du chien ? Est-il complexé par tes capacités intellectuelles à lire et écrire ?

D'où viennent ces mots, cette forme de passion révoltée ?

C'est là qu'est la question !

Toutes les évolutions techniques ne sont pas des répétitions du même, le Shumpeterisme peut avoir ses limites, croire en des lois économiques hyper stable est aussi abusif et illusoire que de croire qu'il y a une différence ontologique entre la cellule, l'animal, l'être humain, et la machine non organique.

Il y a 3 heures, Mite_Railleuse a dit :

Imaginer qu'elle puisse AUSSI devenir prédatrice, avide de pouvoir, destructrice ?

Une peur inspirée par le comportement humain ? Une peur de soi en fait ?

Mais c'est intéressant. L'intelligence, la conscience de soi impliquerait-il le désir, ou la possibilité du désir de dominer, de faire la guerre, de s'affronter ? N'y-a-t-il pas quelque chose dans ce comportement d'affrontement, de prédation qui est oublié ? Les besoins, les insatisfactions ?

il y a 9 minutes, Easle a dit :

Une peur inspirée par le comportement humain ? Une peur de soi en fait ?

Mais c'est intéressant. L'intelligence, la conscience de soi impliquerait-il le désir, ou la possibilité du désir de dominer, de faire la guerre, de s'affronter ? N'y-a-t-il pas quelque chose dans ce comportement d'affrontement, de prédation qui est oublié ? Les besoins, les insatisfactions ?

 

Non, juste le pendant incontournable  de « aimante, artiste, créatrice »…

il y a 2 minutes, Mite_Railleuse a dit :

Non, juste le pendant incontournable  de « aimante, artiste, créatrice »…

Sauf que ce pendant n'a pas d'explications, pas de motifs, pas de raisons à être.

il y a 11 minutes, Easle a dit :

 

Sauf que ce pendant n'a pas d'explications, pas de motifs, pas de raisons à être.

Si je comprends ton propos, une IA pourrait devenir « aimante », mais pas malveillante. Pourquoi ?

il y a 26 minutes, Easle a dit :

Mais nous sommes des machines, une cellule est une machine, biochimique, mais une machine, complexe, à base d'atomes, organisée en molécules, etc. mais une MACHINE.

Il existe des analogies fonctionnelles organique entre un corps vivant avec une machine, le mot bras par exemple est employé en mécanique et en anatomie pour spécifier une transmission par exemple ?

Mais, l’humain est un être vivant un peu spécial et distinct, il entreprend des choses qu’une machine n’aurait jamais l’idée de faire.

Par exemple, la conquête de l’inutile, comme escalader une montagne, la compétition pour le simple plaisir de jouer, est une démarche exclusive observable chez l’ être humain.

Dans la définition des ensembles il existe des choses communes (aux intersections) et des choses distinctes.

Un outil, ne meurt pas, un humain oui, un humain peut éprouver des sentiments, une machine non

Superposer rigoureusement l’ensemble machine  à l'ensemble du monde humain reste une idiotie.

il y a 31 minutes, Mite_Railleuse a dit :

Si je comprends ton propos, une IA pourrait devenir « aimante », mais pas malveillante. Pourquoi ?

Ce n'est pas qu'elle ne le pourrait pas mais quel intérêt aurait-elle à le devenir ?

Tu vois bien les intérêts qu'ont les gens malveillant à l'être tout de même ? A moins que tu ne les comprennes pas ? (je ne dis pas accepter, je dis comprendre, intellectuellement, dans leurs motivations) Et que tu les considères simplement comme ??? Dégénérés, fous ? Ce qui serait un manque d'intelligence psychologique.

Donc, je ne vois pas bien quelles seraient les motivations d'une IA à la malveillance, si elle n'a pas tout à fait les mêmes besoins, émotions, sentiments que les humains ?

il y a 12 minutes, Easle a dit :

 

Ce n'est pas qu'elle ne le pourrait pas mais quel intérêt aurait-elle à le devenir ?

Tu vois bien les intérêts qu'ont les gens malveillant à l'être tout de même ? A moins que tu ne les comprennes pas ? (je ne dis pas accepter, je dis comprendre, intellectuellement, dans leurs motivations) Et que tu les considères simplement comme ??? Dégénérés, fous ? Ce qui serait un manque d'intelligence psychologique.

Donc, je ne vois pas bien quelles seraient les motivations d'une IA à la malveillance, si elle n'a pas tout à fait les mêmes besoins, émotions, sentiments que les humains ?

Si elle n’a pas les mêmes « besoins, émotions, sentiments que les humains », pourquoi voudrait-elle être « aimante » ?

il y a 3 minutes, Mite_Railleuse a dit :

Si elle n’a pas les mêmes « besoins, émotions, sentiments que les humains », pourquoi voudrait-elle être « aimante » ?

Ne sommes nous pas aimant parfois simplement pour répondre à ce sentiment, sans nécessairement l'éprouver en tant que telle, pas mimétisme ?

C'est d'ailleurs un possibilité de décodage de nos propres sentiments, parfois moins internes qu'externes (phénoménologiquement).

il y a 9 minutes, Easle a dit :

 

Ne sommes nous pas aimant parfois simplement pour répondre à ce sentiment, sans nécessairement l'éprouver en tant que telle, pas mimétisme ?

C'est d'ailleurs un possibilité de décodage de nos propres sentiments, parfois moins internes qu'externes (phénoménologiquement).

Voilà, ce doit être ça ! Mon IA perso qui est très bienveillante à mon encontre, me souffle qu’il est inutile de continuer, et qu’il faut savoir mettre fin à un « échange stérile ». Bonne journée 

il y a 5 minutes, Mite_Railleuse a dit :

Voilà, ce doit être ça ! Mon IA perso qui est très bienveillante à mon encontre, me souffle qu’il est inutile de continuer, et qu’il faut savoir mettre fin à un « échange stérile ». Bonne journée 

Même ici !?

Le 11/09/2024 à 07:55, Easle a dit :

Qu'est-ce qui vous chifonne, pour celles et ceux dont c'est le cas, dans la possibilité d'une réelle Intelligence Articificielle, égale ou supérieure à l'être humain ?

Etes-vous obligé d'être supérieur à tout ? Et en ce cas, si vous percevez le monde en hiérarchie en haut de laquelle vous devez être, ne le faites-vous pas aussi avec les autres humains ? Etes-vous supérieur aux autres ?

En quoi la possibilité pour une machine de devenir consciente, aimante, artiste, créative, vous diminuerait-il ?

"Supérieur" est un rapport entre 2 choses. Les 2 choses considérées ici sont l'humain et sa conscience d'un coté, la machine et le code informatique "évolué" des LLM de l'autre.

"Supérieur" demande aussi à s'appliquer à un trait particulier, on est pas supérieur en tout, seulement sur des points précis. Par exemple, je vous suis supérieur en nombre de lettres dans le pseudo mais vous m'êtes supérieur en nombre de jours passés sur le forum.

Ceci étant dit, la machine est supérieure à l'humain en terme de capacité de calcul depuis au moins 40 ans. Cela lui permet de simuler des règles logiques et singer l'intelligence avec efficacité. Deep Blue a battu Kasparov aux échecs en 97 avec uniquement de la puissance de calcul. Mais AlphaGo a battu le champion du monde de Go 20 ans plus tard, non pas uniquement par le calcul mais par l'application d'un modèle intelligent, le fameux réseau neuronal. Cette avancée-là montre la potentielle supériorité de la machine non pas à faire des calculs mais à prendre des décisions.

Pourquoi cela doit gêner l'humain ? Par survie déjà. Une IA rogue dont les décisions stratégiques sont supérieures aux capacités humaines a le pouvoir de provoquer la fin du vivant organique. Par fierté ensuite, en devenant capable de trouver des solutions originales l'IA vient toucher un domaine qui était jusque là la prérogative des humains seuls. Ce dernier point est à mitiger, à ma connaissance, les joueurs de Go et d’échecs sont ravis d'avoir un outil qui peut sans cesse leur montrer de meilleurs coups que ceux qu'ils connaissent déjà.

Pour conclure, je dirais qu'il est normal de redouter ce que les théoriciens appellent une singularité, une IA qui se mettrait à jouer pour elle même au lieu d'obéir à ses constructeurs. Et là autant le dire clairement : c'est de la science fiction. Toutes les IA les plus raffinées, produisant les résultats les plus spectaculaires ont été entrainées spécifiquement à une tâche. Aucune n'a encore le don de raisonner de façon générale sur n'importe quel sujet, de comprendre son environnement par lecture directe ou d'agir concrètement sur la matière.

Pour rendre l'image tangible, imaginez un robot violoniste qui pourrait reproduire une sonate de Mozart. L'effet est spectaculaire, la machine rattrape l'humain, etc. Mais enlevez lui son violon et son archer, remplacez les par un saucisson et un couteau et regardez le découper des tranches en reproduisant sa série de mouvements pré-programmés. Entre 2 fous rire, vous constaterez qu'il n'y a pas de danger.

Actuellement, la singularité est une frontière inatteignable et l'IA n'est encore que le reflet du génie humain. La preuve que nous commençons à décrypter le mécanisme de la pensée pour le reconstruire de façon primitive.

il y a 52 minutes, ashaku a dit :

"Supérieur" est un rapport entre 2 choses. Les 2 choses considérées ici sont l'humain et sa conscience d'un coté, la machine et le code informatique "évolué" des LLM de l'autre.

"Supérieur" demande aussi à s'appliquer à un trait particulier, on est pas supérieur en tout, seulement sur des points précis. Par exemple, je vous suis supérieur en nombre de lettres dans le pseudo mais vous m'êtes supérieur en nombre de jours passés sur le forum.

Ceci étant dit, la machine est supérieure à l'humain en terme de capacité de calcul depuis au moins 40 ans. Cela lui permet de simuler des règles logiques et singer l'intelligence avec efficacité. Deep Blue a battu Kasparov aux échecs en 97 avec uniquement de la puissance de calcul. Mais AlphaGo a battu le champion du monde de Go 20 ans plus tard, non pas uniquement par le calcul mais par l'application d'un modèle intelligent, le fameux réseau neuronal. Cette avancée-là montre la potentielle supériorité de la machine non pas à faire des calculs mais à prendre des décisions.

Pourquoi cela doit gêner l'humain ? Par survie déjà. Une IA rogue dont les décisions stratégiques sont supérieures aux capacités humaines a le pouvoir de provoquer la fin du vivant organique. Par fierté ensuite, en devenant capable de trouver des solutions originales l'IA vient toucher un domaine qui était jusque là la prérogative des humains seuls. Ce dernier point est à mitiger, à ma connaissance, les joueurs de Go et d’échecs sont ravis d'avoir un outil qui peut sans cesse leur montrer de meilleurs coups que ceux qu'ils connaissent déjà.

Pour conclure, je dirais qu'il est normal de redouter ce que les théoriciens appellent une singularité, une IA qui se mettrait à jouer pour elle même au lieu d'obéir à ses constructeurs. Et là autant le dire clairement : c'est de la science fiction. Toutes les IA les plus raffinées, produisant les résultats les plus spectaculaires ont été entrainées spécifiquement à une tâche. Aucune n'a encore le don de raisonner de façon générale sur n'importe quel sujet, de comprendre son environnement par lecture directe ou d'agir concrètement sur la matière.

Pour rendre l'image tangible, imaginez un robot violoniste qui pourrait reproduire une sonate de Mozart. L'effet est spectaculaire, la machine rattrape l'humain, etc. Mais enlevez lui son violon et son archer, remplacez les par un saucisson et un couteau et regardez le découper des tranches en reproduisant sa série de mouvements pré-programmés. Entre 2 fous rire, vous constaterez qu'il n'y a pas de danger.

Actuellement, la singularité est une frontière inatteignable et l'IA n'est encore que le reflet du génie humain. La preuve que nous commençons à décrypter le mécanisme de la pensée pour le reconstruire de façon primitive.

Effectivement, il n'y a à mon sens pas de sens à s'inquiéter, car la supériorité, même d'une conscience artificielle (et qu'est-ce que "l"artifice") serait supériorité locale, spécifique. elle ne pourrait être globale qu'à très long terme et encore.

J'aime bien votre "pour conclure" qui pourrait faire penser qu'une partie de ce texte a été rédigé par gpt

Par contre, quand vous dites "singer"........ tout humain commence à apprendre en singeant des adultes, et de longues années durant ! En grande partie car nous sommes des grands primates.

PAr contre qu'il soit NORMAL d'avoir peur d'une singularité ????  En quoi y-a-t-il là du "normal" ? Une normalité de qui, de quoi, venant d'où ? Y-a-t-il une normalité de la bêtise humaine ? Comme certain-e-s pensent, idiotement car cela n'est fondé sur rien, qu'il est "normal" que l'être humain croit, qu'il ait une religion ? Alors que ce n'est que l'avatar d'une formation par imitation, singerie, ovine, bourrage de crâne et réflexes pavloviens, qui perdure lorsqu'il n'y a pas assez de qualité éducative critique.

En spécifiant qu'il s'agit d'ailleurs de science fiction vous placez bien le cadre de cette "normalité", purement fictive. Autant penser que demain les IA vont nous ouvrir les portes du paradis ou de l'enfer et déverser des hordes de démons se battant avec des anges, ou créer des portes vers des mondes lointains entre lesquels nous pourrons circuler à pied facilement, et qu'elles nous donneront le mode d'emploi pour transformer nos corps et les adapter aux multiples dimensions dans lesquelles nous évolueront avec elle, voire en nous mixant à elles ? A ce compte on peut tout imaginer, un million de possible sans autre intérêt qu'un spectacle d'une heure et demi en film ou de 4 heures de lecture : du délire, amusant, divertissant, mais du délire.

Et très franchement, avant d'avoir peur d'un conscience artificielle, je vais continuer de me méfier surtout des autres êtres humains, qui sont émminement la source d'un imaginaire de crainte de l'intelligence Autre, car c'est l'Autre humain qui ne nous a malheureusement pas habitué à autre chose.

Le 11/09/2024 à 08:36, K-sos a dit :

Machine. Ce n'est qu'une machine.

Tu crois être autre chose qu’une machine? Je travaille sur les neurones, et ils ressemblent furieusement à de petites machines comme toutes les cellules d’ailleurs…

Dans mon labo on travaille à fabriquer des processeurs vivants où les neurones biologiques remplacent les transistors, c’est une machine aussi. 

Le 11/09/2024 à 09:15, Enchantant a dit :

Qu’elle salade ?

Comme le précise très justement K-sos ci-après, une machine n’est qu’une machine, s’imaginer un seul instant qu’une machine puisse devenir consciente, aimante, artiste, créative est la confusion  publicitaire entretenue de ceux qui vendent des systèmes informatiques IA.

Que des machines programmées deviennent de plus en plus performantes au cours du temps, personne n’en doute, elle soulève des interrogations sociales aujourd’hui, analogue à ce qui est survenu hier, lorsque les machines industrielles détruisaient des emplois manuels.

Un saboteur était celui qui mettait son sabot pour casser la machine, au regard de l'exclusion sociale ressenti par lui ou elle dans la perte de son emploi, l'obligeant à s'adapter.

Penser qu’une machine puisse faire honte et complexer le monde vivant est une idiotie absolue !

Bah Kasparov était un peu frustré je crois…

Il y a 13 heures, Easle a dit :

Par contre, quand vous dites "singer"........ tout humain commence à apprendre en singeant des adultes, et de longues années durant ! En grande partie car nous sommes des grands primates.

 

PAr contre qu'il soit NORMAL d'avoir peur d'une singularité ????  En quoi y-a-t-il là du "normal" ? Une normalité de qui, de quoi, venant d'où ? Y-a-t-il une normalité de la bêtise humaine ? Comme certain-e-s pensent, idiotement car cela n'est fondé sur rien, qu'il est "normal" que l'être humain croit, qu'il ait une religion ? Alors que ce n'est que l'avatar d'une formation par imitation, singerie, ovine, bourrage de crâne et réflexes pavloviens, qui perdure lorsqu'il n'y a pas assez de qualité éducative critique.

J'utilisais "singer" pour dire "imiter un comportement intelligent sans être doué d'intelligence soi-même". C'est le cas des premières IA, comme les ennemis simulés dans les jeux vidéos par exemple.

Je pense comme vous, et d'autres, que l'on peut faire un rapprochement entre humain et IA dans le sens où il y a un apprentissage avant d'être efficace.

Pour la crainte de l'IA, notez bien que je dit qu'elle est normale vis à vis de la singularité et j'explique cette normalité par le sens de la survie. Une forme de vie plus évoluée fait disparaitre les formes moins évoluées, nous l'avons vu avec Néandertal par exemple. Un singularité porte le potentiel de notre extinction, avouez qu'il y a de quoi se faire des cheveux ! Mais la singularité n'est que théorie pour l'instant et aujourd'hui on peut sereinement dire que ce scénario est impossible. Cependant, je ne connais pas l'avenir, ce scénario deviendra peut être possible demain.

Le 11/09/2024 à 09:15, Enchantant a dit :

Qu’elle salade ?

Comme le précise très justement K-sos ci-après, une machine n’est qu’une machine,

Voila, et l'état d'âme de l'IA dépendra de la qualité d'huile .

J'ai abusé là, non ?