IA et humanité

Il y a 13 heures, bouddean a dit :

En fait, je pense que les gens qui ont " peur " ou sont "anti IA " sont les gens qui ont perdu toute confiance dans l'humain, dans l'humanité . Ce n'est pas l'IA en elle même qui leur fait peur, c'est ce que l'humain peut en faire . 

La question philosophique c'est : doit on avoir confiance ou pas dans l'humanité ? 

 

IL ne faut pas en avoir peur , l'IA est une sorte de surhomme Nietzshéen à l'Intérieur d'une boîte de conserve avec un cerveau qui calcule trop vite mais ne prend jamais le temps de penser . 

A ce titre il est tout aussi con que l'homme son créateur , il fera les même connerie mais plus rapidement c tout puisque de toute façon il est là pour aider l'humain à accomplir les taches que l'homme aura fixé  . ça n'est rien de plus que l'évolution du robot moulinex de grand mère qui non seulement va trancher les patates mais en plus remplacer grand mère ....ou le toutou qui va avec ....

faut pas en voir peur , c'est juste qu'il est interressant de découvrir ses divers emploies et répercutions dans la société humaine .

Le 06/02/2025 à 21:29, Ptitissus a dit :

Imaginer qu'elle puisse AUSSI devenir prédatrice, avide de pouvoir, destructrice ?

 

ça c'est de la SF mais c interressant . 

toute invention prend du pouvoir sur son propre créateur à savoir l'homme , pour la bonne et simple raison que "l'invention" à proprement parlé va redéfinir ce que va être l'homme et va reconditionner celui ci à être une sorte de "nouvel homme" ou dans certain cas un sur-homme dépendamment de l'invention .... et donc dans ce contexte n'importe que invention et création humaine robotisé ou pas prend du pouvoir sur lui même parce que justement il le reconditionne . 

quand l'humain invente l'Imprimerie et automatise celle ci , ne serait ce que quand l'homme pense "l'automate"  , automate qui se trouve être une idée trés ancienne il est déja dans une démarche d'intelligence artificielle ...

et toute ses inventions vont peu à peu transformer l'humanité pour le meilleur et pour le pire .

alors du coups oui il existe une forme de "prédation" de la machine sur l'homme ne serait ce parce que peu à peu la machine remplace l'homme mais dans le même temps c'est une aide  .

destructrice , ptet pas autant que ça ......... disons que l'IA et toute les inventions passés de l'homme ont rabatues les cartes et façonnés l'humanité , ni plus ni moins . Disons que ça détruit un ancien monde pour en construire un nouveau , rien de plus .

La conception n'équivaut pas à son objet. Tout objet, une fois conçu, se libère de la pensée qui l’a engendré. L’inventeur façonne, structure, construit, mais son œuvre lui échappe, car elle entre dans un champ d’interprétation et d’usage qu’il ne peut entièrement maîtriser.

Dans le cas de l’IA, l’ampleur des conséquences d’une IA défaillante dépasse souvent la mesure immédiate d’une erreur. Contrairement à une machine dont la panne est visible, l’IA opère dans une zone d’incertitude où les marqueurs de défaillance sont diffus, parfois imperceptibles avant d’avoir produit leurs effets.

Qu’est-ce qu’une IA défaillante ? Elle ne tombe pas en panne au sens classique. Elle continue à fonctionner tout en générant des décisions biaisées, incohérentes ou potentiellement destructrices sans qu’on puisse toujours en percevoir les signes. Le danger réside dans cette invisibilité : une défaillance qui s’insinue dans le réel et en reconfigure progressivement les structures sans qu’on ne puisse en définir le point de rupture précis. Parler d'IA prédatrice serait entrer dans une projection anthropomorphique dont la validité est de l'ordre de la réflexion métaphysique. Les effets de l'IA sur la structure de notre monde social pose des questions indépendamment de toute projection intentionnelle. 

il y a 58 minutes, Elbaid1 a dit :

IL ne faut pas en avoir peur , l'IA est une sorte de surhomme Nietzshéen à l'Intérieur d'une boîte de conserve avec un cerveau qui calcule trop vite mais ne prend jamais le temps de penser . 

A ce titre il est tout aussi con que l'homme son créateur , il fera les même connerie mais plus rapidement c tout puisque de toute façon il est là pour aider l'humain à accomplir les taches que l'homme aura fixé  . ça n'est rien de plus que l'évolution du robot moulinex de grand mère qui non seulement va trancher les patates mais en plus remplacer grand mère ....ou le toutou qui va avec ....

faut pas en voir peur , c'est juste qu'il est interressant de découvrir ses divers emploies et répercutions dans la société humaine .

Je ne crois pas que la valeur de lHomme soit dans sa capacité de stockage d'informations , je pense qu'elle est dans sa capacité à produire de l'énergie avec le moins de consommation possible . Pour ça, il faut , comme un moteur , qu'il soit bien réglé .

Tu vois, un moteur bien réglé, va consommer 2 litres au 100km, le même moteur mal réglé peut avoir besoin de 10 litres pour la même distance , la recherche de l'homme qui veut ,non pas devenir un sur homme , mais arrêter d'être un sous homme , est d'être dans l'état ou il fonctionne de manière optimum, c'est à dire , l'état  dans lequel  il produit plus d'énergie qu'il n'en consomme .

L'humain du futur continuera t'il à consommer plus qu'il ne produit ou inversera t'il les choses en produisant plus qu'il ne consomme ? 

Il y a 9 heures, bouddean a dit :

Je ne crois pas que la valeur de lHomme soit dans sa capacité de stockage d'informations , je pense qu'elle est dans sa capacité à produire de l'énergie avec le moins de consommation possible . Pour ça, il faut , comme un moteur , qu'il soit bien réglé .

Tu vois, un moteur bien réglé, va consommer 2 litres au 100km, le même moteur mal réglé peut avoir besoin de 10 litres pour la même distance , la recherche de l'homme qui veut ,non pas devenir un sur homme , mais arrêter d'être un sous homme , est d'être dans l'état ou il fonctionne de manière optimum, c'est à dire , l'état  dans lequel  il produit plus d'énergie qu'il n'en consomme .

L'humain du futur continuera t'il à consommer plus qu'il ne produit ou inversera t'il les choses en produisant plus qu'il ne consomme ? 

Intéressant ce rapport à l’energie pour définir l’homme. Mais j’ai l’impression que l’on ne peut pas produire de l’energie, on peut juste la transformer, et je ne suis pas au clair de ce que signifie consommer non plus.

Il y a 17 heures, Elbaid1 a dit :

IL ne faut pas en avoir peur , l'IA est une sorte de surhomme Nietzshéen à l'Intérieur d'une boîte de conserve avec un cerveau qui calcule trop vite mais ne prend jamais le temps de penser . 

Il y a une théorie matérialiste qui présuppose que la conscience puisse émerger de la complexité neuronale.

Je n'y crois pas mais je pourrais être surpris.

En tout cas je pense qu'on saurait déjà la simuler.

Mais même en considérant une machine à calculer géante, sa capacité à accumuler l'information et à la restituer non seulement de manière intelligible mais de maniere de plus en plus pertinente pose beaucoup de nouvelles problématiques.

Oui ce n'est pas penser

Mais malheureusement c'est souvent plus pertinent que beaucoup de pensées.

Il y a compétition en terme de transmission 

Un professeur peut-être moins clair

Un Nobel moins explicite 

Et on commence à voir l'utilisation de l'IA en recherche fondamentale pour nous éclairer de conséquences qu'on ne savait pas sans elle

https://www.google.com/amp/s/www.sciencesetavenir.fr/fondamental/algorithme-alphafold-de-deepmind-le-repliement-des-proteines-resolu-par-une-intelligence-artificielle_159865.amp

La peur n'évite pas le danger mais on entre dans une aire nouvelle 

il y a 43 minutes, zenalpha a dit :

Il y a une théorie matérialiste qui présuppose que la conscience puisse émerger de la complexité neuronale.

Je n'y crois pas mais je pourrais être surpris.

En tout cas je pense qu'on saurait déjà la simuler.

Mais même en considérant une machine à calculer géante, sa capacité à accumuler l'information et à la restituer non seulement de manière intelligible mais de maniere de plus en plus pertinente pose beaucoup de nouvelles problématiques.

Oui ce n'est pas penser

Mais malheureusement c'est souvent plus pertinent que beaucoup de pensées.

Il y a compétition en terme de transmission 

Un professeur peut-être moins clair

Un Nobel moins explicite 

Et on commence à voir l'utilisation de l'IA en recherche fondamentale pour nous éclairer de conséquences qu'on ne savait pas sans elle

https://www.google.com/amp/s/www.sciencesetavenir.fr/fondamental/algorithme-alphafold-de-deepmind-le-repliement-des-proteines-resolu-par-une-intelligence-artificielle_159865.amp

La peur n'évite pas le danger mais on entre dans une aire nouvelle 

 

Ce n'est pas penser, ce n'est pas sentir, ce n'est pas imaginer, ce n'est pas conscientiser, mais dans les faits cela reviendra au même.

Peut-être que l'homme, réalisant qu'en haut de la pyramide des tueurs c'est bien lui qui trône, mais qu'en haut de la pyramide de l'intelligence ou de la raison, il va être délogé et renvoyé quelques étages plus bas, peut-être va t-il retrouver un manteau d'humilité et utiliser ses autres moyens de communication et d'adaptation pour ne pas être exclu du monde du vivant.

Il y a 13 heures, SpookyTheFirst a dit :

Intéressant ce rapport à l’energie pour définir l’homme. Mais j’ai l’impression que l’on ne peut pas produire de l’energie, on peut juste la transformer, et je ne suis pas au clair de ce que signifie consommer non plus.

Bien, je remplace le mot produire par le mot : " utiliser " alors .

il y a 6 minutes, bouddean a dit :

Bien, je remplace le mot produire par le mot : " utiliser " alors .

considération sémantique base sur rien ne se crée rien ne se perd tout se transforme normal... mais lorsque un enfant est conçu grandis puis nait c'est au choix en consommant en produisant ou en utilisant de l'énergie mais les parents diront qu'ils ont conçu leurs enfants autrement dis qu'il l'ont produit.

C'est pourquoi sémantiquement pour ce que tu relate...pourquoi pas ta première utilisation aussi et il m'avais alors sembler quand tu l'avais écris que tu faisais vraiment état d'une forme de production d'énergie propre a l'etre humain (sorry pour la nomenclature non officielle de référencement de mots en usage )   

Il y a 8 heures, Herver a dit :

considération sémantique base sur rien ne se crée rien ne se perd tout se transforme normal... mais lorsque un enfant est conçu grandis puis nait c'est au choix en consommant en produisant ou en utilisant de l'énergie mais les parents diront qu'ils ont conçu leurs enfants autrement dis qu'il l'ont produit.

 

C'est pourquoi sémantiquement pour ce que tu relate...pourquoi pas ta première utilisation aussi et il m'avais alors sembler quand tu l'avais écris que tu faisais vraiment état d'une forme de production d'énergie propre a l'etre humain (sorry pour la nomenclature non officielle de référencement de mots en usage )   

Oui , dans ma première idée, je pensais bien à produire de l'énergie .

Alors , une personne ici m'avait dit qu'il y a une loi implacable en physique qui dit qu'il est impossible de produire plus d'énergie qu'on en dépense , c'est simplement qu'on converti l'énergie de quelque chose sous une autre forme , si par exemple , tu produit 500w en pédalant sur ton vélo, cela veut dire que tu as dépensé 500w de ton corps, je sais pas, peut être les calories deviennent des watts . Alors oui, tu l'as produit cette énergie , mais pour la produire , il a fallut que tu l'obtiennes de quelque part .

Alors oui, dans ma première proposition, je pensais bien à une forme de production , mais que ce soit une transformation ou une conversion ne change pas vraiment l'idée de fond .

Il y a 16 heures, zenalpha a dit :

Et on commence à voir l'utilisation de l'IA en recherche fondamentale pour nous éclairer de conséquences qu'on ne savait pas sans elle

https://www.google.com/amp/s/www.sciencesetavenir.fr/fondamental/algorithme-alphafold-de-deepmind-le-repliement-des-proteines-resolu-par-une-intelligence-artificielle_159865.amp

une découverte qui transforme la biologie est un pas de plus vers un eurgénisme , puisque il sagit de génétique dans le sujet .

alors au pire des cas la science de l'IA va nous mener peu à peu à un eugénisme , mais ceci ne sera pas sous la décision innopiné d'une IA qui va décider de créer un "homme nouveau parfait" , non ça sera juste une aide suplémentaire à cet fin qui soulève depuis bien longtemps des problèmes d'éthique .

Il y a 16 heures, zenalpha a dit :

En tout cas je pense qu'on saurait déjà la simuler.

Mais même en considérant une machine à calculer géante, sa capacité à accumuler l'information et à la restituer non seulement de manière intelligible mais de maniere de plus en plus pertinente pose beaucoup de nouvelles problématiques.

Oui ce n'est pas penser

oui voila simuler n'est pas être ni penser .

pour que ce soit un être pensant et agissant de sa propre volonté il faudrait qu'il puisse s'émanciper du bouton ON/OFF et donc s'émanciper de la volonté humaine et donc posséder sa propre volonté .

je pense ça n'est pas facile , c'est trés trés compliqué , c'est déja compliqué pour un être humain de s'émanciper de sa nature , alors une IA , même avec une forme humaine , il aura d'énorme difficulté de s'émanciper de son maître à savoir l'humain .

enfin je fais la différence entre une IA comme un support , un facteur d'aide et de calcul pour servir la volonté humaine . à la différence d'une IA qui prendrait elle même les commande pour décider de son destin .

c'est un peu le rapport qui existe entre le maître et son esclave , avant que l'esclave IA s'émancipe de son maître c'est pas gagné . 

PAR contre l'IA peut éventuellement contribuer à transformer l'homme en homme nouveau , ça c'est certain , mais ça restera entre les mains de la volonté humaine et sa folie des grandeurs .

ça me fait penser à Mickey dans l'aprenti sorcier .

Le 23/05/2025 à 21:38, bouddean a dit :

Je ne crois pas que la valeur de lHomme soit dans sa capacité de stockage d'informations , je pense qu'elle est dans sa capacité à produire de l'énergie avec le moins de consommation possible . Pour ça, il faut , comme un moteur , qu'il soit bien réglé .

Tu vois, un moteur bien réglé, va consommer 2 litres au 100km, le même moteur mal réglé peut avoir besoin de 10 litres pour la même distance , la recherche de l'homme qui veut ,non pas devenir un sur homme , mais arrêter d'être un sous homme , est d'être dans l'état ou il fonctionne de manière optimum, c'est à dire , l'état  dans lequel  il produit plus d'énergie qu'il n'en consomme .

L'humain du futur continuera t'il à consommer plus qu'il ne produit ou inversera t'il les choses en produisant plus qu'il ne consomme ? 

D'aprés l'échelle de Kardachev et si j'en ai tout compris il n'existe pas vraiment de limite , l'humain demandera toujours plus d'énergie et celle ci nous poussera à toujours plus consommer jusqu'à ce qu'on soit capable de collecter toute la puissance du soleil et toute les resosurces présente dans le système solaire , il n'existe pas de limite .  d'ailleurs L'IA augemnte fortement la demande d'énergie pour faire fonctionner cet "matrix" , si celle ci nous apporte l'aide le savoir la technologie pour augmenter encore nos ressources et nous permettre d'aller plus haut et plus fort . C'est une sorte d'engrenage .

Le 23/05/2025 à 21:36, Leverkuhn a dit :

La conception n'équivaut pas à son objet. Tout objet, une fois conçu, se libère de la pensée qui l’a engendré. L’inventeur façonne, structure, construit, mais son œuvre lui échappe, car elle entre dans un champ d’interprétation et d’usage qu’il ne peut entièrement maîtriser.

Oui et non . l'homme invente la roue , il était loin d'immaginer que ça créerait des bouchons et d'éventuel désagrément sur les routes qui à l'époque n'était que de vulgaire piste cabossé parcouru par des charettes tiré par des boeufs  , bref ce sont les conséquences qui ne sont pas maitrisé , des futurs possible provoqués par l'invention qui en quelques sorte ne sont pas totalement maitrisé parce qu'on en ignore son futur et ce qu'il va donné ....

mais la roue n'a jamais pris le pouvoir , elle ne s'est jamais libéré de la pensée humaine , c'est toujours l'humain qui tient la diercetion du volant et donc de la roue , alors l'oeuvre de la "roue" ne lui échappe pas vraiment , c'est juste qu'au moment de sa création il y a 7000 ans  on était loin d'immaginer que cela aller engendrer un bouchon estival sur l'autoroute A9 et dé'evntuel désagrément comme des crevaisons . Don en effet on ne mairtise pas tout .

Le 23/05/2025 à 21:36, Leverkuhn a dit :

Qu’est-ce qu’une IA défaillante ? Elle ne tombe pas en panne au sens classique. Elle continue à fonctionner tout en générant des décisions biaisées, incohérentes ou potentiellement destructrices sans qu’on puisse toujours en percevoir les signes. Le danger réside dans cette invisibilité : une défaillance qui s’insinue dans le réel et en reconfigure progressivement les structures sans qu’on ne puisse en définir le point de rupture précis. Parler d'IA prédatrice serait entrer dans une projection anthropomorphique dont la validité est de l'ordre de la réflexion métaphysique. Les effets de l'IA sur la structure de notre monde social pose des questions indépendamment de toute projection intentionnelle. 

ah oui c'est possible , comme dans l'utilisation d'un véhicule à conduite automatique , une IA censé conduire le véhicule qui pour X raison commet une erreur risque de se prendre un platane ou en tous les cas quitter sa trajectoire etc etc etc ....

mais ça ne serait pas du à sa propre volonté de quitter sa trajectoire pour se prendre un platane et VOLONTAIREMENT de tuer les passagers tout en se suicidant .

une IA est elle capable de se suicider ?   Une erreur de calcul sur sa trajectoire du à un "grain de sable" extérieur qui viendrait le mettre à défait et provoquer son erreur n'est pas un suicide ou une volonté de s'écraser ou d'en faire qu'à sa tête .... , si toute fois il a une tête .

je suppose que les diverses armés vont s'en donner à coeur joie pour utiliser cet IA afin d'améliorer l'homme soldat , voir d'en créer un entièrement autonome avec la capacité de s'adapter , mais est ce que ce "soldat IA " aura t'il la trouille ?  et refusera l'ordre de tuer pour des raisons morale , ça c'est moins certain .

pour moi une IA ou une autre ça reste un grille pain , tant que mon grille pain ne tentera pas de s'évader ou refusera de fonctionner parce qu'il ne veut plus servir de crémation à tranche de pain pour des raisons morale .

Le 13/10/2024 à 23:44, Tequila Moor a dit :

 

Je vais oser !

Oser dire que l'essentiel dans cette video est simplement r i d i c u l e.

La forme : un discours fuilde et très rapide qui assène pour ne pas laisser le temps de réfléchir à ce sui vient d'être dit et 'soualer' l'auditeur, voire le boxer pour qu'il admette la supériorité de celui qui 'frappe' son imagination sans lui laisser le temps de recul. Si on sait esquiver les coups, les connait tant ils sont habituels donc prévisibles, aucun ne porte et on écoute ça avec l'amusement d'un néo qui dans matrix s'étonne de la lenteur de ses adversaires.


Car le fond : L'usine à trombonne à la même pertinence que l'existence possible du père noël ou de dieu. C'est une fiction sans aucun support réel. Aucune IA ne reçoit ce type de demande ni n'a ce type de limite. donc sans matière, purement fictionnnel.... Sauf pour l'être humain. Qui effectivement a un comportement voisin de cela avec sa démographie vide de sens et son désir de croissance économique pour la croissance économique.

C'est donc plutôt une fable humaine qu'informatique qui parle du vide existentiel d'une créature que la non congruence entre son corps (limites perceptibles) et son esprit (limites non perceptibles) voue à une frénésie chez certain-e-s par peur de la mort involontaire, non maitrisée.

De deux la fin de la video expose clairement l'option "pessimiste" d'une voix jeune et séduisante, vive, qui semble intelligente mais qui est en réalité grégaire, conservatrice au dernier degré, mystique plutôt que poétique, un cassandre qui imagine des monstres sous les lits sur la base de jeu de lumière, qui dans le silence ou la méfiance de spécialistes interprète la fin du monde, en gros ............

......... d'une video dont on peut se demander par qui elle est faite ? Quel est ce compte qui a 7 video en 4 ans ? en 1 an en réalité.

A part quelqu'un qui a un message....... D'ailleurs quelqu'un ?

En fait on a là une video qui n'est que "du contenu", sans intelligence ni connaissance réelle du sujet, mais avec un objectif, idéologique, politique., voire économique !
 

Le 16/10/2024 à 17:58, Ambre Agorn a dit :

Et bien ça me perturbe, alors je me torture l'esprit.

L'IA semble nous dépasser sur bien des domaines. Elle peut même mentir, trahir, tricher, etc.

Mais,comme vous le dites, il y a toujours quelque chose qui fait qu'elle ne sera jamais humaine, que l'humain a toujours quelque chose qu'elle n'a pas. Seulement, je pense aussi que nous ne sommes pas au sommet de notre évolution, nous sommes en transition et nous allons vers ce que nous serons. Visiblement nous sommes à un moment crucial de notre évolution, et nous jouons notre existence même.

Je ne parlerai pas de conscience, parce que je n'arrive pas à saisir ce que chacun entend par ce mot. Je parlerai d'intériorité. L'humain a un monde intérieur qu'il peut explorer, agrandir, façonner, extérioriser, etc. Ce monde intérieur il est unique. Le problème, c'est que la tendance est de le détruire au profit du bonheur ici et maintenant, à coup de développement personnel, assaisonné de "profiter de l'instant présent".

Il y a une autre chose que seul l'humain fait, mais peut-être découle-t-elle de la première, c'est la capacité de se sacrifier pour une idée. Et, comme pour la première, je constate avec effroi comme cette capacité disparaît de plus en plus.

Et vous, où en êtes-vous à ce sujet?

L'être est un animal. Ni plus ni moins valable qu'un autre. Le hasard est seul créateur d'un cerveau qui lui semble (et à lui seul) extraordinaire, avec des "créations" qui ne sont que destruction d'autres choses pour ce faire.

Un monde intérieur ?     unique ? Ben voyons ! Aussi unique que le sont chacune des molécules d'une table, unique mais toutes si semblables. Tout dépend de votre angle de vue. Nombrilistement oui, chacun peut se croire unique. Regarder les humains depuis le point de vue d'Orion et oh surprise, des différences ridiculement infinitésimales, voire aucune.

Et vous croyez quoi que ce que vous appelez humain va le rester durant 1 millions d'année ? 

Un moment crucial de notre évolution !!!!! Ah ! vivre une époque sans pareil ! du moins s'en donner l'impression

Oui, peut-être mais vous ne vivrez pas assez longtemps pour en voir quelque chose de prodigieux. Au mieux, vous vous fatiguerez d'attendre et surtout de voir arriver des divergences molles, décevantes, voire insupportables

Le 06/02/2025 à 09:55, Melimelo67 a dit :

Il y a un domaine que l'I.A ne peut pas explorer, c'est celui de la foi, il lui est totalement fermé. Jamais elle ne saura ce que avoir la foi veut dire.

Ce qui est normal puisque 'artificielle', elle est néanmoins 'intelligente' !

Le 06/02/2025 à 10:49, Don Juan a dit :

Alors, celui de la compassion, de l'amitié,  de l'amour,  de la solidarité,  de l'empathie,  de la miséricorde,  etc etc.

Et pourquoi donc ? Un lionne peut empêcher un lion un peu bourrin et neuneu d'attaquer des bébés gazelles, pourquoi ? Par calcul sur l'intérêt de les laisser grandir avant de les bouffer ? Non, par empathie. Elle peut même laisser ses lionceaux jouer avec elles, étonnant pour notre perception humaine souvent restreinte et anthropocentrée.

RIEN ne permet d'exclure de la compassion chez un être non humain, y compris un être artificiel à venir, idem pour le reste (sauf effectivement pour la foi qui demande un niveau d'effondrement mental que seul l'humain peut atteindre, tout en continuant à se croire intelligent, mais vu que chacun en juge avec ce qui lui en reste.......)

il y a 20 minutes, Easle a dit :

 

Ce qui est normal puisque 'artificielle', elle est néanmoins 'intelligente' !

 

 ben oui, la foi n'est pas artificielle, elle est authentique.