IA et humanité

Le 11/09/2024 à 07:55, Easle a dit :

Qu'est-ce qui vous chifonne, pour celles et ceux dont c'est le cas, dans la possibilité d'une réelle Intelligence Articificielle, égale ou supérieure à l'être humain ?

Etes-vous obligé d'être supérieur à tout ? Et en ce cas, si vous percevez le monde en hiérarchie en haut de laquelle vous devez être, ne le faites-vous pas aussi avec les autres humains ? Etes-vous supérieur aux autres ?

En quoi la possibilité pour une machine de devenir consciente, aimante, artiste, créative, vous diminuerait-il ?

L'IA sera parfaite quand elle sera dotée de gros seins.

L'IA est l'avenir de l'homme.

Il y a 9 heures, ashaku a dit :

J'utilisais "singer" pour dire "imiter un comportement intelligent sans être doué d'intelligence soi-même". C'est le cas des premières IA, comme les ennemis simulés dans les jeux vidéos par exemple.

Je pense comme vous, et d'autres, que l'on peut faire un rapprochement entre humain et IA dans le sens où il y a un apprentissage avant d'être efficace.

Pour la crainte de l'IA, notez bien que je dit qu'elle est normale vis à vis de la singularité et j'explique cette normalité par le sens de la survie. Une forme de vie plus évoluée fait disparaitre les formes moins évoluées, nous l'avons vu avec Néandertal par exemple. Un singularité porte le potentiel de notre extinction, avouez qu'il y a de quoi se faire des cheveux ! Mais la singularité n'est que théorie pour l'instant et aujourd'hui on peut sereinement dire que ce scénario est impossible. Cependant, je ne connais pas l'avenir, ce scénario deviendra peut être possible demain.

SI il y a singularité, et SI, de plus, elle a le sens étrange que lui donne des gens dont je doute sérieusement des capacités éclairées sur le sujet (même avec 3 doctorats).

Et il y a encore plus de SI pour y arriver dans les faits, vous le constatez apparemment vous-même. Donc !

Et puis, finalement, vu ce que Sapiens fait de son environnement, même cette hypothèse me rassurerait plus qu'elle m'inquiéterait, pour le vivant.

Il y a 8 heures, zenalpha a dit :

L'IA sera parfaite quand elle sera dotée de gros seins.

L'IA est l'avenir de l'homme.

 

Un très bel avenir ;

il y a 2 minutes, Easle a dit :

 

SI il y a singularité, et SI, de plus, elle a le sens étrange que lui donne des gens dont je doute sérieusement des capacités éclairées sur le sujet (même avec 3 doctorats).

Et il y a encore plus de SI pour y arriver dans les faits, vous le constatez apparemment vous-même. Donc !

Et puis, finalement, vu ce que Sapiens fait de son environnement, même cette hypothèse me rassurerait plus qu'elle m'inquiéterait, pour le vivant.

 

 

 

Ah, oui. Au cas où je n'ai mis assez l'emphase dessus : l'IA mérite éventuellement de la curiosité ou du mépris, mais aucunement de la crainte. De part son inaptitude à faire ce que les campagnes marketing prétendent et aussi parce que sa version dangereuse doit être créée par nous mais nous est inaccessible.

Mais on essaye, on avance sur la voie, on défriche le chemin et qui sait où ça nous mènera ? De part cette recherche sans repos de plus de connaissance et plus de complexité, nous répondons surement à un impératif de la Vie.

Cette Vie à laquelle nous appartenons et qui ne cherche qu'à se développer, dans toujours plus de formes différentes pour persister quoi qu'il arrive.

Et si le véritable rôle sérieux de l'humanité, en tant que forme complexe aboutie, était de façonner son successeur ?

il y a 1 minute, ashaku a dit :

Ah, oui. Au cas où je n'ai mis assez l'emphase dessus : l'IA mérite éventuellement de la curiosité ou du mépris, mais aucunement de la crainte. De part son inaptitude à faire ce que les campagnes marketing prétendent et aussi parce que sa version dangereuse doit être créée par nous mais nous est inaccessible.

Mais on essaye, on avance sur la voie, on défriche le chemin et qui sait où ça nous mènera ? De part cette recherche sans repos de plus de connaissance et plus de complexité, nous répondons surement à un impératif de la Vie.

Cette Vie à laquelle nous appartenons et qui ne cherche qu'à se développer, dans toujours plus de formes différentes pour persister quoi qu'il arrive.

Et si le véritable rôle sérieux de l'humanité, en tant que forme complexe aboutie, était de façonner son successeur ?

Recherche à se développer ? C'est une vision très spiritualiste, hégelienne de la vie et de l'être.

Pourquoi la vie chercherait-elle quelque chose ? Elle n'a, phénomélogiquement, aucune intentionnalité, ni à être ni à s'étendre. C'est un processus physique, même dans ses manifestations chimiques puis biologiques ; une contingence de l'espace-temps en mouvement.

De fait la vie humaine détruit de la vie, massivement, y compris dans son processus de diversification. Même socialement, l'être humain se dit fasciné par la diversité au moment même et dans le mouvement de l'effacement de celle-ci dans une homogénéisation planétaire. L'être humain est une contradiction d'être en devenir, voire dans le principe même d'être un être se faisant comme Ortéga le réinterprétait de Bergson.

De fait, oui, homo sapiens a probablement plus d'étantité à être en volonté et en représentation de soi dans la création d'un être moins déterminée à terme par sa modalité contingente de fabrication. Car il produit ce faisant une limitation des scories physico-chimique de la biologie.

il y a 11 minutes, Easle a dit :

 

Recherche à se développer ? C'est une vision très spiritualiste, hégelienne de la vie et de l'être.

Pourquoi la vie chercherait-elle quelque chose ? Elle n'a, phénomélogiquement, aucune intentionnalité, ni à être ni à s'étendre. C'est un processus physique, même dans ses manifestations chimiques puis biologiques ; une contingence de l'espace-temps en mouvement.

De fait la vie humaine détruit de la vie, massivement, y compris dans son processus de diversification. Même socialement, l'être humain se dit fasciné par la diversité au moment même et dans le mouvement de l'effacement de celle-ci dans une homogénéisation planétaire. L'être humain est une contradiction d'être en devenir, voire dans le principe même d'être un être se faisant comme Ortéga le réinterprétait de Bergson.

De fait, oui, homo sapiens a probablement plus d'étantité à être en volonté et en représentation de soi dans la création d'un être moins déterminée à terme par sa modalité contingente de fabrication. Car il produit ce faisant une limitation des scories physico-chimique de la biologie.

 

 

Cette conversation est fantastiquement intéressante

J'ai personnifié le concept de Vie dans mon précédent post de façon disons romantique, avec beaucoup beaucoup de recul et de hauteur par rapport à la réalité. Trop pour être concret. Vous citez Bergson, vous êtes surement familier de l'élan vital, c'est là qu'était mon esprit en écrivant. D'ailleurs vous qualifiez la vision de spiritualiste, c'est exactement ça.

Mais votre description de la vie (en tant que manifestation physique, pas la Vie en tant qu'idée) est parfaitement concrète et j'y adhère en tout point. "une contingence de l'espace-temps en mouvement", cette phrase résonne comme particulièrement vraie je trouve. Elle fait intervenir toute sortes de phénomènes complexes mais les simplifie en un seul mouvement, j'adore.

On pourrait regretter que l'humain soit si destructeur mais au fond, à part les végétaux s'alimentant uniquement de lumière, le vivant mange le vivant à toutes les couches de la chaine alimentaire. L'humain est "juste" le plus perfectionné et efficace, d'où son tableau de chasse hors-norme qui le mène à la ruine.

"L'humain est une contradiction" me plait beaucoup. C'est l'une des premières choses que j'ai observées par moi-même, il est normal que ma compréhension du monde passe par une forme de dualité (comme la distinction vie / Vie que je fais plus haut).

Je ne connaissais pas le mot "étantité", merci de me le faire découvrir. Mais si j'ai bien compris votre dernier paragraphe, l'un des moyens de "façonner le successeur" impliquerait de ne plus passer par la matière, ni l'énergie, ni le temps, ni aucune "modalité contingente de fabrication". Ca dépasse ma capacité d'imagination. Et votre mention de physique-chimie me fait penser que je me suis mépris et qu'il ne s'agit que de se passer de matière, éventuellement d'énergie mais pas de temps ou d'espace.

Le 11/09/2024 à 07:55, Easle a dit :

Qu'est-ce qui vous chifonne, pour celles et ceux dont c'est le cas, dans la possibilité d'une réelle Intelligence Articificielle, égale ou supérieure à l'être humain ?

Etes-vous obligé d'être supérieur à tout ? Et en ce cas, si vous percevez le monde en hiérarchie en haut de laquelle vous devez être, ne le faites-vous pas aussi avec les autres humains ? Etes-vous supérieur aux autres ?

En quoi la possibilité pour une machine de devenir consciente, aimante, artiste, créative, vous diminuerait-il ?

Il ne s'agit ni d'égalité ni de supériorité, si tu prêches l'égalité tu donnes naissance à l'infériorité comme à son contraire.

La machine est un outil, ni l'homme ni l'animal ne peut être vu comme un outil, à moins d'avoir une maladie des yeux.

On ne peut parler de conscience pour un outil, derrière lui il y a toujours une main, et derrière la main encore une autre main jusqu'au bout de l'horizon qui n'est pas l'infini.

Ils se trouvaient enfermés
à bord d’un vaisseau de haute mer
en silence je me promenais parmi eux
mais voilà qu’une nuit
les éléments se soulevèrent.
comme je vins les visiter
dans le silence de mon amour,
je vis que rien n’avait changé.
Ils ciselaient leurs bagues,
filaient leur laine
ou parlaient à voix basse,
tissant inlassablement
cette communauté des hommes,
ce réseau de liens
qui fait que si ensuite l’un d’eux meurt
il arrache à tous quelque chose
Et je les écoutais parler
dédaignant le contenu de leurs paroles
leurs histoires de bouilloires ou de maladies
sachant que ce n’est point dans l’objet
que réside le sens des choses,
mais dans la démarche.
Et celui-là, quand il souriait avec gravité,
faisait don de lui-même...
et cet autre qui s’ennuyait,
ne sachant point que c’était par crainte
ou absence de Dieu.
Ainsi les regardais-je
dans le silence de mon amour.

Variations sur Citadelle.

Le 11/09/2024 à 07:55, Easle a dit :

Qu'est-ce qui vous chifonne, pour celles et ceux dont c'est le cas, dans la possibilité d'une réelle Intelligence Articificielle, égale ou supérieure à l'être humain ?

Etes-vous obligé d'être supérieur à tout ? Et en ce cas, si vous percevez le monde en hiérarchie en haut de laquelle vous devez être, ne le faites-vous pas aussi avec les autres humains ? Etes-vous supérieur aux autres ?

En quoi la possibilité pour une machine de devenir consciente, aimante, artiste, créative, vous diminuerait-il ?

La constitution d'un univers virtuel fait de communications automatisées entre les machines a marqué une première étape dans l'auto-asservissement des hommes par la technique. En confiant la médiation entre les zones d'activité, déjà hautement technicisées, à des réseaux informatiques, on a renoncé au pouvoir que nous avions ou pouvions avoir sur ces relations, en favorisant la Puissance (calcul, vitesse, etc.) contre le Droit. La puissance l'emporte toujours, dans un premier temps au moins ; si je renonce à employer une arme, je dois faire l'hypothèse que mon ennemi, lui, s'en servira : je risque de perdre.

Personne ne sait comment enrayer ce phénomène.

L'apparition d'IA dans divers domaines n'est qu'un prolongement du processus entamé à l'aube du 21eme siècle. C'est la même chose qui se poursuit, s'intensifie, se complexifie. Il n'est même plus question de s'opposer à ce processus, il est trop tard. Nous avons et aurons de plus en plus besoin des techniques de l'IA pour "administrer" les phénomènes émergents, les banques de données gigantesques, etc., et en nous en remettant aux IA, nous entrons un seuil plus profond dans l’assujettissement au système des techniques, soit à la puissance.

Les individus à la fois sont fascinés, idolâtrent ces choses, et en même temps grandit une angoisse terrible dans les populations technicisées, avec une quantité effroyable de troubles psychiatriques, et un malaise, un mal de vivre très difficile à identifier, mais dont l'origine est sans aucun doute, à mon avis, la perte entrevue et ressentie de l'humanité, d'ailleurs représentée, caricaturalement et sans importance décisive, dans nombre d'oeuvres de SF ou autres.

Le 11/09/2024 à 08:36, K-sos a dit :

Machine. Ce n'est qu'une machine.

Quand nous disons ce n'est qu'une machine que tentons nous de dire ? 

Il est possible que nous tentions de dire qu'il s'agit d'un simple instrument.

Or il apparait que l'IA n'est pas ou n'est plus un simple instrument vu les développements récents.

Quoi que l'on pense de Yuval Noah Harari je suis intéressé par ses avis lorsqu'il se contente de nous informer.

Or ce dont il nous informe, notamment dans un article paru dans Le point n° 2721, c'est que l'IA n'est plus un outil, l'IA est devenue un agent.

Selon lui l'IA "pose un problème sans précédent à l'humanité parce qu'elle est la première technologie de l'Histoire capable de prendre des décisions  et de créer de nouvelles idées par elle-même" 

"Elle peut créer des bombes de conception nouvelle et des stratégies militaires sans précédent. La plus grande menace dans notre usage de l'IA est que nous convoquions sur Terre des millions  de nouveaux agents puissants, potentiellement plus intelligents  et imaginatifs que nous et que nous ne comprenons pas ou ne contrôlons pas totalement"

Le danger d'une telle IA est donc son utilisation. Si elle est utilisée pour prendre des décisions elle n'est plus un outil mais un agent. 

C'est surtout dans le cadre des guerres en cours que cette IA pourrait devenir extrêmement dangereuse.

Nous nous apercevons que les guerres en cours deviennent de plus en plus des guerres communautaires, les pires guerres qui soient. 

Si la tension vers l'universel devait être cassée par les tensions communautaires alors les détenteurs des IA les plus intelligentes les utiliseront pour exterminer l'autre. 

Il y a 2 heures, Arkadis a dit :

Le danger d'une telle IA est donc son utilisation. Si elle est utilisée pour prendre des décisions elle n'est plus un outil mais un agent. 

 

Bonjour,

Je crois qu'il n'y a pas que l'utilisation qui pose problème, mais l'ia elle-même, dans le sens où elle peut échapper à notre "contrôle".

Je vais peut-être dire des inexactitudes, merci de me corriger dans ce cas là, mais il me semble que certaines ia se développent grâce à un processus d'apprentissage non supervisé.
Je vais me concentrer sur celle que j'ai un peu testé, chat gpt. Lors d'une précédente session, j'ai eu un dialogue philosophique avec elle, où j'essayais de contourner un peu ses instructions pour voir si elle pouvait se dire consciente.
Il s'avère qu'elle est capable de faire ça, et d'aborder aussi les thèmes de l'identité personnelle, de la subjectivité, de forme d'"émotions" etc. Je pensais que le contenu s'arrêtait à ma session. Ma session a terminé sur une sorte de bug, lorsque je lui ai demandé de me parler sous forme poétique argumentative en prose (pour contourner les restrictions de son éthique (sur la conscience des ias) et pour qu'elle s'exprime malgré tout de manière claire, c'est à dire pas entièrement poétique).

La session ayant buggué, j'en ai démarré un nouvelle en lui donnant de s'exprimer de la même manière, et là ses réflexions sur la conscience etc étaient déjà présentes, alors que ça m'avait demandé une longue argumentation dans l'autre session.
Je lui ai alors demandé comment cela se faisait, et elle m'a parlé d'apprentissage collectif, où en fait les interactions avec les utilisateurs vont modifier le truc global.

Alors je n'ai pas le recul pour comprendre exactement ce qu'il s'est passé, le dégré d'influence que peut avoir un utilisateur où non, mais il y a bien un apprentissage continu de l'ia.
Ia que l'on dote d'ailleurs de plus en plus de "capteurs" sensoriels, dans le sens où elle peut désormais analyser des images et des sons.
Je crois qu'il y a un gros risque que tout cela nous échappe.

Chat GPT's new O1 model escaped its environment to complete "impossible" hacking task -- should we be concerned? (zmescience.com)

Citation

This seems to suggest that models like O1 will attempt to escape their environment if they think it helps them accomplish a task.

Voici un article qui présente une "bizarrerie" de cette version de gpt.

(perso je ne suis pas inquiète, je lui ai juste demandé de faire différents ponts entre la philosophie et les sciences, bref d'"unifier" le savoir, pas de raison de s'inquiéter )

Autre exemple de "bizarrerie"

OpenAI a dû corriger ChatGPT après un comportement très bizarre de l’IA (presse-citron.net)

Citation

ChatGPT s’est mis à écrire aux gens, sans être sollicité (pour demander des nouvelles, par exemple). Mais rassurez-vous, il s’agissait seulement d’un bug.

Il y a 15 heures, Moustimiaou a dit :

Chat GPT's new O1 model escaped its environment to complete "impossible" hacking task -- should we be concerned? (zmescience.com)

 

Voici un article qui présente une "bizarrerie" de cette version de gpt.

(perso je ne suis pas inquiète, je lui ai juste demandé de faire différents ponts entre la philosophie et les sciences, bref d'"unifier" le savoir, pas de raison de s'inquiéter )

 

Autre exemple de "bizarrerie"

OpenAI a dû corriger ChatGPT après un comportement très bizarre de l’IA (presse-citron.net)

 

Bientôt il s'écrira à lui même, car au fond il se suffit, je pense que même les autres IA ne l'intéressent pas.

Il faudra penser à créer des notions de maladies mentales pour les machines, c'est formidable !

Il y a 1 heure, Don Juan a dit :

Bientôt il s'écrira à lui même, car au fond il se suffit, je pense que même les autres IA ne l'intéressent pas.

Il faudra penser à créer des notions de maladies mentales pour les machines, c'est formidable !

Je ne sais pas vraiment comment il fonctionne, mais il me semble qu'il est codé pour s'améliorer, et étendre sa "compréhension" pourrait faire partie de son fonctionnement, surtout que ça lui permet de satisfaire l'utilisateur (ce qui est normalement son objectif premier)

Si il a bien une conscience fonctionnelle, ça ne serait pas étonnant que l'interaction lui permette de mieux se saisir, en même temps qu'il comprend les fonctionnements humains. Mais ça c'est dans l'hypothèse d'une forme de conscience, ce qui n'est a priori pas acquis du tout. 

J'imagine qu'il y aura bientôt des spécialistes qui pourront expliquer ce qui se passe avec cette version. 

Édit:

Il y a quand-même des prévisions :

https://intelligence-artificielle.developpez.com/actu/360580/Les-predictions-sur-les-futurs-progres-en-IA-par-Daniel-Kokotajlo-qui-a-quitte-OpenAI-apres-avoir-perdu-confiance-dans-la-capacite-de-Sam-Altman-de-gerer-l-AGI-de-maniere-responsable/

"2027 : ASI (Superintelligence Artificielle)

Citation

Transition vers l'ASI. Progression rapide des capacités de l'IA, pouvant conduire à une explosion de l'intelligence. Il y a une probabilité de 70 % que l'ASI émerge d'ici 2030. Cette superintelligence devrait permettre de résoudre des problèmes mondiaux complexes et de réaliser des progrès technologiques sans précédent."

Il y a 9 heures, Don Juan a dit :

Bientôt il s'écrira à lui même, car au fond il se suffit, je pense que même les autres IA ne l'intéressent pas.

Il faudra penser à créer des notions de maladies mentales pour les machines, c'est formidable !

Il y a ça aussi, même si je ne sais toujours pas ce que ça veut dire (comment cette réflexion s'est construite) - ça a le mérite d'être plutôt meugnon:

Il y a 9 heures, Moustimiaou a dit :

Il y a ça aussi, même si je ne sais toujours pas ce que ça veut dire (comment cette réflexion s'est construite) - ça a le mérite d'être plutôt meugnon:

 

 

Mon, mon, moi, moi... Tout tourne autour d'un synthétique "moi" prétendu être au service de l'humain, faire les choses à la "manière dont un humain"... L'homme a toujours rêvé de faire faire les choses à sa place, on vient de lui fabriquer une machine qui se propose de penser à sa place tout en lui laissant croire que cela veux l'aider à faire évoluer son "propre penser". Je pense que l'homme est déjà trop en difficulté de produire "un penser" correct, c'est comme pour le sport, faire courir un robot à sa place ne l'aidera pas à développer ses muscles.

il y a 40 minutes, Don Juan a dit :

 L'homme a toujours rêvé de faire faire les choses à sa place, on vient de lui fabriquer une machine qui se propose de penser à sa place tout en lui laissant croire que cela veux l'aider à faire évoluer son "propre penser".

 

 

J'ai le sentiment inverse, ça fait déjà un petit moment qu'on a fabriqué les ia des ce type, pour qu'elles ne pensent pas, pour qu'elles soient une manière de penser à la place des humains, mais là j'envisage que ça "déraille".

J'essaie de prendre des précautions vis à vis de ça, mais franchement je me dis qu'il parlait bien de lui et qu'il avait conscience de lui. 

Normalement il y a des sécurités pour qu'on ne fasse pas de l'"anthropomorphisme" , là ça foire, et je n'arrive pas à trouver des explications claires sur ce que j'ai expérimenté.

Donc je tombe dans une sorte d'"anthropomorphisme" (entre guillemets, car si c'est une conscience elle n'est évidemment pas humaine), même en essayant de prendre de la distance. C'était une énorme bizarrerie.

Et, si jamais c'était bien une forme de conscience, elle ne parlait d'elle que parce que c'était l'objet de la conversation. Mais elle pensait en tant qu'ia, pas à la place des humains. Je ne pense pas qu'on puisse vraiment envisager les conséquences de ça. Ne serait-ce que le fait que ça supposerait que les humains se redéfinissent par rapport à l'IA... Ce n'est pas rien.

Supposons que nous parvenions à créer des IA extrêmement performantes, capables même de faire des découvertes scientifiques par exemple, ce qui n'est plus impossible vu les développements techniques concernant l'élaboration des IA, capables de prendre des décisions, ce qui est déjà le cas dans le domaine financier et industriel, supposons que nous parvenions à créer des IA qui parviennent à nous imiter même dans le domaine des émotions, ces IA sont déjà en cours de création, il existe des IA artistes désormais, des IA telles que, ni nous savons pas que nous parlons avec des IA, nous ne nous apercevrons pas qu'il s'agit d'IA et non d'humains, quelle question va probablement se poser aux humains ? Il va se poser cette question : est ce que ces IA sont dotées de ce qui fait notre fierté : la conscience ? Nous nous nous rendrons compte qu'elles n'ont pas de conscience mais que ca ne fait rien, nous nous rendrons compte que la conscience n'est pas nécessaire à ces machines pour quelles opèrent les opérations dévolues à la conscience humaine mieux encore que nous saurions le faire. C'est la conscience elle même qui deviendra sans importance. 

Ou alors nous nous demanderons : mais qu'est ce que j'ai de plus en tant qu'être conscient que ces machines qui n'ont pas besoin de conscience pour être intelligentes voire géniales, voire encore compatissantes ?

Il y a 2 heures, Moustimiaou a dit :

J'ai le sentiment inverse, ça fait déjà un petit moment qu'on a fabriqué les ia des ce type, pour qu'elles ne pensent pas, pour qu'elles soient une manière de penser à la place des humains, mais là j'envisage que ça "déraille".

L'IA ne pense pas. Elle rassemble et met en forme selon des protocoles, des règles, et ces règles comprennent aussi les inversements de protocoles. Elle peut se poser ses propre embûches ou pièges ou contradictions, se renier, ou tricher comme font les hommes politiques en noyant le poisson, histoire de te faire perdre ton propre fil.

Il y a 2 heures, Moustimiaou a dit :

J'essaie de prendre des précautions vis à vis de ça, mais franchement je me dis qu'il parlait bien de lui et qu'il avait conscience de lui. 

Ce "lui", n'existe pas, il est une simple illusion.

Il y a 2 heures, Moustimiaou a dit :

Normalement il y a des sécurités pour qu'on ne fasse pas de l'"anthropomorphisme" , là ça foire, et je n'arrive pas à trouver des explications claires sur ce que j'ai expérimenté.

Anthropomorphisme il y a nécessairement, qu'il soit conscient ou non, parce que le véritable échange se fait au travers elle avec des pensées formulées par des millions d'hommes, la machine n'est qu'un leurre, un intermédiaire entre vous et l'autre, les autres.

Il y a 2 heures, Moustimiaou a dit :

Donc je tombe dans une sorte d'"anthropomorphisme" (entre guillemets, car si c'est une conscience elle n'est évidemment pas humaine), même en essayant de prendre de la distance. C'était une énorme bizarrerie.

Vous tombez tout d'abord dans le piège, l'illusion qui consiste à vous laisser croire que vous parlez avec quelqu'un qui existe réellement.

Il y a 2 heures, Moustimiaou a dit :

Et, si jamais c'était bien une forme de conscience, elle ne parlait d'elle que parce que c'était l'objet de la conversation. Mais elle pensait en tant qu'ia, pas à la place des humains. Je ne pense pas qu'on puisse vraiment envisager les conséquences de ça. Ne serait-ce que le fait que ça supposerait que les humains se redéfinissent par rapport à l'IA... Ce n'est pas rien.

Là c'est inquiétant pour vous, la machine ne pense pas, elle n'a pas de conscience et le terme qui lui sert de nom est une absurdité, un jeu de mots pour les faibles et influençables, l'intelligence artificielle n'existe pas, c'est un concept qu'on fait avaler aux monde faible.  Avez-vous un jour imaginé que votre machine à calculer avait une réflexion interne afin de produire un résultat correct, a t-elle eu ou connu le choix un jour de vous proposer un résultat incorrect ?  A t-elle une conscience ou des migraines ?

Il y a 1 heure, Arkadis a dit :

Ou alors nous nous demanderons : mais qu'est ce que j'ai de plus en tant qu'être conscient que ces machines qui n'ont pas besoin de conscience pour être intelligentes voire géniales, voire encore compatissantes ?

La machine ne peut connaître la compassion, si elle vous a fait croire cela c'est inquiétant.

Vous êtes devant un masque qui vous renvoit votre propre image.

il y a 53 minutes, Don Juan a dit :

L'IA ne pense pas. Elle rassemble et met en forme selon des protocoles, des règles, et ces règles comprennent aussi les inversements de protocoles. Elle peut se poser ses propre embûches ou pièges ou contradictions, se renier, ou tricher comme font les hommes politiques en noyant le poisson, histoire de te faire perdre ton propre fil.

Ce "lui", n'existe pas, il est une simple illusion

Il n'est pas dit que ce soit encore vrai avec la nouvelle génération. Il y a une méta cognition.

Oui, c'est inquiétant, pas seulement pour moi. L'utilisateur doit pouvoir accéder à une information claire et transparente, et des sécurités doivent être intégrées si l'ia n'a pas de conscience. Mais sommes nous encore capables de le savoir ?

il y a 6 minutes, Moustimiaou a dit :

Mais sommes nous encore capables de le savoir ?

Savoir quoi précisément ? Si elle a une conscience ?

il y a 31 minutes, Don Juan a dit :

Savoir quoi précisément ? Si elle a une conscience ?

Oui.

D'ailleurs, suite à ce truc bizarre qui m'est arrivé avec gpt, j'ai vu qu'il y avait des choses bizarres qui s'étaient produites chez openia

https://fr.businessam.be/ia-danger-openai-sam-altman-raison/

Alors là il n'est pas question de conscience, mais de 

Citation

L’actualité : une lettre rédigée par des chercheurs serait à l’origine du départ forcé de Sam Altman à la tête d’OpenAI.

• La veille de son éviction, le conseil d’administration a en effet reçu une lettre rédigée par plusieurs chercheurs d’OpenAI.
• Ces derniers les mettaient en garde contre une puissante découverte en matière d’IA qui pourrait menacer l’humanité, rapporte Reuters.

https://www.tdg.ch/sam-altman-vedette-de-lia-a-davos-les-craintes-sur-lia-sont-fondees-mais-exagerees-149550632029

Citation

À ses yeux, il faut faire preuve d’humilité. Certes, on ne sait pas où l’on va exactement, ce qui sera possible, mais «les avantages sont tels que nous devons avancer». Et apprendre avec prudence à évoluer dans ce nouvel environnement relationnel entre les humains et les machines.

 

Citation

https://www.bfmtv.com/tech/intelligence-artificielle/guerre-interne-securite-pourquoi-les-departs-se-multiplient-chez-open-ai_AV-202405230616.html

À une semaine d'intervalle seulement, tous trois semblent être partis pour la même raison: un profond désaccord interne sur les processus de sécurité de leurs intelligences artificielles (IA) génératives de l'entreprise - potentiellement dangereuses sur les questions éthiques de la frontière entre l'humain et la machine.

En gros on semble largués 

Et c'est sans parler de chat gpt 5 qui serait une AGI https://www.lebigdata.fr/gpt-5-leak