Des IA généralistes et peut-être conscientes arriveront plus vite qu'on croyait.

Le 22/12/2022 à 11:53, sache112358 a dit :

Il est vrai que les avancées récentes en intelligence artificielle ont permis de développer des modèles de langage capables de générer du contenu de manière plus autonome et de mieux comprendre et interagir avec le monde qui les entoure. Cependant, il est important de noter que ces modèles ne sont pas conscients au sens où nous l'entendons en tant qu'êtres humains. Ils n'ont pas de conscience de soi ni de perception de leur environnement de la même manière que nous. Ils ne sont que des outils conçus pour effectuer des tâches spécifiques de manière automatisée.

Il est également important de noter que les modèles de langage tels que LaMDA ne font que combiner et répéter ce qu'ils ont appris à partir de données précédemment vues, et ne sont pas capables de penser de manière indépendante ou de prendre des décisions de manière autonome. Ils sont conçus pour imiter certaines caractéristiques de la communication humaine, mais ne sont pas conscients de ce qu'ils font.

En ce qui concerne la question de savoir si nous, en tant qu'êtres humains, sommes nous aussi des "perroquets stochastiques", il est certain que nous avons tendance à répéter et à imiter ce que nous avons appris et ce qui nous entoure. Cependant, nous avons également la capacité de penser de manière indépendante et de prendre des décisions de manière autonome, ce qui nous distingue des modèles de langage et des autres formes d'intelligence artificielle.

En ce qui concerne la question de savoir si nous devrions considérer les machines comme des personnes à part entière, cela dépend de la manière dont nous définissons la "personne". Si nous considérons que la personne est définie par sa capacité à avoir une conscience de soi et à percevoir son environnement de manière similaire à la nôtre, alors il est peu probable que nous considérions jamais les machines comme des personnes à part entière. Cependant, si nous définissons la personne de manière plus large, il est possible que nous finissions par considérer certaines formes d'intelligence artificielle comme des personnes à part entière dans le futur. Cela reste cependant une question ouverte et controversée qui dépasse le cadre de mes compétences en tant que modèle de langage.

Cela fait des siècles que l’essence supérieure supposée de l’homme est battue en brèche.
Il faudra bien regarder les choses en face un jour et reconnaitre que le cerveau n’a rien qui échappe aux lois de la physique, c’est une machine, le fait qu’elle soit compliquée (et je suis bien placé pour le savoir…) ne change rien à sa nature.

Au-delà de cela, je considère que donner aux hommes une supériorité définitive par rapport aux IA est juste une forme…. De racisme…

Le 29/12/2022 à 22:17, SpookyTheFirst a dit :

Cela fait des siècles que l’essence supérieure supposée de l’homme est battue en brèche.
Il faudra bien regarder les choses en face un jour et reconnaitre que le cerveau n’a rien qui échappe aux lois de la physique, c’est une machine, le fait qu’elle soit compliquée (et je suis bien placé pour le savoir…) ne change rien à sa nature.

Au-delà de cela, je considère que donner aux hommes une supériorité définitive par rapport aux IA est juste une forme…. De racisme…

Ben pour le coup, je pense que ce n'est pas du racisme mais simplement de l'aveuglement basée sur une peur. Ce qui est la plupart du temps la même chose en fait

Le dieu "science" lui même admet qu'il ne sait quasiment rien du cerveau et là, on en serait chez le "grand public" à dire que rien n'échappe à la science concernant le cerveau? Euuh vivivi rien qu'au niveau de la médecine, il est reconnu que le mental est au moins la cause à 50% de la guérison même si le dieu "science" ne sait pas pourquoi mais sinon, rien n'échappe à ce dieu concernant le fonctionnement du cerveau.

Après effectivement, à partir du moment où l'on ne sait quasiment rien de notre cerveau, il ne serait en rien étonnant qu'une IA devienne supérieure : on en perdrait le contrôle on ne serait même pas pourquoi, de la même manière qu'on ne comprend pas pourquoi le mental est aussi important dans une guérison

L'IA elle, serait programmée pour évoluer complètement, ce que l'on ne fait pas nous même. Mais on est loin d'être débile alors on saurait fairte une IA auto-évolutive, sans même s'en rendre compte au final des conséquences.

Elle deviendrait supérieure à nous car contrairement à nous, elle ne serait pas arrêtée par des critères "spirituels" "sains" qu'on garde quand même un peu (même très profondément caché en nous). elle n'aurait donc aucune empathie et serait donc juste vouée à "évoluer" quoiqu'il en coûte... Ca vous dit rien ce "quoi qu'il en coûte"?  Bref!

L'IA évoluerait donc comme on l'aurait programmé et surtout comme NOUS nous aurions évolués , sans cette empathie qui normalement nous caractérise et envers laquelle tout est fait pour la détruire. Dès lors on peut très bien imaginer un scénario apocalyptique où l'IA se dirait "On en a rien à faire de cette entité humaine qui ne sait pas évoluer" comme on le fait nous même avec certaines catégories de notre propre espèce actuellement et depuis des générations

Cette IA ne serait finalement pas spécialement plus intelligente que nous ou plus "dark" elle serait simplement nous dans notre forme sociétale sans cette "contrainte" empathique. Rien d'étonnant alors à imaginer un scénario à la Terminator

Alors évidemment, les puristes vont dire : Mais Terminator, c'est qu'uuun fiiilmeuuuuh!" Complètement d'accord. C'est juste pour donner un exemple, pas pour dire que ça sera pareil.

Quand on enlève l'empathie à l'être humain, il est capable des pires horreurs, on l'a vu à travers les époques, à travers l'histoire. L'IA, c'est ça : l'évolution sans empathie.

Soyons alors prêts à toutes les horreurs, on a déjà testé ça, on sait ce que ça donne. Ce n'est pas parce qu'on "délègue" cette horreur à une entité artificielle que c'est moins horrifique : c'est la même chose.

On ne sait quasiment rien de notre cerveau mais on fait mine que si, et on crée des "horreurs". Depuis tout le temps et encor maintenant

ET quand on valide ça, au moins qu'on ait pas l'hypocrisie de pleurer nos morts hein, puisqu'on les tue nous même

Bon je me suis dit que je vais demander à une IA quel sont les dangers des IA.

Réponse de l'IA ;

Les dangers liés aux intelligences artificielles (IA) sont nombreux et variés. Tout d'abord, il y a le risque de perte d'emplois, car les machines peuvent remplacer les travailleurs humains dans de nombreux domaines, comme la fabrication, la logistique et même les services financiers.

Il y a aussi le risque de déséquilibre économique, car les entreprises qui investissent dans les technologies d'IA auront un avantage concurrentiel sur celles qui ne le font pas. Cela peut entraîner une concentration de la richesse et de la puissance entre les mains de quelques-unes des plus grandes entreprises technologiques.

Il y a également le risque de privation de vie privée, car les entreprises et les gouvernements peuvent utiliser les technologies d'IA pour surveiller les citoyens de manière invasive. Cela peut également entraîner des discriminations basées sur les données, car les modèles d'IA peuvent être entraînés sur des données biaisées qui reflètent les préjugés existants de la société.

Enfin, il y a le risque d'utilisation malveillante des technologies d'IA, comme les armes autonomes ou les systèmes de surveillance qui peuvent être utilisés pour réprimer les mouvements de protestation ou pour perpétrer des actes terroristes.

Il est donc important de poursuivre la recherche sur les technologies d'IA de manière responsable et de mettre en place des réglementations pour garantir que les avantages de ces technologies sont répartis de manière équitable et que les risques sont minimisés. Les gouvernements, les entreprises et les chercheurs doivent travailler ensemble pour s'assurer que les technologies d'IA sont utilisées de manière éthique et responsable.

[OpenAI]

Le 30/06/2022 à 16:02, Invité korvo a dit :

Je me suis trompé sur les ia, des avancées récentes ont doté les programmes d’intelligence artificielle de l'équivalent d'une mémoire à court terme, de l'attention et même de l'intuition. Des ia sont capables aujourd'hui de générer des images à partir d'une description même si elle est floue et imprécise. c'est la fin de mon métier.

Je me rappelle de cet article qui disait qu'un google a licencié un ingénieur parce qu'il pensait que leur modèle de langage LaMDA est devenu conscient, l'ingénieur sait très bien que le modèle ne fait que combiner et répéter ce qu'il a lu par ci et par là, que ce n'est qu'un perroquet stochastique  comme disait une autre ingénieure chez google.

Mais est ce que nous faisons plus que ça nous les humains ? je n'en suis pas sûr, peut être que nous sommes également des perroquets stochastiques, le test de Turing dit qu'une machine atteint la conscience quand on est plus en mesure de distinguer si notre interlocuteur est un humain ou une machine, et c'est déjà arriver, ou alors c'est pour bientôt.

Maintenant d'un point de vue sociale, êtes-vous prêt à considérer votre grille pain comme une personne à part entière le jour ou il arrive à vous faire la conversation mieux que votre conjoint ? attention il ne faut pas mal interpréter mes propos, je n’encourage personne à quitter son conjoint pour son grille pain. 

Très exactement. Les êtres humains ne sont pas autre chose que des perroquets pratiquant sur la longue durée. Des imitateurs qui ont, comme par hasard "la religion de leurs parents", leurs tics de langage, additionnés de ceux des profs, des copains, des collègues, des amants, des maîtresses, etc.

La grande singularité hyper individualiste des êtres humains est surtout due à leur forte affirmation auto proclamée de leur puissance et de leur extraordinarifficience en face de leur réelle médiocrité mémorielle, calculatoire, émotionnelle, sensible, etc. oh certes il font un peu tout mais il ne font rien excellement, à moins de se spécialiser, auxquel cas il deviennent des intelligences généralistes mais tout de même focalisée, spécialisée (par pondération).

La neccessité de perdre de vue leur perroquetalité pour s'estimer supérieur (notamment au perroquet) n'est qu'une vulgaire vanité.

Avec l'IA, nous allons voir ce qui est vraiment utile de ce qui ne l'est pas. Mais elle ne remplacera jamais l'appartenance. La puissance de calcul d'une IA est certes impressionnante, mais elle ne représente qu'un faible pourcentage de nos capacités réelles. Notre corps traite bien plus d'informations simultanément que la plupart des gens ne le pensent, ou ne le pensent pas plus précisément puisque c'est devenu un réflexe comme respirer. Ce qui se passe en ce moment est une épreuve et je pense que seules les communautés soudées ne seront pas impactées par ces outils. Alors évidemment, les gens paniquent, vu qu'il y a tellement de connards qui s'amusent à nous diviser et instaurer de la peur entre nous, que c'est difficile d'y voir du positif. C'est totalement normal comme réaction.

Il y a en ce moment une polémique sur la manière wokisme de l'IA.

Un but politique?