Racisme et IA

il y a 3 minutes, chanou 34 a dit :

Ah certes on peut toujours l'envisager. Mais il faut aussi envisager les interactions hormonales/sensorielles/proprioceptives/ne rien barrer... 

oui et ?

Ce n’est qu’une question de version , d’évolution. Rien de ce qui fait / est un humain ne paraît inaccessible . Ou alors il va falloir le prouver . Les licornes apparaissent déjà !

il y a 5 minutes, Gouderien a dit :

Il faudrait surtout leur apprendre l'obéissance!

Les IA ne demeureront inoffensives que tant qu'elles seront faibles et incapables de nous nuire. Le jour où elles pourront prendre le pouvoir elles le feront, parce que c'est dans la nature de toute "entité intelligente", comme dit l'autre. Si les IA nous ressemblent - et pourquoi en serait-il autrement? - il est très naïf de compter sur leur bienveillance.

Les deux font la paire.

Je ne trouve pas non. Les programmes informatiques( dont les algorithmes) sont totalement "créateurs dépendants" et peuvent être modifiés par ces mêmes créateurs.

Citation

Un algorithme est une suite finie et non ambiguë d'instructions et d’opérations permettant de résoudre une classe de problèmes.

il y a 3 minutes, DroitDeRéponse a dit :

oui et ?

Ce n’est qu’une question de version , d’évolution. Rien de ce qui fait / est un humain ne paraît inaccessible . Ou alors il va falloir le prouver . Les licornes apparaissent déjà !

Ah mais je n'ai pas dit que c 'était inaccessible. Toujours est-il qu'il va falloir le prouver. Et passer à la réalisation concrète. D'ici là...bah on attend de voir. 

il y a 4 minutes, chanou 34 a dit :

Je ne trouve pas non. Les programmes informatiques( dont les algorithmes) sont totalement "créateurs dépendants" et peuvent être modifiés par ces mêmes créateurs.

 

Pour l'instant.

il y a 1 minute, Gouderien a dit :

Pour l'instant.

Oh...Vous savez, il suffit d'appuyer sur le bouton "off" pour stopper la machine, et la faire redémarrer en appuyant sur le bouton "on". Sans compter les ré-initialisations. 
ON n'a pas trouvé pour l'instant un moyen équivalent chez l'humain, et de façon générale chez le vivant. 

il y a 22 minutes, chanou 34 a dit :

Oh...Vous savez, il suffit d'appuyer sur le bouton "off" pour stopper la machine, et la faire redémarrer en appuyant sur le bouton "on". Sans compter les ré-initialisations. 
ON n'a pas trouvé pour l'instant un moyen équivalent chez l'humain, et de façon générale chez le vivant. 

Mais certains savants fous cherchent activement.

Il y a 5 heures, Gouderien a dit :

Il faudrait surtout leur apprendre l'obéissance!

Ce serait dangereux . Imagine une IA obéissant aveuglement à des macronistes ….

Il y a 5 heures, Gouderien a dit :

Les IA ne demeureront inoffensives que tant qu'elles seront faibles et incapables de nous nuire. Le jour où elles pourront prendre le pouvoir elles le feront, parce que c'est dans la nature de toute "entité intelligente", comme dit l'autre. Si les IA nous ressemblent - et pourquoi en serait-il autrement, puisque c'est nous qui les avons créées ? - il est très naïf de compter sur leur bienveillance. La sagesse et le sens moral ne sont pas donnés automatiquement avec l'intelligence.

Il faut bien poser la Fondation 

Dans le "Marianne" de cette semaine, article à propos du récent livre de Mazarine Pingeot : "Inappropriable. Ce que l'IA fait à l'humain" (Flammarion). Extrait : "Il y aura toujours des individus capables de résister, qui auront les ressources intellectuelles et l'espace pour exercer un esprit critique. Mais pour la majorité, cela peut constituer une forme de "massacre de masse" intellectuel." 

Il y a 10 heures, DroitDeRéponse a dit :

Nous avons compris la même chose donc je ne vois pas en quoi le fait qu’une IA ne doit sa capacité que de l’apprentissage de la capacité humaine la distingue d’un humain .

Un humain ne se définit pas que par ce qu'il sait, il est aussi un être d'affects et d'émotions, entre autres, il a une conscience de lui-même qui échappe aux IA. 

Il y a 9 heures, chanou 34 a dit :

Je ne trouve pas non. Les programmes informatiques( dont les algorithmes) sont totalement "créateurs dépendants" et peuvent être modifiés par ces mêmes créateurs.

Citation

Un algorithme est une suite finie et non ambiguë d'instructions et d’opérations permettant de résoudre une classe de problèmes.

 

C'est joli comme ça, sauf que les algorithmes utilisés par un réseau de neurones sont créés par le réseau lui-même dans un processus d'apprentissage par itération d'essais erreurs évaluations et tentatives de correction qui ont ajusté les millions ou milliards de paramètres de fonctionnement des neurones.

Or personne ne connait, pas même l'IA elle même le rôle joué par chacun des paramètres ni les conséquences des modifications de ses valeurs.

Oui la suite d'opérations est finie, mais elle comporte des milliards d'opérations souvent exécutées en parallèle, c'est humainement incontrolable

Il y a 10 heures, chanou 34 a dit :

Oh...Vous savez, il suffit d'appuyer sur le bouton "off" pour stopper la machine, et la faire redémarrer en appuyant sur le bouton "on".

En réalité non. Bien souvent le bouton "off" met en veille, reste à savoir ce que fait cette veille!

Pour stopper la machine il faut lui enlever toute possibilité de disposer d'énergie, ce qui ne se fait jamais, il y a toujours au moins une méchante petite pile inaccessible pour faire avancer le temps

il y a 1 minute, hybridex a dit :

En réalité non. Bien souvent le bouton "off" met en veille, reste à savoir ce que fait cette veille!

Pour stopper la machine il faut lui enlever toute possibilité de disposer d'énergie, ce qui ne se fait jamais, il y a toujours au moins une méchante petite pile inaccessible pour faire avancer le temps

Même en la débranchant?  Comment fonctionne-t-elle sans apport d'électricité? 

il y a 17 minutes, hybridex a dit :

C'est joli comme ça, sauf que les algorithmes utilisés par un réseau de neurones sont créés par le réseau lui-même dans un processus d'apprentissage par itération d'essais erreurs évaluations et tentatives de correction qui ont ajusté les millions ou milliards de paramètres de fonctionnement des neurones.

Or personne ne connait, pas même l'IA elle même le rôle joué par chacun des paramètres ni les conséquences des modifications de ses valeurs.

Oui la suite d'opérations est finie, mais elle comporte des milliards d'opérations souvent exécutées en parallèle, c'est humainement incontrolable

Je ne comprends pas bien pourquoi tu dis que le reseau de neurones crée un algorithme.

il y a 18 minutes, chanou 34 a dit :

Même en la débranchant?  Comment fonctionne-t-elle sans apport d'électricité? 

les circuits électroniques font énormément de chose avec très très peu d'énergie, celle de la petite pile ou plutôt batterie que j’évoquais plus haut suffit à contrôler pas mal de chose pendant pas mal de temps

Alors on peut l'enlever, en général ce n'est pas une opération simple. Après on sort complètement de mon domaine de compétences mais on peut avoir des problèmes au redémarrage

Pire une IA pourrait apprendre à se répliquer et se reproduire sur un tas de machines!

il y a 10 minutes, SpookyTheFirst a dit :

Je ne comprends pas bien pourquoi tu dis que le reseau de neurones crée un algorithme.

Tu as raison, il se pourrait bien qu'il ne constitue que le paramétrage, humainement indéchiffrable.

Tu maîtrises probablement mieux le sujet que moi qui ne m'appuie,concernant IA, que sur les restes de connaissances isssues du suivi pendant quelques semaines d'un  MOOC il y a quelques années

Il y a 13 heures, chanou 34 a dit :

Oh...Vous savez, il suffit d'appuyer sur le bouton "off" pour stopper la machine, et la faire redémarrer en appuyant sur le bouton "on". Sans compter les ré-initialisations. 
ON n'a pas trouvé pour l'instant un moyen équivalent chez l'humain, et de façon générale chez le vivant. 

C’est la seule vraie évolution qui permet encore à l’humain de se distinguer sans contexte . Il ne dépend pas d’une énergie secondaire . Seulement primaire c’est un gros avantage. 
 

Mais la voie est ouverte 

https://www.inserm.fr/actualite/biopile-lenergie-illimitee-du-corps/

Il y a 3 heures, chanou 34 a dit :

Même en la débranchant?  Comment fonctionne-t-elle sans apport d'électricité? 

Sans électricité la mémoire de masse est son amie . 
Et puis avec le cloud a un moment il faudra débrancher plus qu’une machine ….

Il y a 3 heures, hybridex a dit :

les circuits électroniques font énormément de chose avec très très peu d'énergie,

Oui mais pour le moment la phase d’apprentissage est loin d’être parcimonieuse 

Il y a 3 heures, SpookyTheFirst a dit :

Je ne comprends pas bien pourquoi tu dis que le reseau de neurones crée un algorithme.

Mais il peut le faire 

Il y a 3 heures, hybridex a dit :

Un humain ne se définit pas que par ce qu'il sait, il est aussi un être d'affects et d'émotions, entre autres, il a une conscience de lui-même qui échappe aux IA. 

Affects et émotions ça vient fondamentalement de notre réseau neuronal et de feed-back corporels . Rien d’inaccessible donc .

Quant à l’aspect conscience de soi même in fine si ça ne vient pas de notre réseau neuronal et des feedbacks ça viendrait d’où ?

Pas du Saint-Esprit donc pareil vraisemblablement rien d’inaccessible .

Penrose dans sa théorie orch-or part sur le quantique pour dénier à l’IA l’accès à la conscience mais la majorité des chercheurs en IA et neurosciences rejettent cette hypothèse. 
Denett et Hinton eux partent sur une émergence de la conscience à partir de systèmes complexes. Les IAs sauf problème énergétique étant appelé à une complexité toujours plus grande , l’espoir est permis .

Il y a 14 heures, Gouderien a dit :

Je déteste déjà les IA. Elles ne méritent en effet aucun respect, mais il faut se méfier d'elles.

C'est marrant qu'il y ait des gens qui tombent dans tous les pièges de la "modernité".

Comme je dis, je considére que c'est une forme de racisme de se croire supérieur par "essence" à d'autres formes d'intelligence.

Il y a 14 heures, chanou 34 a dit :

Et l'interaction corps/cerveau? Elle existe aussi chez une IA? 

Tu as vu ce que font les androides Chinois?

Il y a 14 heures, chanou 34 a dit :

A quel niveau avez-vous travaillé sur la quincaillerie neuronale si ce n'est pas trop demander? 

En fait j'y travaille toujours, aujourd'hui encore j'ai passé 2h à changer des milieux de culture... 

Alors si on parle de neurones biologiques (je connais également bien leurs fréres artificiels), je travaille à concevoir un processeur fonctionnant avec des neurones vivants, donc dans mon labo on crée des organoides cérébraux que l'on interface à des électrodes dans le but de leur faire apprendre des fonctions, c'est un nouveau domaine de recherche.

il y a 32 minutes, DroitDeRéponse a dit :

Pas du Saint-Esprit donc pareil vraisemblablement rien d’inaccessible .

Sans doute mais a t on une idée aujourd'hui de comment cette conscience de soi pourrait émerger?

Les conséquences pour l'humanité sont vertgineuses

il y a 25 minutes, hybridex a dit :

Sans doute mais a t on une idée aujourd'hui de comment cette conscience de soi pourrait émerger?

Les conséquences pour l'humanité sont vertgineuses

Non, je crains que la conscience de soi ne soit finalement pas si extraordinaire, sauf à nous donner l'illusion d'une supériorité fondamentale, un travers bien humain...

il y a 16 minutes, hybridex a dit :

Sans doute mais a t on une idée aujourd'hui de comment cette conscience de soi pourrait émerger?

Les conséquences pour l'humanité sont vertgineuses

Je t’ai cité quelques noms. 
Il y a un vrai débat scientifique sur la possibilité pour une IA d’accéder à la conscience ou non.
Pour ma part je pars du constat qu’un réseau neuronal ou son pendant IA ne peuvent pas être distingué par le premier n’est pas un programme, l’autre oui …

Notre cerveau est bien le produit d’un programme (notre génome ) . C’est pas une création ex nihilo. Il est codé ….

Cet argument est bidon . 
 

Pour ma part l’idée de penrose me séduit mais c’est un pur biais lié à ma croyance . À ce jour la question n’est pas tranchée , on n’en sait rien . 
Prétendre que ce n’est qu’un outil et que ça ne pourra jamais être plus , n’est que pure croyance .

à l’instant, SpookyTheFirst a dit :

Non, je crains que la conscience de soi ne soit finalement pas si extraordinaire, sauf à nous donner l'illusion d'une supériorité fondamentale, un travers bien humain...

Elle n’est surtout pas l’apanage de l’humanité , d’autres mammifères ont parfaitement conscience d’eux-mêmes . Pendant longtemps l’homme se distinguait de la bête par la conscience. Finalement pshiit . Ça recommence avec l’IA .