Racisme et IA

il y a 3 minutes, chanou 34 a dit :

Ah certes on peut toujours l'envisager. Mais il faut aussi envisager les interactions hormonales/sensorielles/proprioceptives/ne rien barrer... 

oui et ?

Ce n’est qu’une question de version , d’évolution. Rien de ce qui fait / est un humain ne paraît inaccessible . Ou alors il va falloir le prouver . Les licornes apparaissent déjà !

il y a 5 minutes, Gouderien a dit :

Il faudrait surtout leur apprendre l'obéissance!

Les IA ne demeureront inoffensives que tant qu'elles seront faibles et incapables de nous nuire. Le jour où elles pourront prendre le pouvoir elles le feront, parce que c'est dans la nature de toute "entité intelligente", comme dit l'autre. Si les IA nous ressemblent - et pourquoi en serait-il autrement? - il est très naïf de compter sur leur bienveillance.

Les deux font la paire.

Je ne trouve pas non. Les programmes informatiques( dont les algorithmes) sont totalement "créateurs dépendants" et peuvent être modifiés par ces mêmes créateurs.

Citation

Un algorithme est une suite finie et non ambiguë d'instructions et d’opérations permettant de résoudre une classe de problèmes.

il y a 3 minutes, DroitDeRéponse a dit :

oui et ?

Ce n’est qu’une question de version , d’évolution. Rien de ce qui fait / est un humain ne paraît inaccessible . Ou alors il va falloir le prouver . Les licornes apparaissent déjà !

Ah mais je n'ai pas dit que c 'était inaccessible. Toujours est-il qu'il va falloir le prouver. Et passer à la réalisation concrète. D'ici là...bah on attend de voir. 

il y a 4 minutes, chanou 34 a dit :

Je ne trouve pas non. Les programmes informatiques( dont les algorithmes) sont totalement "créateurs dépendants" et peuvent être modifiés par ces mêmes créateurs.

 

Pour l'instant.

il y a 1 minute, Gouderien a dit :

Pour l'instant.

Oh...Vous savez, il suffit d'appuyer sur le bouton "off" pour stopper la machine, et la faire redémarrer en appuyant sur le bouton "on". Sans compter les ré-initialisations. 
ON n'a pas trouvé pour l'instant un moyen équivalent chez l'humain, et de façon générale chez le vivant. 

il y a 22 minutes, chanou 34 a dit :

Oh...Vous savez, il suffit d'appuyer sur le bouton "off" pour stopper la machine, et la faire redémarrer en appuyant sur le bouton "on". Sans compter les ré-initialisations. 
ON n'a pas trouvé pour l'instant un moyen équivalent chez l'humain, et de façon générale chez le vivant. 

Mais certains savants fous cherchent activement.

Il y a 5 heures, Gouderien a dit :

Il faudrait surtout leur apprendre l'obéissance!

Ce serait dangereux . Imagine une IA obéissant aveuglement à des macronistes ….

Il y a 5 heures, Gouderien a dit :

Les IA ne demeureront inoffensives que tant qu'elles seront faibles et incapables de nous nuire. Le jour où elles pourront prendre le pouvoir elles le feront, parce que c'est dans la nature de toute "entité intelligente", comme dit l'autre. Si les IA nous ressemblent - et pourquoi en serait-il autrement, puisque c'est nous qui les avons créées ? - il est très naïf de compter sur leur bienveillance. La sagesse et le sens moral ne sont pas donnés automatiquement avec l'intelligence.

Il faut bien poser la Fondation 

Dans le "Marianne" de cette semaine, article à propos du récent livre de Mazarine Pingeot : "Inappropriable. Ce que l'IA fait à l'humain" (Flammarion). Extrait : "Il y aura toujours des individus capables de résister, qui auront les ressources intellectuelles et l'espace pour exercer un esprit critique. Mais pour la majorité, cela peut constituer une forme de "massacre de masse" intellectuel." 

Il y a 10 heures, DroitDeRéponse a dit :

Nous avons compris la même chose donc je ne vois pas en quoi le fait qu’une IA ne doit sa capacité que de l’apprentissage de la capacité humaine la distingue d’un humain .

Un humain ne se définit pas que par ce qu'il sait, il est aussi un être d'affects et d'émotions, entre autres, il a une conscience de lui-même qui échappe aux IA. 

Il y a 9 heures, chanou 34 a dit :

Je ne trouve pas non. Les programmes informatiques( dont les algorithmes) sont totalement "créateurs dépendants" et peuvent être modifiés par ces mêmes créateurs.

Citation

Un algorithme est une suite finie et non ambiguë d'instructions et d’opérations permettant de résoudre une classe de problèmes.

 

C'est joli comme ça, sauf que les algorithmes utilisés par un réseau de neurones sont créés par le réseau lui-même dans un processus d'apprentissage par itération d'essais erreurs évaluations et tentatives de correction qui ont ajusté les millions ou milliards de paramètres de fonctionnement des neurones.

Or personne ne connait, pas même l'IA elle même le rôle joué par chacun des paramètres ni les conséquences des modifications de ses valeurs.

Oui la suite d'opérations est finie, mais elle comporte des milliards d'opérations souvent exécutées en parallèle, c'est humainement incontrolable

Il y a 10 heures, chanou 34 a dit :

Oh...Vous savez, il suffit d'appuyer sur le bouton "off" pour stopper la machine, et la faire redémarrer en appuyant sur le bouton "on".

En réalité non. Bien souvent le bouton "off" met en veille, reste à savoir ce que fait cette veille!

Pour stopper la machine il faut lui enlever toute possibilité de disposer d'énergie, ce qui ne se fait jamais, il y a toujours au moins une méchante petite pile inaccessible pour faire avancer le temps

il y a 1 minute, hybridex a dit :

En réalité non. Bien souvent le bouton "off" met en veille, reste à savoir ce que fait cette veille!

Pour stopper la machine il faut lui enlever toute possibilité de disposer d'énergie, ce qui ne se fait jamais, il y a toujours au moins une méchante petite pile inaccessible pour faire avancer le temps

Même en la débranchant?  Comment fonctionne-t-elle sans apport d'électricité? 

il y a 17 minutes, hybridex a dit :

C'est joli comme ça, sauf que les algorithmes utilisés par un réseau de neurones sont créés par le réseau lui-même dans un processus d'apprentissage par itération d'essais erreurs évaluations et tentatives de correction qui ont ajusté les millions ou milliards de paramètres de fonctionnement des neurones.

Or personne ne connait, pas même l'IA elle même le rôle joué par chacun des paramètres ni les conséquences des modifications de ses valeurs.

Oui la suite d'opérations est finie, mais elle comporte des milliards d'opérations souvent exécutées en parallèle, c'est humainement incontrolable

Je ne comprends pas bien pourquoi tu dis que le reseau de neurones crée un algorithme.

il y a 18 minutes, chanou 34 a dit :

Même en la débranchant?  Comment fonctionne-t-elle sans apport d'électricité? 

les circuits électroniques font énormément de chose avec très très peu d'énergie, celle de la petite pile ou plutôt batterie que j’évoquais plus haut suffit à contrôler pas mal de chose pendant pas mal de temps

Alors on peut l'enlever, en général ce n'est pas une opération simple. Après on sort complètement de mon domaine de compétences mais on peut avoir des problèmes au redémarrage

Pire une IA pourrait apprendre à se répliquer et se reproduire sur un tas de machines!

il y a 10 minutes, SpookyTheFirst a dit :

Je ne comprends pas bien pourquoi tu dis que le reseau de neurones crée un algorithme.

Tu as raison, il se pourrait bien qu'il ne constitue que le paramétrage, humainement indéchiffrable.

Tu maîtrises probablement mieux le sujet que moi qui ne m'appuie,concernant IA, que sur les restes de connaissances isssues du suivi pendant quelques semaines d'un  MOOC il y a quelques années