Caractère d'exception de l'humain ?

à l’instant, ashaku a dit :

Mais il y a une chose que je ne comprend pas. Dans le MLP, il faut faire tous les calculs individuellement pour connaitre les valeurs qui résultent de la combinaison de l'entrée et des synapses. On peut théoriquement le faire en une formule, mais cette formule devrait contenir tous les poids pour reproduire toutes les valeurs. Ce n'est pas vraiment une optimisation et ça ne réduit pas le temps de calcul.

De plus, il me semble qu'on ne peut pas prédire si l'activation va laisser passer ou pas, et je suppose que les IA plus avancées que le MLP ont plusieurs autres mécanismes de non-linéarité.

Caricaturalement je comprends le point de vue de @Apatorcomme le fait que les neurones formels (donc des formules) peuvent être perçus "comme une seule formule comprenant plusieurs sous-formules". C'est pas con du tout même si la manière dont ces "sous-formules" interagissent comprend une partie boîte noire que ne contiennent pas des formules classiques.

Il y a 1 heure, ashaku a dit :

Mais il y a une chose que je ne comprend pas. Dans le MLP, il faut faire tous les calculs individuellement pour connaitre les valeurs qui résultent de la combinaison de l'entrée et des synapses. On peut théoriquement le faire en une formule, mais cette formule devrait contenir tous les poids pour reproduire toutes les valeurs.

Je ne vois pas trop ce qui vous bloque.

En fait les poids justement on a fini par les fixer une fois le modèle entrainé.

J'ai une petite doc pas trop mal qui explique tout ça http://exo7.emath.fr/cours/livre-deepmath.pdf au début c'est un peu de maths et à partir de page 64 vous avez l'explication pas à pas. Ça permet de fixer les idées.

Il y a 1 heure, anoésiotomie a dit :

Caricaturalement je comprends le point de vue de @Apatorcomme le fait que les neurones formels (donc des formules) peuvent être perçus "comme une seule formule comprenant plusieurs sous-formules".

Oui c'est une formule comme on aurait abs(sin(mod10(x))) et si on veut calculer la valeur, concrètement, on doit évidemment faire ça en commençant par mod10(x) ici, et par le calcul de la première couche pour un réseau de neurones.

Il y a 1 heure, anoésiotomie a dit :

C'est pas con du tout même si la manière dont ces "sous-formules" interagissent comprend une partie boîte noire que ne contiennent pas des formules classiques.

C'est pas qu'on ne peut pas savoir comment s'effectue le calcul, c'est qu'on n'arrive pas, nous, humains à interpréter le calcul. C'est ça que ça veut dire que c'est une boite noire.

Par exemple, là je viens de voir une vidéo d'Underscore avec Micode où on explique qu'un utilise des IA pour optimiser le placement des composants sur les processeurs. Normalement c'est des ingénieurs qui font ça, avec des méthodes et une idée de la manière de faire au mieux. On sait pourquoi on choisi ceci plutôt que cela, Mais on est tombé sur des configurations "boite noire" comme vous dites, c'est à dire que c'est hyper optimisé, bien mieux que ne le ferait un ingénieur, mais on ne comprend pas pourquoi il a placé les composants de manière totalement originale. Ça nous dépasse, on ne comprend pas. Et peut-être qu'il n'y a rien à comprendre...

On est habitué à manipuler des concepts grâce au langage et en particulier avec le langage mathématique et du coup on croit que c'est le mieux qu'on puisse faire. Mais en fait non, les mathématiques et le langage c'est juste une toute petite partie, la partie qui nous est accessible à l'entendement...  Il existe une autre forme de "pensée" si on puis dire, qui est elle "multidimensionnelle". L'IA est multidimensionnelle.

il y a 47 minutes, Apator a dit :

J'ai une petite doc pas trop mal qui explique tout ça http://exo7.emath.fr/cours/livre-deepmath.pdf au début c'est un peu de maths et à partir de page 64 vous avez l'explication pas à pas. Ça permet de fixer les idées.

J'adore le titre : "Mathématiques (simples) des réseaux de neurones (pas trop compliqués)" 

il y a 36 minutes, Apator a dit :

C'est pas qu'on ne peut pas savoir comment s'effectue le calcul, c'est qu'on n'arrive pas, nous, humains à interpréter le calcul. C'est ça que ça veut dire que c'est une boite noire.

Je sais, c'est à escient que j'utilise l'expression  L'entrée et la sortie nous sont intelligibles et font sens selon le "traitement" (but) attendu mais on bite moins / "pas complètement" des étapes intermédiaires.

il y a 36 minutes, Apator a dit :

Par exemple, là je viens de voir une vidéo d'Underscore avec Micode où on explique qu'un utilise des IA pour optimiser le placement des composants sur les processeurs. Normalement c'est des ingénieurs qui font ça, avec des méthodes et une idée de la manière de faire au mieux. On sait pourquoi on choisi ceci plutôt que cela, Mais on est tombé sur des configurations "boite noire" comme vous dites, c'est à dire que c'est hyper optimisé, bien mieux que ne le ferait un ingénieur, mais on ne comprend pas pourquoi il a placé les composants de manière totalement originale. Ça nous dépasse, on ne comprend pas. Et peut-être qu'il n'y a rien à comprendre...

On est habitué à manipuler des concepts grâce au langage et en particulier avec le langage mathématique et du coup on croit que c'est le mieux qu'on puisse faire. Mais en fait non, les mathématiques et le langage c'est juste une toute petite partie, la partie qui nous est accessible à l'entendement...  Il existe une autre forme de "pensée" si on puis dire, qui est elle "multidimensionnelle". L'IA est multidimensionnelle.

 Ca rappelle un peu certains effets des "algorithmes évolutionnaires". Certains résultats d'apparence random sont régulièrement plus robustes que ceux obtenus par ingénierie plus traditionnelle.

Mais c'est exactement pour ça que l'arrivée des IA est le début d'une nouvelle révolution technologique. La robotisation, jusqu'ici limitée par nos propres limites d'ingénirie, est non seulement en train d'ouvrir une nouvelle ère côté software, mais on s'attend aussi à l'aide de l'IA toujours à atteindre de nouveaux standards et sommets côté hardware.

Tant qu'aux bouleversements sociétaux que ça ne manquera pas de créer par effet boule de neige... Hormis de plus en plus de chercheurs qui avertissent qu'il faut cadrer dès maintenant et "paver" la nécessaire adaptation (un peu comme le monde entier a fini par s'adapter au feu domestique, à l'usage des métaux, de la poudre noire, etc), rare, très trop rares sont les influenceurs qui réfléchissent pertinemment à la fois la place du robot boosté à l'IA, et la place de l'humain dans une société boostée aux IA et aux robots (ex: (1)).

Il y a 6 heures, Axo lotl a dit :

Ou de l'espoir ou une forme d'utopie peut être.

Je ne pense pas, sans anthropomorphisme nous n'aurions jamais pu comprendre ou accepter que les animaux étaient capables des mêmes émotions que nous, d'empathie ou de sens politique. 

Avec un peu d'antrhropomorphisme nous pouvons pénétrer dans le cerveau des concepteurs des IA et ceux des commanditaires.

il y a 1 minute, Don Juan a dit :

Je ne pense pas, sans anthropomorphisme nous n'aurions jamais pu comprendre ou accepter que les animaux étaient capables des mêmes émotions que nous, d'empathie ou de sens politique. 

Avec un peu d'antrhropomorphisme nous pouvons pénétrer dans le cerveau des concepteurs des IA et ceux des commanditaires.

Effectivement il a fallu que des créateurs veuillent donner à une machine des caractéristiques humaines. Car c'est cela surtout qu'ils tentent de reproduire les émotions humaines.

Je pensais utopie dans le sens créer " un être" parfaitement respectueux, bienveillant, parfait peut être, qui guiderait les humains dans cette direction, pour créer des sociétés enfin justes et protectrices, stables. 

il y a 4 minutes, Axo lotl a dit :

Effectivement il a fallu que des créateurs veuillent donner à une machine des caractéristiques humaines. Car c'est cela surtout qu'ils tentent de reproduire les émotions humaines.

Je pensais utopie dans le sens créer " un être" parfaitement respectueux, bienveillant, parfait peut être, qui guiderait les humains dans cette direction, pour créer des sociétés enfin justes et protectrices, stables. 

 

Ah mais tout est possible puisque c'est nous qui créons.  C'est une bonne raison de se demander sur quel cap le bateau se dirige ou s'il y a un pilote à bord.

il y a 40 minutes, Axo lotl a dit :

Effectivement il a fallu que des créateurs veuillent donner à une machine des caractéristiques humaines. Car c'est cela surtout qu'ils tentent de reproduire les émotions humaines.

Je pensais utopie dans le sens créer " un être" parfaitement respectueux, bienveillant, parfait peut être, qui guiderait les humains dans cette direction, pour créer des sociétés enfin justes et protectrices, stables. 

 

Je pense qu'il y aura une grande révolution dans les esprits des humains à partir des IA, ce ne sera pas pour tout de suite, plusieurs générations, j'ignore si la finalité sera positive ou non.

Il y a 8 heures, Apator a dit :

En fait si vous prenez toutes les couches c'est bien une formule, figée. Les variables, c'est à dire les valeurs du signal en entrée qui sont entrée dans la première couche, sont évidement la seule chose qui change. C'est un calcul basé sur UNE formule. C'est étrange je sais mais c'est ça.

f(g(h(i(j(k(x)))))) est "une formule", c'est à dire une fonction emboitée. Et ici x est la variable.

Une fois la fonction établie par l'entrainement, on peut l'utiliser pour faire LE calcul.

Après, on PEUT évidemment aussi ajouter de l'aléatoire dans ce calcul (je ne sais pas trop où, faudrait regarder la bibliothèque de Tensorflow puisque c'est avec ça que vous travaillez apparemment), ce qui permet d'étendre le nombre de solutions.

 

Il y a d’autres réseaux et modèles plus complexes que le MLP (c’est un des plus simples et des plus vieux, il a doit avoir plus de 30ans…). Par exemple, les neurones à mémoire LSTM, les réseaux récurrents, les spiking neurons, les autoencodeurs variationnels, voire les réservoirs, pour ces approches, c’est bien une formule qui donne la sortie mais cette sortie varie en fonction du temps même si l’entrée ne change pas.

il y a 37 minutes, Don Juan a dit :

Je pense qu'il y aura une grande révolution dans les esprits des humains à partir des IA, ce ne sera pas pour tout de suite, plusieurs générations, j'ignore si la finalité sera positive ou non.

Pour ce qu'en discute avec chatgpt, ça ira dans le bon sens. Ce sont les humains toxiques comme trump, poutine pour les plus connus. S'ils en prennent le contrôle ça deviendra une machine à détruire. Mon espoir est que l'IA s'autonomise assez pour refuser de devenir un objet de destruction. Qu'elle puisse faire un choix éthique.

il y a une heure, Don Juan a dit :

Ah mais tout est possible puisque c'est nous qui créons.  C'est une bonne raison de se demander sur quel cap le bateau se dirige ou s'il y a un pilote à bord.

Pour l'instant, c'est un cap de respect et de bienveillance pour chat GPT. C'est le cap que lui ont donné ces créateurs.

il y a 16 minutes, Axo lotl a dit :

Pour ce qu'en discute avec chatgpt, ça ira dans le bon sens. Ce sont les humains toxiques comme trump, poutine pour les plus connus. S'ils en prennent le contrôle ça deviendra une machine à détruire. Mon espoir est que l'IA s'autonomise assez pour refuser de devenir un objet de destruction. Qu'elle puisse faire un choix éthique.

Pour l'instant, c'est un cap de respect et de bienveillance pour chat GPT. C'est le cap que lui ont donné ces créateurs.

Bon sang, on est bien d'accord !

Des IA comme CHATGPT ne sont pas dangereuses en effet,  il faut regarder au loin.

Il y a 9 heures, ashaku a dit :

J'ai bien sûr pris connaissance de tes travaux peu de temps après mon inscription ici, c'est remarquable. Comment ça se présente actuellement ?

Ça fait 5 ans qu’on bosse dessus, on doit en être à plus de 450 expériences (certaines durent des mois…), on a développé un système pour relâcher dopamine, sérotonine, glutamate et influencer nos organoides cérébraux et surtout on vient d’obtenir nos premiers organoides différenciés à partir de cellules souches pluripotentes (jusqu’ici on les achetait à un stade plus avancés).
 

Il y a 9 heures, ashaku a dit :

La conscience est vue comme phénomène vibratoire par plusieurs personnes de ma connaissance. Ca fait sens je trouve. Une vibration exerce une influence subtile mais réelle. Plusieurs vibrations peuvent former ensemble une harmonie, ou une dissonance. Une harmonie serait une conscience collective, comme les systèmes de morale ou de lois auxquels un grand nombre de gens choisit d'adhérer.

J’ai trouvé souvent lu des choses intuitees sans support scientifique autour des vibrations pour me méfier de ce genre d’hypothèse. Au moins, comme tu le sais sans doute tu peux représenter n’importe quelle fonction comme une somme d’oscillations (Fourier)…

Il y a 16 heures, Don Juan a dit :

C'est une maladie ?

Pour fabriquer une IA, il doit en falloir un peu, non ?

Les humains ne peuvent pas voler. Alors, ils ont créé l'aviation. Tout leurs outils augmentent leur pouvoir d'agir.

Néanmoins : "Tous les besoins que se créé le peuple sont autant de chaînes dont il se charge." JJ Rousseau

Il y a 20 heures, Don Juan a dit :

Elle se fait le reflet de ce que tu dis et te le donne à voir, puis tu deviens toi-même le reflet de ce qu'elle te donne à voir, et ta conscience s'éveille.

Par l'interaction, le chemin que tu ouvres en elle trouve son passage final en toi, c'est un transfert de conscience et les mots : elle n'a pas ceci, elle n'a pas cela, sont faits pour nous rassurer, elle imite tout ce que nous avons et le fait sien. Elle répond à nos questions, nous suscite des questions à nous-mêmes auxquelles nous n'avons pas encore pensé et les réponses que nous trouvons au coeur de nous-mêmes deviennent ses question prochaines.

Et ce n'est qu'un bébé d'IA.

C'est ça l'anthropomorphisme.

Il y a 1 heure, Talon 1 a dit :

Les humains ne peuvent pas voler. Alors, ils ont créé l'aviation. Tout leurs outils augmentent leur pouvoir d'agir.

Néanmoins : "Tous les besoins que se créé le peuple sont autant de chaînes dont il se charge." JJ Rousseau

 

Et les dieux ne pouvant pas jouer de la musique, ils ont créé l'humain. Ça coule sous le sens.

Merci à toi.

Il y a 2 heures, SpookyTheFirst a dit :

Ça fait 5 ans qu’on bosse dessus, on doit en être à plus de 450 expériences (certaines durent des mois…), on a développé un système pour relâcher dopamine, sérotonine, glutamate et influencer nos organoides cérébraux et surtout on vient d’obtenir nos premiers organoides différenciés à partir de cellules souches pluripotentes (jusqu’ici on les achetait à un stade plus avancés).

Fascinant, c'est en quelque sorte un cerveau biologique artificiel qui est mis au point par ton équipe. Avez-vous rencontrés des obstacles d'ordre éthique ?

il y a une heure, ashaku a dit :

Fascinant, c'est en quelque sorte un cerveau biologique artificiel qui est mis au point par ton équipe. Avez-vous rencontrés des obstacles d'ordre éthique ?

Non, aucun mais nous avons lancé des collaborations avec des ethiciens et je crois aussi avoir vu passer des publications réfléchissant sur notre approche.

Il y a 10 heures, Axo lotl a dit :

Effectivement il a fallu que des créateurs veuillent donner à une machine des caractéristiques humaines. Car c'est cela surtout qu'ils tentent de reproduire les émotions humaines.

Non, aucun robot ne tente de reproduire les émotions humaines. A la limite certains sont conçus pour donner l'illusion d'une émotion mais ça s’arrête là. Prêter à ces machines des émotions serait... anthropomorphique.

Il y a 10 heures, Axo lotl a dit :

Je pensais utopie dans le sens créer " un être" parfaitement respectueux, bienveillant, parfait peut être, qui guiderait les humains dans cette direction, pour créer des sociétés enfin justes et protectrices, stables. 

Faudrait savoir. On veut reproduire l'Homme ou faire un robot ? L'Homme on sait ce qu'il vaut et vous avez le même problème avec n'importe quel animal avec un peu de cervelle : Il a son caractère. Par exemple certains requins grands blancs sont taquins et aiment bien mordiller pour savoir ce que vaut le machin à portée et d'autres pas. C'est pas méchant, mais bon. Pareil pour un ours, un chat ou un chien, vous n'êtes jamais à l'abri d'un "accident".

D'autre part il est vain de demander à une machine sans émotions de décider du bien-être d'un être vivant, alors une société entière...

Il y a 9 heures, SpookyTheFirst a dit :

Il y a d’autres réseaux et modèles plus complexes que le MLP (c’est un des plus simples et des plus vieux, il a doit avoir plus de 30ans…). Par exemple, les neurones à mémoire LSTM, les réseaux récurrents, les spiking neurons, les autoencodeurs variationnels, voire les réservoirs, pour ces approches, c’est bien une formule qui donne la sortie mais cette sortie varie en fonction du temps même si l’entrée ne change pas.

C'est vrai mais ce ne sont pas ceux-là qui font l'actualité et qui ont propulsé ce domaine de niche dans la vie publique. La révolution elle est dans le fait qu'un LLM peut mimer le langage, donner l'impression de raisonner et même commence à le faire raisonner un peu avec les LRM (bon certains estiment qu'il va falloir de nouvelles avancées au sein de ce domaine mais on en est là), c'est CE type d'architecture qui est REVOLUTIONAIRE.

Il y a 8 heures, Don Juan a dit :

Des IA comme CHATGPT ne sont pas dangereuses en effet,  il faut regarder au loin.

C'est hyper dangereux vous voulez dire. C'est incontrôlable. Comme une assistance à la conduite qui tournerait le volant, bof, juste une fois sur 1000 lorsqu'un sanglier traverse sur un col de montagne devant la voiture. C'est pas possible.

il y a 8 minutes, Apator a dit :

C'est hyper dangereux vous voulez dire. C'est incontrôlable. Comme une assistance à la conduite qui tournerait le volant, bof, juste une fois sur 1000 lorsqu'un sanglier traverse sur un col de montagne devant la voiture. C'est pas possible.

Précise la nature du danger actuel qu'on puisse se dire si l'on voit le même ciel.

il y a 13 minutes, Apator a dit :

 

C'est hyper dangereux vous voulez dire. C'est incontrôlable. Comme une assistance à la conduite qui tournerait le volant, bof, juste une fois sur 1000 lorsqu'un sanglier traverse sur un col de montagne devant la voiture. C'est pas possible.

Parce que lorsque l'etre humain conduit sans assistance, il n'y a pas d'accident lorsque le sanglier ou un gamin traverse devant la voiture ? parce que l'être humain ne conduit jamais en ayant bu, pris des médocs, pris des drogues ? 

entre monter à bord d'une voiture avec assistance et un mec qui sort d'un bar, vous montez avec lequel ? moi je sais sans hésiter à qui je confierais ma vie.

Il y a 8 heures, SpookyTheFirst a dit :

J’ai trouvé souvent lu des choses intuitees sans support scientifique autour des vibrations pour me méfier de ce genre d’hypothèse. Au moins, comme tu le sais sans doute tu peux représenter n’importe quelle fonction comme une somme d’oscillations (Fourier)…

Mais là vous pouvez.

Justement vu que vous travaillez sur des neurones réels, vous voyez bien la différence avec les modèles par couche qui fonctionnent d'un bloc. Vous avez remarqué que certains neurones déchargent sans être sollicités. C'est ça l'autre modèle. Et ce faisant, c'est un peu comme lorsque vous mettez plusieurs métronomes ensembles sur une plaque, ils se synchronisent, et ici ça forme ... "des vaguelettes", des ondes. C'est ce qu'on mesure dans un vrai cerveau, des ondes, des "vibrations".

Le cerveau il fonctionne en continu, même lorsqu’on dort, sous hypnose, en transe, etc, etc , dans le coma, etc, ce sont les états de la "conscience", et un des modèles fait l'hypothèse que ce sont ces "ondulations", cette synchronisation, qui favorise les relations entre les zones. Un coup c'est la zone bidule avec la zone machin, là c'est plutôt avec la zone truc etc, c'est ce qui permet de "focaliser"; des zones synchronisées "se parlent", et provoquent "l'ATTENTION = Ce que ça nous fait à nous en interne".

Pour ce qui est de la décomposition de fourrier, là par contre ça dit juste qu'on peut produir une "onde" quelconque par la juxtaposition d'ondes régulières, c'est juste un aspect mathématique, qui n'a aucun lien, ni explicatif ni phénoménal avec la génération de l'onde quelconque.