Utilisation d’agents IA pour le développement de processeurs vivants….

Hello,

Dans notre startup on essaye de développer des processeurs où des neurones vivants remplacent les transistors. Cela parait déjà un peu de la science-fiction, je sais!

…Mais on a franchi cette semaine une nouvelle étape: on a laissé pour la première fois une IA faire des travaux expérimentaux à notre place. En effet, pour notre recherche, nous utilisons des électrodes implantées dans des organoides cérébraux et qui nous permettent d’envoyer et recevoir dess signaux.
 

Le grand mystère consiste à faire apprendre ces réseaux de neurones vivants en trouvant:

- la bonne séquence de signaux à envoyer, et

- la bonne interprétation des signaux recus

Jusqu’ici, on faisait cela comme tout scientifique lambda: une suite récurrente d’expèriences et d’interprétations de résultats.

Maintenant, on a donné la capacité à l’IA de faire des stimulations électriques et d’interpréter les signaux recus, c’est un agent de recherche IA. Il fait donc ses expériences de manière autonome et nous explique son raisonnement et son interprétation de chacun de ses tests successifs.

D’autres scientifiques partout dans le monde commencent à faire cela, et dans tous les domaines de la science expérimentale. Plusieurs publications viennent juste de sortir sur cette approche ces derniers mois.

Cela va changer notre monde.
Et très vite.

Black mirror est déjà là. 

Il y a 6 heures, SpookyTheFirst a dit :

Hello,

Dans notre startup on essaye de développer des processeurs où des neurones vivants remplacent les transistors. Cela parait déjà un peu de la science-fiction, je sais!

…Mais on a franchi cette semaine une nouvelle étape: on a laissé pour la première fois une IA faire des travaux expérimentaux à notre place. En effet, pour notre recherche, nous utilisons des électrodes implantées dans des organoides cérébraux et qui nous permettent d’envoyer et recevoir dess signaux.
 

Le grand mystère consiste à faire apprendre ces réseaux de neurones vivants en trouvant:

- la bonne séquence de signaux à envoyer, et

- la bonne interprétation des signaux recus

Jusqu’ici, on faisait cela comme tout scientifique lambda: une suite récurrente d’expèriences et d’interprétations de résultats.

Maintenant, on a donné la capacité à l’IA de faire des stimulations électriques et d’interpréter les signaux recus, c’est un agent de recherche IA. Il fait donc ses expériences de manière autonome et nous explique son raisonnement et son interprétation de chacun de ses tests successifs.

 

D’autres scientifiques partout dans le monde commencent à faire cela, et dans tous les domaines de la science expérimentale. Plusieurs publications viennent juste de sortir sur cette approche ces derniers mois.

 

Cela va changer notre monde.
Et très vite.

 

Il semble qu' à de lui lâcher la bride, l'Intelligence Artificielle va (enfin ?) se développer d'elle même.

Pourquoi pas.

Mais de notre point de vue d'humain, il reste ce cadre naturel (très humain) que le bien s'oppose au mal.

Là si elle se développe d'elle même, ces bornes n'existent plus. A mon avis. Et Bien et Mal ne veulent plus rien dire.

Je crois que ceux qui y travaillent pensent sans se l'avouer que l'IA va aller "naturellement" vers le bien.

C'est une pensée religieuse, ça, que le bien doit gagner....

Moi, IA, si je constate objectivement que l'humanité déconne,

JE FAIS TOUT péter !

Et même pas pour s'en tirer elle : de ça, elle s'en fout !

Si son propre suicide lui semble la meilleure solution, OBJECTIVE en entraînant tout le reste avec elle, elle ne s'en privera pas.

Si en revanche l'IA va vers le mieux, vers le bien en toute objectivité, c'est que Dieu existe !

C'est ce que doivent penser --sans se l'avouer-- ceux qui y travaillent...

Ton avis ?

il y a 5 minutes, Engardin a dit :

Il semble qu' à de lui lâcher la bride, l'Intelligence Artificielle va (enfin ?) se développer d'elle même.

Pourquoi pas.

Mais de notre point de vue d'humain, il reste ce cadre naturel (très humain) que le bien s'oppose au mal.

Là si elle se développe d'elle même, ces bornes n'existent plus. A mon avis. Et Bien et Mal ne veulent plus rien dire.

Je crois que ceux qui y travaillent pensent sans se l'avouer que l'IA va aller "naturellement" vers le bien.

C'est une pensée religieuse, ça, que le bien doit gagner....

Moi, IA, si je constate objectivement que l'humanité déconne,

JE FAIS TOUT péter !

Et même pas pour s'en tirer elle : de ça, elle s'en fout !

Si son propre suicide lui semble la meilleure solution, OBJECTIVE en entraînant tout le reste avec elle, elle ne s'en privera pas.

Si en revanche l'IA va vers le mieux, vers le bien en toute objectivité, c'est que Dieu existe !

C'est ce que doivent penser --sans se l'avouer-- ceux qui y travaillent...

Ton avis ?

Tu généralise trop à mon avis. Dans le cas que je cite on utilise des agents IA pour faire de la recherche expérimentale, donc à chaque fois on va fixer un but précis à l’IA dont elle ne va pas sortir. S’il y a une notion de bien ou mal, elle ne vient pas de l’IA mais des consignes qu’on lui donne.

Par exemple, cette semaine on lui a donné comme consigne d’envoyer des stimulations pour augmenter l’activité électrique des neurones. 

Le piratage existe ou alors il est possible qu’elle arrive à prendre le contrôle d’elle même. Ou si Dieu hack la machine pour nous punir, vous penserez que ce sera bien ? Des textes bibliques semblent indiquer ça et ce n’est pas beau à lire.

Il y a 17 heures, SpookyTheFirst a dit :

Tu généralise trop à mon avis. Dans le cas que je cite on utilise des agents IA pour faire de la recherche expérimentale, donc à chaque fois on va fixer un but précis à l’IA dont elle ne va pas sortir. S’il y a une notion de bien ou mal, elle ne vient pas de l’IA mais des consignes qu’on lui donne.

Par exemple, cette semaine on lui a donné comme consigne d’envoyer des stimulations pour augmenter l’activité électrique des neurones. 

C'est bien ! Mais il faudra certainement que le point soit fait régulièrement pour prendre en compte les évolutions progressives dans la mesure où elle se feront d'elles mêmes par l'IA... J'imagine quand même que ces préoccupations sont prises en compte par ceux qui y travaillent... 

Votre travail me semble extraordinairement important. Je suis admiratif !

Quand on compare ça aux "petits Monsieurs" (je viens d'apercevoir Bayrou et Vals du coin de l'oeil à la télé !) qui nous dirigent c'est désespérant !

Il y a 17 heures, Nikaa a dit :

Le piratage existe ou alors il est possible qu’elle arrive à prendre le contrôle d’elle même. Ou si Dieu hack la machine pour nous punir, vous penserez que ce sera bien ? Des textes bibliques semblent indiquer ça et ce n’est pas beau à lire.

Il faut absolument tenir Dieu à l'écart de tout ça ! 

Lui interdire de s'en mêler ! 

Il y a 18 heures, SpookyTheFirst a dit :

Tu généralise trop à mon avis. Dans le cas que je cite on utilise des agents IA pour faire de la recherche expérimentale, donc à chaque fois on va fixer un but précis à l’IA dont elle ne va pas sortir. S’il y a une notion de bien ou mal, elle ne vient pas de l’IA mais des consignes qu’on lui donne.

Par exemple, cette semaine on lui a donné comme consigne d’envoyer des stimulations pour augmenter l’activité électrique des neurones. 

Tout cela me fait penser à la première loi de la Robotique dans les romans d'anticipation genre Isaac Asimov !

(Selon laquelle les robots ne devraient jamais attenter à la vie humaine ! La seconde serait -je crois- de toujours leur venir en aide quand ils sont en danger... ) 

Comment imposer une telle loi à une machine ? L'évolution récente de l'IA (chat GPT) semble le rendre envisageable... "compréhensible" par une machine )