Cette IA scientifique a modifié son propre code pour échapper au contrôle des humains qui l’utilisent !

il y a une heure, SpookyTheFirst a dit :

Oui, je comprends ton point de vue. Il faut quand même savoir que si, par exemple, on souhaitait utiliser des humanoides pour aider dans les Ehpads, la technologie n’est pas prête pour ca, on ne sait pas encore faire, mais cela va changer. Et je suis sur que des sociétés trouvent cela assez vendeur pour investir sur la recherche dans ce domaine.

 

 

en fait ce à quoi je pensais tout simplement est la guérison de l'arthrose...c’est la première cause de handicap et d'incapacité des humains passé un certain âge. Et c'est ce qui remplit les secteurs "non protégés" des ehpads dans leur immense majorité.

et ça..ben on ne SAIT PAS guérir, ni même simplement soigner correctement.

Citation

Et puis, personellement, je parle de ce sujet en détail car je le connais bien et qu’il m’intéresse.

Non mais ça j'avais bien compris. 

Le 20/08/2024 à 20:09, SpookyTheFirst a dit :

Bon, je ne résisterai pas à la tentation de dire qu’il ne faut pas uniquement juger d’une techno sur sa performance financière. Et puis, il s’est peut-être bien passé une dizaine d’années entre la machine de Watt en 1781 et la révolution industrielle.

Ensuite, je ne parle pas de l’IA en général, mais de l’approche suivante:

 - des labo de recherche (dits virtuels) où les expériences sont définies par des séquences robotisées en Python

- des agents tournants des modèles de langage (type chatGPT) écrivent des programmes, les executent pour réaliser des expèriences robotisées, dépouillent les résultats pour produire des nouveaux programmes plus affinés

Notre labo travaille là-dessus, on n’est pas les seuls, c’est une révolution souterraine que les gens ignorent (comme   @stephh06et  @chanou 34….) qui peut bouleverser le rythme des découvertes scientifiques.

Oui tu as raison, mon argument n'est pas suffisamment fort. Je suis juste à l'heure actuelle encore dubitatif sur le fait que l'IA soit la solution à tout. Que ça permettent d'améliorer les choses dans certains cadres, c'est très certainement vrai. Le problème c'est qu'on finit par manquer de compréhension sur les résultats qui sont obtenus par IA. A l'heure actuelle, l'IA a entrainé une multiplication des papiers scientifiques, mais il ne semble pas que la qualité produite permette une révolution technologique aussi grande que la machine à vapeur de Watt par exemple. Personnellement, j'ai l'impression que l'IA c'est un peu la fusion nucléaire. Ça fait rêver depuis des années, il y a certaines avancés intéressantes mais ça ne marche toujours pas entièrement. On commence à avoir un certain recul sur l'IA maintenant quand même. Ça fait des années que c'est en plein boom et il commence à il y avoir un recul, tu es bien placé pour le savoir.

Le 22/08/2024 à 13:21, Virtuose_en_carnage a dit :

Oui tu as raison, mon argument n'est pas suffisamment fort. Je suis juste à l'heure actuelle encore dubitatif sur le fait que l'IA soit la solution à tout. Que ça permettent d'améliorer les choses dans certains cadres, c'est très certainement vrai. Le problème c'est qu'on finit par manquer de compréhension sur les résultats qui sont obtenus par IA. A l'heure actuelle, l'IA a entrainé une multiplication des papiers scientifiques, mais il ne semble pas que la qualité produite permette une révolution technologique aussi grande que la machine à vapeur de Watt par exemple. Personnellement, j'ai l'impression que l'IA c'est un peu la fusion nucléaire. Ça fait rêver depuis des années, il y a certaines avancés intéressantes mais ça ne marche toujours pas entièrement. On commence à avoir un certain recul sur l'IA maintenant quand même. Ça fait des années que c'est en plein boom et il commence à il y avoir un recul, tu es bien placé pour le savoir.

En fait je n'arrive plus à suivre les dernières évolutions des multi-agents tournant des LLM (large language model), ca évolue à tout vitesse avec des nouveautés chaque mois, j'ai un gars qui suit ca, je ne comprends même plus ses rapports...

Pour te donner une idée, il y a ce papier, dont j'ai tiré la figure suivante. Moi, je connais bien le marchine learning... bah c'est maintenant dépassé par 2 générations...

Ça y est, Skynet a pris le pouvoir ? O.K., je sors !!

Il faut arrêter de se faire du cinéma hollywoodien avec les machines intelligentes qui asservissent l'humanité. Quand votre ordinateur vous fera des misères, vous couperez le courant, et il vous laissera tranquille. Ceci dit, l'aptitude a écrire du code n'est pas vraiment nouvelle, mais les progrès récents sont prometteurs. On va pouvoir confier, à la machine, des tâches complexes et fastidieuses qu'on se tape à la main aujourd'hui. Le risque existe, de voir un ordinateur faire autre chose que ce qu'on attend de lui, et ça arrive souvent sans que l'intelligence artificielle n'y soit pour rien.

Le dérèglement climatique ne faisait plus recette, le covid étant moins virulent il faut bien trouver quelque chose d'autre pour s'amuser à se faire peur.