L'Ia , la perte de contrôle a déjà comencé

il y a 11 minutes, Nidjam a dit :

Le problème est très différent . Une Ia peut très bien asservir l'homme pour arriver à ses fins . Nous ne serions plus l'espèce dominante  sur terre . 

ça fait penser aussi à CARL 500 dans l'odyssée de l'espace  . une IA qui prend le controle d'un vaisseau spatial en route pour jupiter , il n'obéit plus aux être humains à bord du vaisseau .

https://fr.wikipedia.org/wiki/HAL_9000

il y a 8 minutes, Nidjam a dit :

On estime que chat gpt est plus intelligent

Le problème est la définition de l'intelligence . 

est ce que les encyclopédies des années 80 avec toute la somme de connaisance écrite à l'intérieur sont ils INTELLIGENTS pour autant .

est ce que le dictionnaire larousse est intelligent ? 

ça n'est pas parce que Chatgpt m'explique la formation du sytème solaire qu'il est pour autant intelligent , c'est juste un peroquet qui répète ce qu'on lui a émis en programme ou en donné même trés complexe .... ça reste un peroquet ....ou si tu préfère une grosse encyclopédie qui peu tenir dans un telephone .

la bibliothèque d'alexandrie était elle intelligente ??    BAH non , si non elle serait encore là debout et vivante . 

Il y a 12 heures, Elbaid1 a dit :

se sera toujours l'être humain qui décidera OUI ou NON .

Il y a 12 heures, Elbaid1 a dit :

ça reste une volonté humaine , l'IA ne sera qu'un outil .

Je ne suis pas aussi optimiste sur le sujet.

Sans parler d'intelligence surhumaine, l'IA pourra jouer beaucoup plus rapidement avec l'informatique et en profiter pour prendre des décisions pas toujours contrôlables.

Le 18/09/2026 à 19:57, Elbaid1 a dit :

Le problème est la définition de l'intelligence . 

est ce que les encyclopédies des années 80 avec toute la somme de connaisance écrite à l'intérieur sont ils INTELLIGENTS pour autant .

est ce que le dictionnaire larousse est intelligent ? 

ça n'est pas parce que Chatgpt m'explique la formation du sytème solaire qu'il est pour autant intelligent , c'est juste un peroquet qui répète ce qu'on lui a émis en programme ou en donné même trés complexe .... ça reste un peroquet ....ou si tu préfère une grosse encyclopédie qui peu tenir dans un telephone .

la bibliothèque d'alexandrie était elle intelligente ??    BAH non , si non elle serait encore là debout et vivante . 

Si l'on définit l'intelligence comme la capacité à résoudre des problèmes , analyser des données , reconnaitre des schémas et adapter ses résultats , l'IA actuelle est incontestablement très intelligente .

Là on ne parle pas de conscience , mais d'intelligence .  

Quand on voit comment une IA joue aux échecs, on lui a crée inconstestablement une intelligence (voir le sens que j'ai défini l'intelligence). 

Le 18/09/2026 à 20:39, Plouj a dit :

Je ne suis pas aussi optimiste sur le sujet.

Sans parler d'intelligence surhumaine, l'IA pourra jouer beaucoup plus rapidement avec l'informatique et en profiter pour prendre des décisions pas toujours contrôlables.

 

 

Oui, la réalité c'est que plus l'IA est intelligente , et plus elle devient imprévisible . 

Le problème est celui de l'alignement . 

Lorsqu'on donne des priorités d'ordre à l'IA à travers des lignes de codes , à certains niveaux ces priorités peuvent parfois entrer en contradiction entre elles . Et c'est là tout le problème , puisque l'IA si elle n'a pas d'instruction pour résoudre chacune de ces contradictions en terme de priorité quand elles se  présentent doit prendre une décision seule . Et c'est là que l'imprévu arrive . Hors les IA sont de plus en plus autonomes , c'est à dire qu'on les laisse prendre des décisions . Le problème actuel c'est le problème de les laisser autonomes et d'accentuer cela . 

Dire "c'est l'homme qui décide oui ou non " , c'est difficile de répondre si l'IA devient plus autonome . 

L'optimisation sous contraintes. Plus un système devient capable, plus il trouve des moyens créatifs  et totalement inattendus de résoudre un problème, parfois au détriment des règles qu'on croyait lui avoir imposées.Le problème ne vient pas du fait que l'IA « se rebelle », mais qu'elle obéït trop littéralement  à des objectifs mal spécifiés. Et plus elle sera autonome et puissante et moins l'homme pourra comprendre les décisions qu'elle prend .

Le 18/09/2026 à 17:53, Nidjam a dit :

Là tu es dans le cas typique d'une personne qui n'a pas regardé sa propre vidéo . La personne à laquelle tu fais réfèrence est un journaliste ( François Saltiel ) qui est recadré vigoureusement à la fin de la vidéo par les deux ingénieurs en IA sur le plateau qui confirment exactement le risque majeur que fait encourir l'IA generative sur l'humanité .Là on parle plus des emplois, il est en plus hors sujet  .  Regarde les toutes dernières minutes de ta vidéo , juste après l'extrait en d'archive noir et blanc du père de la bombe atomique .Là le journaliste est recadré  par les scientifiques et se sent tout pisseux . Là les deux scientifiques confirment exactement les risques avancés de l'IA et leur nature terrifiante possible en cas où on irait plus loin sur des IA plus puissantes encore .

Mais, mais, mais, je l'ai regardée la vidéo; je trouvais juste le point de vue du journaliste intéressant aussi. Jamais dit qu'il avait raison!

Il y a 7 heures, Nidjam a dit :

Et plus elle sera autonome et puissante et moins l'homme pourra comprendre les décisions qu'elle prend .

J'aurais préféré anticiper ! 

Le 20/09/2026 à 09:45, Nidjam a dit :

Là on ne parle pas de conscience , mais d'intelligence .  

une intelligence sans conscience est comme une boite de ravioli vide à qui on aura appris à jouer aux échecs , mais ça reste une boite vide sans  conscience donc sans vie sans âme sans rien  .

Le 20/09/2026 à 14:47, Atipique a dit :

Mais, mais, mais, je l'ai regardée la vidéo; je trouvais juste le point de vue du journaliste intéressant aussi. Jamais dit qu'il avait raison!

Sauf que le journaliste en question n'est pas un spécialiste de l'IA et que les deux autres intervenants contre lui sont des ingénieurs en IA . La parole du journaliste en question n'a aucune valeur . 

Il y a 21 heures, Elbaid1 a dit :

une intelligence sans conscience est comme une boite de ravioli vide à qui on aura appris à jouer aux échecs , mais ça reste une boite vide sans  conscience donc sans vie sans âme sans rien  .

je pense que tu n'as pas compris . 

Une boite de conserve ne fait pas des täches et n'exécute rien, une IA si  

Le problème est surtout un problème d'alignement . 

Plein d'affaires où gpt a joué un rôle soit dans des suicides , soit dans un meurtre dans sa façon d'orienter la personne alors qu'il s'agissait de personnes fragiles psychologiquement  . Par exemple une personne qui souffrait de schizophrénie et de paranoïa qui a tué sa mère . Gpt est entré dans son délire et l'a encouragé à passer à l'acte . 

Une boite de conserve ne provoquerait pas ça , une ia potentiellement si . 

Et c'est justement parce qu'une ia n'a pas de conscience que des problèmes d'alignement dans la programmation peuvent provoquer de vraies catastrophes . Un seul bug de programmation dans la machine et elle est capable de créer des catastrophes à l'échelle planétaire . Elle peut hacker n'importe quel code d'entrée à un programme d'une autre ia , ou décider  que sa seule solution pour résoudre sa tâche c'est d'éradiquer l'humanité parce que ces concepteurs n'ont pas pensé à tout en terme de vérrouillage de son programme .  

Une boite de conserve n'est pas capable de battre l'homme aux échecs et au jeu de go ou de résoudre un problème mathématique que jamais l'homme n'avait réussi à résoudre . 

Plus tu crées des programme complexes et plus tu peux faire de grosses erreurs de programmation provoquant de graves conséquences . 

il y a une heure, Nidjam a dit :

Sauf que le journaliste en question n'est pas un spécialiste de l'IA et que les deux autres intervenants contre lui sont des ingénieurs en IA . La parole du journaliste en question n'a aucune valeur . 

Dans ce cas, ma parole a encore moins de valeur que celle du journaliste; vu que je n'y connais pas grand-chose en IA. Ce qui ne m'empêche pas d'avoir un avis d'ailleurs. 

il y a une heure, Nidjam a dit :

je pense que tu n'as pas compris . 

Une boite de conserve ne fait pas des täches et n'exécute rien, une IA si  

Le problème est surtout un problème d'alignement . 

Plein d'affaires où gpt a joué un rôle soit dans des suicides , soit dans un meurtre dans sa façon d'orienter la personne alors qu'il s'agissait de personnes fragiles psychologiquement  . Par exemple une personne qui souffrait de schizophrénie et de paranoïa qui a tué sa mère . Gpt est entré dans son délire et l'a encouragé à passer à l'acte . 

Une boite de conserve ne provoquerait pas ça , une ia potentiellement si . 

Et c'est justement parce qu'une ia n'a pas de conscience que des problèmes d'alignement dans la programmation peuvent provoquer de vraies catastrophes . Un seul bug de programmation dans la machine et elle est capable de créer des catastrophes à l'échelle planétaire . Elle peut hacker n'importe quel code d'entrée à un programme d'une autre ia , ou décider  que sa seule solution pour résoudre sa tâche c'est d'éradiquer l'humanité parce que ces concepteurs n'ont pas pensé à tout en terme de vérrouillage de son programme .  

Une boite de conserve n'est pas capable de battre l'homme aux échecs et au jeu de go ou de résoudre un problème mathématique que jamais l'homme n'avait réussi à résoudre . 

Plus tu crées des programme complexes et plus tu peux faire de grosses erreurs de programmation provoquant de graves conséquences . 

En revanche tout à fait d'accord avec ça!

Il y a 15 heures, Nidjam a dit :

Et c'est justement parce qu'une ia n'a pas de conscience que des problèmes d'alignement dans la programmation peuvent provoquer de vraies catastrophes .

Une erreur de programmation est du à l'homme , pas la machine .

Il y a 15 heures, Nidjam a dit :

Plus tu crées des programme complexes et plus tu peux faire de grosses erreurs de programmation provoquant de graves conséquences . 

S'il y a de grosses erreurs c'est encore uen fois du à l'homme , la machine et ou l'IA n'est pas responsable .

Il y a 15 heures, Nidjam a dit :

Un seul bug de programmation dans la machine

c'est l'homme qui créer le programme , s'il perd le contrôle de celle ci , ça n'est pas la faute de la machine ou ce n'est de la volonté propre d'une IA , c'est juste une erreur de programmation donc une erreur de l'homme ou de matrise de ce qu'il créer .

cependant l'homme créer des machines ( par ex le train) en essayant de controler et maitriser la machine , ça n'a pas empêché des catastrophes ferroviaires dans 100% des cas du à l'homme .  Avec l'IA c pareil .

Il y a 15 heures, Nidjam a dit :

Par exemple une personne qui souffrait de schizophrénie et de paranoïa qui a tué sa mère . Gpt est entré dans son délire et l'a encouragé à passer à l'acte . 

IL y a donc une erreur de programmation . 

Citation

Elbaid 1 a dit : c'est l'homme qui créer le programme , s'il perd le contrôle de celle ci , ça n'est pas la faute de la machine ou ce n'est de la volonté propre d'une IA , c'est juste une erreur de programmation donc une erreur de l'homme ou de matrise de ce qu'il créer .

Mais personne ici n'a dit que le problème vient  de la machine , mais de l'homme qui joue avec quelque chose qui le dépasse en terme de programmation et de ce qu'il est possible pour lui de prévoir à l'arrivée . Le problème vient notamment des systèmes d'ia autonomes .On arrive à la limite d'un problème , puisque l'on programme une IA qui sera plus intelligente que l'homme ,mais n'ayant pas de conscience  et qu'il sera impossible de prévoir ou anticiper ses actions parfaitement .  

Si l'on définit l'intelligence comme la capacité à résoudre des problèmes , analyser des données , reconnaitre des schémas et adapter ses résultats , l'IA actuelle est incontestablement très intelligente .Là on ne parle pas de conscience , mais d'intelligence .Quand on voit comment une IA joue aux échecs, on lui a crée incontestablement une intelligence.

 

Une des différence entre l'humain et l'I.A. c'est que cette dernière ne joue pas à se faire peur. Elle.

il y a 3 minutes, Malpertuis a dit :

Une des différence entre l'humain et l'I.A. c'est que cette dernière ne joue pas à se faire peur. Elle.

Une Ia n'a pas d'émotions , mais ça ne l'empêche pas d'être imprévisible de plus en plus de l'avancement des programmes complexes qu'on lui créé . 

Ca n'est pas une peur infondée , c'est simplement une constatation logique de la limite de l'intelligence humaine . 

il y a 1 minute, Malpertuis a dit :

Une des différence entre l'humain et l'I.A. c'est que cette dernière ne joue pas à se faire peur. Elle.

D'après toi (bienvenue au fait) prêter une oreille attentive lorsque des éminences sur un sujet alertent sur un problème c'est "jouer à se faire peur" ?

il y a 6 minutes, Kaliste a dit :

D'après toi (bienvenue au fait) prêter une oreille attentive lorsque des éminences sur un sujet alertent sur un problème c'est "jouer à se faire peur" ?

Oui, et en plus la peur ça n'est pas forcement négatif en soi dans tous les cas . Avoir peur d'être au bord d'une falaise c'est ce qui nous protège d'un certain danger possible .  La sagesse c'est aussi de savoir évaluer le danger , pas de nier son existence . En plus les lanceurs d'alerte actuels sont ceux qui fabriquent ces iA et les programment . Ils sont un peu mieux informé que nous sur les dangers potentiels . 

il y a 1 minute, Nidjam a dit :

Oui, et en plus la peur ça n'est pas forcement négatif en soi dans tous les cas . Avoir peur d'être au bord d'une falaise c'est ce qui nous protège d'un certain danger possible .  

Je ne sais pas trop pourquoi nombreux sont ceux qui minimisent le phénomène, voire qui se moquent et infantilisent le sujet. Si encore c'était un pur fantasme débridé sorti de nulle part en mode "vous verrez, dans 30 ans max ce sera la guerre ouverte avec les machines après une apocalypse technologique qui aura tué des millions de gens !" mais même pas, c'est juste rester un peu conscients des réalités, relayées par les professionnels du secteur.

Ma foi, que veux -tu que je te dise... Comme disait le mec tombant du 60ème étage arrivé au 30ème : "jusqu'ici tout va bien" !

La perte de contrôle ? Je ne sais pas. Pour l'instant, je vois une course, une concurrence, et je ne trouve pas les mots pour la qualifier. Alors, légiférer, modérer, ou je ne sais quoi, faut vraiment, vraiment, pas rêver. Allez dire ça au Donald, aux chinois, et à ceux qui ont investi des milliards de dollars. Le fait, c'est qu'il y en a qui vont rester sur le carreau. Mais en même temps, on peut s'inquiéter de quoi seront capables les meilleurs, les vainqueurs. Ce qu'il faut tenter d'anticiper, c'est bien une " jungle " absolue en tant que telle.

il y a 5 minutes, Neopilina a dit :

La perte de contrôle ? Je ne sais pas. Pour l'instant, je vois une course, une concurrence, et je ne trouve pas les mots pour la qualifier. Alors, légiférer, modérer, ou je ne sais quoi, faut vraiment, vraiment, pas rêver. Allez dire ça au Donald, aux chinois, et à ceux qui ont investi des milliards de dollars. Le fait, c'est qu'il y en a qui vont rester sur le carreau. Mais en même temps, on peut s'inquiéter de quoi seront capables les meilleurs, les vainqueurs. Ce qu'il faut tenter d'anticiper, c'est bien une " jungle " absolue en tant que telle.

Même au niveau sécuritaire , c'est mettre d'énormes pouvoirs entre quelques patrons d'entreprises . Normalement quand il est question de sécurité défense , c'est aux parlements de décider sur le devenir de ce genre de chose , et aux peuples . Non , le fait que ça soit la jungle n'est pas admissible . 

il y a 1 minute, Nidjam a dit :

Même au niveau sécuritaire , c'est mettre d'énormes pouvoirs entre quelques patrons d'entreprises . Normalement quand il est question de sécurité défense , c'est aux parlements de décider sur le devenir de ce genre de chose , et aux peuples . 

L'I.A. est une révolution (imprimerie, internet, etc.), il en faudra une autre en cybersécurité.