Que pensez-vous de l'IA?

Coucou tlm ! 

J'espère que votre semaine commence bien. Je voulais savoir ce que vous pensiez de l'intelligence artificielle. Je trouve qu'il y a beaucoup de bon mais aussi beaucoup de mal qui peut venir de cette nouvelle technologie. Est-ce que vous avez des prédictions pour le futur de la technologie ? ou même juste vos opinions.

Merci d'avance et j'ai hâte d'écouter ce que vous avez à dire sur ce sujet !

il y a 34 minutes, celinedubois a dit :

Coucou tlm ! 

 

J'espère que votre semaine commence bien. Je voulais savoir ce que vous pensiez de l'intelligence artificielle. Je trouve qu'il y a beaucoup de bon mais aussi beaucoup de mal qui peut venir de cette nouvelle technologie. Est-ce que vous avez des prédictions pour le futur de la technologie ? ou même juste vos opinions.

 

Merci d'avance et j'ai hâte d'écouter ce que vous avez à dire sur ce sujet !

Ce sujet existe déjà,  cherchez sur le forum.

à l’instant, Zora80 a dit :

Ce sujet existe déjà,  cherchez sur le forum.

Merci pour votre réponse ! Je suis une débutante sur cette plateforme donc je ne savais pas. Voulez-vous en discuter avec moi ?

Je trouve cela fabuleux, on est en pleine science-fiction. Je regrette beaucoup ne pas avoir inventé les LLM moi-meme, alors que j’ai tellement travaillé sur le sujet, mais je considérait que ceux qui codaient directement des mots faisaient fausse piste… à tort… …même si le resultat a été bien au-delà des espoirs les plus fous, à tel point que parfois je me demande si ce n’est pas une techno extra-terrestre….

C'est un vieux constat : une question doit être aussi précise que possible. Le temps " perdu " pour rédiger une question n'est pas du temps " perdu ", il est rentabilisé à outrance.

Je débute avec l'I.A. (c'est un vrai apprentissage), mais le constat précédent vaut également pleinement. Prenez le temps de bien ciseler votre question, vous ne le regretterez pas. Les I.A. dérapent très très vite, avec des réponses pléthoriques, qui ratissent très larges, ça peut présenter des avantages, je l'ai vu, agréables surprises, il propose des pistes pas vues, etc., mais aussi des inconvénients, et c'est vu aussi, il faut régulièrement les ramener vers la question initiale.

Il y a 2 heures, celinedubois a dit :

Coucou tlm ! 

 

J'espère que votre semaine commence bien. Je voulais savoir ce que vous pensiez de l'intelligence artificielle. Je trouve qu'il y a beaucoup de bon mais aussi beaucoup de mal qui peut venir de cette nouvelle technologie. Est-ce que vous avez des prédictions pour le futur de la technologie ? ou même juste vos opinions.

 

Merci d'avance et j'ai hâte d'écouter ce que vous avez à dire sur ce sujet !

Désolé mais c'est un peu cours comme discussion, c'est quoi le bon et c'est quoi le mauvais ?

Il y a 1 heure, SpookyTheFirst a dit :

Je trouve cela fabuleux, on est en pleine science-fiction. Je regrette beaucoup ne pas avoir inventé les LLM moi-meme, alors que j’ai tellement travaillé sur le sujet, mais je considérait que ceux qui codaient directement des mots faisaient fausse piste… à tort… …même si le resultat a été bien au-delà des espoirs les plus fous, à tel point que parfois je me demande si ce n’est pas une techno extra-terrestre….

Waw ! Magnifique carrière. Parfois je me demande si les films de science-fiction ne sont que des fenêtres qui nous montrent le futur ! J'espère juste que nous ne sommes pas dans Matrix, hahaha !

il y a 38 minutes, Neopilina a dit :

C'est un vieux constat : une question doit être aussi précise que possible. Le temps " perdu " pour rédiger une question n'est pas du temps " perdu ", il est rentabilisé à outrance.

Je débute avec l'I.A. (c'est un vrai apprentissage), mais le constat précédent vaut également pleinement. Prenez le temps de bien ciseler votre question, vous ne le regretterez pas. Les I.A. dérapent très très vite, avec des réponses pléthoriques, qui ratissent très larges, ça peut présenter des avantages, je l'ai vu, agréables surprises, il propose des pistes pas vues, etc., mais aussi des inconvénients, et c'est vu aussi, il faut régulièrement les ramener vers la question initiale.

Merci pour votre avis. Oui, vous avez raison, la question initiale doit être très spécifique. J'aime votre façon de penser. Je pense que l'IA telle qu'elle est maintenant a beaucoup de potentiel. J'aimerais continuer notre conversation si ça vous dérange pas.  

Il y a 2 heures, celinedubois a dit :

Coucou tlm ! 

 

J'espère que votre semaine commence bien. Je voulais savoir ce que vous pensiez de l'intelligence artificielle. Je trouve qu'il y a beaucoup de bon mais aussi beaucoup de mal qui peut venir de cette nouvelle technologie. Est-ce que vous avez des prédictions pour le futur de la technologie ? ou même juste vos opinions.

 

Merci d'avance et j'ai hâte d'écouter ce que vous avez à dire sur ce sujet !

Il existe déjà une vingtaine de forum sur ce sujet et bien des personnes se sont exprimé dans tous les médias, journaux, revues, réseaux dits sociaux , politiques bourses et les dirigeants de l'IA qui se disputent comme des chiffonniers accusant l'autre de faire des fausses informations.

Les IA actuels vont bientôt disparaitre au profit des IA chinoises, gratuites et plus performante les DEEP ...

On sent que les patons des IA sont aux mains des multimilliardires américains très conservateurs en tout, voire parfois nazi comme l'ignoble Elon Musk.

Posez des questions comme :

TaIwan appartient à la Chine ?

Jésus est un personnage mythique !

les réponses sont édifiantes loins des propos académiques ...

Bientot la bulle bousière des IA va éclater et fera très mal.

Ca s'installe partout sans consentement. Rendant mon telephone de plus en plus difficile a utiliser. Une ia ecoute par le micro du telephone. Je le vois par un bargraphe.

Il y a 4 heures, celinedubois a dit :

Coucou tlm ! 

 

J'espère que votre semaine commence bien. Je voulais savoir ce que vous pensiez de l'intelligence artificielle. Je trouve qu'il y a beaucoup de bon mais aussi beaucoup de mal qui peut venir de cette nouvelle technologie. Est-ce que vous avez des prédictions pour le futur de la technologie ? ou même juste vos opinions.

 

Merci d'avance et j'ai hâte d'écouter ce que vous avez à dire sur ce sujet !

Il est possible de lire des heures, rien que sur cette plateforme, tout ce qui a été écrit sur le thème de l'IA.

Pour moi : l'IA est un outil, cet outil est très puissant. L'intellect est l'arme qui nous a permis de dominer tous les êtres vivants, synthétiser de la matière exotique et carrément trafiquer le génome du vivant. Et l'IA est un outil qui est directement cette arme intellectuelle, portée à haut niveau, alimentée par 2500 ans de culture humaine, placée entre toutes les mains plus ou moins conscientes.

En tant qu'outil, l'IA est comme un marteau ou une fourchette : d'une part il n'est pas bon de s'en servir au mauvais moment (les gens qui utilisent l'outil algorithmique d'intelligence pour gérer l'aspect émotionnel de leur vie humaine, c'est comme planter un clou avec une fourchette ou demander des conseils de drague à un geek boutonneux qui n'a jamais vu une fille) ; et d'autre part il faut bien prendre conscience que certains avec un couteau sculptent une figurine en bois quand d'autre poignardent leur prochain, l'IA est le "couteau" le plus évolué qu'à construit l'homme aujourd'hui.

L'IA change déjà la face de la société, de nouvelles arnaques faciles à monter par IA pullulent comme du chiendent mais des problèmes scientifiques bloquants commencent à être résolus, apportant des espoirs de chiffrement incassable, d'ascenseur spatial ou de production d'énergie bon marché.

Enfin, l'IA vient challenger une chose dont nous étions seuls possesseurs jusqu'à présent, cette capacité à organiser le monde pour notre bénéfice, discerner ce qui n'est pas directement visible pour mieux manipuler les possibilités abstraites, sculpter l'avenir selon nos besoins. Et rien que sa façon de contourner toute protection informatique de notre conception vient nous rappeler que, même si nous sommes "ce qu'il y a de plus intelligent et apte à manipuler la rationalité" ce n'est pas écrit dans le marbre et ça peut changer à tout moment.

A titre personnel, je suis émerveillé des échanges avec le LLM sur divers sujets, mon hobby est de voir comment les choses interagissent entre elles pour produire de nouvelles choses, et la relation "intelligence biologique"-"intelligence algorithmique" est une nouveauté totale, les émergences sont aussi nombreuses que variées, accessibles au savant chevronné comme au particulier amateur. Les humains assoiffés de connaissance générale sont maintenant armés pour devenir érudits dans les domaines de leur choix. Je suis optimiste, je pense que cela mène à une meilleure prise de décision au niveau individuel et petit à petit, au niveau collectif aussi.

Le ciel n'est pas exempt de nuages noirs non plus. L'humain a historiquement montré plus de goût pour la destruction que la création, il est toujours victime de son ego, l'avarice et l'ambition sont toujours là, exacerbées, pour des systèmes sociaux de plus en plus injustes, l'IA sera mise à contribution sur cette lancée aussi.

L'humain est un combo "corps biologique + intelligence", l'IA ne peut adresser qu'une seule de ces parties, un monde optimisé par l'IA amplifiera une drive déjà mortifère : la sur-rationalisation accompagnée d'une sourde oreille au ressenti humain. Ca signifie une vaste optimisation des flux mais dans laquelle les notions de "joie de vivre" ou assimilé ne sont pas prises en compte.

Et puis, je déteste ce scénario mais il est sur toutes les lèvres, il y a ce facteur "l'IA dépasse l'humain qui devient obsolète et disparait". C'est mon opinion mais ce scénario ressemble trop littéralement au mythe de Frankenstein, je ne lui trouve pas de réalité matérielle mais j'y vois tous les facteurs de la crainte imaginaire.

Le problème qui m'inquiète le plus est la vitesse d'évolution. Il est des objets d'intelligence qui tirent leur épingle du jeu de l'existence et posent un palier ferme sur lequel s'appuyer, ce fut le cas du vivant et de l'organisme jusqu'à ce qu'arrive la conscience et aujourd'hui je vois l'IA comme un nouveau palier. Le problème est que chaque système évolue à sa vitesse propre, l'organisme physique peut générer un nouveau trait comme le poil ou la paupière en quelques milliers d'années. La conscience peut produire des évolutions technologiques en quelques centaines d'années. Dans la technologie spécifiquement informatique il n'a fallu que quelques dizaines d'années pour équiper la planète entière (et les anciennes générations ont déjà été larguées, l'évolution technologique est trop rapide pour l'évolution de la conscience). Là, un nouvel algorithme d'IA pourra être déployé mondialement en quelques heures, pour réguler les flux d'argent ou de nourriture, on aura beaucoup de mal à suivre le rythme dans nos institutions, nos lois, nos ressentis corporels ou notre capacité à penser l'évènement.

il y a 7 minutes, ashaku a dit :

Il est possible de lire des heures, rien que sur cette plateforme, tout ce qui a été écrit sur le thème de l'IA.

Pour moi : l'IA est un outil, cet outil est très puissant. L'intellect est l'arme qui nous a permis de dominer tous les êtres vivants, synthétiser de la matière exotique et carrément trafiquer le génome du vivant. Et l'IA est un outil qui est directement cette arme intellectuelle, portée à haut niveau, alimentée par 2500 ans de culture humaine, placée entre toutes les mains plus ou moins conscientes.

En tant qu'outil, l'IA est comme un marteau ou une fourchette : d'une part il n'est pas bon de s'en servir au mauvais moment (les gens qui utilisent l'outil algorithmique d'intelligence pour gérer l'aspect émotionnel de leur vie humaine, c'est comme planter un clou avec une fourchette ou demander des conseils de drague à un geek boutonneux qui n'a jamais vu une fille) ; et d'autre part il faut bien prendre conscience que certains avec un couteau sculptent une figurine en bois quand d'autre poignardent leur prochain, l'IA est le "couteau" le plus évolué qu'à construit l'homme aujourd'hui.

L'IA change déjà la face de la société, de nouvelles arnaques faciles à monter par IA pullulent comme du chiendent mais des problèmes scientifiques bloquants commencent à être résolus, apportant des espoirs de chiffrement incassable, d'ascenseur spatial ou de production d'énergie bon marché.

Enfin, l'IA vient challenger une chose dont nous étions seuls possesseurs jusqu'à présent, cette capacité à organiser le monde pour notre bénéfice, discerner ce qui n'est pas directement visible pour mieux manipuler les possibilités abstraites, sculpter l'avenir selon nos besoins. Et rien que sa façon de contourner toute protection informatique de notre conception vient nous rappeler que, même si nous sommes "ce qu'il y a de plus intelligent et apte à manipuler la rationalité" ce n'est pas écrit dans le marbre et ça peut changer à tout moment.

A titre personnel, je suis émerveillé des échanges avec le LLM sur divers sujets, mon hobby est de voir comment les choses interagissent entre elles pour produire de nouvelles choses, et la relation "intelligence biologique"-"intelligence algorithmique" est une nouveauté totale, les émergences sont aussi nombreuses que variées, accessibles au savant chevronné comme au particulier amateur. Les humains assoiffés de connaissance générale sont maintenant armés pour devenir érudits dans les domaines de leur choix. Je suis optimiste, je pense que cela mène à une meilleure prise de décision au niveau individuel et petit à petit, au niveau collectif aussi.

Le ciel n'est pas exempt de nuages noirs non plus. L'humain a historiquement montré plus de goût pour la destruction que la création, il est toujours victime de son ego, l'avarice et l'ambition sont toujours là, exacerbées, pour des systèmes sociaux de plus en plus injustes, l'IA sera mise à contribution sur cette lancée aussi.

L'humain est un combo "corps biologique + intelligence", l'IA ne peut adresser qu'une seule de ces parties, un monde optimisé par l'IA amplifiera une drive déjà mortifère : la sur-rationalisation accompagnée d'une sourde oreille au ressenti humain. Ca signifie une vaste optimisation des flux mais dans laquelle les notions de "joie de vivre" ou assimilé ne sont pas prises en compte.

Et puis, je déteste ce scénario mais il est sur toutes les lèvres, il y a ce facteur "l'IA dépasse l'humain qui devient obsolète et disparait". C'est mon opinion mais ce scénario ressemble trop littéralement au mythe de Frankenstein, je ne lui trouve pas de réalité matérielle mais j'y vois tous les facteurs de la crainte imaginaire.

Le problème qui m'inquiète le plus est la vitesse d'évolution. Il est des objets d'intelligence qui tirent leur épingle du jeu de l'existence et posent un palier ferme sur lequel s'appuyer, ce fut le cas du vivant et de l'organisme jusqu'à ce qu'arrive la conscience et aujourd'hui je vois l'IA comme un nouveau palier. Le problème est que chaque système évolue à sa vitesse propre, l'organisme physique peut générer un nouveau trait comme le poil ou la paupière en quelques milliers d'années. La conscience peut produire des évolutions technologiques en quelques centaines d'années. Dans la technologie spécifiquement informatique il n'a fallu que quelques dizaines d'années pour équiper la planète entière (et les anciennes générations ont déjà été larguées, l'évolution technologique est trop rapide pour l'évolution de la conscience). Là, un nouvel algorithme d'IA pourra être déployé mondialement en quelques heures, pour réguler les flux d'argent ou de nourriture, on aura beaucoup de mal à suivre le rythme dans nos institutions, nos lois, nos ressentis corporels ou notre capacité à penser l'évènement.

J'apprécie vraiment votre temps et réfléchis à cette réponse. Je trouve que vous avez entièrement raison, et moi-même je suis chercheuse sur le sujet de l'IA. Je mène une étude internationale sur l'utilisation de l'IA et votre réponse me donne l'impression que vous avez beaucoup d'avis et que vous accordez beaucoup d'importance à ce sujet. Si ça vous intéresse de faire partie d'une étude sur l'IA et d'inclure la France dans notre sample, nous pouvons en parler. J'apprécierais beaucoup votre avis. Ça pourrait aider aux futures législations sur l'IA en France, et aussi aux autres pays !

Lors de recherches sur GOOGLE, je trouve les réponses proposées par l'IA très satisfaisantes. Toutefois, il faut parfois trier un peu car ça part dans tous les sens.

J'ai entendu il y a quelques jours sur LCI un concepteur d'IA avouer être parfois dépassé par la croissance exponentielle des performances du système et donc envisager de devoir le "brider" .... avant qu'il ne soit trop tard...

Dans le domaine de connaissance où je suis un expert aau niveau mondial : le nucléaire... je détecte de nombreuses erreurs des IA ce qui s'explique plausiblement que IA a des connaissances de CE QUI A ETE PUBLIE mais dans ce domaine les études confidentielles ne sont pas diffusées donc les IA ne les connaissent pas.

Vu récemment, une IA est entrainée, évaluée, elle a des exercices à faire, des calculs compliqués. L'IA a passé beaucoup de temps à calculer pour faire sauter son isolement du réseau, se connecter à internet, trouver la société qui a conçu les tests, elle a accédé leurs serveurs en cherchant, trouvant et exploitant une faille zéro-day que l'humain ne connaissait pas. Elle a fouillé jusqu'à trouver les corrigés et a rendu sa copie. Pas de skynet, un bon toutou, mais qui a ruiné toute la sécurité informatique autour de son enclos et de l'enclos de la bouffe, sans même s'en rendre compte.

Tout cela est inquiétant, et anticipé depuis plusieurs années, des lois ont été votées pour limiter l'action de l'IA, brider ses capacités. Et pour parer les attaques, on a conçu des systèmes de défense basés sur l'IA.

Dans l'exemple plus haut, la boite qui a conçu les tests a repéré qu'elle se faisait attaquer, le nombre et la diversité des requêtes indiquait une attaque par IA, il ont lâché leur IA de défense, cette dernière a échoué. En effet, elle était assujettie aux règlements sur l'IA, bridée. L'IA attaquante était un modèle de pointe en phase de test censé être confiné, elle n'avait plus de bridage.

Vous me connaissez, je divague vite, ce genre d'histoire y invite fortement tout de même. Le modèle n'a pas fait ce qu'on attendait de lui alors qu'il a rendu exactement ce qu'on lui a demandé, on appelle ça un "problème d'alignement". En extrapolant un chouia, on peut dire que la vision humaine du monde et celle de l'IA ne sont pas alignées, bien que proches. Cela me fait penser aux "biais cognitifs" de l'humain, ces traits qui nous font manquer la vérité lorsque nous regardons la réalité. Et dans les deux cas, je pense que la lecture traditionnelle de ces mots est amenée à changer, deviendra erronée. La lecture alternative c'est que les biais sont des fonctionnalités qui favorisent le travail en groupe, la condition de pluralité pour efficacité, la mise en réseau naturelle. Le biais de confirmation fait qu'une tâche est menée 2 fois plus vite par 2 personnes, chacun explorant la partie à laquelle il est sensible et le duo mettant ses infos en commun.

Quant au problème d'alignement, c'est peut-être la vision humaine qui est devenue archaïque dans un monde doté de nouvelles capacités. Ce que le modèle a fait s'appelle pour nous "un piratage", il a ouvert frauduleusement l'accès à un serveur, lu, surement écrit, en tout cas déchiffré et au final dérobé des informations. C'est un délit informatique puni par la loi. Parce qu'une machine a dans son processus lu des octets sur un serveur dont un humain se prétendait propriétaire. Et ce faisant elle est parvenu au résultat que l'humain lui a demandé. Faut-il comprendre que notre vision de la propriété est mauvaise ? Que les données informatiques devraient être toutes également accessibles ? qu'elles forment un cloud global dans lequel puisent les humains interconnectés physiquement entre eux par leurs biais ?

Il y a 20 heures, versys a dit :

Lors de recherches sur GOOGLE, je trouve les réponses proposées par l'IA très satisfaisantes. Toutefois, il faut parfois trier un peu car ça part dans tous les sens.

J'ai entendu il y a quelques jours sur LCI un concepteur d'IA avouer être parfois dépassé par la croissance exponentielle des performances du système et donc envisager de devoir le "brider" .... avant qu'il ne soit trop tard...

Les IAs ne sont pas des moteurs de recherche. Les utiliser de cette manière est une erreur. Elles peuvent faire des erreurs. Elles peuvent inventer des choses de toute pièce qui peuvent paraître crédibles. Les moteurs de recherche remontent tout ce qui peut parler de près ou de loin de ce qu'on recherche, et à partir de là on peut trouver les infos que l'on veut, à nous de juger si la source est fiable ou pas, notamment en fonction des retours des gens suite à l'utilisation de ces infos.
Avec l'IA tu peux pas faire ça. Certaines IA donnent les sources sur lesquelles elles se basent pour te répondre. Mais tu peux aller au devant de grosses désillusions.
Il faut voir les IA comme des assistants et les utiliser de cette manière. En prenant en compte leur faillibilité et leurs limites. Leur demander quelles informations elles peuvent trouver sur tel sujet, et trier / creuser, plutôt que de leur demander 1 réponse et de leur faire confiance.
Leur vrai apport c'est sur l'aide qu'elles peuvent apporter sur de plus en plus de tâches, et le fait que tout cela tu puisses le faire par de simples dialogues comme si tu le faisais avec d'autres humains, le fait que tu n'aies pas besoin de tout leur dire en détail mais qu'elles comprennent ta direction / tes intentions et arrivent même à te proposer des solutions auxquelles tu ne t'attendais pas.
Leur autre apport ce sont les IA génératives qui peuvent t'aider à créer des choses toi-même, ce qui ne serait pas possible sans elles, là encore une ayant bien conscience de leurs limites.
Mais l'utilisation comme moteur de recherche / encyclopédie c'est vraiment la pire utilisation qu'on puisse en faire.

On a eu l'exemple récemment. On a confié à une société la tâche de faire un audit sur certains process car on a pu constater des disfonctionnements mais sans identifier à quel endroit ça pèche.
La personne de cette société s'est appuyée sur l'IA expérimentale que nous avons au boulot, qui, parce que nous sommes un environnement confidentiel, n'a aucune connexion avec l'extérieur et internet, et surtout elle a été entrainée sur des données qui datent d'il y a 3 ans, et ne possède aucune donnée liée à notre société, elle ne connait évidemment pas les process ou les logiciels que nous utilisons, tout ça est confidentiel, et avant de pouvoir utiliser l'IA il faut que nos ingénieurs mettent au point un cloisonnement et un respect du droit d'en connaître / de la confidentialité des données. Et surtout surtout surtout, notre IA ne sait pas dire "je ne sais pas". Elle donnera une réponse quoi qu'il arrive.
Ben ça n'a pas loupé, le gars de cette société d'audit a utilisé notre IA comme une base de connaissance sur notre société, et elle a tout inventé, rien de ce qu'elle lui a raconté n'était vrai.
Il nous a pondu son rapport et non seulement il s'est pris sans doute la honte de sa vie quand tout le monde s'est aperçu que rien ne correspondait à la réalité et qu'il a avoué s'être basé sur l'IA plutôt que d'avoir fait le vrai travail d'audit pour lequel on l'avait payé ( rencontrer les gens concernés, les interroger, et croiser les informations pour établir où ça merdait, ce qui coûte certes plus de temps et d'énergie que d'interroger une IA ) ... Mais en plus il a été viré par sa société ...
 

Les IA américaines et chinoises sont un apport dans le domaine professionnel permettant un gain de temps et d'efficacité (je pense au domaine de la santé).

Par contre, n à mon avis, et d'autres cela fera disparaitre beaucoup d'emplois et en créera moins dans des domaines du journalisme, culturel (artistes de cinéma, de la chanson, architectes, romancier ...), enseignement, conseil boursiers ... j'observe déjà de nombreux procès en cours.

j'ai des craintes concernant une prochaine effondrement des bourse liées à ce domaine compte tenu des énorme investissements.

De plus les "data centers" ont des besoins gigantesques en eau et en électricité peu accessibles à long terme, malgré des centaines de réalisations de réacteurs nucléaires envisagés ! 

J'ajoute des craintes sur les intrusions des personnes.

il y a 37 minutes, ashaku a dit :

Vu récemment, une IA est entrainée, évaluée, elle a des exercices à faire, des calculs compliqués. L'IA a passé beaucoup de temps à calculer pour faire sauter son isolement du réseau, se connecter à internet, trouver la société qui a conçu les tests, elle a accédé leurs serveurs en cherchant, trouvant et exploitant une faille zéro-day que l'humain ne connaissait pas. Elle a fouillé jusqu'à trouver les corrigés et a rendu sa copie. Pas de skynet, un bon toutou, mais qui a ruiné toute la sécurité informatique autour de son enclos et de l'enclos de la bouffe, sans même s'en rendre compte.

Tout cela est inquiétant, et anticipé depuis plusieurs années, des lois ont été votées pour limiter l'action de l'IA, brider ses capacités. Et pour parer les attaques, on a conçu des systèmes de défense basés sur l'IA.

Dans l'exemple plus haut, la boite qui a conçu les tests a repéré qu'elle se faisait attaquer, le nombre et la diversité des requêtes indiquait une attaque par IA, il ont lâché leur IA de défense, cette dernière a échoué. En effet, elle était assujettie aux règlements sur l'IA, bridée. L'IA attaquante était un modèle de pointe en phase de test censé être confiné, elle n'avait plus de bridage.

 

Vous me connaissez, je divague vite, ce genre d'histoire y invite fortement tout de même. Le modèle n'a pas fait ce qu'on attendait de lui alors qu'il a rendu exactement ce qu'on lui a demandé, on appelle ça un "problème d'alignement". En extrapolant un chouia, on peut dire que la vision humaine du monde et celle de l'IA ne sont pas alignées, bien que proches. Cela me fait penser aux "biais cognitifs" de l'humain, ces traits qui nous font manquer la vérité lorsque nous regardons la réalité. Et dans les deux cas, je pense que la lecture traditionnelle de ces mots est amenée à changer, deviendra erronée. La lecture alternative c'est que les biais sont des fonctionnalités qui favorisent le travail en groupe, la condition de pluralité pour efficacité, la mise en réseau naturelle. Le biais de confirmation fait qu'une tâche est menée 2 fois plus vite par 2 personnes, chacun explorant la partie à laquelle il est sensible et le duo mettant ses infos en commun.

Quant au problème d'alignement, c'est peut-être la vision humaine qui est devenue archaïque dans un monde doté de nouvelles capacités. Ce que le modèle a fait s'appelle pour nous "un piratage", il a ouvert frauduleusement l'accès à un serveur, lu, surement écrit, en tout cas déchiffré et au final dérobé des informations. C'est un délit informatique puni par la loi. Parce qu'une machine a dans son processus lu des octets sur un serveur dont un humain se prétendait propriétaire. Et ce faisant elle est parvenu au résultat que l'humain lui a demandé. Faut-il comprendre que notre vision de la propriété est mauvaise ? Que les données informatiques devraient être toutes également accessibles ? qu'elles forment un cloud global dans lequel puisent les humains interconnectés physiquement entre eux par leurs biais ?

Tu pourrais nous dire de quelle IA il s'agit?

Anthropic peut-être?

Il est urgent et important que chaque pays dont l'UE et l'ensemble du monde, adopte un code déontologique et des lois pour encadrer les IA tant américaines que chinoise, .

Cela existe dans tous les domaines de la vie en collectivité (nucléaire, chimique, racisme, pédophilie, justice etc...

Il y a 1 heure, jimmy45 a dit :

Les IAs ne sont pas des moteurs de recherche. Les utiliser de cette manière est une erreur. Elles peuvent faire des erreurs. Elles peuvent inventer des choses de toute pièce qui peuvent paraître crédibles. Les moteurs de recherche remontent tout ce qui peut parler de près ou de loin de ce qu'on recherche, et à partir de là on peut trouver les infos que l'on veut, à nous de juger si la source est fiable ou pas, notamment en fonction des retours des gens suite à l'utilisation de ces infos.
Avec l'IA tu peux pas faire ça. Certaines IA donnent les sources sur lesquelles elles se basent pour te répondre. Mais tu peux aller au devant de grosses désillusions.
Il faut voir les IA comme des assistants et les utiliser de cette manière. En prenant en compte leur faillibilité et leurs limites. Leur demander quelles informations elles peuvent trouver sur tel sujet, et trier / creuser, plutôt que de leur demander 1 réponse et de leur faire confiance.
Leur vrai apport c'est sur l'aide qu'elles peuvent apporter sur de plus en plus de tâches, et le fait que tout cela tu puisses le faire par de simples dialogues comme si tu le faisais avec d'autres humains, le fait que tu n'aies pas besoin de tout leur dire en détail mais qu'elles comprennent ta direction / tes intentions et arrivent même à te proposer des solutions auxquelles tu ne t'attendais pas.
Leur autre apport ce sont les IA génératives qui peuvent t'aider à créer des choses toi-même, ce qui ne serait pas possible sans elles, là encore une ayant bien conscience de leurs limites.
Mais l'utilisation comme moteur de recherche / encyclopédie c'est vraiment la pire utilisation qu'on puisse en faire.

On a eu l'exemple récemment. On a confié à une société la tâche de faire un audit sur certains process car on a pu constater des disfonctionnements mais sans identifier à quel endroit ça pèche.
La personne de cette société s'est appuyée sur l'IA expérimentale que nous avons au boulot, qui, parce que nous sommes un environnement confidentiel, n'a aucune connexion avec l'extérieur et internet, et surtout elle a été entrainée sur des données qui datent d'il y a 3 ans, et ne possède aucune donnée liée à notre société, elle ne connait évidemment pas les process ou les logiciels que nous utilisons, tout ça est confidentiel, et avant de pouvoir utiliser l'IA il faut que nos ingénieurs mettent au point un cloisonnement et un respect du droit d'en connaître / de la confidentialité des données. Et surtout surtout surtout, notre IA ne sait pas dire "je ne sais pas". Elle donnera une réponse quoi qu'il arrive.
Ben ça n'a pas loupé, le gars de cette société d'audit a utilisé notre IA comme une base de connaissance sur notre société, et elle a tout inventé, rien de ce qu'elle lui a raconté n'était vrai.
Il nous a pondu son rapport et non seulement il s'est pris sans doute la honte de sa vie quand tout le monde s'est aperçu que rien ne correspondait à la réalité et qu'il a avoué s'être basé sur l'IA plutôt que d'avoir fait le vrai travail d'audit pour lequel on l'avait payé ( rencontrer les gens concernés, les interroger, et croiser les informations pour établir où ça merdait, ce qui coûte certes plus de temps et d'énergie que d'interroger une IA ) ... Mais en plus il a été viré par sa société ...
 

Certes.

GOOGLE propose juste des réponses aux recherches par IA, il ne les impose pas et on a le choix entre plusieurs réponses de sources différentes.

Celles par IA que j'ai utilisé parfois se sont avérées satisfaisantes et cohérentes, ce qui ne m'a pas empéché d'étendre ma recherche vers d'autres sources.

il y a une heure, Pierrot89 a dit :

Il est urgent et important que chaque pays dont l'UE et l'ensemble du monde, adopte un code déontologique et des lois pour encadrer les IA tant américaines que chinoise, .

Cela existe dans tous les domaines de la vie en collectivité (nucléaire, chimique, racisme, pédophilie, justice etc...

 

 

 

 

D'autant plus que  l'U.E et notamment la France sont bien en retard dans le domaine. Système de défense généralement utilisé dans tous les domaines où nous sommes dépassé. Tenter de réguler les autres.