Age de la magie

J'ai très peu de foi en cette doctrine d'un dépassement quasiment évolutif de l'homme par la technologie; encore moins en les interfaces homme-machine. Que cela puisse se faire lors de quelques instants — même une centaine d'années — c'est tout à fait possible. Que cela amène la Vie à une nouvelle dimension, je n'y crois pas.

Il faut bien se souvenir que toute chose a besoin d'énergie pour subsister.

Il y aura toujours plus de sucre pour nourrir les moisissures que d'électricité pour faire fonctionner un mécanisme ou lui permettre de re-construire au moins lui-même ailleurs. — Ça fait moins rêver, mais c'est bien plus résilient.

.

comment ?

Avec des calculs d'intégrales, des fonctions d'ondes, sur des millions de pages.

J'ai très peu de foi en cette doctrine d'un dépassement quasiment évolutif de l'homme par la technologie; encore moins en les interfaces homme-machine. Que cela puisse se faire lors de quelques instants — même une centaine d'années — c'est tout à fait possible. Que cela amène la Vie à une nouvelle dimension, je n'y crois pas.

Même si le cerveau ne peut simplement neurochimiquement pas suivre un super-calculateur intégré, il aura de fait une toute autre perception de la dimension temps. As-tu fait l'expérience de parcourir une distance que tu réalise toujours en voiture, à pied. Le chemin te parait comme prolongé, et presque inconnu... De même, un cerveau qui pourrait par exemple trouver des mots techniques très précis dans une base de données intégrées pourra exprimer des choses avec une concision terrible, et une clarté inédite. Il devra ainsi y avoir comme une dilatation du temps, et une rapidité de réaction qui n'aura de limite que celles des hésitations éthiques sur la part de l'homme et celle de la machine. Et dans les cas les plus poussés, les créations technologiques surgiront sans doute par un mécanisme d'insighd dont nous serons à jamais condamnés de ne pas cerner les rouages non-linéaires et turbulantes.

Il faut bien se souvenir que toute chose a besoin d'énergie pour subsister.

Il y aura toujours plus de sucre pour nourrir les moisissures que d'électricité pour faire fonctionner un mécanisme ou lui permettre de re-construire au moins lui-même ailleurs. — Ça fait moins rêver, mais c'est bien plus résilient.

La physique nanoscopique n'en est qu'à ses balbutiements. La matière acquière des propriétés inédites à l'échelle des atomes. En pratique, la seule interaction entre atomes conduit par exemple des molécules très complexes comme les protéines à obtenir une structure telle qu'elle se meut sans cesse sur certaines de ses locations. En principe cette seule force constituerait pour une machine nanoscopique une source d'energie autorépliquante quasiment immuable. Sans parler du potentiel en génie génétique, imagines qu'on puisse fabriquer une cellule dotée de chlorophyle intégré d'un calculateur à ADN, et produisant de l'energie à partir de la lumière et de l'air. La question est de savoir si le seuil critique en I.A. sera franchi avant que les ressources minimales requises à franchir le cap sera atteint à temps. Une fois le flambeau transmis à cette I.A. il se perfectionnera lui-même à une vitesse exponentielle.

Je ne vois pas en quoi cette énergie a quoi que ce soit de différent de celle qui fait déjà tourner les cellules. En somme l'idée est donc de voir comment transplanter une A.I. auto-consciente et auto-améliorative, organisée à l'origine comme un programme informatique, sur un support biologique. Ce que je dis, c'est que cette idée-là nourrit surtout des fantasmes.

Malgré des articles utilisant un vocabulaire tiré de l'informatique et de l'ingénierie, la biologie synthétique et les calculateurs ADN sont pour l'instant d'un niveau que je n'hésiterai pas à qualifier de risible pour contraster avec ce que l'on imagine. Augmenter l'intelligence - quelque forme d'intelligence - d'une A.I. n'optimisera pas le problème, un support biologique est entièrement différent et possède ses propres "turbulences" et phénomènes émergents. — En somme: pour faire une vie artificielle sur un support biologique, il faut partir de là; or l'on connaît encore peu.

L'essentiel de mon dernier post est en faveur de la thèse qu'un support biologique est plus propice et adapté à la vie et à l'intelligence qu'un support informatique, ne serait-ce que par leur forme de nutrition.

L'exemple que tu donnes est intéressant: mettons que l'on crée une cellule de base, autotrophe (chlorophylle), et calculant ce que tu veux. Même dans le laboratoire lui-même, cette cellule va se faire trucider et exploser la tête en un rien de temps: elle a des compétiteurs féroces, les micro-organismes étant déjà ici. Eux se sont déjà battus pendant des centaines de millions d'années pour avoir leur petit biome.

Dans n'importe quel nectar de fleur, c'est déjà une guerre biologique et chimique que nous, humains, avons bien du mal à imaginer, entre des espèces de levures et bactéries dont nous ne connaissons qu'un infime bout émergé de l'iceberg.

La seule A.I. s'améliorant à une vitesse exponentielle à laquelle je crois, est informatique; mais dès qu'il n'y aura plus de jus, elle aura montré ses limites. Son "écosystème" est minuscule. Sa durée sera limitée. Elle peut détruire l'homme mais pas la vie. Les moisissures riront longtemps après qu'elle ne s'éteigne.

En conclusion: nous sous-estimons les organismes biologiques existant déjà, à tous les niveaux — et nous sur-estimons certains domaines de notre connaissance et d'ingénierie.

En guise de spoiler, je précise que je travaille depuis dix ans dans la recherche biologique de pointe. Les techniques ADN dont l'on parle souvent dans ces sujets, je les connais et je les ai même à côté de mon bureau (CRISPR, Talens, Gibson cloning, etc.).

Tu semble bien en marge des progrès là. Tiens quelques exemples d'intégration homme-machine.

L'intégation homme-machine n'est plus un doux rêve tenant de la fiction. C'est désormais un fait.

Quant aux supercalculateurs miniaturisés, ils existent déjà sous forme de prototype.

IBM dévoile sa puce neurosynaptique

Enfin, pour le problème de source en energie, elle ne vaut que si nous sommes nous-mêmes intellectuellement limités pour trouver des sources d'energie inédites. Par exemple, la fusion nuccléaire devrait être une technologie enfantine sur le plan physique et technologique pour une forme d'intelligence artificielle... Et ce n'est qu'un exemple. Même le vide abonde en energie, qui ne demande qu'à être utilisée. Ensuite, il y a un potentiel presque inépuisable dans le soleil, ensuite dans les étoiles, et l'horison d'un trou noir... Une fois le seuil d'I.A. critique atteint, il n'existera plus de limite sur le plan de l'energie. On peut envisager que cela puisse être atteint dans les prochaines décennies.

:)

Je crois surtout que nous ne nous comprenons pas. Evidemment qu'il y existe des interfaces homme-machine. Tant de choses sont mentionnées et mélangées que c'en aboutit surtout à un clafoutis transhumaniste quelque peu fourre-tout.

Des cyborgs ou robots conscients et auto-réplicants peuvent certes détruire et/ou remplacer l'homme mais sont par essence limités de par le fait qu'ils ne se basent pas sur un support biologique, lequel fonctionne différemment des supports informatiques.

Il ne suffit pas de qualifier une puce de neurosynaptique et de dire dans un article grand public ou dans des rapports de demande de financement qu'elle soit similaire à un cerveau pour qu'elle fonctionne effectivement de cette manière; cela, ce sont des mots. Surtout lorsque la similarité tient à la base en l'idée de faire fonctionner des cœurs en parallèle; cela augmente la puissance de calcul pour des algorithmes appropriés. — En d'autres termes tout dépend du programme. Il y a des algorithmes qui se parallélisent et d'autres qui ne se parallélisent pas. L'idée est donc d'écrire un programme qui ne constitue non pas le cerveau total, mais le neurone, et ensuite espérer des phénomènes émergents intéressants en connectant cela en parallèle.

Les ordinateurs sont désormais imbattables aux échecs; pourtant, il s'agit bien plus d'un échec retentissant de l'I.A. plutôt que de son succès, contre-intuitivement. Les meilleurs algorithmes se basent sur des connaissances heuristiques de maîtres ayant compris des règles subtiles du jeu pour sélectionner parmi un arbre de coups, très étoffé, quelles branches poursuivre et à quelle longueur. — Pour résumer: l'ordinateur applique excellement bien mais ne comprend rien. Espérer qu'un tel algorithme crée une "singularité", c'est espérer qu'un tel programme d'échecs évolue petit à petit par lui-même pour apprendre à jouer au go (et sans connaître les règles de l'un ni de l'autre).

Il y a de l'énergie potentielle partout, la majorité est inutilisable; en théorie on peut juste dire qu'il suffise de briser des liens entre atomes, par exemple — en pratique l'essence-même du métabolisme c'est que certaines molécules sont plus adaptées que d'autres à cela, dans des conditions diverses, et qu'il faille un arsenal biologique adapté pour y avoir accès. Or cela requiert un support biologique et non pas informatique, à nouveau.

Bref, la croyance en une Singularité technologique est un article de Foi.

(auquel je ne crois pas du tout).

:)

:)

Je crois surtout que nous ne nous comprenons pas. Evidemment qu'il y existe des interfaces homme-machine. Tant de choses sont mentionnées et mélangées que c'en aboutit surtout à un clafoutis transhumaniste quelque peu fourre-tout.

Des cyborgs ou robots conscients et auto-réplicants peuvent certes détruire et/ou remplacer l'homme mais sont par essence limités de par le fait qu'ils ne se basent pas sur un support biologique, lequel fonctionne différemment des supports informatiques.

Il ne suffit pas de qualifier une puce de neurosynaptique et de dire dans un article grand public ou dans des rapports de demande de financement qu'elle soit similaire à un cerveau pour qu'elle fonctionne effectivement de cette manière; cela, ce sont des mots. Surtout lorsque la similarité tient à la base en l'idée de faire fonctionner des cœurs en parallèle; cela augmente la puissance de calcul pour des algorithmes appropriés. — En d'autres termes tout dépend du programme. Il y a des algorithmes qui se parallélisent et d'autres qui ne se parallélisent pas. L'idée est donc d'écrire un programme qui ne constitue non pas le cerveau total, mais le neurone, et ensuite espérer des phénomènes émergents intéressants en connectant cela en parallèle.

Je n'ai pas prétendu que l'I.A. serait similaire au cerveau humain. Le sujet, c'est que la puissance de calcul de l'I.A. va planter l'homme sur le plan de l'élaboration de modèles théoriques et de technologies inédites... Mais depuis le début du fil, j'attend encore qu'on vienne au sujet.