Comprendre c'est compresser l'information

Bonjour à tous,

Comment pourrait-on définir une information ? Qu'est-ce que comprendre ? Qu'est-ce qu'un calcul ? Et quels sont les liens entre ces trois concepts ?

Tel est l'objet de ce sujet de discussion.

Comprendre un phénomène implique de pouvoir énumérer toutes les étapes élémentaires successives qui permettent de retracer le déroulement des événements ou des processus physiques à l'étude. Nous pourrions donc affirmer que la compréhension implique nécessairement de pouvoir décrire un algorithme, ce qui implique un rapport avec la notion de calcul et la notion d'information, puisqu'un algorithme admet des informations d'entrées et cherche à les transformer en informations de sortie en suivant la calcul adéquat.

L'information est une représentation, exploitable en pratique, d'une donnée d'intérêt.

Calculer suppose l'application d'opérations (p.ex. l'addition) et donc l'utilisation d'opérandes uniques ou multiples dont on extraira un unique résultat : par exemple si je calcule 3+5 j'obtiendrai 8 mais je perds de l'information car il y a plusieurs façons différentes d'obtenir 8 en sortie (1+7, 2+6, 3+5, etc.). C'est une compression avec perte. En revanche il n'y a aucune perte d'information depuis nos données si nous ne faisons que changer la représentation de nos entrées, c'est-à-dire que nous allons modifier leur volume, ce qui revient ou bien à l'augmenter, et donc introduire des données superflues et contre-productives, ou bien le diminuer et donc, encore une fois, compresser, mais sans perte.

Donc dans cette optique, calculer, si on veut que cela ait un intérêt pratique, c'est toujours, ou bien perdre de l'information, mais en choisissant ce qu'on veut perdre (c'est-à-dire que c'est compresser dans une compression avec perte, donc irréversible), ou bien changer la représentation d'une information, suite à laquelle il sera possible de retrouver les entrées de notre algorithme (compression sans perte, réversibilité).

Je dirais donc que comprendre c'est calculer (ou à tout le moins que comprendre implique de pouvoir calculer), et que calculer efficacement c'est compresser l'information (avec ou sans perte). Au final et en bref : comprendre c'est compresser l'information.

il y a 35 minutes, Quasi-Modo a dit :

Bonjour à tous,

Comment pourrait-on définir une information ? Qu'est-ce que comprendre ? Qu'est-ce qu'un calcul ? Et quels sont les liens entre ces trois concepts ?

Tel est l'objet de ce sujet de discussion.

Comprendre un phénomène implique de pouvoir énumérer toutes les étapes élémentaires successives qui permettent de retracer le déroulement des événements ou des processus physiques à l'étude. Nous pourrions donc affirmer que la compréhension implique nécessairement de pouvoir décrire un algorithme, ce qui implique un rapport avec la notion de calcul et la notion d'information, puisqu'un algorithme admet des informations d'entrées et cherche à les transformer en informations de sortie en suivant la calcul adéquat.

L'information est une représentation, exploitable en pratique, d'une donnée d'intérêt.

Donc dans cette optique, calculer, si on veut que cela ait un intérêt pratique, c'est toujours, ou bien perdre de l'information, mais en choisissant ce qu'on veut perdre de façon à ce que cela ait un intérêt pratique (c'est-à-dire que c'est compresser dans une compression avec perte, donc irréversible), ou bien changer la représentation d'une information, suite à laquelle il sera possible de retrouver les entrées de notre algorithme (compression sans perte, réversibilité).

En effet, calculer suppose l'application d'opérations (p.ex. l'addition) et donc l'utilisation d'opérandes uniques ou multiples dont on extraira un unique résultat : par exemple si je calcule 3+5 j'obtiendrai 8 mais je perds de l'information car il y a plusieurs façons différentes d'obtenir 8 en sortie (1+7, 2+6, 3+5, etc.). C'est une compression avec perte. En revanche il n'y a aucune perte d'information depuis nos données si nous ne faisons que changer la représentation de nos entrées, c'est-à-dire que nous allons modifier leur volume, ce qui revient ou bien à l'augmenter, et donc introduire des données superflues et contre-productives, ou bien le diminuer et donc, encore une fois, compresser, mais sans perte.

Je dirais donc que comprendre c'est calculer (ou à tout le moins que comprendre implique de pouvoir calculer), et que calculer efficacement c'est compresser l'information (avec ou sans perte). Au final et en bref : comprendre c'est compresser l'information.

Bonjour,

Vaste sujet que vous lancez là.

Il y a mille façons de comprendre, pour mille champs d’application possibles.

Le calcul n’est qu’un cas particulier de compréhension : c’est le formalisme.

De plus, ce que vous implicitez par ladite perte d’information, c’est l’invariance de l’induction.

Or, il existe d’autres modes de raisonnement, plus loquaces, comme la déduction ou l’abduction.

S’agissant des concepts, la compréhension se démontre, pour moi, par l’homothétie, l’analogie, la transposition.

Celui qui sait transposer a nécessairement compris :

si vous parvenez à réécrire mon discours mais sous une autre forme, alors je saurais que vous l’avez compris.

Pardonnez mon inexactitude relative : « Le PIB est au marché ce que la décision est à la volonté. »

C’est réductible à (PIB / marché) = (décision / volonté)

Et celui qui sait formuler cette homothétie a prouvé qu’il en a saisi le sens, la relation.

Le fait que le résultat de ces deux rapports ait perdu l’information de ses termes n’est pas compromettant, dans la mesure où le résultat recherché était une invariance (relationnelle).

En philosophie, les homothéties de ce genre sont innombrables.

En mathématiques fractale, l’homothétie est l’une des trois représentations possibles de l’implication, donc du déterminisme.

Cordialement, Fraction

il y a 33 minutes, Quasi-Modo a dit :

Comprendre c'est compresser l'information

Même pas besoin de lire le sujet j'ai tout compris à travers le titre et je te félicite, j'aimerais aussi te remercier, mais c'est pas le bon forum pour un sujet de cette taille, pourquoi tu ne fais pas une copie du sujet sur futura-sciences?

Il y a 1 heure, riad** a dit :

Même pas besoin de lire le sujet j'ai tout compris à travers le titre et je te félicite, j'aimerais aussi te remercier, mais c'est pas le bon forum pour un sujet de cette taille, pourquoi tu ne fais pas une copie du sujet sur futura-sciences?

 

Ou dans l'Asile? (A tout hasard.)

Il y a 2 heures, Quasi-Modo a dit :

Je dirais donc que comprendre c'est calculer (ou à tout le moins que comprendre implique de pouvoir calculer), et que calculer efficacement c'est compresser l'information (avec ou sans perte). Au final et en bref : comprendre c'est compresser l'information.

Si tu avais 12 ans je dirais que tu as de l'avenir en philosophie...
Si tu n'étais pas un chasseur de sorciers et de sorcières toujours en porte à faux avec la société conservatrice et les Académie du savoir, tu aurais peut-être eu la chance d'assimiler ce que je dis à ce sujet, quand par exemple je parle de la Bhagavad-gita. Selon elle, le jnana,...

Ah, je vais le dire autrement, te sachant un anti-obscurantiste radical. Je vais chercher Hegel...

Il y a 2 heures, riad** a dit :

Même pas besoin de lire le sujet j'ai tout compris à travers le titre et je te félicite, j'aimerais aussi te remercier, mais c'est pas le bon forum pour un sujet de cette taille, pourquoi tu ne fais pas une copie du sujet sur futura-sciences?

 

C'est-à-dire que c'était plus une intuition personnelle dont j'essayai de reconstruire les étapes de raisonnement à posteriori qu'une conclusion définitive. Mais en cherchant un peu (rires) je trouve que Gregory Chaitin est déjà passé par là et qu'il disait exactement la même chose que mon propos en titre. Décidément à chaque fois que je pense avoir fait une trouvaille je me fais voler la vedette

Le propos est complexe c'est vrai. D'ailleurs je passe même pour un fou auprès de @Gouderien pour dire !

il y a une heure, Maroudiji a dit :

Ah, je vais le dire autrement, te sachant un anti-obscurantiste radical. Je vais chercher Hegel... 

"En ce qui concerne tout d'abord le Samkhya, enseignait-il dans son cours sur la Bhagavad-gita, on appelle ainsi -je cite d'après Colebrook- un système philosophique qui, dans l'énumération de ses principes, respecte toute la précision du dénombrement ou du calcul. Samkhya signifierait nombre. [...]*
Le terme dont proviendrait Samkhya signifierait l'action de raisonner et de réfléchir en général.” etc.

* J'ai sauté cette partie, sachant que de toute manière cela vous fait ni chaud ni froid.

Il y a 4 heures, Fraction a dit :

Le calcul n’est qu’un cas particulier de compréhension : c’est le formalisme. 

Les mathématiques sont davantage qu'un simple formalisme, elles sont le langage dans lequel il est le plus efficace de décrire l'univers physique. Il est impossible d'énumérer toutes les théories mathématiques vraies, ce qui serait le cas si le formalisme mathématique était valide. L'univers peut être vu comme une sorte d'algorithme en cours d'exécution, que ce soit vrai ou non en réalité, et d'ailleurs, il est tout à fait possible de simuler des phénomènes physiques connus dans un ordinateur.

Nous pourrions dire d'Einstein qu'il a amélioré l'algorithme de compression de Newton en permettant une plus forte généralisation de la théorie de la gravitation universelle. Au sens de Kolmogorov, Newton et Einstein ont donc compressé l'algorithme naturel du phénomène de la gravitation universelle, puisque leur théorie permet de faire des prédictions et des calculs précis, plus rapidement que la durée durant laquelle les phénomènes en question doivent se produire.

Ainsi il est plus rapide de calculer la position exacte de Mercure dans 184 jours grâce à la théorie d'Einstein, plutôt que d'attendre 184 jours pour vérifier l'endroit où elle se positionne.

Il y a 4 heures, Fraction a dit :

De plus, ce que vous implicitez par ladite perte d’information, c’est l’invariance de l’induction. 

Or, il existe d’autres modes de raisonnement, plus loquaces, comme la déduction ou l’abduction. 

Mais quelle différence pourriez-vous faire entre l'induction et l'abduction ?

La déduction se fonde sur ces deux dernières formes de raisonnement, et elle ne sera loquace que si l'induction ou l'abduction, dont la conséquence est la théorie considérée, sont suffisamment générales et fiables.

Que l'on parle d'induction ou d'abduction, si on parle notamment de machine learning, il faut savoir ignorer le bruit dans les données, sans quoi on aura une généralisation erronée, et les déductions produites par le modèle inféré ne seront plus les bonnes.

Il y a 2 heures, Quasi-Modo a dit :

C'est-à-dire que c'était plus une intuition personnelle dont j'essayai de reconstruire les étapes de raisonnement à posteriori qu'une conclusion définitive. Mais en cherchant un peu (rires) je trouve que Gregory Chaitin est déjà passé par là et qu'il disait exactement la même chose que mon propos en titre. Décidément à chaque fois que je pense avoir fait une trouvaille je me fais voler la vedette

Le propos est complexe c'est vrai. D'ailleurs je passe même pour un fou auprès de @Gouderien pour dire !

Pour moi ce n'est pas une idée c'est une certitude, j'espère trouver une méthode simple pour calculer à quel point une information pourrait être compressé, j'ai cru que l'entropie de Shannon  me permettra de le faire mais, je bloque un peu devant l'équation, j'ai déjà fait un sujet là dessus.

Il y a 5 heures, Fraction a dit :

Cordialement, Fraction

Ouais c'est ça, tu nous les casses avec ton jargon et tu finis toujours par cordialement fraction, tu sais quoi? la prochaine fois que tu utiliseras ton jargon sans mettre des explications entre parenthèse on va te fracasser cordialement.

Il y a 2 heures, riad** a dit :

Pour moi ce n'est pas une idée c'est une certitude, j'espère trouver une méthode simple pour calculer à quel point une information pourrait être compressé, j'ai cru que l'entropie de Shannon  me permettra de le faire mais, je bloque un peu devant l'équation, j'ai déjà fait un sujet là dessus.

L'informatique moderne a déjà répondu à tes questions.

Avec une suite de lettre prélevées depuis un alphabet pour faire un texte, il est impossible de faire mieux qu'un codage de Huffman, mais comme ce codage dépend de la fréquence d'apparition à priori de chaque caractère dans ton texte à compresser, c'est uniquement valable et optimal pour certaines séquences de lettres de ton alphabet mais pas pour d'autres séquences tout aussi envisageables pour le même alphabet. Il n'y a donc pas de solution générale pour tout texte composé de lettres d'un alphabet donné, mais seulement des solutions optimales particulières calculables pour un texte déjà connu à priori.

Il n'y a pas d'algorithme général non plus qui permette de déterminer le taux de compression maximal d'une information. Ce que tu cherches c'est un algorithme pour calculer la complexité de Kolmogorov. Mais il est démontré qu'elle n'est pas calculable (malheureusement).

Pour en rajouter il n'y a pas non plus d'algorithme de compression universel sans perte (donc sans aucune hypothèse sur les données) : tout algorithme de compression sans perte qui réduirait un fichier augmenterait aussi la taille d'au moins un autre.

Trouver un algorithme de compression sans perte et optimal à tous les coups dans le cas général est lié à l'intelligence elle-même, ce qui est complètement hors de portée. Le seul truc optimal c'est le codage de Huffman mais comme je te l'ai dit ça fonctionne sur une séquence donnée à priori, et si tu changes le texte, et donc aussi la fréquence d'apparition des lettres de ton alphabet, tu changeras le taux de compression.

@riad** Il existe toutefois les algorithmes de codages arithmétiques qui peuvent faire mieux que le codage de Huffman. Huffman est optimal dans un sens précis seulement : il est optimal pour des longueurs entières de bits pour représenter chaque caractère.

Le codage arithmétique permet de descendre en dessous d'un nombre entier de bits par caractère, en codant sur des intervalles mathématiques. Il semble que ce soit ce qui se fait de mieux, et ce ne sera pas optimal mais presque optimal. Même si il doit y avoir des difficultés liées à l'emploi des nombres flottants.

A priori je dirais donc que le meilleur algo ce serait un codage arithmétique adaptatif qui déterminerait les intervalles du codage à la volée, pour chaque modification du texte. La complexité algorithmique semble alors élevée (mais avec les techniques de parallélisation actuelles c'est certainement moins grave).

Je dirais plutot que comprendre c'est relier, établir des liens entre des informations trés diverses, a priori.

Ou si on veut combler les trous en jetant des passerelles.

Si on accepte cela alors comprendre c'est presque une création d'information.

Il y a 18 heures, Quasi-Modo a dit :

Bonjour à tous,

Comment pourrait-on définir une information ? Qu'est-ce que comprendre ? Qu'est-ce qu'un calcul ? Et quels sont les liens entre ces trois concepts ?

Une information est une relation causale particulière (un fait): cette poule a pondu un œuf. Comprendre c'est être capable de répondre à une incitation qui nécessite d'avoir appris à faire quelque chose (et par là-même pouvoir se représenter en train de le faire). Ce n'est pas le faire, c'est pouvoir le faire. Lorsque tu fais quelque chose, il y a une relation causale dans le particulier, le téléphone sonne et je décroche (un fait). Un calcul n'est que dans l'universel, c'est quelque chose que tu peux comprendre.

Le Soleil s'est levé est un fait, une information. Tu le comprends lorsque tu sais quoi faire quand quelqu'un te dit, "viens voir le lever de Soleil". Dans ce cas, le fait est le résultat d'un calcul (celui qui permet de savoir à quelle heure le Soleil se lève), alors que dans l'antiquité ce n'était que le constat d'une croyance fausse de l'existence d'une relation causale particulière à laquelle nous croyons toujours aujourd'hui.

Il y a 15 heures, riad** a dit :

Ouais c'est ça, tu nous les casses avec ton jargon et tu finis toujours par cordialement fraction, tu sais quoi? la prochaine fois que tu utiliseras ton jargon sans mettre des explications entre parenthèse on va te fracasser cordialement.

Bonjour,

Ça me rappelle une connaissance sociopathe qui disait : "la médiocratie est une dictature comme les autres".

Je suis désolé que vous ne connaissiez pas les mots "induction, abduction, homothétie, etc ..."

Mais est-ce vraiment à moi de m'en excuser, d'en rougir ?

Le langage rationnel ne fait pas partie du langage courant, il nécessite un effort de documentation.

Or, la philosophie entretient une relation fusionnelle avec ce langage.

Sur un forum de philosophie, je n'ai donc pas à m'excuser de l'employer.

Pédagogiquement, Fraction.

Il y a 5 heures, hell-spawn a dit :

Je dirais plutot que comprendre c'est relier, établir des liens entre des informations trés diverses, a priori.

Ou si on veut combler les trous en jetant des passerelles.

Si on accepte cela alors comprendre c'est presque une création d'information.

Je reconnais que je me justifie comme un pied dans mon premier message, mais si comprendre est établir des liens, cela implique de catégoriser/classifier et de comparer. Donc in fine, d'identifier des patterns qui se répètent à l'identique dans les données empiriques (redondance) de façon à abstraire la logique de la structure interne du phénomène : mais c'est exactement ce que fait la compression de données.

L'idée de trouver les lois auxquelles obéissent des phénomènes physico-chimiques revient elle aussi à trouver ce qui serait à la fois le plus simple (Occcam) et le plus proche des données empiriques pour faire office de généralisation suffisante. Pour la clarté du débat j'aurais dû distinguer entre données et information. Encore une fois il s'agit d'approcher la réalité par des approximations suffisamment précises et pertinentes, et donc d'une compression.

Bonjour Quasi-modo,

Le 26/07/2020 à 15:35, Quasi-Modo a dit :

Comment pourrait-on définir une information ? Qu'est-ce que comprendre ? Qu'est-ce qu'un calcul ? Et quels sont les liens entre ces trois concepts ?

Je dirais donc que comprendre c'est calculer (ou à tout le moins que comprendre implique de pouvoir calculer), et que calculer efficacement c'est compresser l'information (avec ou sans perte). Au final et en bref : comprendre c'est compresser l'information.

je pense que tu n'abordes qu'une façon d'interroger la signification même du concept de comprendre.

Il y a le fait de comprendre dans le sens d'un partage ou d'un mouvement didacticiel ou pédagogique, en ce sens, je te rejoins, on cherche à distiller à autrui la substantielle moelle de la chose à faire comprendre, on va donc compresser l'information dans sa plus simple expression, d'où l'adage: Ce qui se comprend bien, s'exprime aisément ou simplement.

Mais la phénomène de compréhension par l'individu lui-même, face à l'inconnu ne procède pas ainsi, bien au contraire, il - l'individu - va démultiplier autant que faire se peut les approches autour du phénomène, il va multiplier les angles d'attaques, il va donc complexifier dans un premier temps le problème à résoudre, ce qui explique pourquoi nos savants ou intellectuels ont des bibliothèques bien fournies, et qui dépassent bien souvent leur sujet d'étude particulier ou singulier, c'est le prix à payer pour circonscrire au mieux notre problématique. Dans la réalité du chercheur ou de l'ignorant, il faut donc commencer par augmenter les informations en tout sens avant de pouvoir en expurger celles pertinentes et concomitantes à l'objet d'étude, l'acte même de compréhension passe donc par une phase d'inflation en premier lieu. Ce n'est qu'ensuite, une fois la problématique cernée, que l'on pourra l'épurer et la distiller pour n'en retirer que la quintessence, celle que l'on voudra désormais transmettre, sachant qu'en faisant cela, on fige la compréhension dans un état artificiel et arbitraire, car on sait par ailleurs que la compréhension n'a jamais de fin, on peut toujours réviser les explications consensuelles ou les préciser d'avantage, voire les remiser au placard un jour. Autrement dit, la Compréhension - dynamique par essence - véritable n'est jamais réductible, elle transcende toujours ce qu'on peut avoir à dire à un instant T, car incomplète par nature et faillible par ses investigateurs que nous sommes...