Ta passion est débordante et communicative, sur la fin de la vidéo je t'ai même trouvé trop mignon tellement on sent que kiffes le sujet de ouf ! Haha vivement le théorème de Solomonoff !
Moi j’ai toujours été perplexe devant le fait que la simplicité ne soit pas seulement une propriété de la représentation du réel que l’on se fait mais du réel lui-même. On pourrait se dire a priori qu’il n’y a pas de raison pour que les lois de l’univers soient simples pour faire plaisir aux mathématiciens, que les lois simples soient plus fréquentes que les lois complexes. Mais à l’usage on doit bien admettre que c’est le cas. Ce qui fait que les problèmes scientifiques sont finalement assez rapidement résolus. Par exemple, quand Coulomb cherche à calculer l’intensité de la force électrostatique, il trouve F= k*q*q’/d^2. Peut-on imagine plus court comme formule ? C’est sûrement la première ou la deuxième à laquelle il a pensé. Et après vérification c’est la bonne. Si la force électrostatique était régie par la loi F= k*(q*q’)^pi / d^325,5249575166, il aurait sans doute mis beaucoup plus de temps à la trouver. Pourquoi ces formules sont-elles si simples ? C’est quelque chose que j’ai encore du mal à intuitionner.
Pour la distance au carré il y a une logique géométrique de surface de rayonnement, plus la sphère de diffusion grandit plus l'énergie émise se dissipe à la surface de celle-ci (soit divisé par 4pi*rayon², rayon ou distance à la charge). Bon plus rigoureusement il faudrait que je parle du flux mais bon...
Je n’ai peut-être pas bien suivi, mais donc qu’est-ce qui nous dit que par exemple on n’ai pas des valeurs très faibles de P(Tn) pour les premiers n, puis que ça monte un peu pour les suivants, puis que ça redescende exponentiellement pour de grands n? Dans ce genre de cas, on aurait un « pic de probabilité » qu’on pourrait situer aussi loin que l’on veut. Ainsi on aurait bien une somme de probabilités qui vaut 1 mais les théories les plus simples (et on peut étendre cette limite de simplicité autant que l’on veut) ne seront pas celles avec une plus grande crédence. Est-ce gênant ? Si oui, dans quels genre de cas ? Sinon super vidéo merci beaucoup :)
De ce que je comprends, il ne dit pas que la distribution que tu proposes n'es pas correcte. Il dit qu'avant d'avoir plus d'informations, l'approche bayésienne implique une distribution en exponentielle inverse. Avec de l'information ta crédence s'affine et donc change cette distribution.
Une théorie avec un caractère paraît peu crédible, parce qu'elle ne prédit rien. Donc ce que vous proposer est justement la bonne façon de voir la question. On sait juste que la théorie la plus crédible a priori ne peut pas être arbitrairement longue. En fait, l'angle mort, c'est surtout qu'il n'y a qu'une et une seule "bonne" description de la réalité, donc la vraie distribution de crédence est un dirac (ça vaut 0 partout sauf pour la bonne théorie, donc en particulier, pour toute théorie de longueur supérieure à la "bonne" théorie, la crédence vaut 0, et donc tend vers 0 !) On atteint un peu la limite de ce qu'on sait décrire, en particulier, en considérant que les conditions initiales font partie de la théorie, ce qui est nécessaire pour en calculer la complexité de Solomonoff, on ne se donne pas trop le moyen de comprendre ce qu'est le rasoir d'Ockham : une description de la manière dont l'intelligence humaine parvient à comprendre (i.e. résumer) le monde et les observations qui l'entourent. Cette façon de voir le rasoir d'Ockham ne dit rien de la valeur de vérité d'une théorie, mais parle plutôt de son efficacité (tout comme le bayésianisme ne dit rien de la valeur de vérité d'une théorie mais permet d'optimiser les prédictions que l'on peut faire).
disons que les matheux font comme les philosophes, ils mettent derriere des mots compliques des choses simples...Kant est illisible en francais, alors que l'allemand est tres clair...........a titre perso, les pulverisations d'espaces et les tesselations de voronoi, bof, ca m'inspire pas, pourtant c'est ce que je fais depuis 30 ans toujours avoir a l'esprit la phrase de boileau ' les chose bien concues s'expriment clairement, et les mots pour le dire viennent aisement', c'est ce que ma mere avait a un ami doyen d'une fac de maths que j'ai eu en prof ( quand on faisait comme lui avec du droit ou des stats, il comprenait pourquoi...) les toubibs font pareil, ya un sketch des inconnus la dessus salut
Je cherche peut-être la petite bête, mais tu dis que les langages de programmation sont sans ambiguités, or le C et le C++ par exemple, ont beaucoup de "undefined behavior", et donc il y a une ambiguité qui dépend du compilateur. Hâte à la prochaine vidéo!
Bonjour, alors j'aurais quelques petites questions si jamais tu as du temps: * D'abord sur la somme des P(T_n) qui vaut 1. Je suppose que c'est parce que les T_n sont supposés incompatibles, et je suppose que c'est une conséquence du fait que les différentes théories sont supposées incompatibles (tu me dis si je me trompe). Or, si une théorie est un algo qui doit donner une loi de probabilité sur l'ensemble des données possibles, alors je ne vois pas pourquoi des théories différentes ne pourraient pas être vraies en même temps. Déjà, deux lois de probabilités différentes peuvent être suffisamment proches pour qu'on ne puisse pas les distinguer en pratique, et en plus deux algos différents peuvent très bien calculer exactement la même fonction. Donc d'après moi il y aurait des précautions à prendre avant de dire que la somme des P(T_n) vaut 1. * Sur le rasoir d'Ockham ensuite. Je ne conteste pas le fait que lim P(T_n)=0 mais il s'agit là d'un comportement à l'infini. Le principe du rasoir d'Ockham se traduirait mathématiquement par l'énoncé (T_n) est décroissante, ce qui est quand même très différent. On peut voir d'ailleurs que T_0 contient probablement bien peu de théories à même d'expliquer un phénomène (non trivial).
L’algorithme MiniMax ne prend pas beaucoup de mémoire : il ne stocke pas tous les états analysés, mais uniquement ceux permettant de revenir en arrière. Une analyse à une profondeur de 100 ne prendra que 100x64 valeurs (64 étant le nombre de cases). En revanche, le temps de calcul sera de l’ordre de n puissance 100 où n est le nombre de coups possibles moyens... ce qui rend le calcul extrêmement complexe mais pas en terme d’usage de la mémoire.
Parfait , une vidéo mélangeant rasoir d'Ockham, programmation et un peu de cosmologie. Je ne sais pas si quelqu'un va saisir le raisonnement, et je vais prendre donc pour exemple la cosmologie. Comment Newton parvient-il à énoncer sa loi de la gravité universelle ? En essayant de faire au plus "simple", grâce aux outils mathématiques et aux données d'une précision relative aux instruments dont il disposait à son époque ( il n'avait , par exemple , pas à sa disposition une photo haute résolution du fond diffus cosmologique hein ^^ ). Il collecte donc les données et empiriquement en découvre "la paterne" cachée derrière ces même données= La loi de gravitation universelle. On est donc bien , si je ne m'abuse en situation dite du rasoir d'Ockham. Mais apparemment Newton lui même ne trouvait pas cela assez simple, dans la mesure où une interaction "magique" semblait être à l’œuvre, ne pouvant donc expliquer l’origine même de cette "force" d'attraction. Entre alors en scène Einstein ( je simplifie , il y a eu énormément d'autres contributeurs ofc !!): Il arrive donc à comprendre que la gravitation n'est pas une force, mais "simplement" la déformation du tissu espace-temps par son contenu et donc en déduit la métrique de ce même référentiel ( grosso modo, tout objets de cette espace se déplacent en ligne droite dans un espace courbé, ce qui colle avec le raisonnement de Fermat observant empiriquement là encore que la lumière prend toujours le chemin le plus court ). Et là "commence les ennuis" , car les mathématiques d'Einstein avec son équation de champ, sont dès lors plus complexe que celle de Newton ( même si de façon obligatoire, Newton se retrouve dans Einstein , Newton n'étant donc qu'une version "simplifiée" de celle de son successeur ). On se retrouve donc dans la situation où on complexifie de plus en plus nos théories tout en restant l'idée la plus simple actuelle. Je vais essayer de finir vite, mais en continuant comme ceci , arrivent ensuite les ordinateurs et donc l'invention de langages de programmations nous permettant de calculer/simuler tout ça -----------> Problème !!! à l'échelle macroscopique, en utilisant donc l'équation de champ de ce dernier, tout s'effondre ( les galaxies ne tiennent pas en place, l'univers s'effondre sur lui même, etc.....). On rajoute alors arbitrairement de la masse pour que la simulation colle aux observations = modèle Lambda-CDM , avec donc 4 % de ce que l'on "voit" et 96 % rajoutés pour rendre compte des observations. Il me semble alors que nous ne sommes plus vraiment dans le rasoir d'Ockham dès lors que la majorité du système n'est plus "explicable" ( matière noire + énergie sombre ). Ta dernière vidéo sur la théorie des cordes ne mentionne pas le fait qu'en essayant d'utiliser cette dernière dans un simulateur , arriverait-on à obtenir une simulation qui "tienne" ??? Depuis 4 jours, un certain Franck Malers propose une simulation basé sur le modèle Janus qui , sans nécessiter les 96 % de masse hypothétique, arrive à la construction d'une structure "en filaments" ("comme" celle obtenue à partir des observations astronomiques donc ) à partir de 10 millions de corps: th-cam.com/video/4Oe291ZYq-8/w-d-xo.html. On retombe selon moi dans le rasoir d'Ockham avec ce genre de représentation. Mais les équations qui en découlent deviennent encore plus complexes !! ( Mais restant toujours la solution la plus simple que j'ai pu apercevoir en simulation à ce jour !! Car je n'ai jamais vu en action la théorie de l'univers à 1 électron par exemple ^^ ). Il me parait alors évident que pour décrire un système aussi complexe que l'univers, la solution la plus simple parmi les plus complexe devrait être invoquée , en prenant par exemple dans notre cas, l'univers ( 10 ^ 80 particules à disons, l'échelle de Planck étant pour l'instant notre précision théorique la plus fine) Tout ceci pour en arriver à ce raisonnement final : Imaginons que l'univers soit donc infini en terme de composants et d'échelles macro comme micro , nous arriverions nécessairement à une théorie dont la longueur de la description tendrait vers l'infini et donc arbitrairement négligeable selon le théorème d'Ockham lui même non ? Tout en restant la théorie la plus "simple" décrivant ce même univers ! ( Newton ne suffisant donc absolument pas comme vu plus haut ) Ps: Je ne sais pas si je suis assez clair, et si qui que ce soit lira ces lignes mais je ne trouve de réponses ou d'interlocuteurs nulle part..... Et j'ai vraiment essayé de faire au plus court pour exposer mon idée le plus simplement possible , en omettant de complexifié encore plus cette exemple en rajoutant la dimension "traduction en code informatique " qui elle même présuppose une certaine précision et une longueur d’explication, sans cesse croissante selon moi en fonction de notre savoir au moment T, en informatique. Ceci étant dit , excellente vidéo comme toujours ^^
Sur la derniere partie de la video je vois que P(T(n)) tende vers zero lorsque n va vers l'infini. Mais rien n'empeche que pour de petites valeurs P(T(n)) soit croissant avant de decroitre vers zero. C'est a dire qu'on peut juste imaginer que les probabilités de therories a 50 caracteres soient superieures a celles qui en ont 6. Bref on ne prouve pas que les theories les plus courtes sont plus probables mais seulememt que celles qui sont trop longues sont improbables
si j'ai suivi il faut que la théorie puisse parier (et je suppose coller aux données déjà collectées?), donc il y a forcément une taille minimale en dessous de laquelle tout vaut 0, puisque pas assez grandes pour les conditions.
Très intéressant. Juste une petite remarque. Le multivers n'est pas une théorie, mais une conséquence d'une théorie (théorie des cordes) si c'est bien d'elle que tu parles.
Incroyable. Lê commencent pas "Solomonoff, Kolmogorov, Ockam, etc.." ils ont trouvé et démontré ce théorème. Et qui finis par "je l'ai trouvé juste avec le bayésianisme en faite". BIM !
J'ai l'impression que la proposition "la somme des probabilité des théories vaut 1" (à 17:49) n'est pas correcte : elle n'est valable que si toutes les théories sont indépendantes les unes des autres, or ce n'est pas le cas. Par exemple, la théorie "le ciel est bleu" est contenue dans la théorie "le ciel est bleu et la nuit est rose". Je ne suis pas non plus sûr de comprendre l'intérêt de parler de l'union de plusieurs théories, et ça me semble conduire à des apories : Par exemple, l'union de la théorie "tout est blanc" et de la théorie "au moins une chose n'est pas blanche" est une tautologie, sa probabilité est de 1.
En réalité l'algorithme minimax pour résoudre les échecs utilise assez peu de mémoire (c'est proportionnel au nombre maximal de tours dans une partie). Par contre sa complexité temporelle est démentielle, vu qu'il va simuler toutes les parties possibles.
J'ai appris et compris plein de chose dans ta vidéo donc déjà merci. Par contre ça devient de plus en plus difficile de tous comprendre. J'ai fais des études (bac +5) à la frontière entre stat et info et j'ai parfois eu du mal à suivre, ou à comprendre ou tu voulais aller. Alors sûrement que je suis pas assez concentrer pour tout comprendre en un seul visionnage ( ce qui n'est pas un vrai problème) mais je me demande comment font les autres pour te suivre. Y a plus que des gens un peu calé en maths qui suivent comme dans la série Hardcore?
En vrai ça va, quand on pause la vidéo aux bons moments pour digérer cette série est compréhensible je trouve. Ce n'etait pas le cas notamment de la série sur l'infini ou certaines vidéos me laissaient juste hagard ...
Vidéo très instructive, Merci :) Petite question : Comment avoir au quotidien une intuition sur l'ordre de grandeur de la complexité de Solomonoff d'une théorie quelconque ?
Wow... Grosse question... J'éspère que le maitre te répondra x) Allez j'essaie: Si on récapitule, une théorie de Solomonoff c'est un algorithme qui fait des paris sur un jeu de données d'entrée. La complexité de Solomonoff de cette théorie c'est le nombre de caractère dans un language turing-complet nécessaire pour décrire cet algorithme. Pour avoir une intuition on pourrait essayer de lister les opérations que cette théorie fait sur les données pour parier... Pas sûr que ce soit très facile d'avoir une intuition comme ça...
@bradrix678 Je tente une réponse : S'il s'agissait de parier sur le prochain terme d'une suite mathématique, la complexité de Solomonoff d'une théorie serait la taille du plus petit programme qui parie en conformité avec cette théorie. Or on peut voir un programme comme une manière d'expliquer à son ordinateur comment parier. Cela permet alors de transposer a question à des situations plus générales : imaginons que l'on doive expliquer à quelqu'un comment parier sur un évènement à venir sur la base des évènement qu'il a observés, en fonction d'une théorie. Plus il faudra de temps pour expliquer la théorie, plus sa complexité de Solomonoff est élevée. Ainsi, la complexité de Solomonoff de la théorie des cordes est d'environ 20 ans (scolarité + études supérieures), alors que la théorie de l'intelligent design est de quelques heures au maximum. Les mauvaises langues diront que leur pouvoir prédictif est comparable ;)
Humour... Pour Noël j'aimerais m'offrir et offrir à des amis un rasoir d'Ockham ( même d'occase). Il paraît qu'il est très affuté... Pensez-y mesdemoiselles et mesdames. Il tranche tout : les débats politiques glissants, les têtes de lard et même les gens bons. Un vrai couteau suisse...
Pour le théorème d'Ockham qui se base sur le fait qu'il y ai un nombre infini de théories et que la somme soit égale à 1, je pense avoir trouvé un contre exemple: Sur une cible de fléchette, chaque point a une probabilité égale de se faire toucher et il y a une infinité de points or, la somme des probabilités de tous les points est bien égale à 1. Donc on peut aussi penser que toutes les théories se valent, simplement elles ont toutes une probabilité infinitésimale de se produire. Y'a une erreur dans mon raisonnement ?
Pour couper dans le multivers j'utiliserais plutôt Stormbringer, mais s'il faut faire avec un rasoir alors celui d'Ockham ira très bien :p M'enfin le Champion Eternel avec un rasoir, ça a quand même moins de gueule :x
Il y a un truc qui m'échappe: l'apriori de Solomonov est ~ 2^(-n) or il y a 2^n theorie en n bits donc T(n) ~ 2^(-n) * 2^n ~ 1 et donc sum_n(T(n)) ~ n . Elle la somme des T(n) diverge donc quand n tend vers l'infini et n'est donc pas confome au loi du Baseyanisme. Ou est mon erreur?
J'espère que tu rappelleras brièvement les théorème de complétude et d'incomplétude de Godel la prochaine fois avant de parler de ceux de Solomonoff :) Très bonne vidéo !
Cette vidéo aurait été plus claire en breton. Signé : un bas breton de mauvaise foi mais beau joueur (pouce bleu et commentaire pour l'algorithme, c'est banal sur TH-cam mais étrange de l'écrire ici).
Moi j'ai du mal à savoir si c'est une grande partie mais je suis super content de ce que j'ai compris ! 😊 Et je suis sûr qu'en les revoyant plein de fois je comprendrai d'autres choses : pour moi c'est un signe de grande qualité.
petite question mathématique existentiel : existe-t-il un moyen/une façon/une suite ou autre de finir de compter jusqu'à l'infini ? exemple bête on compte de base de 1 en 1, mais on pourrais compter de 2 en 2 ? bon ca marche pas, de 10 en 10 ? non plus. De nombre premier en nombre premier ? non plus. On peut aussi poser la question comme-ci (même si je me doute que je la poserais mal quand même XD) existe-il une suite fini de nombre croissant (de sorte que N+1>N) comprenant ∞ ou qui aurait pour dernier "nombre" ∞
- 1/(x-5) croit vers l'infini entre 0 et 5, et tend vers l'infini en 5. mais pour une suite discrète, non, c'est pas possible. 2^(2^n) croit très vite, et il est possible de faire encor plus rapide, mais ça ne sera jamais suffisant.
salut j'ai une reponse ( parmi d'autres, donc) a ta question je discutais en rentrant de cours avec un ami de mes parents, doyen de la fac de maths; il m'a dit ( ce qui m'a bcp fait reflechir) ' l'infini n'existe pas, c'est une abstraction' si ca peut repondre a ta question, apres quelques nuits blanches...
Le nombre de particules qu'un humain a dans son corps : 40 mols environ= 40x6x10^23=2,4 x10^25, tu multiplies ça par la description de chaque particule mise en mémoire ... on n'est pas loin du compte
sachant qu'a priori il y a deja 10^13 cellules, et 100 fois plus de petits etres dans l'intestin, j'ai un peu du mal a voir d'ou vient le chiffre, ne sachant pas les interactions en local ou plus loi ( sachant qu'il est probable qu'une cellule/particule, atome du pied n'a acune incidence sur le cerveau ou le bras, mais que pour un groupe, je ne sais pas ( vive les neurosciences)........... ( juste a titre d'illustration on sait que les modeles d'analyse de variance, c'est ok, mais qu'au dela de 10 avec interactions, ca devient plus que tres complique...si ca peut donner une intuition theorique)
Bonjour. à 17'30" la somme des probabilités des théories doit être égale à 1.... si et seulement si au moins l'une d'elles est vraie, ce qui à priori n'est pas acquis.... non ? amitiés
(de ce que j'ai compris) Pour que la somme infinie des probabilités des T_n fasse 1 il faut que les probabilités tendent exponentiellement vite vers 0.
@@CamilleKaze57 parce que c'est la vitesse de convergence nécessaire pour que ça converge et que ça fasse 1, ça se voit avec l'intégrale entre 0 et +inf de exp(-x)
Très très intéressant. 1 commentaire peut-être naif : le "théorème" d'Ockham tel que vous le mentionnez parait assez artificiel. La condition de normalisation aurait aussi pour solution une probabilité uniforme de 1/N pour chaque Tn lorsque n prend des valeurs de 1 à N. La crédence de chaque classe n de théories tendrait alors vers zéro de la même manière pour tout le monde à mesure que N augmente. C'est d'ailleurs ce que le principe d'indifférence de Pascal suggererait si on a aucun critère pour différencier les différentes Tn. Autre question naïve est sur la présupposition que Tn et T(n+1) par exemple sont indépendantes. Est nécessairement le cas ? On pourrait imaginer la jieme théorie à i caractères T_i^j qui a une certaine crédence finie x. Ajouter un seul caractère à cette théorie ne rend problement pas la crédence très différente. Il doit y avoir une condition d'irréductibilité qui entre en jeu. Genre Tn ne peut pas contenir de séquences appartenant à T2 par exemple non ?
Oui, j'ai tiqué aussi ! Je pense qu'il voulait dire que l'algorithme résout les échecs... si on lui laisse quelques siècles pour s'exécuter jusqu'à la fin. Donc résolu en puissance, mais pas résolu en pratique.
"la diférence est négligeable, peut-ètre de l'ordre du kilooctet, du coup, c'est quasimant indépendant du langage utilisé" Donc c'est quasiment indépendant, à un facteur 2^8000 près ? Mème si 8000, c'est peut comparé à la longueur des choses décrit, c'est pertinent d'accordé de l'importance à un principe donnant des approximations à un facteur au moins 2^8000 près? (surtout que se 8000 n'est pas grand chose comparé au déférence de concision entre la conscription la plus concise possible, et celle que l'on vat en faire)
@@theslay66 Il a dit "exponentielle décroissant en fonction de la longueur du code". (et la logique derrière se exponentielle décroissant correspond vaguement à "tout ce qu'il est possible de coder")
@@paulamblard3836 Ce qui est exponentiellement croissant en fonction de la longueur du code, c'est le nombre de théories qui peuvent être écrites en n caractères -ce qui justifie, étant donné que la somme des probabilités de toutes les théories doit être égal à un, que les théories les plus longues soient les moins probables. Le problème du langage dans lequel est écrit la théorie est un problème séparé, puisque le langage utilisé n'a pas d'influence sur la probabilité de validité de la théorie. On pourra d'ailleurs remarquer que dans toutes les théories qu'on peut écrire en n caractères, on y trouvera également toutes les théories écrites dans un langage différent accompagné de leurs instructions pour la traduire. Du coup on retrouve dans cet ensemble notre théorie écrite dans tous les langages possibles. Si cela ne suffit pas à te convaincre, alors considère ceci : Nous partons du principe que la longueur n de nos théories sera toujours beaucoup plus grande que le code nécessaire à sa traduction. Assumons par exemple que notre code de traduction fasse 1ko, et notre théorie 1Mo. Sans traduction, nous aurons un nombre de théories possibles égal à 2^(1024*8192) soit 2^(8 388 608). En rajoutant la longueur nécessaire à la traduction, on obtient 2^(1025*8192) soit 2^(8 396 800). Vu la taille des nombres qu'on obtient, oui, je crois qu'une "petite" différence de 2^8192 est effectivement négligeable.
@@theslay66 "Le problème du langage dans lequel est écrit la théorie est un problème séparé, puisque le langage utilisé n'a pas d'influence sur la probabilité de validité de la théorie" Mais il a une influence sur l'estimation que l'on fait de la probabilité de validité de cette théorie. "Vu la taille des nombres qu'on obtient, oui, je crois qu'une "petite" différence de 2^8192 est effectivement négligeable." pour avoir cette interprétation, il faut regarder " (log(2^(8 396 800)) - log(2^(8 388 608)))/log( 2^(8 388 608)) = 1/1024" est-ce la bonne chose à regarder ?
@@paulamblard3836 Oui c'est ça, ton calcul revient exactement à dire que 1ko représente 1/1024 Mo. Si la longueur du code nécessaire à la traduction ne représente même pas un millième de la longueur totale, on comprend bien que son influence sur l'évaluation de la probabilité est assez négligeable. C'est juste relatif. Certes 2^8192 dans l'absolu c'est un grand nombre, mais par rapport aux nombres qu'on manipule c'est pas grand chose. On est pas à quelques mètres près quand on compare la longueur des différents trajets en voiture entre deux ville, par exemple.
3 ปีที่แล้ว
Je suis développeur et je voudrais rectifier une erreur : les langages de programmation sont presque tous ambiguë et leurs compilateurs/interpréteurs aussi... Les seuls langages strictement non ambiguë sont le binaire et les langages basés sur un compilateur prouvé formellement. Donc à moins de faire du C compilé avec CompCert, ce qui est extrêmement rare, 99.9999999% des développeurs écrivent dans des langages de programmation ambiguës (et j'en fait parti).
sans optimisation, sans verification, et sans géré les choses plus complexe que les machines de turing, tel que les affichages, ... (je sais que l'affichage passe par une machine de turing, mais est complexe) (malgré ça, ça me parait aussi très court)
@@chichikb Non. Un ordre d'idée, c'est un ordre de grandeur. Je ne m'y connais pas concernant le poids d'un compilateur C ou C++, mais les ordres de grandeur ont l'air différents. 10^0 ce n'est pas 10^2 ! Ce _n'est pas_ une différence négligeable, par définiton.
Je ne sais pas très bien ce que j'ai compris mais je suis certain que c'est moins complexe que ce que je comprendrai si je ne comprenais pas qu'il n'y a rien à comprendre :=) C'est du CALCUL !
Cette vidéo est plutôt plus claire que d’autres, mais je trouve qu’il y a beaucoup de microdigressions et qu’il devrait faire un meilleur effort pédagogique dans le rythme (aller plus en détail sur les points les plus complexes ou nouveaux)... je lutte encore avec son style, très séduisant mais riche en distractions et en survols trop rapides
Malheureusement cela veux aussi dire que même ce que l’on prend pour vrai avec une certitude quasi absolue et expliquable tres simplement, Aura une probabilité d’une partie infiiiiiime de l’ensemble des possibilités, quand bien même les autres serait encore plus infimes. En gros, cela permet dedeontrer l’absurdité de theories tirées par les cheveux en comparaison à des plus probables, mais sous estimé quand même trèsssss largement la probabilité les choses vraies. (Même si on ne peux être sûr à 100% de rien bla bla bla...) Même une explication de 1 caractère (impossible) n’aura même pas 0.0001% de crédence, si l’ensemble des possibilité vaut 1 et additionne les probabilités des explications de longueur. 1 a 99999999 caractères. Enfin, si j’ai globalement compris le principe..
Les langages de programmation, parlés par des humains... étant du métier, j'en doute un peu. J'ai plutôt le sentiment qu'ils sont écrits par des machines assistées par des humains.
17:45 pourquoi est-ce nécessairement les théories avec le plus grand nombre de caractère qui devrait tendre plus vite vers 0 ? Si on réordonne la série on peut très bien avoir des résultats différents. par exemple on pourrait dire que les théories P1....P100 sont très peu probables, P101 = 0.5, et ensuite combler la somme pour P102...Pinf. Ce raisonnement manque bcp d'hypothèses, est-il possible d'avoir Pi = 0 aussi ??
Pourriez vous répondre à la question de Thomas. On pourrait aussi avoir une série qui tend vers 0 pour les premiers et les derniers éléments, une sorte de gaussienne. Après tout, à priori rien ne dit qu'une théorie à 1 caractère puisse être crédible , bien au contraire.
"Cette ambiguïté du langage a mis des millénaires à être reconnue", je ne suis pas d'accord. Aristote passait déjà plein de temps à distinguer les différents sens des mots et à parler d'analogie dans le langage.
négligeable : elle a tellement de concurrents plus solides les uns que les autres (non pas qu'elle soit fragile) : th-cam.com/video/XO4q9oVrWWw/w-d-xo.html
Du coup ca a du sens le blackswan? Il y a la probabilité d'une théorie "longue" qui est très faible. Mais quel est la probabilité qu'une théorie rare soit vrai? Ce n'est pas vraiment la même question non ?
ben du coup (si j'ai bien compris) : proba à priori qu'une théorie complexe soit vraie = crédence de cette théorie (calculée à partir de sa longueur) / somme des crédences de toutes les théories
J'essaie de générer une explication intuitive cette vidéo et je réalise que... Attends mais... L' explication ne marche que lorsqu'il y a une infinité de théories possibles ! Imaginons un champs d'étude où il n'y a que deux théories possibles : une simple et une complexe... Alors dans ce cas ton explication ne s'applique pas. Un exemple concret pour me faire comprendre : concernant les vaccins il n'y a que deux théories possibles : soit ils causent l'autisme, soit ils ne causent pas l'autisme. Ou alors ils causent l'autisme seulement chez certains enfants prédisposés, cette dernière théorie étant une sorte de description plus précise et plus complexe (intuitivement) de la première. Dans un tel cas où le nombre de théories possibles est fini (deux - soit ils causent l'autisme soit ils ne le causent pas), aurait-on raison de croire a priori la plus complexe comme la moins crédible ? Ou alors y a t'il une erreur dans ma question ?
Pas faux : le fait de considérer les théories complexes n'implique pas qu'on considère toutes les théories plus simples. (ou alors c'est obligatoire dans l'énoncé ?). Si on a le choix de la liste de théories qu'on met en concurrence, alors c'est un peu facile, effectivement (réchauffement climatique : Dieu ou les Aliens ?) ... mouais, à mon avis, on choisit pas les théories qu'on met en jeu.
@Sebastien Louard Je suis d'accord avec cette observation, ça ne marche que pour une infinité de théories ! Cela dit, il me semble que l'exemple n'est pas correct : on ne considère pas les théories qui, d'un certain point de vue, sont vraies, mais toutes les théories qui peuvent être formulées dans le domaine considéré. Celles qui sont fausses ont juste une probabilité de 0. De plus, le nombre de théories pour décrire un phénomène croit exponentiellement avec le nombre de variables de ce phénomène. Donc un phénomène qui n'a que deux théories candidates n'a qu'une variable, booléenne, et les deux théories sont "la variable vaut Vrai" et "la variable vaut Faux". Je doute que l'on puisse dire que l'une des théorie est plus complexe que l'autre.
@@sobriquet Oui dans mon exemple elles ont certainement le même degré de complexité vu que la plus complexe peut se coder comme l'inverse de l'autre... et donc globalement avoir le même degré de complexité. Existe-il des exemples avec un nombre de théories possibles fini, dont certaines plus complexes ? Par contre concernant le vrai et le faux, bien que dans la réalité effectivement une des deux théories de mon exemple correspond à la réalité et l'autre pas, du point de vue bayésien toutes les théories doivent avoir une probabilité de départ différente de zéro. On ne peut pas considérer une théorie comme a priori 100% fausse. Sinon on ne peut pas raisonner.
@@ludovicduvillage6760 Oui, bien vu ! Quand je réfléchis à la nature des théories, je m'inspire toujours de la logique booléenne. A partir de 3 variables a, b et c, par exemple, on peut construire la théorie A "la théorie est vérifiée quelles que soient les valeurs de a, b et c", et la théorie B "la théorie est vérifiée quand a est différent de b ou quand b est égal à c". Il est assez naturel de considérer que la théorie A est plus simple que la théorie B. Cela dit, comme Lê l'a expliqué, on peut faire preuve de prudence dans cette considération en prenant en compte le langage dans lequel on exprime ces théories, en particulier dans des théories jouets comme celles-ci. Il doit être possible de trouver un langage dans lequel A est plus complexe de B. Par exemple, ici, si ce langage n'est constitué que des opérations d'égalité, de différence et de disjonction.
Passons sur les faits qu'un compilateur C/C++ dont le code fasse un Kio, même une fois compressé, me semble peu probable et que cette bouse de JS ne mérite pas, de mon point de vue, de porter le nom de langage de programmation. Il existe bien des compilateurs permettant de passer d'un langage à un autre sauf que, tous ceux que je connais, ont tendance à produire du code de merde. À savoir un code qui est beaucoup plus lourd et beaucoup plus lent que l'algorithme équivalent directement écrit dans le langage cible. Autre point, la complexité d'un algorithme ne peut être décrite uniquement par la complexité du code source et la quantité de mémoire utilisé. Par exemple, l'algorithme du tri à bulles est extrêmement simple à écrire, ne nécessite quasiment aucune mémoire pour être utilisée (en plus de la mémoire utilisée par les données à traiter) mais à une complexité en temps de Θ(n²) (dixit Wikipédia), alors que d'autres algorithmes, à peine plus long, nécessitent une mémoire de Θ(log(n)) mais un temps de seulement Θ(n × log(n)) Vu que l'implémentation d'une fonctionnalité nécessite en général de faire des compromis entre ces trois catégories (longueur du code source, temps d'exécution et mémoire utilisé) il faut regarder les trois pour donner une complexité globale. Autrement on pourrait comparer ça à mesurer la luminosité d'un objet en ne regardant que certaines longueurs d'ondes.
Vous me tous rire ! Comment expliquer l´amour d'un homme qui n´a rien fait de mal a sa femme!!! Ni trompé ni battu. Porté tout l´amour qu'il ce doit pendant 23 ans. Et quelle parte quand même ! Faut m'expliquer pourquoi je comprends mieux mon monde qui m'entoure. Que ma propre femme qui est partie avec mes enfants !
![[Live] : ONE 168 วันนี้!! "โจนาธาน vs ซุปเปอร์เล็ก"](http://i.ytimg.com/vi/0jIN65KgJsI/mqdefault.jpg)
Incroyable quand même tes vidéos. Merci de partager ton savoir
Oui on est chanceux
Quel régal ces vidéos
La conclusion est magnifique
Ta passion est débordante et communicative, sur la fin de la vidéo je t'ai même trouvé trop mignon tellement on sent que kiffes le sujet de ouf ! Haha vivement le théorème de Solomonoff !
3:40 Mais d’où vient cette vidéo de Solomonoff qui saute ?
Brillantissime ! Merci.
Le Python sans ambiguïté ?? Haha
Merci pour la vidéo ;)
depuis le temps qu'on l'attendait celle la !! c'est vraiment cool
Moi j’ai toujours été perplexe devant le fait que la simplicité ne soit pas seulement une propriété de la représentation du réel que l’on se fait mais du réel lui-même. On pourrait se dire a priori qu’il n’y a pas de raison pour que les lois de l’univers soient simples pour faire plaisir aux mathématiciens, que les lois simples soient plus fréquentes que les lois complexes. Mais à l’usage on doit bien admettre que c’est le cas. Ce qui fait que les problèmes scientifiques sont finalement assez rapidement résolus. Par exemple, quand Coulomb cherche à calculer l’intensité de la force électrostatique, il trouve F= k*q*q’/d^2. Peut-on imagine plus court comme formule ? C’est sûrement la première ou la deuxième à laquelle il a pensé. Et après vérification c’est la bonne. Si la force électrostatique était régie par la loi F= k*(q*q’)^pi / d^325,5249575166, il aurait sans doute mis beaucoup plus de temps à la trouver. Pourquoi ces formules sont-elles si simples ? C’est quelque chose que j’ai encore du mal à intuitionner.
Pour la distance au carré il y a une logique géométrique de surface de rayonnement, plus la sphère de diffusion grandit plus l'énergie émise se dissipe à la surface de celle-ci (soit divisé par 4pi*rayon², rayon ou distance à la charge). Bon plus rigoureusement il faudrait que je parle du flux mais bon...
Je n’ai peut-être pas bien suivi, mais donc qu’est-ce qui nous dit que par exemple on n’ai pas des valeurs très faibles de P(Tn) pour les premiers n, puis que ça monte un peu pour les suivants, puis que ça redescende exponentiellement pour de grands n? Dans ce genre de cas, on aurait un « pic de probabilité » qu’on pourrait situer aussi loin que l’on veut. Ainsi on aurait bien une somme de probabilités qui vaut 1 mais les théories les plus simples (et on peut étendre cette limite de simplicité autant que l’on veut) ne seront pas celles avec une plus grande crédence.
Est-ce gênant ? Si oui, dans quels genre de cas ?
Sinon super vidéo merci beaucoup :)
Yepepepepepep big up je me pose la même question!
je me suis posé la même question. Mais du coup il dit qu'il faut se matter la série sur l'infini pour comprendre, non ?
Oui c'est ce que je me disais aussi.
De ce que je comprends, il ne dit pas que la distribution que tu proposes n'es pas correcte. Il dit qu'avant d'avoir plus d'informations, l'approche bayésienne implique une distribution en exponentielle inverse.
Avec de l'information ta crédence s'affine et donc change cette distribution.
Une théorie avec un caractère paraît peu crédible, parce qu'elle ne prédit rien. Donc ce que vous proposer est justement la bonne façon de voir la question. On sait juste que la théorie la plus crédible a priori ne peut pas être arbitrairement longue.
En fait, l'angle mort, c'est surtout qu'il n'y a qu'une et une seule "bonne" description de la réalité, donc la vraie distribution de crédence est un dirac (ça vaut 0 partout sauf pour la bonne théorie, donc en particulier, pour toute théorie de longueur supérieure à la "bonne" théorie, la crédence vaut 0, et donc tend vers 0 !)
On atteint un peu la limite de ce qu'on sait décrire, en particulier, en considérant que les conditions initiales font partie de la théorie, ce qui est nécessaire pour en calculer la complexité de Solomonoff, on ne se donne pas trop le moyen de comprendre ce qu'est le rasoir d'Ockham : une description de la manière dont l'intelligence humaine parvient à comprendre (i.e. résumer) le monde et les observations qui l'entourent. Cette façon de voir le rasoir d'Ockham ne dit rien de la valeur de vérité d'une théorie, mais parle plutôt de son efficacité (tout comme le bayésianisme ne dit rien de la valeur de vérité d'une théorie mais permet d'optimiser les prédictions que l'on peut faire).
J'adore ta chaine
C'est toujours un régal de voir tes vidéo 😍
Je suis encore impatient de voir le prochain episode. Merci beaucoup cette série est magnifique
@10:30 : je suis prof de maths en breton... ça fait mal Lê.
Super vidéo, merci ! Ces maths du 20e siècle ont vraiment un côté vertigineux.
disons que les matheux font comme les philosophes, ils mettent derriere des mots compliques des choses simples...Kant est illisible en francais, alors que l'allemand est tres clair...........a titre perso, les pulverisations d'espaces et les tesselations de voronoi, bof, ca m'inspire pas, pourtant c'est ce que je fais depuis 30 ans
toujours avoir a l'esprit la phrase de boileau ' les chose bien concues s'expriment clairement, et les mots pour le dire viennent aisement', c'est ce que ma mere avait a un ami doyen d'une fac de maths que j'ai eu en prof ( quand on faisait comme lui avec du droit ou des stats, il comprenait pourquoi...)
les toubibs font pareil, ya un sketch des inconnus la dessus
salut
Je cherche peut-être la petite bête, mais tu dis que les langages de programmation sont sans ambiguités, or le C et le C++ par exemple, ont beaucoup de "undefined behavior", et donc il y a une ambiguité qui dépend du compilateur. Hâte à la prochaine vidéo!
Oui, mais on peut considérer que c'est pas le même langage si on change de compilateur, puisque les règles sont changées...
Le petit clash sur les bretons était délicieux
vraiment cette série sur le bayésianisme c'est la best :D
Donc 42 est la théorie la plus crédible après 41 ?
après 4 je dirais :p
Bonjour, alors j'aurais quelques petites questions si jamais tu as du temps:
* D'abord sur la somme des P(T_n) qui vaut 1. Je suppose que c'est parce que les T_n sont supposés incompatibles, et je suppose que c'est une conséquence du fait que les différentes théories sont supposées incompatibles (tu me dis si je me trompe). Or, si une théorie est un algo qui doit donner une loi de probabilité sur l'ensemble des données possibles, alors je ne vois pas pourquoi des théories différentes ne pourraient pas être vraies en même temps. Déjà, deux lois de probabilités différentes peuvent être suffisamment proches pour qu'on ne puisse pas les distinguer en pratique, et en plus deux algos différents peuvent très bien calculer exactement la même fonction. Donc d'après moi il y aurait des précautions à prendre avant de dire que la somme des P(T_n) vaut 1.
* Sur le rasoir d'Ockham ensuite. Je ne conteste pas le fait que lim P(T_n)=0 mais il s'agit là d'un comportement à l'infini. Le principe du rasoir d'Ockham se traduirait mathématiquement par l'énoncé (T_n) est décroissante, ce qui est quand même très différent. On peut voir d'ailleurs que T_0 contient probablement bien peu de théories à même d'expliquer un phénomène (non trivial).
L’algorithme MiniMax ne prend pas beaucoup de mémoire : il ne stocke pas tous les états analysés, mais uniquement ceux permettant de revenir en arrière. Une analyse à une profondeur de 100 ne prendra que 100x64 valeurs (64 étant le nombre de cases). En revanche, le temps de calcul sera de l’ordre de n puissance 100 où n est le nombre de coups possibles moyens... ce qui rend le calcul extrêmement complexe mais pas en terme d’usage de la mémoire.
Parfait , une vidéo mélangeant rasoir d'Ockham, programmation et un peu de cosmologie.
Je ne sais pas si quelqu'un va saisir le raisonnement, et je vais prendre donc pour exemple la cosmologie.
Comment Newton parvient-il à énoncer sa loi de la gravité universelle ?
En essayant de faire au plus "simple", grâce aux outils mathématiques et aux données d'une précision relative aux instruments dont il disposait à son époque ( il n'avait , par exemple , pas à sa disposition une photo haute résolution du fond diffus cosmologique hein ^^ ).
Il collecte donc les données et empiriquement en découvre "la paterne" cachée derrière ces même données= La loi de gravitation universelle. On est donc bien , si je ne m'abuse en situation dite du rasoir d'Ockham.
Mais apparemment Newton lui même ne trouvait pas cela assez simple, dans la mesure où une interaction "magique" semblait être à l’œuvre, ne pouvant donc expliquer l’origine même de cette "force" d'attraction.
Entre alors en scène Einstein ( je simplifie , il y a eu énormément d'autres contributeurs ofc !!):
Il arrive donc à comprendre que la gravitation n'est pas une force, mais "simplement" la déformation du tissu espace-temps par son contenu et donc en déduit la métrique de ce même référentiel ( grosso modo, tout objets de cette espace se déplacent en ligne droite dans un espace courbé, ce qui colle avec le raisonnement de Fermat observant empiriquement là encore que la lumière prend toujours le chemin le plus court ). Et là "commence les ennuis" , car les mathématiques d'Einstein avec son équation de champ, sont dès lors plus complexe que celle de Newton ( même si de façon obligatoire, Newton se retrouve dans Einstein , Newton n'étant donc qu'une version "simplifiée" de celle de son successeur ). On se retrouve donc dans la situation où on complexifie de plus en plus nos théories tout en restant l'idée la plus simple actuelle.
Je vais essayer de finir vite, mais en continuant comme ceci , arrivent ensuite les ordinateurs et donc l'invention de langages de programmations nous permettant de calculer/simuler tout ça ----------->
Problème !!! à l'échelle macroscopique, en utilisant donc l'équation de champ de ce dernier, tout s'effondre ( les galaxies ne tiennent pas en place, l'univers s'effondre sur lui même, etc.....).
On rajoute alors arbitrairement de la masse pour que la simulation colle aux observations = modèle Lambda-CDM , avec donc 4 % de ce que l'on "voit" et 96 % rajoutés pour rendre compte des observations.
Il me semble alors que nous ne sommes plus vraiment dans le rasoir d'Ockham dès lors que la majorité du système n'est plus "explicable" ( matière noire + énergie sombre ).
Ta dernière vidéo sur la théorie des cordes ne mentionne pas le fait qu'en essayant d'utiliser cette dernière dans un simulateur , arriverait-on à obtenir une simulation qui "tienne" ???
Depuis 4 jours, un certain Franck Malers propose une simulation basé sur le modèle Janus qui , sans nécessiter les 96 % de masse hypothétique, arrive à la construction d'une structure "en filaments" ("comme" celle obtenue à partir des observations astronomiques donc )
à partir de 10 millions de corps: th-cam.com/video/4Oe291ZYq-8/w-d-xo.html.
On retombe selon moi dans le rasoir d'Ockham avec ce genre de représentation. Mais les équations qui en découlent deviennent encore plus complexes !! ( Mais restant toujours la solution la plus simple que j'ai pu apercevoir en simulation à ce jour !! Car je n'ai jamais vu en action la théorie de l'univers à 1 électron par exemple ^^ ).
Il me parait alors évident que pour décrire un système aussi complexe que l'univers, la solution la plus simple parmi les plus complexe devrait être invoquée , en prenant par exemple dans notre cas, l'univers ( 10 ^ 80 particules à disons, l'échelle de Planck étant pour l'instant notre précision théorique la plus fine)
Tout ceci pour en arriver à ce raisonnement final : Imaginons que l'univers soit donc infini en terme de composants et d'échelles macro comme micro , nous arriverions nécessairement à une théorie dont la longueur de la description tendrait vers l'infini et donc arbitrairement négligeable selon le théorème d'Ockham lui même non ? Tout en restant la théorie la plus "simple" décrivant ce même univers ! ( Newton ne suffisant donc absolument pas comme vu plus haut )
Ps: Je ne sais pas si je suis assez clair, et si qui que ce soit lira ces lignes mais je ne trouve de réponses ou d'interlocuteurs nulle part..... Et j'ai vraiment essayé de faire au plus court pour exposer mon idée le plus simplement possible , en omettant de complexifié encore plus cette exemple en rajoutant la dimension "traduction en code informatique " qui elle même présuppose une certaine précision et une longueur d’explication, sans cesse croissante selon moi en fonction de notre savoir au moment T, en informatique. Ceci étant dit , excellente vidéo comme toujours ^^
@8:22 "pauvre" Augustin Louis Cauchy ...
Vu comme iI a ignoré Galois et Abel ... fr.m.wikipedia.org/wiki/Augustin_Louis_Cauchy
ce teasing de fouuuuu !!!
Sur la derniere partie de la video je vois que P(T(n)) tende vers zero lorsque n va vers l'infini. Mais rien n'empeche que pour de petites valeurs P(T(n)) soit croissant avant de decroitre vers zero.
C'est a dire qu'on peut juste imaginer que les probabilités de therories a 50 caracteres soient superieures a celles qui en ont 6.
Bref on ne prouve pas que les theories les plus courtes sont plus probables mais seulememt que celles qui sont trop longues sont improbables
si j'ai suivi il faut que la théorie puisse parier (et je suppose coller aux données déjà collectées?), donc il y a forcément une taille minimale en dessous de laquelle tout vaut 0, puisque pas assez grandes pour les conditions.
Très intéressant. Juste une petite remarque. Le multivers n'est pas une théorie, mais une conséquence d'une théorie (théorie des cordes) si c'est bien d'elle que tu parles.
Incroyable. Lê commencent pas "Solomonoff, Kolmogorov, Ockam, etc.." ils ont trouvé et démontré ce théorème. Et qui finis par "je l'ai trouvé juste avec le bayésianisme en faite". BIM !
J'ai l'impression que la proposition "la somme des probabilité des théories vaut 1" (à 17:49) n'est pas correcte : elle n'est valable que si toutes les théories sont indépendantes les unes des autres, or ce n'est pas le cas. Par exemple, la théorie "le ciel est bleu" est contenue dans la théorie "le ciel est bleu et la nuit est rose".
Je ne suis pas non plus sûr de comprendre l'intérêt de parler de l'union de plusieurs théories, et ça me semble conduire à des apories : Par exemple, l'union de la théorie "tout est blanc" et de la théorie "au moins une chose n'est pas blanche" est une tautologie, sa probabilité est de 1.
En réalité l'algorithme minimax pour résoudre les échecs utilise assez peu de mémoire (c'est proportionnel au nombre maximal de tours dans une partie).
Par contre sa complexité temporelle est démentielle, vu qu'il va simuler toutes les parties possibles.
Pourrais-tu faire un épisode "hardcore" sur la complexité de kolmogorov ?
J'ai appris et compris plein de chose dans ta vidéo donc déjà merci. Par contre ça devient de plus en plus difficile de tous comprendre. J'ai fais des études (bac +5) à la frontière entre stat et info et j'ai parfois eu du mal à suivre, ou à comprendre ou tu voulais aller. Alors sûrement que je suis pas assez concentrer pour tout comprendre en un seul visionnage ( ce qui n'est pas un vrai problème) mais je me demande comment font les autres pour te suivre. Y a plus que des gens un peu calé en maths qui suivent comme dans la série Hardcore?
En vrai ça va, quand on pause la vidéo aux bons moments pour digérer cette série est compréhensible je trouve.
Ce n'etait pas le cas notamment de la série sur l'infini ou certaines vidéos me laissaient juste hagard ...
Vidéo très instructive, Merci :)
Petite question : Comment avoir au quotidien une intuition sur l'ordre de grandeur de la complexité de Solomonoff d'une théorie quelconque ?
Wow... Grosse question... J'éspère que le maitre te répondra x) Allez j'essaie:
Si on récapitule, une théorie de Solomonoff c'est un algorithme qui fait des paris sur un jeu de données d'entrée. La complexité de Solomonoff de cette théorie c'est le nombre de caractère dans un language turing-complet nécessaire pour décrire cet algorithme.
Pour avoir une intuition on pourrait essayer de lister les opérations que cette théorie fait sur les données pour parier... Pas sûr que ce soit très facile d'avoir une intuition comme ça...
@@38vocan Si tu dois lister les opérations... est-ce toujours de l'intuition ? 😉
@bradrix678
Je tente une réponse : S'il s'agissait de parier sur le prochain terme d'une suite mathématique, la complexité de Solomonoff d'une théorie serait la taille du plus petit programme qui parie en conformité avec cette théorie.
Or on peut voir un programme comme une manière d'expliquer à son ordinateur comment parier. Cela permet alors de transposer a question à des situations plus générales : imaginons que l'on doive expliquer à quelqu'un comment parier sur un évènement à venir sur la base des évènement qu'il a observés, en fonction d'une théorie. Plus il faudra de temps pour expliquer la théorie, plus sa complexité de Solomonoff est élevée.
Ainsi, la complexité de Solomonoff de la théorie des cordes est d'environ 20 ans (scolarité + études supérieures), alors que la théorie de l'intelligent design est de quelques heures au maximum. Les mauvaises langues diront que leur pouvoir prédictif est comparable ;)
j'ai rien compris.....bon je ne suis même pas certain de savoir ce que je n'ai pas compris.. mais c sympa :)
Je te découvre, ce que tu dis a l'air super mais je sent que je vais devoir tout me taper depuis l'épisode 1 pour bien comprendre. :/
fait le ça vaut le coup vraiment
@@leo-paulcharlet3813 Ouai, je suis à l'épisode 4 là, j'ai pris des notes, je suis hyper mal à l'aise avec l'idée de préjugés mais c'est passionnant !
Humour... Pour Noël j'aimerais m'offrir et offrir à des amis un rasoir d'Ockham ( même d'occase). Il paraît qu'il est très affuté... Pensez-y mesdemoiselles et mesdames. Il tranche tout : les débats politiques glissants, les têtes de lard et même les gens bons. Un vrai couteau suisse...
Pour le théorème d'Ockham qui se base sur le fait qu'il y ai un nombre infini de théories et que la somme soit égale à 1, je pense avoir trouvé un contre exemple:
Sur une cible de fléchette, chaque point a une probabilité égale de se faire toucher et il y a une infinité de points or, la somme des probabilités de tous les points est bien égale à 1.
Donc on peut aussi penser que toutes les théories se valent, simplement elles ont toutes une probabilité infinitésimale de se produire.
Y'a une erreur dans mon raisonnement ?
Pour couper dans le multivers j'utiliserais plutôt Stormbringer, mais s'il faut faire avec un rasoir alors celui d'Ockham ira très bien :p
M'enfin le Champion Eternel avec un rasoir, ça a quand même moins de gueule :x
Il y a un truc qui m'échappe: l'apriori de Solomonov est ~ 2^(-n) or il y a 2^n theorie en n bits donc T(n) ~ 2^(-n) * 2^n ~ 1 et donc sum_n(T(n)) ~ n . Elle la somme des T(n) diverge donc quand n tend vers l'infini et n'est donc pas confome au loi du Baseyanisme. Ou est mon erreur?
oh bordel des maths en latin c'est bon jme barre
Merci beaucoup. Je m'abonne.
mais les théories sont exprimées en langage naturel. ça ne pose pas de problème pour évaluer leur simplicité dans ce système formel ?
J'espère que tu rappelleras brièvement les théorème de complétude et d'incomplétude de Godel la prochaine fois avant de parler de ceux de Solomonoff :)
Très bonne vidéo !
"Les multiples ne doivent pas être multiplés" Oh 😮
On peut signer où pour supporter Google ?
Cette vidéo aurait été plus claire en breton.
Signé : un bas breton de mauvaise foi mais beau joueur (pouce bleu et commentaire pour l'algorithme, c'est banal sur TH-cam mais étrange de l'écrire ici).
cette vidéo aurait été moins ambiguë en C++.
Y a-t-il une vidéo ou tu expliques ce que tu entends précisément par "a priori" ?
Je t'invite à voir les première vidéos notamment celle où il détaille la formule de bayes. Il y explique l'utilisation du terme a priori
@@leo-paulcharlet3813 Merci, j'ai trouvé, épisode 3. Il ne désigne donc que avant ou après l'expérience.
Bonjour Le... Peut-on te contact en privé ? C'est pour un conseil purement mathématique et bayesien...
j'ecoute toujours jusqu'à la fin mais il y a de grande parti ou je ne comprend rien oufff ,
Moi j'ai du mal à savoir si c'est une grande partie mais je suis super content de ce que j'ai compris ! 😊 Et je suis sûr qu'en les revoyant plein de fois je comprendrai d'autres choses : pour moi c'est un signe de grande qualité.
18:00 : mindblow
petite question mathématique existentiel : existe-t-il un moyen/une façon/une suite ou autre de finir de compter jusqu'à l'infini ?
exemple bête on compte de base de 1 en 1, mais on pourrais compter de 2 en 2 ? bon ca marche pas, de 10 en 10 ? non plus. De nombre premier en nombre premier ? non plus.
On peut aussi poser la question comme-ci (même si je me doute que je la poserais mal quand même XD) existe-il une suite fini de nombre croissant (de sorte que N+1>N) comprenant ∞ ou qui aurait pour dernier "nombre" ∞
- 1/(x-5) croit vers l'infini entre 0 et 5, et tend vers l'infini en 5.
mais pour une suite discrète, non, c'est pas possible.
2^(2^n) croit très vite, et il est possible de faire encor plus rapide, mais ça ne sera jamais suffisant.
salut
j'ai une reponse ( parmi d'autres, donc) a ta question
je discutais en rentrant de cours avec un ami de mes parents, doyen de la fac de maths; il m'a dit ( ce qui m'a bcp fait reflechir) ' l'infini n'existe pas, c'est une abstraction'
si ca peut repondre a ta question, apres quelques nuits blanches...
10^27 lignes de code pour décrire ton corps. C'est un chiffre complétement arbitraire ou tu as un calcul ou une source pour étayer tes dires ? 🤔
Le nombre de particules qu'un humain a dans son corps : 40 mols environ= 40x6x10^23=2,4 x10^25, tu multiplies ça par la description de chaque particule mise en mémoire ... on n'est pas loin du compte
sachant qu'a priori il y a deja 10^13 cellules, et 100 fois plus de petits etres dans l'intestin, j'ai un peu du mal a voir d'ou vient le chiffre, ne sachant pas les interactions en local ou plus loi ( sachant qu'il est probable qu'une cellule/particule, atome du pied n'a acune incidence sur le cerveau ou le bras, mais que pour un groupe, je ne sais pas ( vive les neurosciences)........... ( juste a titre d'illustration on sait que les modeles d'analyse de variance, c'est ok, mais qu'au dela de 10 avec interactions, ca devient plus que tres complique...si ca peut donner une intuition theorique)
Bonjour.
à 17'30" la somme des probabilités des théories doit être égale à 1.... si et seulement si au moins l'une d'elles est vraie, ce qui à priori n'est pas acquis.... non ?
amitiés
Hyyyyype!
J'ai juste pas compris pourquoi c'était *exponentiellement* moins credible quand n augmente. C'est dans cette vidéo ou une autre ? Merci !
(de ce que j'ai compris) Pour que la somme infinie des probabilités des T_n fasse 1 il faut que les probabilités tendent exponentiellement vite vers 0.
@@baptiste-genest c'est le "exponentiellement" que j'ai pas compris, je vois pas d'où il sort
@@CamilleKaze57 parce que c'est la vitesse de convergence nécessaire pour que ça converge et que ça fasse 1, ça se voit avec l'intégrale entre 0 et +inf de exp(-x)
@@baptiste-genest La série de Riemann 1/n^2 converge et pourtant elle n'est pas exponentielle, pareil pour l'intégrale en +inf de 1/x^2
@@CamilleKaze57 oui mais ici ça doit converger vers 1
Très très intéressant. 1 commentaire peut-être naif : le "théorème" d'Ockham tel que vous le mentionnez parait assez artificiel. La condition de normalisation aurait aussi pour solution une probabilité uniforme de 1/N pour chaque Tn lorsque n prend des valeurs de 1 à N. La crédence de chaque classe n de théories tendrait alors vers zéro de la même manière pour tout le monde à mesure que N augmente. C'est d'ailleurs ce que le principe d'indifférence de Pascal suggererait si on a aucun critère pour différencier les différentes Tn.
Autre question naïve est sur la présupposition que Tn et T(n+1) par exemple sont indépendantes. Est nécessairement le cas ? On pourrait imaginer la jieme théorie à i caractères T_i^j qui a une certaine crédence finie x. Ajouter un seul caractère à cette théorie ne rend problement pas la crédence très différente. Il doit y avoir une condition d'irréductibilité qui entre en jeu. Genre Tn ne peut pas contenir de séquences appartenant à T2 par exemple non ?
Les échecs, résolus ??
Oui, j'ai tiqué aussi ! Je pense qu'il voulait dire que l'algorithme résout les échecs... si on lui laisse quelques siècles pour s'exécuter jusqu'à la fin. Donc résolu en puissance, mais pas résolu en pratique.
@@sobriquet ha oui c'est une manière de voir mais bon j'imagine qu'avec cette définition énormément de jeux sont concernés.
"la diférence est négligeable, peut-ètre de l'ordre du kilooctet, du coup, c'est quasimant indépendant du langage utilisé"
Donc c'est quasiment indépendant, à un facteur 2^8000 près ?
Mème si 8000, c'est peut comparé à la longueur des choses décrit, c'est pertinent d'accordé de l'importance à un principe donnant des approximations à un facteur au moins 2^8000 près?
(surtout que se 8000 n'est pas grand chose comparé au déférence de concision entre la conscription la plus concise possible, et celle que l'on vat en faire)
On parle de la taille du code, pas de tout ce qu'il est possible de coder dans cet espace.
@@theslay66 Il a dit "exponentielle décroissant en fonction de la longueur du code".
(et la logique derrière se exponentielle décroissant correspond vaguement à "tout ce qu'il est possible de coder")
@@paulamblard3836 Ce qui est exponentiellement croissant en fonction de la longueur du code, c'est le nombre de théories qui peuvent être écrites en n caractères -ce qui justifie, étant donné que la somme des probabilités de toutes les théories doit être égal à un, que les théories les plus longues soient les moins probables.
Le problème du langage dans lequel est écrit la théorie est un problème séparé, puisque le langage utilisé n'a pas d'influence sur la probabilité de validité de la théorie.
On pourra d'ailleurs remarquer que dans toutes les théories qu'on peut écrire en n caractères, on y trouvera également toutes les théories écrites dans un langage différent accompagné de leurs instructions pour la traduire. Du coup on retrouve dans cet ensemble notre théorie écrite dans tous les langages possibles.
Si cela ne suffit pas à te convaincre, alors considère ceci :
Nous partons du principe que la longueur n de nos théories sera toujours beaucoup plus grande que le code nécessaire à sa traduction.
Assumons par exemple que notre code de traduction fasse 1ko, et notre théorie 1Mo.
Sans traduction, nous aurons un nombre de théories possibles égal à 2^(1024*8192) soit 2^(8 388 608).
En rajoutant la longueur nécessaire à la traduction, on obtient 2^(1025*8192) soit 2^(8 396 800).
Vu la taille des nombres qu'on obtient, oui, je crois qu'une "petite" différence de 2^8192 est effectivement négligeable.
@@theslay66 "Le problème du langage dans lequel est écrit la théorie est un problème séparé, puisque le langage utilisé n'a pas d'influence sur la probabilité de validité de la théorie" Mais il a une influence sur l'estimation que l'on fait de la probabilité de validité de cette théorie.
"Vu la taille des nombres qu'on obtient, oui, je crois qu'une "petite" différence de 2^8192 est effectivement négligeable."
pour avoir cette interprétation, il faut regarder " (log(2^(8 396 800)) - log(2^(8 388 608)))/log( 2^(8 388 608)) = 1/1024"
est-ce la bonne chose à regarder ?
@@paulamblard3836 Oui c'est ça, ton calcul revient exactement à dire que 1ko représente 1/1024 Mo. Si la longueur du code nécessaire à la traduction ne représente même pas un millième de la longueur totale, on comprend bien que son influence sur l'évaluation de la probabilité est assez négligeable.
C'est juste relatif. Certes 2^8192 dans l'absolu c'est un grand nombre, mais par rapport aux nombres qu'on manipule c'est pas grand chose. On est pas à quelques mètres près quand on compare la longueur des différents trajets en voiture entre deux ville, par exemple.
Je suis développeur et je voudrais rectifier une erreur : les langages de programmation sont presque tous ambiguë et leurs compilateurs/interpréteurs aussi... Les seuls langages strictement non ambiguë sont le binaire et les langages basés sur un compilateur prouvé formellement. Donc à moins de faire du C compilé avec CompCert, ce qui est extrêmement rare, 99.9999999% des développeurs écrivent dans des langages de programmation ambiguës (et j'en fait parti).
c'est pour ca qu'il y a akaike ou la dimension de vapnik
Un compilateur C++ d'un kilo octets ? ^^
sans optimisation, sans verification, et sans géré les choses plus complexe que les machines de turing, tel que les affichages, ...
(je sais que l'affichage passe par une machine de turing, mais est complexe)
(malgré ça, ça me parait aussi très court)
Pout moi autant 700Ko que 100Ko que 50Ko C'est quelque kilo octets, il donne un ordre d'idee.
@@chichikb Non. Un ordre d'idée, c'est un ordre de grandeur. Je ne m'y connais pas concernant le poids d'un compilateur C ou C++, mais les ordres de grandeur ont l'air différents. 10^0 ce n'est pas 10^2 ! Ce _n'est pas_ une différence négligeable, par définiton.
Quelle crédence attribuer aux multivers ? Ça dépend du nombre de CUISINES dans les multivers. Merci de parler français.
Je ne pense pas que le marteau piqueur soit la solution la plus crédible pour tuer une mouche :)
Pareillement hahaha
C'est bien l'avis de la mouche!
Je suis surpris que tu connaisses le langage Rust, il semblerait que le langage gagne enfin en popularité
super vidéo! On prononce "suxinte" btw pas "suxinkte"
Je ne sais pas très bien ce que j'ai compris mais je suis certain que c'est moins complexe que ce que je comprendrai si je ne comprenais pas qu'il n'y a rien à comprendre :=) C'est du CALCUL !
le problème de tes vidéos, c'est que ce n'est plus de la vulgarisation ^^
c'est de la vulgarisation destiné à un niveau ~bac+2
(et ça l'à toujours été, cette vidéo est loins d'ètre la pire)
Cette vidéo est plutôt plus claire que d’autres, mais je trouve qu’il y a beaucoup de microdigressions et qu’il devrait faire un meilleur effort pédagogique dans le rythme (aller plus en détail sur les points les plus complexes ou nouveaux)... je lutte encore avec son style, très séduisant mais riche en distractions et en survols trop rapides
@@sebastienh1100 je trouve qu'on comprends pas grand chose et que ça traite tres mal le sujet ;)
Ce sont des maths : normal qu'il y ait un problème... 😎
@@yannduchnock - 1- ce ne sont pas du tout des maths et 2- il y a bcp de gens qui aiment et comprennent les maths
Ref!👍
19:01 : heureusement qu'il y a toute cette rigueur logique, sinon ça pourrait faire penser à une secte ;)
Le multivers c est une solution trop simple comme "dieu" .
Cela suppose une infinité d'hypothèses supplémentaires.
Malheureusement cela veux aussi dire que même ce que l’on prend pour vrai avec une certitude quasi absolue et expliquable tres simplement,
Aura une probabilité d’une partie infiiiiiime de l’ensemble des possibilités, quand bien même les autres serait encore plus infimes.
En gros, cela permet dedeontrer l’absurdité de theories tirées par les cheveux en comparaison à des plus probables, mais sous estimé quand même trèsssss largement la probabilité les choses vraies. (Même si on ne peux être sûr à 100% de rien bla bla bla...)
Même une explication de 1 caractère (impossible) n’aura même pas 0.0001% de crédence, si l’ensemble des possibilité vaut 1 et additionne les probabilités des explications de longueur. 1 a 99999999 caractères.
Enfin, si j’ai globalement compris le principe..
Il est complexe de simplifier pour paraphraser Pascal Dray
en conclusion, le rasoir d'Ockham est démontré, c'est ça ?
Oui. Une certaine approche en tout cas. la théorie la plus courte qui parie est la meilleure.
Les langages de programmation, parlés par des humains... étant du métier, j'en doute un peu. J'ai plutôt le sentiment qu'ils sont écrits par des machines assistées par des humains.
La dépendance EN ? On croit rêver... La dépendance à, ou par rapport à qqch.
10:31 ...
Arrête de nous hyper comme ça stp 😭
il y a de l'overfiting et de l'underfiting dans tt ca
17:45 pourquoi est-ce nécessairement les théories avec le plus grand nombre de caractère qui devrait tendre plus vite vers 0 ? Si on réordonne la série on peut très bien avoir des résultats différents. par exemple on pourrait dire que les théories P1....P100 sont très peu probables, P101 = 0.5, et ensuite combler la somme pour P102...Pinf. Ce raisonnement manque bcp d'hypothèses, est-il possible d'avoir Pi = 0 aussi ??
Pourriez vous répondre à la question de Thomas. On pourrait aussi avoir une série qui tend vers 0 pour les premiers et les derniers éléments, une sorte de gaussienne. Après tout, à priori rien ne dit qu'une théorie à 1 caractère puisse être crédible , bien au contraire.
Bjr, je souhaite vous informer sur une opération national dès Décembre 2020, pour effectuer un 1er contact l3c@laposte.net, je compte sur vous Merci.
"Cette ambiguïté du langage a mis des millénaires à être reconnue", je ne suis pas d'accord. Aristote passait déjà plein de temps à distinguer les différents sens des mots et à parler d'analogie dans le langage.
Quid de la théorie Janus ?
th-cam.com/video/MwKT9XqbCI8/w-d-xo.html
négligeable : elle a tellement de concurrents plus solides les uns que les autres (non pas qu'elle soit fragile) :
th-cam.com/video/XO4q9oVrWWw/w-d-xo.html
Du coup ca a du sens le blackswan?
Il y a la probabilité d'une théorie "longue" qui est très faible.
Mais quel est la probabilité qu'une théorie rare soit vrai? Ce n'est pas vraiment la même question non ?
ben du coup (si j'ai bien compris) :
proba à priori qu'une théorie complexe soit vraie
= crédence de cette théorie (calculée à partir de sa longueur)
/ somme des crédences de toutes les théories
La juissance provoquée par cette vidéo n'était pas succinkte 😁
J'essaie de générer une explication intuitive cette vidéo et je réalise que... Attends mais... L' explication ne marche que lorsqu'il y a une infinité de théories possibles !
Imaginons un champs d'étude où il n'y a que deux théories possibles : une simple et une complexe... Alors dans ce cas ton explication ne s'applique pas.
Un exemple concret pour me faire comprendre : concernant les vaccins il n'y a que deux théories possibles : soit ils causent l'autisme, soit ils ne causent pas l'autisme. Ou alors ils causent l'autisme seulement chez certains enfants prédisposés, cette dernière théorie étant une sorte de description plus précise et plus complexe (intuitivement) de la première.
Dans un tel cas où le nombre de théories possibles est fini (deux - soit ils causent l'autisme soit ils ne le causent pas), aurait-on raison de croire a priori la plus complexe comme la moins crédible ?
Ou alors y a t'il une erreur dans ma question ?
Pas faux : le fait de considérer les théories complexes n'implique pas qu'on considère toutes les théories plus simples. (ou alors c'est obligatoire dans l'énoncé ?).
Si on a le choix de la liste de théories qu'on met en concurrence, alors c'est un peu facile, effectivement (réchauffement climatique : Dieu ou les Aliens ?) ... mouais, à mon avis, on choisit pas les théories qu'on met en jeu.
@Sebastien Louard Je suis d'accord avec cette observation, ça ne marche que pour une infinité de théories !
Cela dit, il me semble que l'exemple n'est pas correct : on ne considère pas les théories qui, d'un certain point de vue, sont vraies, mais toutes les théories qui peuvent être formulées dans le domaine considéré. Celles qui sont fausses ont juste une probabilité de 0.
De plus, le nombre de théories pour décrire un phénomène croit exponentiellement avec le nombre de variables de ce phénomène. Donc un phénomène qui n'a que deux théories candidates n'a qu'une variable, booléenne, et les deux théories sont "la variable vaut Vrai" et "la variable vaut Faux". Je doute que l'on puisse dire que l'une des théorie est plus complexe que l'autre.
@@sobriquet Oui dans mon exemple elles ont certainement le même degré de complexité vu que la plus complexe peut se coder comme l'inverse de l'autre... et donc globalement avoir le même degré de complexité.
Existe-il des exemples avec un nombre de théories possibles fini, dont certaines plus complexes ?
Par contre concernant le vrai et le faux, bien que dans la réalité effectivement une des deux théories de mon exemple correspond à la réalité et l'autre pas, du point de vue bayésien toutes les théories doivent avoir une probabilité de départ différente de zéro. On ne peut pas considérer une théorie comme a priori 100% fausse. Sinon on ne peut pas raisonner.
@@ludovicduvillage6760 Oui, bien vu ! Quand je réfléchis à la nature des théories, je m'inspire toujours de la logique booléenne. A partir de 3 variables a, b et c, par exemple, on peut construire la théorie A "la théorie est vérifiée quelles que soient les valeurs de a, b et c", et la théorie B "la théorie est vérifiée quand a est différent de b ou quand b est égal à c". Il est assez naturel de considérer que la théorie A est plus simple que la théorie B.
Cela dit, comme Lê l'a expliqué, on peut faire preuve de prudence dans cette considération en prenant en compte le langage dans lequel on exprime ces théories, en particulier dans des théories jouets comme celles-ci. Il doit être possible de trouver un langage dans lequel A est plus complexe de B. Par exemple, ici, si ce langage n'est constitué que des opérations d'égalité, de différence et de disjonction.
Ce Solomonoff a beaucoup trop de QI je reconnais
C’est du chinois
Toutes les théories ? Non, un petit clan de théories dont la description est infinie résiste encore et toujours à l'appel de Solomonov...
Moi, je préfère Kolmogorov à Solomonoff. Pourquoi vouloir déboulonner sa statue?
Passons sur les faits qu'un compilateur C/C++ dont le code fasse un Kio, même une fois compressé, me semble peu probable et que cette bouse de JS ne mérite pas, de mon point de vue, de porter le nom de langage de programmation.
Il existe bien des compilateurs permettant de passer d'un langage à un autre sauf que, tous ceux que je connais, ont tendance à produire du code de merde. À savoir un code qui est beaucoup plus lourd et beaucoup plus lent que l'algorithme équivalent directement écrit dans le langage cible.
Autre point, la complexité d'un algorithme ne peut être décrite uniquement par la complexité du code source et la quantité de mémoire utilisé. Par exemple, l'algorithme du tri à bulles est extrêmement simple à écrire, ne nécessite quasiment aucune mémoire pour être utilisée (en plus de la mémoire utilisée par les données à traiter) mais à une complexité en temps de Θ(n²) (dixit Wikipédia), alors que d'autres algorithmes, à peine plus long, nécessitent une mémoire de Θ(log(n)) mais un temps de seulement Θ(n × log(n))
Vu que l'implémentation d'une fonctionnalité nécessite en général de faire des compromis entre ces trois catégories (longueur du code source, temps d'exécution et mémoire utilisé) il faut regarder les trois pour donner une complexité globale. Autrement on pourrait comparer ça à mesurer la luminosité d'un objet en ne regardant que certaines longueurs d'ondes.
Si seulement les femmes étaient aussi simple que le razoir ockham.
Si les hommes étaient moins présomptueux que le principe de parcimonie
@@quickwear hahahahahaha
Vous me tous rire ! Comment expliquer l´amour d'un homme qui n´a rien fait de mal a sa femme!!!
Ni trompé ni battu. Porté tout l´amour qu'il ce doit pendant 23 ans.
Et quelle parte quand même !
Faut m'expliquer pourquoi je comprends mieux mon monde qui m'entoure. Que ma propre femme qui est partie avec mes enfants !
@sara esshaimi . Ta peu être jamais été aimer comme j´ai aimé la mère de mes enfants.
Que ses tu de l´amour.
@@LaitheAboudouIbouroi mdr .
Ta dernière relation a peut-être juste quelques jours !!!
Menteur
g pa compri
t'as l'air d'avoir du mal avec le mot succincte ;) Le second C est muet :p
Référencement
Le troisième C :)
@@sebastienh1100 ah bah super je sais plus compter :D
@@Pradowpradow - le français est quand même une langue incroyable - premier C prononcé K, le deuxième S, et le troisième est muet !