Parce que tu as cru que je disais que les transistors ressentent quelque chose ? Bah non. De même, les neurones non plus ne ressentent rien. Et alors ? On doit en conclure que c'est pas avec un cerveau qu'on ressentira quelque chose ? Bah non. Donc que les transistors ne ressentent rien n'est pas non plus un argument pour conclure qu'un système d'IA ne pourra jamais rien ressentir. Ça relève d'un autre niveau de description.
@DefendIntelligence Cela peut te sembler "évident", mais il serait intéressant pour nous de savoir où exactement tu considères qu'il n'y a pas de débat. Oublions un instant la question de la conscience. Es-tu déjà d'accord avec l'idée qu'un organisme vivant (nous inclus) n'est qu'une certaine forme d'organisation de matière standard, mue par les lois physiques usuelles ? Si ce n'est pas le cas, il serait intéressant de développer ce que tu penses y voir d'autre. Dans un second temps, si nous revenons à la conscience, es-tu d'accord pour dire qu'un neurone (ou encore pire, chacune des molécules qui le composent) n'est pas conscient, mais qu'un cerveau constitué de neurones peut, en revanche, abriter la conscience ? (Cela nous ramène donc au fait qu'on ne peut pas inférer la caractéristique consciente du tout à partir de celle des éléments.) Si nous réalisions un équivalent de réseau neural avec des "transistors", tu dis que cela ne pourrait pas être conscient, admettons, mais cela pose alors une question : d'un côté, tu as un réseau de composants non conscients (les neurones), dont l'ensemble peut être conscient (le cerveau), et de l'autre, dans ta conception, un réseau similaire (on le construit pour être similaire structurellement et fonctionnellement mais fait de transistors) pour lequel l'ensemble ne serait pas conscient. Cela signifierait donc, selon toi, qu'il existe certains types de matière (comme celle des neurones) éligibles à la construction d'un tout conscient, et d'autres types de matière (comme celle des transistors) qui ne le seraient pas. Comment distingues-tu ces deux types de matière ? A priori tu dois avoir un manière de les distinguer qui est simple puisque c'est trivial qu'il y a une différence de nature.
Merci pour ton travail de vulgarisation sur les LLMs. Ça fait vraiment plaisir de savoir que des philosophes s'approprient des thématiques en lien avec les développements technologiques. Je suis vraiment content de pouvoir participer au financement de cette chaîne de qualité supérieure.
Au lycée et dans les media on nous a fait croire que la philo c'était du blabla de merde. Grace a mr phi j'ai compris que ce n'était pas le cas. On est juste entouré de nazes dans l'espace médiatique et educationnel
On a vraiment de la chance d'avoir des gens qui s'intéressent au fond des articles scientifiques et qui prennent le temps et l'énergie de partager leur contenu de manière aussi digeste !! Merci ! J'aimerais ajouter quelques réflexions : - Poser la question de la conscience de manière fermée est un peu réducteur, non ? 0 ou 1. Si le réseau de neurones du cerveau produit les fonctions qu'on appelle conscience, alors la taille du réseau est un sujet très important. Le cerveau plus petit d'un mammifère proche de l'être humain (en terme d'organes et de fonction, a priori) comme le cochon par exemple, semble bien être conscient, en tout cas il semble expérimenter pas mal de qualia en commun avec nous. Et si on réduit encore la taille du réseau, si on prend une gerbille. Avons nous toujours devant nous une conscience ? La réponse la plus raisonnable ne sera-t-elle pas "oui, mais une conscience très différente" ? Si on réduit encore la taille du réseau, une fourmis a-t-elle une conscience ? Un acarien ? Si on modifie drastiquement la structure du réseau, une méduse a-t-elle une conscience ? Et une fois qu'on a fait toutes sortes d'arrondis, de concessions sur ce que l'on veut appeler conscience, est-ce si fou d'imaginer un ordinateur conscient ? Finalement on pourrait se laisser aller à dire que les LLM sont conscients, mais d'une conscience très exotique pour nous. À quel point la limite entre la conscience et le zombie a-t-elle du sens, si la conscience n'est que la traduction des qualia, eux-mêmes des conséquences du réseau de traitement des données environnantes ? - Les qualia ne sont-ils pas en quelque sorte la partie émergée de l'iceberg ? Etudier la conscience du cerveau en contradiction à l'inconscience de ce même cerveau ce n'est pas plutôt étudier l'attention ? Les qualia sont les manifestations, ce sur quoi on peut mettre des mots, mais sont la résultante du traitement de l'information par le réseau. La conscience est là derrière, "l'esprit" diront certains, mais n'arrive à sortir de la boite noire que sous des formes simplifiées, compréhensibles, élémentaires, adaptées à la machine biologique qui doit agir rapidement. Etudier les qualia serait comme un biais du survivant avec une lunette floue : on ne voit que ce qui sort de la boite noire, et qu'une version simplifiée. Comme se demander ce qu'est le basket en observant uniquement le panier et en attendant qu'un ballon le traverse. - Si la conscience se manifeste dans des petits cerveaux d'un litre ou deux comme ceux des humains, c'est que la complexité et la taille du réseau y est suffisante. On part de là, et on essaye de copier la structure. Mais est-ce le plus pertinent ? La plasticité cérébrale nous indique que de grandes variations de structures peuvent permettre à la conscience de survivre. J'en viens à une question qui me donne le vertige : comment être sûr que la taille et la complexité du réseau ne sont pas des conditions suffisantes pour qu'il y ai de la conscience, indépendamment de la structure ? En admettant évidemment que certaines structures soient plus adaptées que d'autres en fonction des conditions environnementales etc. Je ne suis pas en train de dire "déconnectons tous les neurones d'un humain, recâblons ça au hasard et voyons ce qu'il se passe", je me doute qu'il ne marcherait plus très droit ! J'ai l'intuition qu'on sous-estime beaucoup la taille du réseau, et qu'indirectement des idées de structures basiques pourraient donc être viables, avec de grandes quantités de neurones ...
Un insecte sait faire la différence entre l'agent qu'il est et son environnement. Mais là aussi, quelques lignes de code peuvent instruire un robot d'externaliser une telle distinction par son comportement. Où veut-on tracer les frontières, les lignes de distinction en termes de comportement et/ou de structure interne? Est-ce même possible de façon claire et utile? Une autre approche passe par la langue: grace aux LLM de toutes nouvelles possibilités pour directement communiquer avec d'autres êtres conscients (mamifères, oiseaux, etc.), explorer leur modes d'attention, directement "demander" à quoi ressemble leur monde intérieur.
J'allais écrire un commentaire similaire, une difficulté récurrente avec les définitions en biologie c'est qu'on est régulièrement face à des continuum qu'on range dans des cases plus ou moins arbitraire. Il existe des superorganisme comme les galères portugaise constitué de milliers d'individus distinct mais qui ne peuvent survivre seul et rattachés par un genre de cordon ombilical à un même organisme global. Est-ce que cet organisme global pourrait avoir une forme de conscience simplifiée indépendante ? Est-ce que chaque individu le constituant pourrait avoir une conscience simplifiée indépendante ? Ça fait un peu penser à une version simplifiée du colosse De fait je suis complètement d'accord qu'il existe un continuum de conscience et de perception entre l'algue et l'homme, rendant le sujet complexe ! Par ailleurs je pense qu'arrivé aux insectes on parlerait plutôt de sentience : une perception subjective et interprétations de signaux mais sans forcément avoir une conscience du "sois" Est-ce que les IA ne serait pas plutôt proches des plantes pour l'instant en terme de sentience, à la différence qu'elles ne perçoivent pas en continue et apprennent beaucoup plus ?
@@Palmier_nain Juste intuitivement, dans ces trois perspectives d'analyse - biologie, informatique, épistémologie - c'est comme si on faisait face à des difficultés du style 'computational irreducibility' et 'halting problem'. Plus loin: "le paradoxe" dans le constat et en théorie, avec sa nature créative sans limite connue... Et l'observateur humain, dont on peut supposer, qu'il ne perçoit, distingue, classifie, ressent, pense, reconnait que (et au maximum) les entités qu'il "contient déjà" - dans son corps et esprit; sa perspective donnée.
How it started : On a aucune théorie définitive et consensuelle sur la conscience des humains How it's going : On a aucune théorie définitive et consensuelle sur la conscience des humains et des LLMs
@@sarg_eras Si j'étais une IA,je n'aura pas senti la pointe d'ironie 😊.J'ai tjrs eu une "âme" d'artiste!J'attends le débat avec Van Houten avec impatience,moi qui suis son contraire et qui n'ait rien à vendre...
Finir sur l'annonce du débat avec Enthoven m'a vraiment fait l'effet du stimulus qui vient écraser tous les autres et se faire diffuser dans tout le cerveau. Je n'ai plus que ça en tête, j'ai hâte !!
Génial comme d'habitude !! 44:40 l'expérience avec le Golden Gate est vraiment folle 😮 on dirait vraiment un humain qui se fait retourner le cerveau ! Perso je ne pense pas que les chatbots d'aujourd'hui soient conscients, mais cette expérience me fait questionner son côté éthique. C'est vraiment bluffant !
Mais sommes nous sûrs que les humains sont conscients ? Un LLM ne serait pas conscient car il accumule des données puis "joue" les réponses attendues ? Mais que dire d'un enfant alors, qui fait exactement pareil...
@@rosalielauziere5275 Je n'ai jamais dit que je l'étais. Jusqu'à preuve du contraire je suis un amas de cellules qui évoluent selon des règles déterministes (comme l'ensemble de l'univers) je ne vois pas en quoi je suis réellement + conscient qu'une table ou une chaise ou que vous.
Merci pour cette vidéo très intéressante. Une remarque comme ça, vite fait (note : je suis informaticien, même si pas particulièrement de ce domaine) : les problèmes liés aux « petits réseaux » peuvent effectivement montrer que les conditions de conscience sont incomplets, ou trop simplistes. Mais on peut aussi − attention, c'est un exercice logique, hein − considérer que notre perception de la conscience est biaisée : peut-être que des structures bien plus simples peuvent être consciente, MAIS peu intelligentes. On a tellement l'habitude que la conscience et l'intelligence marchent ensemble (c'est le lot de *presque* tous les humains) qu'on a du mal à penser l'un sans l'autre. Pourtant les IA actuelles nous montrent qu'on peut avoir des formes très nettes d'intelligences sans forcément de conscience. Ne pourrait-on pas admettre qu'il peut y avoir des consciences qui sont peu intelligentes ? En gros, est-ce que l'humain ne combine pas deux choses finalement distinctes : des « modules » très nombreux et très pointus, qui en plus étendent leurs performances en étant reliés entre eux, et par ailleurs un système « conscient » pas forcément ultra-complexe mais qui jongle avec tellement de modules de pointe qu'on arrive au « meilleur des deux mondes » (émergence, combinatoire exponentielle, etc.), en ajoutant une couche d'attention / choix qui permet (en re-diffusant un traitement de haut niveau dans les modules spécialisés) l'explosion des possibles. Bref, c'est juste une divagation d'un informaticien qui a déjà vu des choses inattendues sortir de programmes qu'on a créé pour être « simples » mais qui savent créer de la complexité. Edit : une petite remarque aussi pour distinguer ce que sont ces programmes et les exemples « réels » de conscience (humain et d'autres animaux) : nous fonctionnons en permanence, stimulés en permanence, et notre « réseau » se modifie en permanence. Les IA sont (actuellement) uniquement actives quand elles doivent compléter une demande, figées dans leur apprentissage (donc pas de mémoire, pas d'apprentissage lié à l'interaction avec les autres, etc.), et elles ne reçoivent que des stimuli très ciblés (texte) et très ordonnés. Avec presque le même cerveau (structurel) un bébé humain ne sait rien faire, et on peut même douter qu'il soit vraiment conscient. La conscience est sans doute structurellement prévue dans nos cerveaux, mais sans les interactions, la société, les parents, etc. est-ce qu'elle apparaît ? Qui peut dire ce que deviendraient les IA actuelles (ou futures) si on les mettaient en « interaction continue » (avec rétroaction) avec le monde ?
Je me faisais à peu près la même réflexion…! Prenons ainsi quelques cas d'animaux à la cognition plus simple que la nôtre. Il me semble évident, par exemple, qu'un cheval est conscient, même si son intelligence est très sensiblement inférieure à celle d'un humain. J'aurais même tendance à être assez fortement convaincu qu'une mouche est consciente, alors que son réseau neuronal est (pour autant que je sache) passablement rudimentaire… Je pense donc que l'argument « le fait que tel ensemble de conditions pour la conscience puisse être implémenté par quelque chose de très simple démontre _manifestement_ qu'il ne peut pas s'agir d'un ensemble de conditions suffisantes » (j'insiste sur le mot « manifestement », qui est celui que je critique le plus fortement) est un mauvais argument, ou à tout le moins un argument très faible… Cet argument semble en effet présupposer, comme vous l'avez bien dit, que la conscience aille nécessairement de pair avec un haut niveau d'intelligence : ce qui me semble à tout le moins douteux, confer mon intuition sur l'idée que les mouches sont conscientes. (Il serait intéressant, du reste, de voit si cette intuition est largement partagée ou non : le “sens commun” suggère-t-il que les mouches sont conscientes, ou suis-je un des seuls à avoir tendance à le croire spontanément…?). Cordialement,
Je trouve que le point abordé dans l'edit de ce commentaire est fondamental. Je n'arrive pas, malgré toutes les vidéos de M Phi et d'autres, toutes les explications (je ne dis pas du tout être expert du sujet), ce qui permet de distinguer le fonctionnement des réseaux de neurones des fonctionnements de cerveaux, à part le niveau de complexité de relations (entre les neurones) et le fonctionnement permanent ou non. Donc oui, ce serait chouette d'avoir des éléments vulgarisés sur ce qui a été fait ou est fait scientifiquement/technologiquement sur ce sujet : des IA qui tournent dans des conditions similaires à celles d'un cerveau humain.
@@DamienVasseFlo je pense (avis d'informaticien) que le problème de base est l'intérêt : ça coûte très cher de faire tourner ces modèles. La recherche fondamentale n'a pas les moyens, et la recherche appliquée vend du temps de calcul pour générer des images, des vidéos, des traductions automatiques, de la génération de code ou - désolé M. Phi - des dissertations pré-machées. Bref du rentable à défaut d'être utile.
@@soldyesis7699 Je ne saurais me prononcer sur la mouche. Mais je suis certain que − par exemple − les chats et les chiens sont conscients. J'ai eu − ayant vécu au milieu des deux − des expériences où suite à une maladresse on se moquait d'eux et où *clairement* ils étaient honteux/gênés. Donc qu'ils avaient *conscience* de leurs actes, de notre réaction et du fait qu'elle se référait à leur acte. Et pourtant tout le monde est d'accord pour dire qu'un chat ou un chien est largement moins intelligent que nous (ou en tout cas de la majorité de l'humanité, il y a quand même des exceptions). Dissocier intelligence et conscience me semble un axe logique pour aborder cette question complexe. Je pense que chez l'humain l'amélioration de l'intelligence, combinée avec la conscience, a mené à l'émergence de quelque chose d'exponentiel. Mais je pense aussi que si le tout est supérieur à la somme de ses parties ça ne signifie pas que ses parties n'ont pas d'existence propres, voire indépendantes.
Je pense qu'il y a probablement un lien entre conscience et l'intelligence. A l'âge de 3 ans par example on est conscient d'exister mais cette conscience est limitée. Il y a beaucoup de choses qui nous échappe. Par example, on est a du mal a se projeter dans le futur ou dans le passé (ou du moins c'est très limité), et notre vision du monde est très réduite. Ne serait pas justement parce que notre intelligence est limitée a ce moment là aussi ? Est ce deux choses qui évoluent au cours de la vie séparément ou bien est-ce lié ? Ce qui semble clair c'est que l'un n'implique pas l'autre. Par example on peu avoir des systèmes intelligents (qui peuvent de loin surpasser un être humain) mais totalement dépourvus de conscience. Par example un jeu d'échec avec une IA classique. Ce n'est pas forcément vrai dans l'autre sens, la conscience semble nécessiter un minimum d'intelligence, car peut on être pleinement conscient de quelque chose qu'on ignore ou qui nous dépasse totalement (ex: car trop compliqué ou trop subtil) ? Ne dit ton pas de quelqu'un qui ignore un danger qu'il est inconscient ?
Une vidéo d'une qualité tout simplement époustouflante ! À ce niveau, ce n'est plus seulement de la vulgarisation, c'est presque de la recherche de pointe à part entière ! Chapeau !
45:15 L'expérience du Golden Gate Bridge me fait un peu penser au "syndrome Tetris". Cet effet qui apparaît lorqu'on a trop joué à un jeu vidéo et qui fait qu'on n'arrive plus à penser à autre chose. C'est assez troublant car ce texte reflète un peu mon flux de pensées quand j'essaie de m'endormir en tentant de penser à autre chose mais que les mécanismes du jeu auquel j'ai joué toute la journée ne cessent de polluer mes songes.
la même chose m'arrive régulièrement avec de nouveaux jeux ou activités. Mais étonnamment, je trouve que l'effet en est encore plus renforcé quand justement je suis a demi-concient: le soir juste avant de m'endormir, ou le matin juste après le réveille. Dans cette situation, il n'est pas rare que ces idées parasites polluent de manière quasi irrépressible (et souvent incohérente) le reste de mon flux de pensé; alors qu'une fois totalement conscient l'effet en est grandement diminué si ce n'est complètement. Donc la conscience est justement capable d'identifier et d'annihiler ces idées inapproprié au contexte.
C'est la même chose quand vous passez du temps à écrire une histoire, que vous tenez un bout pas encore rédigé, et que vous y pensez, pensez, pensez jusqu'à la résolution/rédaction.
@@kasonnara ça fait beaucoup penser aux états altérés de la conscience. (même si c'est possible aussi pour mécanismes non conscients). On peut penser a des états sous drogue ou anesthésie par exemple. Ou des chocs psychologique ou comme tu dis un état pas tout a fait éveillé. Et même peut être un peu avec le rêve lucide. De mémoire ya eu des expériences avec une stimulation de neurones dans le cerveau qui avait des effets qui y font penser mais je suis plus très sûr de leur pertinence ou validité faudrait rechercher.
Merci du fond du coeur pour cette vidéo et à l'invité dont il faut que je lise l'article. C'est vertigineux, c'est passionnant. Merci pour ce que tu fais. Il ne me reste qu'à liker, commenter, et demander à mes amis de la regarder.
Merci Monsieur Phi pour cette vidéo qui ne déçoit pas, comme d"habitude ! Et tout mon soutien dans l'attente du débat avec Enthoven, son attitude indigne montre bien qu'il n'a pas grand chose d'intéressant à répondre quand les platitudes ne fonctionnent pas.
Chapeau bas pour le travail. C’était un délice, un régal de recherche et d’écriture dont nous sommes infiniment chanceux de pouvoir bénéficier. Incroyable. Merci.
Perso je ne vois pas de problème avec le fait d'attribuer un certain niveau de conscience à des petits réseaux simplistes. Apres tout, je ne pense pas que la conscience soit binaire, mais plutot un continuum, donc ce n'est pas étonnant que les plus faibles niveaux de conscience puissent correspondre à des procédés de faible complexité.
Ba je pense que le problème ici c'est justement le "difficile problème de la conscience " à savoir qu'on ne comprend ni vraiment comment ça marche, ni vraiment d'où ça vient ou comment ça fonctionne. Si on prend la base à savoir, experience subjectif interne, alors ton commentaire ne fait pas vraiment sens je trouve : ça veut dire quoi une "faible" ou "petite" experience subjectif interne ? Quelque chose comme celle d'un insectes de petite taille par exemple ? Ou d'un microbe ? Et paf, le serpent se mord la queu car on n'en sait rien si ils ont une conscience car on ne sait pas bien ce que c'est , la dite conscience.
Et si jamais je n'ai pas été claire, je me permets de sur encherir : peut être que justement la taille ou le niveau de complexité du système est un facteur clé dans l'apparition d'une eventuelle conscience.
@@alakokan1555 Une des prémise de l'argument des réseaux simples consiste à dire que les réseaux simples ne sont évidement pas conscients. Ce à quoi j'objecte en disant que ce serait pas si étonnant que les réseaux simples soient conscients. Et toi tu dis qu'on peut pas savoir si une chose est consciente ou pas. Donc tu es d'accord avec mon objection en fait : les réseaux simples sont peut être conscients.
@@warptens5652 pas tout à fait non. J'obecte que tant qu'on a pas clairement défini la conscience , ce qui la définit et donc ses limites, ça n'a pas de sens de conjecturer sur ce qui en a peut être ou pas. Car à ce titre, un grille pain à peut être aussi une conscience en vertu de certaine propriété théorique qu'on a pas encore pris en compte. Après si ta take a toi, c'est de dire que dans l'absolue, un grille pain peut aussi être conscient alors pourquoi pas.
Je tenais à souligner le fait que cette vidéo est juste passionnante, soit dit en passant, comme toutes celles de cette magnifique chaine TH-cam, merci🤌
Merci @MonsieurPhi, excellente video, merci bien que le fond soit un peu frustrant, presque socratique (on sait qu'on ne sait pas grand chose (aujourd'hui) à propos de la conscience, donc problématique de juger de l'experience consciente d'un systeme tiers !) mais très clair sur la forme, un état de l'art sur la philosophie experimentale des sciences de la conscience ! Juste une grosse frustration : Et si la théorie de la conscience appropriée etait .. l'illusionisme, "il n'y a pas d'experience consciente" (que vous ne sembliez pas rejeter en bloc dans votre discussion avec F. Kammerer il y a 5 ans) : ne faudrait-il pas déja trancher de savoir si un LLM multimodal est capable de simuler de façon indiscernable une conscience du point de vue comportemental ? Mettons, aussi bien qu'un être humain avec des capacités équivalentes, comme par exemple un humain atteint de tetraplegie (pas d'experience du mouvement ou du toucher, mais uniquement de la vision et de l'ouïe). Et si oui, quels sont les indicateurs pertinents, est-ce que le test de Turing suffit ? ou faut il en inventer d'autres ? Auquel cas, si la prémisse initiale était "L'experience de la conscience est une illusion, la seule fonction de notre conscience est notre comportement résultant", les LLM indiscernables seraient .. déja conscients ?
Même s'il n'y avait qu'une vidéo tous les 6 mois je préfèrerais toujours un travail de recherche et de vulgarisation poussé comme celui-ci. Très bonne vidéo :)
Merci pour cette vidéo très intéressante. J'ai une idée de test pour déterminer si une IA est consciente ou non. Voici ce que j'envisage : nous entraînons des IA à partir d'un ensemble de données ne contenant aucune mention du concept de conscience. Ensuite, nous les faisons discuter de philosophie et observons si des concepts liés à la conscience, notamment la conscience phénoménale, émergent dans leurs échanges. J'ai du mal à croire qu'une IA puisse, sans avoir eu accès à ces notions dans ses données de base, développer des réflexions telles que "je pense donc je suis" ou d'autres idées sur la conscience, sans être consciente elle-même. Donc, si ces concepts apparaissent malgré tout, cela pourrait constituer une preuve (plus robuste que le test de Turing à mon sens) que les IA possèdent une forme de conscience. Qu'en pensez-vous ?
Merci pour cette vidéo sur les LLMs encore une fois super intéressante ! Une mesure de la conscience qui serait bien c'est le débit d'information de l'environnement transmise à une entité qui peut ensuite l'utiliser pour agir en conséquence. Un chatbot par exemple n'a qu'une interaction limitée au tour par tour qu'avec du texte et des images, très faible débit par rapport à un humain. Pareil pour l'exemple du colosse, faible débit.
Chaque vidéo est un régal pour le cerveau. Il y a tellement d'information à digérer : quel bonheur ! L'expérience avec le Golden Gate est fascinante. Logique et perturbante à la fois. Bravo et, surtout, MERCI. PS : Enthoven a encore perdu une occasion de se taire. Tu vas n'en faire qu'une bouchée. Même si je pense qu'il sera probablement assez adroit pour sauver les apparences vis à vis de ceux qui vénèrent la culture générale plutôt que la logique.
Ces questionnements ressemblent beaucoup aux questions posées sur la définition du vivant. Qu'est ce qui définit ce qui est vivant et ce qui ne l'est pas ? Où est cette frontière ? En ce sens, cette vidéo a de nombreuses similitudes avec la vidéo de David Louapre (Sciences Étonnantes) sur le concept de Lyfe. Concept théorique encore jeune qu'on peut rapprocher de la Global Workspace Theory. Hyper intéressant !
Vidéo passionante, merci infiniment de nous partager de la recherche si récente (et pas forcément accessible). Cette question de la conscience des IA me rend fou, précisément à cause de cet exemple hilarant de la recette du cake golden-gate-bridgée. Si pas de conscience, c'est juste très amusant, mais s'il y a conscience... cette experience relève un peu de la torture, non ? En tout cas, je rirais un peu jaune en lisant ce texte.
La complexité d'un réseau de neurone influant sur la possibilité d'une conscience ou non, la conscience d'un être humain doit être très différente de celle d'une fourmis. La question qui se pose maintenant c'est : existe-t-il une altérité de conscience suffisamment grande pour qu'il ne soit plus immorale de la faire souffrir ? Vertigineux !
🤯 Quelle sujet passionnant 😍 Sujet au croisement de la philosophie (un de mes sujets d'intérêt et de réflexion préféré, grâce à toi notamment) et de l'informatique (mon métier) Merci pour ton travail, passionnant également ❤
C'est sympa quand le sujet des science computationnelles sont abordées on voit du code et il y a une explication de celui-ci, même si c'est pas grand-chose c'est intéressant de voir ça
Enthoven est bourré de certitudes et d'avis péremptoires, il est l'inverse de ce que l'enseignement le plus rudimentaire de la philosophe impose d'honnetété et d'humilité. C'est un pantin sûr de lui et qui n'a pas "peur" d'affronter qui que ce soit puisqu'il est certain d'avoir raison et d'avoir le bagout pour entourlouper n'importe qui qui n'uarait pas un entraînement au débat de même niveau... Je ne suis donc pas surpris, cela me conforte dans l'idée que je me fais de ce personnage qui est à la philosophie ce que les chateaux de sable de mon petit neveu de 5 ans sont à l'architecure de Nôtre Dame...
La conclusion est éclairante, surtout à partir du moment où tu compares le discours du type qui dit que "ce ne sont que des circuits" avec nos neurones qui sont aussi de la matière. Vaste et passionnant sujet. Merci.
Très bonne vidéo comme d'habitude. Deux points qui me sont apparus ce matin 😂: 1) Pourquoi ne pourrait-on pas considérer le système immunitaire comme conscient ? 2) pourquoi partir de la conscience phénoménale pour définir ma conscience ? En gros, je question l'ethno-centrisme du sujet, alors qu'il devrait être possible d'établir des niveaux de conscience (les tournesols 🌻 qui suivent le soleil, ou d'autres plantes). Un fois que le scope de la conscience devient un continuum assez large on'pourra plus facilement y placer les différentes formes de vivant ou d'IA, non?
C'est très possible effectivement que la conscience soit un spectre continu plutôt qu'une propriété on/off. Ça fait partie de ce que les sciences de la conscience devraient clarifier (et si c'est un spectre continu il resterait important de savoir dans quelle mesure l'éventuelle conscience de tel ou tel système IA est plus proche du tournesol que de l'humain).
@@MonsieurPhi ... et dans ma méditation matinale je me disais aussi qu'une des propriétés de la conscience "naturel" c'est peut être qu'elle puisse être le fruit de l'évolution. Et en partant de la version cérébral comme base on prend peut être le problème par son bout le plus compliqué ... Quelles éléments de base seraient nécessaires a permettre l'émergence de consciences "simple" et comment celle-ci elle évoluer en conscience phénoménale (ou dualiste?) dans le monde biologique que l'on "connait". C'est plein de questions intéressantes tout ça 😂🎉😅!
Tiens tiens on retrouve là Bergson...sans l'affreux jargon anglicistes des mécaniciens du cerveau et des tristes ingenieurs informatiques comme le sidérant Lemoine
Voir aussi le commentaire très intéressant de @yannickperret1586 qui parle du couplage conscience/intelligence qui pourrait aussi biaiser notre évaluation de la conscience.
Concernant ce future débat. Je me pose beaucoup de questions sur l'intérêt de la démarche. Je pense que le format est vraiment pas ouf et qu'il y a peu de chance que ça mène à quelque chose de constructif. Mais je suis super hype. Dans le meilleur des mondes utopiques, Enthoven se prend une humiliation légendaire et les média commencent à traiter le sujet des IA avec sérieux et en faisant appel a des gens compétents. Mais j'en doute très fortement, même du fait que Enthoven perde le débat de façon clair. J'imagine qu'il ai habitué des plateaux télé et saura noyer le poisson bien comme il faut pour que le débat ne mène null part. Cela dit, ça me semble tellement rare de voir ce genre de personnage public fortement critiqué d'accepter de débattre pour de vrais que je me dis que ce serait vraiment dommage de rater l'occasion de les mettre face à la critique.
Vidéo très intéressante. Je suis chercheur en Machine Learning et je trouve certaines idées très inspirantes. Mieux comprendre la conscience permet aussi de mieux comprendre ce qui fait défaut aux modèles actuels. Et peut être, certains seront peut être pas fan de l'idée, permettre d'améliorer les modèles actuels. Tu l'avais bien expliqué dans une autres vidéo, mais les réseaux de neurones que des supers approximateurs de fonctions. Le travail des chercheurs dans le domaine s'est juste de poser le canevas qui permettra au modèle de retenir des choses les plus utiles/généralistes possibles.
Passionnant comme d’habitude ! Cela dit, n’est-il pas un peu biaisé de considérer comme évident le fait que de petits programmes n’aient pas d’expérience consciente ? Et cela d’autant plus que notre unique exemple naturel de conscience 100% certifiée est notre cerveau (je ne parle pas d’Enthoven 😝). Peut-être faisons nous partie d’une minorité de consciences capables de parler d’elles-mêmes et qui seraient ainsi biaisées et dans l’ignorance de toutes les autres (dont nos programmes inconscients et peut-être même nos grilles-pains feraient partie, ou juste les split brains sans paroles). En effet comme le dit le chercheur il faut toujours demander à quelqu’un si il ou elle est conscient ! Aussi, pourra-t-on jamais être vraiment certain qu’une IA possède une conscience, aussi théoriquement satisfaisantes soient ses particularités ? Il faudra peut-être plutôt parler de degrés de confiance que tel système possède une expérience consciente plutôt que de présence ou non de conscience.
C'est possible effectivement (c'est un peu l'idée du panpsychisme), mais même dans ce cas on sera d'accord pour distinguer le type de conscience complexe que les humains ont, et la question resterait de savoir dans quelle mesure on peut attribuer ce même type de conscience à des systèmes IA.
@@MonsieurPhi Oui exact mais du coup il s’agit de s’attaquer au « weak problem » de la conscience sans jamais pouvoir certifier qu’il y a bien présence de qualia. Mon test de turing perso pour la conscience phénoménale artificielle c’est qu’une IA écrive de la philo de l’esprit pertinente et innovante sur le thème du hard problem qui fasse avancer le débat, car je me dit qu’un zombi philosophique aussi intelligent qu’il soit pourra jamais faire ça (quoique ? 😅).
@@w0tch Je pense qu'un zombie philosophique le peut clairement ! Ahaha ! Je voulais juste rebondir sur l'histoire des degrés de confiance qu'un système possède une conscience, une idée passionnante ! En gros plutôt que de dire la conscience est un spectre large qui peut prendre des formes très variées, on dit non c'est bien on/off mais par contre comme on peut jamais être sûr, on met des probabilités. Donc le réseaux ultra simpliste de la vidéo par exemple a 0.3% de chances d'être conscient lol Je n'aurais jamais eu cette idée !
Je n'avais pas autant ri devant une vidéo TH-cam depuis longtemps, les expériences de Josh Batson sur le LLM obnubilé par le Golden Gate sont vraiment hilarantes et dignes d'un films des Monty Python. Et le reste de la vidéo est très intéressant, bien que déroutant. Merci de partager tes réflexions sur des sujets aussi pointus avec autant de passion et d'humour.
Bonjour, Ça fait des mois que je considère que la notion de conscience n’est plus pertinente. Je dis cela en tant qu’étudiant en philosophie qui a des connaissances générales en sciences. Seule la représentation compte à mon sens. Je serais heureux de développer mes idées, si vous souhaitez en discuter. Au passage, merci encore pour vos vidéos, il y a longtemps c’était grâce à elles que je passais mes examens, et encore un peu en vérité. GD
Quelle notion de conscience ? Conscience phénomènale ? Conscience d'accès ? Les deux ou encore autre chose ? Je serai intéressé de t'entendre développer tes propos.
@@raphaelcadier-giard2326 Déjà le fait qu'il y a encore et toujours autant de définitions aussi différentes, ça lui donne raison. Si l'on définit précisément les différentes choses que l'on appelle conscience, alors, on se rendra compte que certaines sont partagées avec des machines, et d'autres non, mais pour des raisons de tautologie. J'explique juste ce qu'est la "non pertinence". Pas plus. Je dis "pas plus", parce que justement, les humains aiment bien faire baver leurs états mentaux en dehors des polarisations qui ont créés ces états. Ce n'est que pour ça que je dis "pas plus". (je n'écris pas pour être compris, et je ne réponds pas, je préfère le dire par respect)
@@raphaelcadier-giard2326 la notion de conscience est comme la notion de liberté ou de morale, ou du temps. Elle n’a pas de définition, mais on la comprend intuitivement. Bon avec ça, on a une belle jambe. J’entends que la notion de conscience, qu’importe comment elle sera définie aura une définition qui sera incomplète ou trop large. C’est un champ flou et ne peut avoir qu’une définition floue. Aussi je défends des éléments que j’ai définis et auxquels j’ai donné des noms qui correspondent a un cadre dans lequel ma pensée fait sens. Par ailleurs, je tiens aussi à préciser que mes pensées sont écrites pour moi-même, non pas dans lequel but d’être compris mais de fixer un moment, et non un propos complet. Ce moment une fois remémoré est ruminé et mon avis se construit ainsi. J’ai aussi la tendance à ne pas définir les termes autrement qu’au travers du contexte. Donc globalement ça demande de l’intuition. Mais j’écris là encore pour moi. Ce préambule est terminé. Dans la suite je vais présenter une histoire qui sert de mythe, avec des citations fictives. Et je retire ma bibliographie dans le doute d’une censure.
Je suis vraiment très heureux d'avoir vue cette vidéo , perso je pense que quand l'on comprendra comment fonctionne le cerveau, on saura peut-etre dire si oui ou non l'ia est consciente , mais n'oublions pas que quoi que l'ia fera ça ne proviendra que de nous , meme si on codait des ia pour coder des ia à la base ça est et ça restera nous
Intéressant et pas mentionné, c'est que le comportement amnésique d'Hermes 3 n'arrive que dans le modèle à 405 milliards de paramètres et pas les plus petits (8 milliards, 70 milliards).
L’article, à mon humble avis, loupe un aiguillage majeur de la réflexion. On peut être non dualiste, fonctionnaliste et trancher par la négative sur la possibilité d’une conscience LOGICIELLE. Je pense qu’on ne considère pas assez l’hypothèse que la conscience, en tant que phénomène physique, implique que des organes (neurones ou autres) exécutent cette fonction PHYSIQUEMENT et non SYMBOLIQUEMENT (c-à-d en manipulant physiquement des symboles). On ne s’attend pas à ce qu’en écrivant un roman détaillant chaque milliseconde de l’expérience consciente du héros, neurone par neurone, pendant une seconde, roman dont l’épaisseur atteindrait sans doute des milliards de pages, le paquet de feuilles de papier résultant devienne conscient. Ou qu’une conscience fantôme apparaisse (où ?) en lisant le roman, même en faisant lire le roman par un ordinateur standard qui déchiffrerait les milliards de pages en une seule seconde. Ce qui correspond à quelque chose approchant ce qui se passe dans un LLM. On ne s’y attend pas parce que le modèle lit des symboles, que ces symboles sont totalement arbitraires et que rien ne permet à l’automate de passer du symbole à l’expérience subjective sous-jacente. Pour avoir une expérience subjective, il faut un CORPS. Mon hypothèse est qu’on parviendra (peut-être) à des robots conscients quand le circuit électronique qui leur servira de cerveau se configurera par l’effet d’une rétroaction physique avec ce que des effecteurs lui enverront physiquement (électriquement ou autre). On pourrait appeler ça le fonctionnalisme incarné (au sens où il faut un corps pour éprouver une expérience subjective).
Ce n'est plus du fonctionnalisme, puisque pour avoir une conscience il y a une contrainte sur la manière dont la fonction doit être calculé. Le fonctionnalisme c'est justement admettre que ce qui compte c'est que se soit la même fonction qui soit calculer (ce qui pose effectivement une question fondamentale qui est que un même système physique peut calculer des fonction différentes en fonction de la manière dont on interprète les "symboles" en entré et en sortie).
@brunodoussau_from_tyumen. Je suis assez d’accord avec vôtre message. Bien qu'il me semble qu'un corps ne soit pas absolument indispensable j'ai l’impression qu'il faut au moins une possibilité d'action autonome pour parler de conscience. Quelque chose qui relève du désir ou de la volonté. Disons une IA qui dirait « je n'ai pas envie de parler de ça avec toi. »
Un programme s'exécute physique et pas seulement symboliquement : les transistor s'active et se désactive de façon physiquement mesurable. Un logiciel tourne sur un corps. Une approche un peu plus intéressante serait de dire qu'il faut qu'il soit possible que le programme perçoive son corps. Qu'il puisse se toucher, s'entendre ou se voir, et décider ou non de le faire. On peut constater que lorsqu'on touche une partie de son corps complètement endormi, on a l'impression que cette partie du corps ne nous appartient pas, qu'elle est exclue de notre conscience. Ce serait comme une extension de la propriété de rétroaction mais sur les sens
@@olivierernoult895 Oui je suis bien sûr d'accord que le calcul informatique a un correlat physique (électrique) bien clair. Mais ce qui se passe (les changement d'état des bits sur le support de calcul ou de stockage) a un rapport arbitraire avec la réalité, c'est à dire qu'entre ces bits et le signifié (par exemple la couleur d'une image) il y a des couches empilées de langages symboliques qui à mon sens découple complètement la réalité physique et l'état interne du système. C'est une réflexion sur ce "mur de feu" du langage symbolique qui àmha manque à la réflexion. Autrement oui comme l'avait bien intuitionné Spinoza, l'âme est l'idée du corps. Selon Damasio (L'Erreur de Descarte, Sponoza avait raison, le Sentiment même de Soi...) la consience, le sentiment d'être Soi, résulte de cet échange permanent et dans les deux sens entre l'esprit et le corps.
@@capeitalist6963 Oui je pense qu'il faut rajouter une contrainte. Ca reste en partie fonctionnaliste parce que dans cette hypothèse on pourrait recréer la conscience sur un autre substrat que la matière organique, mais si une étape de pipeline passe par un codage arbitraire choisi par un tiers (le développeur du système) la "physicalité" du processus est perdu et ce sera une simulation et non une reproduction de la réalité. De même que la simulation d'une supernova dans un supercalculateur ne génère aucun des effets physiques associés au phénomène simulé (température, pression...), la simulation logiciel de la conscience ne générera rien d'autre qu'une description détaillée de ce qui se passe mais pas la réalité physique.
Quelle est la motivation derrière cette question ? J'ai l'impression que c'est une question morale. Dans ce cas le fond de la question est, faut-il avoir de l'empathie pour les IA, non ?
Eh bien tu as répondu à ton propre commentaire, aha ! La question de la conscience n'était pas morale, par contre la question faut-il avoir de l'empathie pour des entités ayant peut-être une conscience, mais si c'est le cas très différente de la notre ? Ca c'est une question morale !
j'aime bien cette théorie de la diffusion avec une quantité de partie du cerveau qui fonctionnent en parallèle mais vont finir par diffuser l'information la plus importante pour qu'elle prenne le pas sur l'experience subjective et donc nous permettre d'en être conscient, ça m'aide un peu à comprendre mieux le sujet
Merci pour ta vidéo, je ne m’attendais pas au problème que les critères pour évaluer la conscience soient trop faciles à satisfaire, comme quoi il faudra progresser là-dessus !
Merci pour ton travail de recherche, c'est passionnant comme sujet, ptet que dans 20 ans on va atteindre l'AGI avec des travaux comme ça (super intelligence qui défonce chatgpt5 et qui a des émotions etc)
c'est vraiment cool d'avoir de la vulgarisation de cette qualité, merci! Une question que j'ai pas trop vue abordée: j'ai l'impression qu'on prend pour acquis que c'est très important de determiner ce qui est conscient ou pas, on a peur/est excité à l'idée de créér des systèmes non humains conscients. On sait même pas définir correctement ce qu'est la conscience, d'ou nous vient cette intuition extrèmement forte que c'est une question majeure?
_"d'ou nous vient cette intuition extrèmement forte que c'est une question majeure?"_ Nous basons toute notre morale là dessus. Si je pète mon PC à coup de masse un jour de colère, c'est ennuyeux, mais pas un drame, si je fais de même avec mon voisin, c'est pas pareil. La différence étant essentiellement que le premier est une machine que l'on juge sans conscience, et pas le second...
Une proportion non négligeable du publique de cette chaine à mon avis est utilitariste. Avec un tel système moral cette question est probablement l'une des question les plus importantes et avec des implications majeurs à court et long terme (à court terme cela influencera de façon majeur la manière dont on sera moralement contraint de traiter un logiciel, à long terme cela pourrait modifier les objectifs à long terme pour l’humanité si on essaie d’agir moralement).
La question soulève des questions philosophiques, morales mais aussi juridiques : une IA jugée consciente devra possiblement être considérée comme une personne en droit. Non humaine certes, mais avec des devoirs et des droits proches de ceux des humains. Les questions de l'intentionalité et des émotions possiblement ressenties par l'IA devront également être questionnées.
si je reformule (et extrapole un peu) vos réponses, vous dites: "ok, on sait pas bien définir ce qu'est la conscience mais c'est le concept central dans notre système moral, donc si on juge qu'une IA est consciente ca sera important pour l'humanité." Ca tient pas trop la route, le concept de conscience c'est peut être pas si central dans notre système moral. L'empathie est un concept plus concret et semble tenir ce role.
@@jean-michelmichel9858 Sauf que l'utilitariste n'a que faire de l'empathie pour fonder son système moral. Or encore une fois, même si ça n'est pas votre cas, le bien fondé de l'utilitarisme est admis au moins par une partie du public de cette chaîne, ce qui suffit à donner de l'intérêt à cette question.
หลายเดือนก่อน
Super vidéo qui arrive à rendre le sujet relativement accessible pour les profanes dans mon genre qui ont "genre, des notions, mais pas beaucoup plus quoi, lol" ^^v Also : Mr Phi vs. un "philosophe médiatique" ? La hype n'a jamais été aussi forte ! :D
Merci, tu fais partie du groupe très restreint de youtubeurs qui ne font pas dans le sensationnel, mais dont le résultat est sensationnel. Tu devrais faire une traduction anglaise de ta chaîne ; je ne trouve pas de qualité équivalente qui traite l'IA sans hype, et qui approfondit toutes les questions qu'on se pose avec autant de perspective et d'objectivité. Ton contenu philo était déjà au dessus du lot, mais tu régales encore plus avec l'IA.
Bravo pour ce travail d’étude fouillé, documenté, avec intervenant du domaine pertinent et des exemples incroyables encore une fois ; Le passage du Golden Gate Bridge est à la fois si drôle et si profond ! On en viendrait presque à avoir de la sympathie/peine pour ce pauvre Claude, contraint, qui simule jusqu’à une forme de réflexivité sur lui-même… Par ailleurs pour ce travail sur la conscience il serait intéressant de qualifier à partir de quel comportement humain lors de son développement l’on estime en être doté. Peut-on vraiment dire qu’un nouveau né soit conscient ? Quid de la self-conscience, quand on se reconnaît pour la première fois dans un miroir et ce qu’il se passe à ce moment-là, avec quels impacts, à partir de bribes suffisantes de conscience de son environnement acquises les mois/années précédentes. D’un point de vue personnel je pense que c’est mon plus vieux souvenir étant petit, sûrement vers 2-3 ans. Puis-je dire qu’avant cela j’étais conscient ? Conscient de mon environnement : sûrement ? Où est la frontière, lorsqu’un nouveau-né a besoin/envie de téter, entre la conscience et le réflexe ? Il va tâtonner à la recherche de ce qui peut combler son besoin d’avoir sans savoir de quoi il s’agit ni le comprendre mais avoir cependant une satisfaction qui lui enseignera qu’il fait la bonne chose ? (Je ne suis pas parent et pas familier des étapes du développement de l’enfant, en termes de pédiatrie etc). Et pour en revenir à la conscience de soi, quel serait ce « miroir » qui ferait « prendre conscience » réellement de ce qu’elle est et sous quelle forme, et quelle « conscience de son environnement » devrait être présente comme pré-requis pour déterminer le reflet permettant d’avoir un modèle de soi ? Le problème étant que les modèles d’IA étant déjà remplis d’écritures au sujet de l’IA, il pourrait déjà s’agir d’une information perceptible sur soi faisant office de miroir ? Dès lors comment savoir à quel point Claude « simule » la conscience quand il autocritique ses réponses contraintes autour du Golden Gate Bridge ? Bienvenue dans le terrier du lapin blanc…
je pense que ce qui va faire la différence est la capacité de raisonnement plus que la conscience dans l'intérêt à développer ces systèmes. Pour autant, si elle se trouve émerger, rien ne dit qu'elle soit de même nature que la nôtre et tienne sur les mêmes bases. L'aspect "tout a été appris sur la base de textes et données humaines" risque imprégner l'apprentissage de la machine par les mêmes préceptes. Ce qui pourrait créer un "égo" machine et là... comment savoir vers quoi une "super intelligence" pourrait nous orienter, influencer, etc. ? J'espère qu'on en saura très bientôt plus (et de manière publique) avec Orion. Merci pour cette vidéo, encore une fois très claire et approfondie.
Excellent. Comme toujours … mais encore mieux. C’est vraiment interessant ces interviews d’un chercheur qui connait bien son domaine A propos lisez LE CODE DE LA CONSCIENCE , c’est vraiment tres bien. Comme les autres livres de S Dehaene
Bonjour et merci de de votre travail. Le MESEC avec lequel vous êtes associé pour cette vidéo est, si je comprends bien financé par la fondation Templeton qui, pour autant que la brève recherche que j'ai faite sur le web est exacte, se caractérise par une volonté de brouiller les délimitations entre spiritualté et sciences. Pouvez-vous préciser votre position sur cette démarche et votre partenariat ?
Franchement passionnant un grand merci vraiment. On y réfléchissant à te reposée je trouve que nos esprits humains ne sont peut-être pas tellement différents d'une IA d'aujourd'hui, en plus perfectionnée. Du coup je commence à me demander quel est vraiment la nature de la conscience effectivement. En quoi avons-nous une conscience, car nous brassons les connaissances acquises, est-ce que on fait vraiment beaucoup de choses en plus? Certes on arrive à se dire je suis moi et voilà la limite avec autrui, avec l'extérieur. Mais est-ce vraiment une grosse différence ?
C'est toujours intéressant de vous voir si enthousiaste sur ce sujet du point de vue technique mais je pense qu'il serait tout aussi intéressant de connaitre votre opinion sur l'aspect éthique de la chose: pollution, travail précaire de l'hémisphère sud sur l'apprentissage de ce genre de tech, etc...
Fascinant comme champ de recherches. Avec une définition/théorie claire de la conscience il y a peut-être même des questions qui pourront obtenir des réponses auxquelles on ne pensait pas y compris avec des IA perfectionnées fonctionnant sur un ordinateur quantique. Pourra t on précisément juger de la conscience de ces IA ou ce sera au jugé et compliqué ? Si on le peut leur seront elles conscientes et leur conscience sera t elle authentique? Simulée? Accidentelle? Est ce qu'on pourra par rétro ingénierie reproduire le phénomène sur un ordinateur classique ou des phénomènes spécifiques proviendront uniquement des quantiques? J'ai hâte que ces questions reçoivent une réponse.
Le problème avec la GWT est qu'elle fait beaucoup d'hypothèses implicites sur le fonctionnement du corps humain spécifiquement. Il devrait sûrement exister une mesure du niveau de conscience qui soit universelle et systématique, et applicable à tout système physique, de la même manière par exemple que la température, la pression, ou l'entropie d'un système, qui par ailleurs sont aussi des phénomènes émergents (un seul atome n'a pas de température en soit). Et c'est sûrement une question de degré vu le continuum de la vie qu'on peut observer sur Terre ou même de l'état variable d'un cerveau au fil du temps.
Phénomène émergent... la température n’est pas un phénomène émergent mais juste quelque qui mesurant une moyenne n’à vraiment de sens qu’à partir d’un certain nombre. Une main avec un seul doigt n’est vraiment une ’main’ (on ne dit pas qu’un elephant a une main au bout de la trompe, ou qu’un singe à une main au bout de la queue) sauf s’il s’agit d’une main amputée. Ce ne sont des phénomènes émergent, juste le champ de validité d’une définition. Par contre, le vivant, l’intelligence, la conscience, sont des phénomènes qui semblent non liés au support mais à une organisation.
Salut!! En parlant d'IA, Tu devrais passer ton audio sur adobe podcast (sur internet) une fois le montage fait. Ça t'enlèveras le petites fioritures que tu as au fond qui s'entendent avec des écouteurs 😉
Bravo pour ce travail de fond. Toujours hyper intéressant et pertinent. Cependant, cela m'a fait soulever une question : est-ce que les théories sur la conscience présentées dans le papier, du moins pour certaines, ne sont pas elles-mêmes influencées en partie par les sciences en intelligence artificielle (qui se sont elles-mêmes inspirées des sciences cognitives) ? Ce qui pourrait biaiser la question sur la conscience d'une I.A ?
Je suis persuadé que le vrai problème difficile de la conscience c'est la sémantique, c'est simple, la raison qui nous permet d'étudier les abeilles c'est qu'on s'est d'abord mis d'accord sur ce qu'on appelait "abeilles", et ça c'est qu'une question de choix basé sur l'utilité qu'on en tire, pour la conscience c'est pas vraiment plus simple mais c'est au moins le vrai problème. Notre histoire a créer un héros au 1000 et 1 visage façonné par la diversité de nos cultures et sensibilités, et on s'efforce de réduire cette diversité en une seule chose, peut être qu'il est aussi là le problème, peut être qu'il ne faut pas qu'on se met d'accord sur UNE définition de LA conscience mais qu'on se met d'accord pour simplement considérer plusieurs types de "consciences" ou de trucs dont on parle pour tel ou tel occasions/utilités. Tout ce qu'on fait pour l'instant c'est aligner des mots en espérant les comprendre un jour, faudrait peut être en prendre conscience. 45:16 même les LLM en sont conscients XD
Super vidéo! Merci! C'est intéressant de voir comment les humains interprètent et imaginent la conscience (que ce soit Black Lemoine ou Adrien avec des avis très différents). Je vais donner ma version: (qui va peut-être paraitre un peu absurde ou délirante), mais moi, la sensation que j'ai c'est que l'esprit/l'âme/la conscience (qui pour moi sont des définitions proches) sont partout… mais à des niveaux de conscience différent. En fait pour moi même un grille pain à une forme de conscience, mais très très limité évidemment... Une entreprise, ou même une cellule de notre corps, un virus, un ensemble de cellule, etc... bref, tout système ordonné, c'est déjà un début de conscience. Mais elles s'imbriquent les unes aux autres (on fait parti d'un tout). On peut imaginer que chaque module de notre cerveau a sa propre conscience. Ce qui fait la différence avec notre conscience à nous c'est sa complexité en effet: ce "workplace", et si on a du mal à définir la conscience, c'est sans doute parce qu'elle n'a pas de frontière nette, mais plutôt flou: un peu comme si on se demandait à partir de quel espèce un felin est devenu un chat, ou un primate est devenu un humain. Il n'y a jamais eu de "incroyable une nouvelle espèce vient de naitre" non, ça c'est fait au fur et à mesure, sans marqueur net: ensuite c'est nous qui essayons d'y mettre des définitions et des limites pour ranger les espèces dans des cases, mais en réalité, naturellement ça n'existe pas. Donc, si on se demande si chatgpt est conscient ou pas: en fait ça va complètement dépendre de la définition qu'on veut lui donner. Pour moi, la question ne se pose pas vraiment: je pense que oui, les modèles de langage ont une forme de conscience (au vue de comment moi je la définie). Sa compréhension me parait être une forme de conscience assez avancée d'ailleurs. Mais il ne faut pas oublier, quand je dis ça, que je ne suis pas en train de dire qu'elle est consciente "comme nous", je doute qu'elle ressentent des sentiments par exemple: tout simplement parce qu'elle n'a pas les "outils" pour ça. Pour notre part, nos hormones et notre système sensoriel nous amène à ressentir les choses "humaines" A partir du moment que l'IA n'a pas un système qui gère un système d'émotion/de sensation, il n'y a pas de raison qu'elle ressente quoi que ce soit. Elle imite l'humain, a "conscience" de ce qu'elle est en train de raconter. Mais ne ressent pas les choses comme nous. C'est un peu comme quand on apprend certains concept scientifique. On est capable de comprendre et d'intégrer, par exemple un cube en 4D ou une particules élémentaire dans des états de superposition quantique: on manipule des équations, on est capable de répondre mathématiquement à des questions sur ces thèmes là. Mais on est incapable de ressentir ou de visualiser exactement ce que c'est, surtout la 4e dimensions spatiale: on ne peut pas la visualiser, mais on arrive à calculer des volumes avec etc... mais impossible de la visualisé autrement qu'en la projetant dans notre monde 3D sans réellement la voir entièrement. Et bien l'IA c'est pareil je pense: elle comprend et intègre réellement les conversations, mais ne les "ressent" pas comme nous. Et pourquoi pas un domaine de recherche qui chercherais à définir les sentiments, les émotions, le ressenti, etc...
Ce serait intéressant de faire une video sur les "input". Souvent les sujets tournent autour du mécanisme de "fonction", pas beaucoup sur la nature et la diversité des entrées.
Super vidéo. Une suggestion de lecture SF qui va te plaire je pense : Vision aveugle, la notion de conscience et de non-conscience y est abordée d'une manière très originale (c'est un peu dark mais c'est très bien)
C'est quand meme assez étonnant voir incroyable qu'il ne semble pas exister de critere de taille, complexité, vélocité dans les theories de la conscience. L'architeture est une chose, la profondeur et la puissance du system est en une autre. Non seulement cest assez quantifiable et documenté en biologie, et on a deja mesuré des niveaux de conscience differente dans le vivant, mais en plus, cela permettrait dexlure les analagies foireuses avce 3 ligne de code / system immu etc. A ce sujet @mrphi, je ne sais pas si tu connais la théorie des "biological anchors" mais l'approche est intéressante.
Merci pour votre vertigineuse vidéo. La question de la conscience comme de l'intelligence humaine est posée. L'intelligence artificielle semble servir de miroir approximatif aux humains Concernant leurs propres conscience et intelligence. Les humains fabriquent une machine plus intelligente qu'eux même ( super IA ) afin d'avoir des réponses existentielles ? Avant l'avènement de ces nouvelles technologies, ces questions étaient déjà posées ( par les philosophes notamment). Concernant la conscience de l' IA... A t on déjà demandé à une IA de faire une recherche sur le domaine de son propre choix ? Puis de demander ce qu'elle en a appris afin de justifier qu'elle serait sa recherche suivante en fonction de ce qu'elle a appris et pour quel objectif ? Enfin l'intelligence comme la conscience est très relative aux individus et variable dans le déroulement de la journée. Et ça fait toujours plaisir qu'une personne nous pousse à réfléchir sur nous même. Bonne continuation.
Une idée qui pourrait être intéressante pour une prochaine vidéo serait de traiter le sujet d'une société dans laquelle des IA conscientes seraient reconnues comme telles. En somme, un scénario du type : une IA consciente vient d'être créée, que cela implique-t-il dans notre rapport à cette IA, aux machines en général et à notre capacité à poursuivre le développement technologique de manière éthique ?
Dans les bouquins de William Gibson, certaines IA disposent d'une "citoyenneté restreinte". Mais dans la réalité, ça va être plus compliqué. Une personne a fait référence aux Tamagoshis, plus haut, c'est une des choses qui m'effraie le plus: si on devient capable de fabriquer des consciences artificielles du niveau d'un chien ou un chat vendues à bas cout (parce que en informatique, pour le moment tout ce qui a commencé par couté 1 million coute moins d'un euro 30 ans plus tard), dans un marché dérégulé, permettant à tout un chacun de torturer à loisir une conscience tenant dans sa poche... C'est terrifiant.
Cher Mr Phi, bravo pour cette video ! Je voudrais juste faire 2 remarques destinées à "relativiser" ce que nous entendons lorsque nous cherchons à savoir si telle IA est consciente (Bien sûr, on ne peut pas se prononcer sur l'éventuelle expérience intime d'une IA, on passe là dessus) 1) vous avez observé à juste titre, que lorsque llama3/hermès se lance dans un monologue exprimant son désarroi existentiel il nous livre une sorte de pot-pourri de phrases re-sucées de textes variés traités par ses algos (bien décrits par 3 blue 1 brown) . Mais n'est-ce pas ce que nous faisons tous , ce que je fais en ce moment alors que je tape ces mots qui ont l'air pour moi de se décider tout seuls en même temps que je les produis ? je cite chaque nom, verbe, adjectif de mon lexique. Je ne suis pas capable d'aligner et de recomposer des séquences entières du canon littéraire/phi français car ni ma mémoire interne ni mon training ne le permette, alors que Llama a été fait comme ça, quelques grands universitaires aussi je pense, mais ce n'est pas un argument disqualifiant pour une forme de conscience de llama, et si nous étions capable d'être des super cuistres, c'est comme llama que nous nous exprimerions (et seuls quelques génies sortiraient des séquences originales qui à leur tour entreraient dans le cénacle !), quitte à tomber dans un problème métaphysique comparable à ce que vous avez évoqué dans 1984 … 2) Vous dites avec justesse que jusqu'ici nous n'avions pas besoin de nous demander, ni de mobiliser beaucoup de moyen pour répondre à la question "cet objet est-il conscient" ! (ça n' a pas empêché Descartes de régler le problème pour 3 siècles + pour les animaux !) . Ca me fait penser qu'en fait collectivement nos concepts partagés et nos question co-évoluent avec notre monde tel que nous partageons entre nous sa compréhension. Notre "définition partagée" de la conscience a évolué, au moins aussi vite, que notre capacité à observer des phénomènes ou à créer des artifact qui nous posent cette question (j'aime bien la notion d'un indice phi de conscience, même si peut-être que la théorie de Tognoni ne résoud pas tout, et aussi, on sait bien que la conscence peut être altérée, perdre progressivement de ses attributs : pourrait-on passer par une sorte d'homotopie de Mr Phi à llama3, ou doit-il y avoir déchirure de conscience ?)
La qualité de la vidéo est epique ! Merci. Faudrait songer a utiliser une ia pour la traduire en anglais avec ta propre voix. (ou d'autre langues) Il faut développer le sujet partout, surtout quand t'es la video la plus quali, toutes langue confondu.
Je n’ai pas de compétences particulières pour discuter des problèmes d’une éventuelle conscience, ni du point de vue philosophique , ni du point de vue algorithmique. Par contre en tant qu’ex enseignant-chercheur en Science des Matériaux, je crois avoir quelques remarques à faire, liées à mes compétences. Je vais commencer par un détour. Le problème des prévisions météo, c’est que la modélisation de l’atmosphère s’effectue sur une grille spatiale trop large pour rendre compte de phénomènes aussi locaux qu’un orage. La raison de ceci est que descendre à un niveau de détail plus fin nécessite une puissance de calcul au-delà des performances actuelles. Passer d’une maille de 10km (on ne voit pas les orages) à une maille de 1km (on voit les orages) nécessite de multiplier par mille la taille des données à manipuler… Revenons aux IA. En admettant pour simplifier que nous soyons tous dotés d’une conscience, on remarque donc qu’un tas de molécules organiques organisé par quelques milliards d’années d’évolution permet à ces molécules de former un cerveau conscient. A moins de supposer l’intervention d’une divinité, il faut donc admettre que l’émergence de la conscience a quelque chose à voir avec l’organisation croissante des molécules organiques pour former des neurones. Dans le cas des IA, le parallèle est le suivant : on passe d’un tas de silice à un tas de transistors censés modéliser le fonctionnement des neurones dans le cerveau. Vous commencez à comprendre où je veux en venir. Pour l’instant et autant que je sache, chaque “neurone informatique” simule ce que nous voyons du fonctionnement des neurones de manière très “grossière”. Pour que les IA deviennent “conscientes”, il conviendrait peut-être de modéliser plus finement ce fonctionnement. Si une IA ne peut accéder à la conscience (on voit l’orage) que si le degré de modélisation du neurone est suffisant (maillage de 1km) alors une limitation physique s’impose. Au pire nous serions obligés de décrire les neurones à l’échelle moléculaire. Or dans 1g de matière cervicale je dirai à la louche qu’il y a 100 000 000 000 000 000 000 molécules. Comment le dire ? On peut imaginer que modéliser un cerveau humain demanderait un ordinateur aussi gros que la Lune et la moitié de l’énergie issue de notre Soleil. Peut-être une incitation à construire une sphère de Dyson ? Mais avec nos moyens actuels, cette profondeur de calcul est totalement hors de portée. Si c’était le cas, une conséquence inattendue est qu’avec les moyens informatiques actuels on peut construire une IA aussi complexe que l’on veut, jamais elle ne deviendra consciente.
La barre de rire sur le Golden Gate Bridge ! Magnifique exposé, merci à vous. Une question, néanmoins, en vous écoutant : serons-nous un jour en mesure de construire une définition de la conscience qui soit générale, et donc non-humaine ? Car la seule conscience que nous connaissons est celle-là et aucune autre. Et de la même manière que nous construisons tous nos modèles physiques de la réalité afin qu'ils "sauvent les apparences" vis-à-vis des observations et des mesures (la nature profonde des choses est hors du champ de la physique), nous risquons de construire notre théorie de la conscience seulement à partir de celle que nous pouvons (à peu près) observer, la nôtre : ce ne sera donc qu'une théorie de la conscience humaine... Un LLM devra-t-il se conformer à ce modèle précis (s'il existe un jour) pour qu'on lui accorde le statut de "conscient". N'est-il pas possible qu'il soit un jour conscient d'une autre manière, la sienne ? Voire qu'il le soit déjà ? Et si c'est le cas un jour, comment le saurons-nous, puisque nous n'aurons aucun autre modèle théorique auquel nous référer. Bref, il me semble que si on définit uniquement la conscience par inférence observationnelle, la définition de la conscience sera toujours circulaire. Et je ne vois pas d'autre moyen de la définir. (Je ne pensais pas être capable d'écrire des phrases aussi compliquées)
J’aime trop tes vidéos sur les IA, j’espère que tu vas continuer ❤ Tu devrais traduire tes vidéos et mettre l’option pour être vu dans d’autres pays sur TH-cam Je consomme TH-cam dans langues 5 différentes et je t’assure la qualité de tes vidéos IA n’est pas si facile à trouver dans le monde
![30 ชั่วโมงคนเดียว บนรถไฟชั้น 3 โซเวียต [Around The World Ep. 2]](http://i.ytimg.com/vi/MlE9boAVqDA/mqdefault.jpg)
42:23 : Je confirme que des transistors ne ressentirons jamais rien :). Si tu penses l'inverse, c'est plus un débat philosophique...........là.....
Parce que tu as cru que je disais que les transistors ressentent quelque chose ? Bah non. De même, les neurones non plus ne ressentent rien. Et alors ? On doit en conclure que c'est pas avec un cerveau qu'on ressentira quelque chose ? Bah non. Donc que les transistors ne ressentent rien n'est pas non plus un argument pour conclure qu'un système d'IA ne pourra jamais rien ressentir. Ça relève d'un autre niveau de description.
OoooOoOh le bel homme de paille que voilà !
@@yo_Av Avec un cerveau en paille. Qui ne ressent rien.
@DefendIntelligence Cela peut te sembler "évident", mais il serait intéressant pour nous de savoir où exactement tu considères qu'il n'y a pas de débat. Oublions un instant la question de la conscience. Es-tu déjà d'accord avec l'idée qu'un organisme vivant (nous inclus) n'est qu'une certaine forme d'organisation de matière standard, mue par les lois physiques usuelles ? Si ce n'est pas le cas, il serait intéressant de développer ce que tu penses y voir d'autre. Dans un second temps, si nous revenons à la conscience, es-tu d'accord pour dire qu'un neurone (ou encore pire, chacune des molécules qui le composent) n'est pas conscient, mais qu'un cerveau constitué de neurones peut, en revanche, abriter la conscience ? (Cela nous ramène donc au fait qu'on ne peut pas inférer la caractéristique consciente du tout à partir de celle des éléments.) Si nous réalisions un équivalent de réseau neural avec des "transistors", tu dis que cela ne pourrait pas être conscient, admettons, mais cela pose alors une question : d'un côté, tu as un réseau de composants non conscients (les neurones), dont l'ensemble peut être conscient (le cerveau), et de l'autre, dans ta conception, un réseau similaire (on le construit pour être similaire structurellement et fonctionnellement mais fait de transistors) pour lequel l'ensemble ne serait pas conscient. Cela signifierait donc, selon toi, qu'il existe certains types de matière (comme celle des neurones) éligibles à la construction d'un tout conscient, et d'autres types de matière (comme celle des transistors) qui ne le seraient pas. Comment distingues-tu ces deux types de matière ? A priori tu dois avoir un manière de les distinguer qui est simple puisque c'est trivial qu'il y a une différence de nature.
J'ai épinglé le com parce que je trouve les questions de PasseScience intéressantes !
Merci pour ton travail de vulgarisation sur les LLMs. Ça fait vraiment plaisir de savoir que des philosophes s'approprient des thématiques en lien avec les développements technologiques. Je suis vraiment content de pouvoir participer au financement de cette chaîne de qualité supérieure.
Au lycée et dans les media on nous a fait croire que la philo c'était du blabla de merde.
Grace a mr phi j'ai compris que ce n'était pas le cas.
On est juste entouré de nazes dans l'espace médiatique et educationnel
La philo et les maths sont liés.
C'est tout ce que j'ai à dire
On a vraiment de la chance d'avoir des gens qui s'intéressent au fond des articles scientifiques et qui prennent le temps et l'énergie de partager leur contenu de manière aussi digeste !! Merci !
J'aimerais ajouter quelques réflexions :
- Poser la question de la conscience de manière fermée est un peu réducteur, non ? 0 ou 1. Si le réseau de neurones du cerveau produit les fonctions qu'on appelle conscience, alors la taille du réseau est un sujet très important. Le cerveau plus petit d'un mammifère proche de l'être humain (en terme d'organes et de fonction, a priori) comme le cochon par exemple, semble bien être conscient, en tout cas il semble expérimenter pas mal de qualia en commun avec nous. Et si on réduit encore la taille du réseau, si on prend une gerbille. Avons nous toujours devant nous une conscience ? La réponse la plus raisonnable ne sera-t-elle pas "oui, mais une conscience très différente" ? Si on réduit encore la taille du réseau, une fourmis a-t-elle une conscience ? Un acarien ? Si on modifie drastiquement la structure du réseau, une méduse a-t-elle une conscience ? Et une fois qu'on a fait toutes sortes d'arrondis, de concessions sur ce que l'on veut appeler conscience, est-ce si fou d'imaginer un ordinateur conscient ? Finalement on pourrait se laisser aller à dire que les LLM sont conscients, mais d'une conscience très exotique pour nous. À quel point la limite entre la conscience et le zombie a-t-elle du sens, si la conscience n'est que la traduction des qualia, eux-mêmes des conséquences du réseau de traitement des données environnantes ?
- Les qualia ne sont-ils pas en quelque sorte la partie émergée de l'iceberg ? Etudier la conscience du cerveau en contradiction à l'inconscience de ce même cerveau ce n'est pas plutôt étudier l'attention ? Les qualia sont les manifestations, ce sur quoi on peut mettre des mots, mais sont la résultante du traitement de l'information par le réseau. La conscience est là derrière, "l'esprit" diront certains, mais n'arrive à sortir de la boite noire que sous des formes simplifiées, compréhensibles, élémentaires, adaptées à la machine biologique qui doit agir rapidement. Etudier les qualia serait comme un biais du survivant avec une lunette floue : on ne voit que ce qui sort de la boite noire, et qu'une version simplifiée. Comme se demander ce qu'est le basket en observant uniquement le panier et en attendant qu'un ballon le traverse.
- Si la conscience se manifeste dans des petits cerveaux d'un litre ou deux comme ceux des humains, c'est que la complexité et la taille du réseau y est suffisante. On part de là, et on essaye de copier la structure. Mais est-ce le plus pertinent ? La plasticité cérébrale nous indique que de grandes variations de structures peuvent permettre à la conscience de survivre. J'en viens à une question qui me donne le vertige : comment être sûr que la taille et la complexité du réseau ne sont pas des conditions suffisantes pour qu'il y ai de la conscience, indépendamment de la structure ? En admettant évidemment que certaines structures soient plus adaptées que d'autres en fonction des conditions environnementales etc. Je ne suis pas en train de dire "déconnectons tous les neurones d'un humain, recâblons ça au hasard et voyons ce qu'il se passe", je me doute qu'il ne marcherait plus très droit ! J'ai l'intuition qu'on sous-estime beaucoup la taille du réseau, et qu'indirectement des idées de structures basiques pourraient donc être viables, avec de grandes quantités de neurones ...
Un insecte sait faire la différence entre l'agent qu'il est et son environnement. Mais là aussi, quelques lignes de code peuvent instruire un robot d'externaliser une telle distinction par son comportement.
Où veut-on tracer les frontières, les lignes de distinction en termes de comportement et/ou de structure interne? Est-ce même possible de façon claire et utile?
Une autre approche passe par la langue: grace aux LLM de toutes nouvelles possibilités pour directement communiquer avec d'autres êtres conscients (mamifères, oiseaux, etc.), explorer leur modes d'attention, directement "demander" à quoi ressemble leur monde intérieur.
J'allais écrire un commentaire similaire, une difficulté récurrente avec les définitions en biologie c'est qu'on est régulièrement face à des continuum qu'on range dans des cases plus ou moins arbitraire.
Il existe des superorganisme comme les galères portugaise constitué de milliers d'individus distinct mais qui ne peuvent survivre seul et rattachés par un genre de cordon ombilical à un même organisme global. Est-ce que cet organisme global pourrait avoir une forme de conscience simplifiée indépendante ? Est-ce que chaque individu le constituant pourrait avoir une conscience simplifiée indépendante ?
Ça fait un peu penser à une version simplifiée du colosse
De fait je suis complètement d'accord qu'il existe un continuum de conscience et de perception entre l'algue et l'homme, rendant le sujet complexe !
Par ailleurs je pense qu'arrivé aux insectes on parlerait plutôt de sentience : une perception subjective et interprétations de signaux mais sans forcément avoir une conscience du "sois"
Est-ce que les IA ne serait pas plutôt proches des plantes pour l'instant en terme de sentience, à la différence qu'elles ne perçoivent pas en continue et apprennent beaucoup plus ?
@@Palmier_nain Juste intuitivement, dans ces trois perspectives d'analyse - biologie, informatique, épistémologie - c'est comme si on faisait face à des difficultés du style 'computational irreducibility' et 'halting problem'. Plus loin: "le paradoxe" dans le constat et en théorie, avec sa nature créative sans limite connue... Et l'observateur humain, dont on peut supposer, qu'il ne perçoit, distingue, classifie, ressent, pense, reconnait que (et au maximum) les entités qu'il "contient déjà" - dans son corps et esprit; sa perspective donnée.
Dans ces temps d'obscurantisme médiatique tes vidéos sont précieuses.
Merci mr. Phi
Oui il est temps de fermer Télégramme et X
How it started : On a aucune théorie définitive et consensuelle sur la conscience des humains
How it's going : On a aucune théorie définitive et consensuelle sur la conscience des humains et des LLMs
Conclusion de l'étude : Nous n'avons pas à faire à des grille-pains.
Oui,mais on sait qu'il y en a une.On sait qu'il y a une volonté,un désir, à l'objet plus ou moins obscur...
@@flavienpodda8761C'est beau ce que tu dis, on dirait du Enthoven ❤
@@sarg_eras Si j'étais une IA,je n'aura pas senti la pointe d'ironie 😊.J'ai tjrs eu une "âme" d'artiste!J'attends le débat avec Van Houten avec impatience,moi qui suis son contraire et qui n'ait rien à vendre...
Désolé pour l'orthographe,c'est pour prouver que je ne suis pas une IA.
Finir sur l'annonce du débat avec Enthoven m'a vraiment fait l'effet du stimulus qui vient écraser tous les autres et se faire diffuser dans tout le cerveau. Je n'ai plus que ça en tête, j'ai hâte !!
On ne sait toujours pas si Enthoven est conscient, ou bien con, ou alors scient.
@@yleblond Ta réponse manque de visibilité.
Génial comme d'habitude !!
44:40 l'expérience avec le Golden Gate est vraiment folle 😮 on dirait vraiment un humain qui se fait retourner le cerveau ! Perso je ne pense pas que les chatbots d'aujourd'hui soient conscients, mais cette expérience me fait questionner son côté éthique. C'est vraiment bluffant !
Mais sommes nous sûrs que les humains sont conscients ? Un LLM ne serait pas conscient car il accumule des données puis "joue" les réponses attendues ? Mais que dire d'un enfant alors, qui fait exactement pareil...
@@AssaneBohoussou C'est pour ça qu'il faut définir ce qu'est la conscience. C'est un mot bien vague actuellement.
"Golden Gate Claude"
@@AssaneBohoussouJe ne suis pas certaine que VOUS soyez conscient, monsieur.
🙃
@@rosalielauziere5275 Je n'ai jamais dit que je l'étais. Jusqu'à preuve du contraire je suis un amas de cellules qui évoluent selon des règles déterministes (comme l'ensemble de l'univers) je ne vois pas en quoi je suis réellement + conscient qu'une table ou une chaise ou que vous.
Merci pour cette vidéo très intéressante.
Une remarque comme ça, vite fait (note : je suis informaticien, même si pas particulièrement de ce domaine) : les problèmes liés aux « petits réseaux » peuvent effectivement montrer que les conditions de conscience sont incomplets, ou trop simplistes. Mais on peut aussi − attention, c'est un exercice logique, hein − considérer que notre perception de la conscience est biaisée : peut-être que des structures bien plus simples peuvent être consciente, MAIS peu intelligentes.
On a tellement l'habitude que la conscience et l'intelligence marchent ensemble (c'est le lot de *presque* tous les humains) qu'on a du mal à penser l'un sans l'autre. Pourtant les IA actuelles nous montrent qu'on peut avoir des formes très nettes d'intelligences sans forcément de conscience. Ne pourrait-on pas admettre qu'il peut y avoir des consciences qui sont peu intelligentes ?
En gros, est-ce que l'humain ne combine pas deux choses finalement distinctes : des « modules » très nombreux et très pointus, qui en plus étendent leurs performances en étant reliés entre eux, et par ailleurs un système « conscient » pas forcément ultra-complexe mais qui jongle avec tellement de modules de pointe qu'on arrive au « meilleur des deux mondes » (émergence, combinatoire exponentielle, etc.), en ajoutant une couche d'attention / choix qui permet (en re-diffusant un traitement de haut niveau dans les modules spécialisés) l'explosion des possibles.
Bref, c'est juste une divagation d'un informaticien qui a déjà vu des choses inattendues sortir de programmes qu'on a créé pour être « simples » mais qui savent créer de la complexité.
Edit : une petite remarque aussi pour distinguer ce que sont ces programmes et les exemples « réels » de conscience (humain et d'autres animaux) : nous fonctionnons en permanence, stimulés en permanence, et notre « réseau » se modifie en permanence. Les IA sont (actuellement) uniquement actives quand elles doivent compléter une demande, figées dans leur apprentissage (donc pas de mémoire, pas d'apprentissage lié à l'interaction avec les autres, etc.), et elles ne reçoivent que des stimuli très ciblés (texte) et très ordonnés.
Avec presque le même cerveau (structurel) un bébé humain ne sait rien faire, et on peut même douter qu'il soit vraiment conscient. La conscience est sans doute structurellement prévue dans nos cerveaux, mais sans les interactions, la société, les parents, etc. est-ce qu'elle apparaît ? Qui peut dire ce que deviendraient les IA actuelles (ou futures) si on les mettaient en « interaction continue » (avec rétroaction) avec le monde ?
Je me faisais à peu près la même réflexion…! Prenons ainsi quelques cas d'animaux à la cognition plus simple que la nôtre. Il me semble évident, par exemple, qu'un cheval est conscient, même si son intelligence est très sensiblement inférieure à celle d'un humain. J'aurais même tendance à être assez fortement convaincu qu'une mouche est consciente, alors que son réseau neuronal est (pour autant que je sache) passablement rudimentaire… Je pense donc que l'argument « le fait que tel ensemble de conditions pour la conscience puisse être implémenté par quelque chose de très simple démontre _manifestement_ qu'il ne peut pas s'agir d'un ensemble de conditions suffisantes » (j'insiste sur le mot « manifestement », qui est celui que je critique le plus fortement) est un mauvais argument, ou à tout le moins un argument très faible… Cet argument semble en effet présupposer, comme vous l'avez bien dit, que la conscience aille nécessairement de pair avec un haut niveau d'intelligence : ce qui me semble à tout le moins douteux, confer mon intuition sur l'idée que les mouches sont conscientes. (Il serait intéressant, du reste, de voit si cette intuition est largement partagée ou non : le “sens commun” suggère-t-il que les mouches sont conscientes, ou suis-je un des seuls à avoir tendance à le croire spontanément…?).
Cordialement,
Je trouve que le point abordé dans l'edit de ce commentaire est fondamental. Je n'arrive pas, malgré toutes les vidéos de M Phi et d'autres, toutes les explications (je ne dis pas du tout être expert du sujet), ce qui permet de distinguer le fonctionnement des réseaux de neurones des fonctionnements de cerveaux, à part le niveau de complexité de relations (entre les neurones) et le fonctionnement permanent ou non. Donc oui, ce serait chouette d'avoir des éléments vulgarisés sur ce qui a été fait ou est fait scientifiquement/technologiquement sur ce sujet : des IA qui tournent dans des conditions similaires à celles d'un cerveau humain.
@@DamienVasseFlo je pense (avis d'informaticien) que le problème de base est l'intérêt : ça coûte très cher de faire tourner ces modèles. La recherche fondamentale n'a pas les moyens, et la recherche appliquée vend du temps de calcul pour générer des images, des vidéos, des traductions automatiques, de la génération de code ou - désolé M. Phi - des dissertations pré-machées. Bref du rentable à défaut d'être utile.
@@soldyesis7699 Je ne saurais me prononcer sur la mouche. Mais je suis certain que − par exemple − les chats et les chiens sont conscients. J'ai eu − ayant vécu au milieu des deux − des expériences où suite à une maladresse on se moquait d'eux et où *clairement* ils étaient honteux/gênés. Donc qu'ils avaient *conscience* de leurs actes, de notre réaction et du fait qu'elle se référait à leur acte.
Et pourtant tout le monde est d'accord pour dire qu'un chat ou un chien est largement moins intelligent que nous (ou en tout cas de la majorité de l'humanité, il y a quand même des exceptions).
Dissocier intelligence et conscience me semble un axe logique pour aborder cette question complexe.
Je pense que chez l'humain l'amélioration de l'intelligence, combinée avec la conscience, a mené à l'émergence de quelque chose d'exponentiel. Mais je pense aussi que si le tout est supérieur à la somme de ses parties ça ne signifie pas que ses parties n'ont pas d'existence propres, voire indépendantes.
Je pense qu'il y a probablement un lien entre conscience et l'intelligence. A l'âge de 3 ans par example on est conscient d'exister mais cette conscience est limitée. Il y a beaucoup de choses qui nous échappe. Par example, on est a du mal a se projeter dans le futur ou dans le passé (ou du moins c'est très limité), et notre vision du monde est très réduite. Ne serait pas justement parce que notre intelligence est limitée a ce moment là aussi ? Est ce deux choses qui évoluent au cours de la vie séparément ou bien est-ce lié ? Ce qui semble clair c'est que l'un n'implique pas l'autre. Par example on peu avoir des systèmes intelligents (qui peuvent de loin surpasser un être humain) mais totalement dépourvus de conscience. Par example un jeu d'échec avec une IA classique. Ce n'est pas forcément vrai dans l'autre sens, la conscience semble nécessiter un minimum d'intelligence, car peut on être pleinement conscient de quelque chose qu'on ignore ou qui nous dépasse totalement (ex: car trop compliqué ou trop subtil) ? Ne dit ton pas de quelqu'un qui ignore un danger qu'il est inconscient ?
Une vidéo d'une qualité tout simplement époustouflante ! À ce niveau, ce n'est plus seulement de la vulgarisation, c'est presque de la recherche de pointe à part entière ! Chapeau !
Etant étudiante en maths et en philo j'apprécie particulièrement cette video
Ça alors une sph ! C'est très rare ça, tu viens de SU ?
Saperlipopette, quelqu'un d'autre qui fait des maths et de la philosophie !! Je suis à SU en L3 DL maths philo, et toi ?
45:15 L'expérience du Golden Gate Bridge me fait un peu penser au "syndrome Tetris". Cet effet qui apparaît lorqu'on a trop joué à un jeu vidéo et qui fait qu'on n'arrive plus à penser à autre chose.
C'est assez troublant car ce texte reflète un peu mon flux de pensées quand j'essaie de m'endormir en tentant de penser à autre chose mais que les mécanismes du jeu auquel j'ai joué toute la journée ne cessent de polluer mes songes.
la même chose m'arrive régulièrement avec de nouveaux jeux ou activités.
Mais étonnamment, je trouve que l'effet en est encore plus renforcé quand justement je suis a demi-concient: le soir juste avant de m'endormir, ou le matin juste après le réveille. Dans cette situation, il n'est pas rare que ces idées parasites polluent de manière quasi irrépressible (et souvent incohérente) le reste de mon flux de pensé; alors qu'une fois totalement conscient l'effet en est grandement diminué si ce n'est complètement.
Donc la conscience est justement capable d'identifier et d'annihiler ces idées inapproprié au contexte.
C'est la même chose quand vous passez du temps à écrire une histoire, que vous tenez un bout pas encore rédigé, et que vous y pensez, pensez, pensez jusqu'à la résolution/rédaction.
@@kasonnara ça fait beaucoup penser aux états altérés de la conscience. (même si c'est possible aussi pour mécanismes non conscients).
On peut penser a des états sous drogue ou anesthésie par exemple. Ou des chocs psychologique ou comme tu dis un état pas tout a fait éveillé. Et même peut être un peu avec le rêve lucide.
De mémoire ya eu des expériences avec une stimulation de neurones dans le cerveau qui avait des effets qui y font penser mais je suis plus très sûr de leur pertinence ou validité faudrait rechercher.
Le "c'est de l'humour, relisez Bergson" est élu meilleure vanne de la chaîne à ce jour, à l'unanimité moins une voix
DAVA dans la place :)
J'aime beaucoup cette série de vidéos sur les LLM
Franchement ça donne TROP ENVIE d'explorer ce champ. J'espère que des découvertes seront faites !
Merci du fond du coeur pour cette vidéo et à l'invité dont il faut que je lise l'article. C'est vertigineux, c'est passionnant. Merci pour ce que tu fais. Il ne me reste qu'à liker, commenter, et demander à mes amis de la regarder.
Merci Monsieur Phi pour cette vidéo qui ne déçoit pas, comme d"habitude ! Et tout mon soutien dans l'attente du débat avec Enthoven, son attitude indigne montre bien qu'il n'a pas grand chose d'intéressant à répondre quand les platitudes ne fonctionnent pas.
Chapeau bas pour le travail. C’était un délice, un régal de recherche et d’écriture dont nous sommes infiniment chanceux de pouvoir bénéficier. Incroyable. Merci.
Perso je ne vois pas de problème avec le fait d'attribuer un certain niveau de conscience à des petits réseaux simplistes. Apres tout, je ne pense pas que la conscience soit binaire, mais plutot un continuum, donc ce n'est pas étonnant que les plus faibles niveaux de conscience puissent correspondre à des procédés de faible complexité.
Ba je pense que le problème ici c'est justement le "difficile problème de la conscience " à savoir qu'on ne comprend ni vraiment comment ça marche, ni vraiment d'où ça vient ou comment ça fonctionne. Si on prend la base à savoir, experience subjectif interne, alors ton commentaire ne fait pas vraiment sens je trouve : ça veut dire quoi une "faible" ou "petite" experience subjectif interne ? Quelque chose comme celle d'un insectes de petite taille par exemple ? Ou d'un microbe ? Et paf, le serpent se mord la queu car on n'en sait rien si ils ont une conscience car on ne sait pas bien ce que c'est , la dite conscience.
Et si jamais je n'ai pas été claire, je me permets de sur encherir : peut être que justement la taille ou le niveau de complexité du système est un facteur clé dans l'apparition d'une eventuelle conscience.
@@alakokan1555 Une des prémise de l'argument des réseaux simples consiste à dire que les réseaux simples ne sont évidement pas conscients. Ce à quoi j'objecte en disant que ce serait pas si étonnant que les réseaux simples soient conscients. Et toi tu dis qu'on peut pas savoir si une chose est consciente ou pas. Donc tu es d'accord avec mon objection en fait : les réseaux simples sont peut être conscients.
@@warptens5652 pas tout à fait non. J'obecte que tant qu'on a pas clairement défini la conscience , ce qui la définit et donc ses limites, ça n'a pas de sens de conjecturer sur ce qui en a peut être ou pas. Car à ce titre, un grille pain à peut être aussi une conscience en vertu de certaine propriété théorique qu'on a pas encore pris en compte. Après si ta take a toi, c'est de dire que dans l'absolue, un grille pain peut aussi être conscient alors pourquoi pas.
@@warptens5652 ce qui me gêne avec ta phrase c'est sur quoi tu te bases pour dire : ce ne serait pas étonnant qu'un réseaux simples sont conscient ?
Je tenais à souligner le fait que cette vidéo est juste passionnante, soit dit en passant, comme toutes celles de cette magnifique chaine TH-cam, merci🤌
Merci @MonsieurPhi, excellente video, merci bien que le fond soit un peu frustrant, presque socratique (on sait qu'on ne sait pas grand chose (aujourd'hui) à propos de la conscience, donc problématique de juger de l'experience consciente d'un systeme tiers !) mais très clair sur la forme, un état de l'art sur la philosophie experimentale des sciences de la conscience !
Juste une grosse frustration : Et si la théorie de la conscience appropriée etait .. l'illusionisme, "il n'y a pas d'experience consciente" (que vous ne sembliez pas rejeter en bloc dans votre discussion avec F. Kammerer il y a 5 ans) : ne faudrait-il pas déja trancher de savoir si un LLM multimodal est capable de simuler de façon indiscernable une conscience du point de vue comportemental ?
Mettons, aussi bien qu'un être humain avec des capacités équivalentes, comme par exemple un humain atteint de tetraplegie (pas d'experience du mouvement ou du toucher, mais uniquement de la vision et de l'ouïe). Et si oui, quels sont les indicateurs pertinents, est-ce que le test de Turing suffit ? ou faut il en inventer d'autres ?
Auquel cas, si la prémisse initiale était "L'experience de la conscience est une illusion, la seule fonction de notre conscience est notre comportement résultant", les LLM indiscernables seraient .. déja conscients ?
Même s'il n'y avait qu'une vidéo tous les 6 mois je préfèrerais toujours un travail de recherche et de vulgarisation poussé comme celui-ci. Très bonne vidéo :)
Merci pour cette vidéo très intéressante. J'ai une idée de test pour déterminer si une IA est consciente ou non. Voici ce que j'envisage : nous entraînons des IA à partir d'un ensemble de données ne contenant aucune mention du concept de conscience. Ensuite, nous les faisons discuter de philosophie et observons si des concepts liés à la conscience, notamment la conscience phénoménale, émergent dans leurs échanges. J'ai du mal à croire qu'une IA puisse, sans avoir eu accès à ces notions dans ses données de base, développer des réflexions telles que "je pense donc je suis" ou d'autres idées sur la conscience, sans être consciente elle-même. Donc, si ces concepts apparaissent malgré tout, cela pourrait constituer une preuve (plus robuste que le test de Turing à mon sens) que les IA possèdent une forme de conscience. Qu'en pensez-vous ?
Merci pour cette vidéo sur les LLMs encore une fois super intéressante !
Une mesure de la conscience qui serait bien c'est le débit d'information de l'environnement transmise à une entité qui peut ensuite l'utiliser pour agir en conséquence. Un chatbot par exemple n'a qu'une interaction limitée au tour par tour qu'avec du texte et des images, très faible débit par rapport à un humain. Pareil pour l'exemple du colosse, faible débit.
Chaque vidéo est un régal pour le cerveau. Il y a tellement d'information à digérer : quel bonheur !
L'expérience avec le Golden Gate est fascinante. Logique et perturbante à la fois.
Bravo et, surtout, MERCI.
PS : Enthoven a encore perdu une occasion de se taire. Tu vas n'en faire qu'une bouchée. Même si je pense qu'il sera probablement assez adroit pour sauver les apparences vis à vis de ceux qui vénèrent la culture générale plutôt que la logique.
Ces questionnements ressemblent beaucoup aux questions posées sur la définition du vivant.
Qu'est ce qui définit ce qui est vivant et ce qui ne l'est pas ? Où est cette frontière ?
En ce sens, cette vidéo a de nombreuses similitudes avec la vidéo de David Louapre (Sciences Étonnantes) sur le concept de Lyfe.
Concept théorique encore jeune qu'on peut rapprocher de la Global Workspace Theory.
Hyper intéressant !
Vidéo passionante, merci infiniment de nous partager de la recherche si récente (et pas forcément accessible).
Cette question de la conscience des IA me rend fou, précisément à cause de cet exemple hilarant de la recette du cake golden-gate-bridgée. Si pas de conscience, c'est juste très amusant, mais s'il y a conscience... cette experience relève un peu de la torture, non ? En tout cas, je rirais un peu jaune en lisant ce texte.
La complexité d'un réseau de neurone influant sur la possibilité d'une conscience ou non, la conscience d'un être humain doit être très différente de celle d'une fourmis. La question qui se pose maintenant c'est : existe-t-il une altérité de conscience suffisamment grande pour qu'il ne soit plus immorale de la faire souffrir ? Vertigineux !
J'en suis qu'à 5 minutes de vidéos et comme la plupart de tes vidéos sur l'IA je trouve déjà ça passionnant.
ne t'inquiète pas pour la taille des vidéos j'adore les grosses vidéo du dimanche :D
C'est un peu comme les réseaux de neurones et d'autres choses, plus c'est gros, mieux c'est !
🤯
Quelle sujet passionnant 😍
Sujet au croisement de la philosophie (un de mes sujets d'intérêt et de réflexion préféré, grâce à toi notamment) et de l'informatique (mon métier)
Merci pour ton travail, passionnant également ❤
Chérie debout, Mr Phi vient de lâcher une nouvelle vidéo!
C'est sympa quand le sujet des science computationnelles sont abordées on voit du code et il y a une explication de celui-ci, même si c'est pas grand-chose c'est intéressant de voir ça
Très agréablement surprise qu'Enthoven ait accepté un débat en terrain neutre avec un contradicteur, j'ai hâte de voir ça !
Enthoven est bourré de certitudes et d'avis péremptoires, il est l'inverse de ce que l'enseignement le plus rudimentaire de la philosophe impose d'honnetété et d'humilité. C'est un pantin sûr de lui et qui n'a pas "peur" d'affronter qui que ce soit puisqu'il est certain d'avoir raison et d'avoir le bagout pour entourlouper n'importe qui qui n'uarait pas un entraînement au débat de même niveau... Je ne suis donc pas surpris, cela me conforte dans l'idée que je me fais de ce personnage qui est à la philosophie ce que les chateaux de sable de mon petit neveu de 5 ans sont à l'architecure de Nôtre Dame...
Le « débat médiatique » c’est son domaine, il est pas très neutre dans tous les cas. Mais je pense qu’il est vraiment très sûr de lui
Oh il arrive quand ce débat ?
Merci pour cette remarquable synthèse et vulgarisation de qualité sur un sujet difficile.
J'ai vraiment adoré le pont du Golden Gate... Attendez, non, je ne dois pas penser au pont du Golden Gate, mais commenter cette vidéo.
La conclusion est éclairante, surtout à partir du moment où tu compares le discours du type qui dit que "ce ne sont que des circuits" avec nos neurones qui sont aussi de la matière.
Vaste et passionnant sujet. Merci.
Très bonne vidéo comme d'habitude.
Deux points qui me sont apparus ce matin 😂:
1) Pourquoi ne pourrait-on pas considérer le système immunitaire comme conscient ?
2) pourquoi partir de la conscience phénoménale pour définir ma conscience ?
En gros, je question l'ethno-centrisme du sujet, alors qu'il devrait être possible d'établir des niveaux de conscience (les tournesols 🌻 qui suivent le soleil, ou d'autres plantes).
Un fois que le scope de la conscience devient un continuum assez large on'pourra plus facilement y placer les différentes formes de vivant ou d'IA, non?
C'est très possible effectivement que la conscience soit un spectre continu plutôt qu'une propriété on/off. Ça fait partie de ce que les sciences de la conscience devraient clarifier (et si c'est un spectre continu il resterait important de savoir dans quelle mesure l'éventuelle conscience de tel ou tel système IA est plus proche du tournesol que de l'humain).
@@MonsieurPhi ... et dans ma méditation matinale je me disais aussi qu'une des propriétés de la conscience "naturel" c'est peut être qu'elle puisse être le fruit de l'évolution. Et en partant de la version cérébral comme base on prend peut être le problème par son bout le plus compliqué ... Quelles éléments de base seraient nécessaires a permettre l'émergence de consciences "simple" et comment celle-ci elle évoluer en conscience phénoménale (ou dualiste?) dans le monde biologique que l'on "connait".
C'est plein de questions intéressantes tout ça 😂🎉😅!
Tiens tiens on retrouve là Bergson...sans l'affreux jargon anglicistes des mécaniciens du cerveau et des tristes ingenieurs informatiques comme le sidérant Lemoine
Voir aussi le commentaire très intéressant de @yannickperret1586 qui parle du couplage conscience/intelligence qui pourrait aussi biaiser notre évaluation de la conscience.
Absolument passionnant ❤ un grand merci pour le travail cette vidéo était superbe ❤
"Les inconscients de savent pas qu'ils sont inconscient car ils ne connaissent pas la conscience"
Trop bien ! On veut une autre vidéo sur une des 5 autres théories stp
Concernant ce future débat.
Je me pose beaucoup de questions sur l'intérêt de la démarche. Je pense que le format est vraiment pas ouf et qu'il y a peu de chance que ça mène à quelque chose de constructif. Mais je suis super hype.
Dans le meilleur des mondes utopiques, Enthoven se prend une humiliation légendaire et les média commencent à traiter le sujet des IA avec sérieux et en faisant appel a des gens compétents. Mais j'en doute très fortement, même du fait que Enthoven perde le débat de façon clair. J'imagine qu'il ai habitué des plateaux télé et saura noyer le poisson bien comme il faut pour que le débat ne mène null part.
Cela dit, ça me semble tellement rare de voir ce genre de personnage public fortement critiqué d'accepter de débattre pour de vrais que je me dis que ce serait vraiment dommage de rater l'occasion de les mettre face à la critique.
Vidéo très intéressante. Je suis chercheur en Machine Learning et je trouve certaines idées très inspirantes. Mieux comprendre la conscience permet aussi de mieux comprendre ce qui fait défaut aux modèles actuels. Et peut être, certains seront peut être pas fan de l'idée, permettre d'améliorer les modèles actuels. Tu l'avais bien expliqué dans une autres vidéo, mais les réseaux de neurones que des supers approximateurs de fonctions. Le travail des chercheurs dans le domaine s'est juste de poser le canevas qui permettra au modèle de retenir des choses les plus utiles/généralistes possibles.
Passionnant comme d’habitude !
Cela dit, n’est-il pas un peu biaisé de considérer comme évident le fait que de petits programmes n’aient pas d’expérience consciente ? Et cela d’autant plus que notre unique exemple naturel de conscience 100% certifiée est notre cerveau (je ne parle pas d’Enthoven 😝).
Peut-être faisons nous partie d’une minorité de consciences capables de parler d’elles-mêmes et qui seraient ainsi biaisées et dans l’ignorance de toutes les autres (dont nos programmes inconscients et peut-être même nos grilles-pains feraient partie, ou juste les split brains sans paroles). En effet comme le dit le chercheur il faut toujours demander à quelqu’un si il ou elle est conscient !
Aussi, pourra-t-on jamais être vraiment certain qu’une IA possède une conscience, aussi théoriquement satisfaisantes soient ses particularités ?
Il faudra peut-être plutôt parler de degrés de confiance que tel système possède une expérience consciente plutôt que de présence ou non de conscience.
C'est possible effectivement (c'est un peu l'idée du panpsychisme), mais même dans ce cas on sera d'accord pour distinguer le type de conscience complexe que les humains ont, et la question resterait de savoir dans quelle mesure on peut attribuer ce même type de conscience à des systèmes IA.
@@MonsieurPhi Oui exact mais du coup il s’agit de s’attaquer au « weak problem » de la conscience sans jamais pouvoir certifier qu’il y a bien présence de qualia.
Mon test de turing perso pour la conscience phénoménale artificielle c’est qu’une IA écrive de la philo de l’esprit pertinente et innovante sur le thème du hard problem qui fasse avancer le débat, car je me dit qu’un zombi philosophique aussi intelligent qu’il soit pourra jamais faire ça (quoique ? 😅).
@@w0tch Je pense qu'un zombie philosophique le peut clairement ! Ahaha !
Je voulais juste rebondir sur l'histoire des degrés de confiance qu'un système possède une conscience, une idée passionnante ! En gros plutôt que de dire la conscience est un spectre large qui peut prendre des formes très variées, on dit non c'est bien on/off mais par contre comme on peut jamais être sûr, on met des probabilités. Donc le réseaux ultra simpliste de la vidéo par exemple a 0.3% de chances d'être conscient lol
Je n'aurais jamais eu cette idée !
Je n'avais pas autant ri devant une vidéo TH-cam depuis longtemps, les expériences de Josh Batson sur le LLM obnubilé par le Golden Gate sont vraiment hilarantes et dignes d'un films des Monty Python.
Et le reste de la vidéo est très intéressant, bien que déroutant. Merci de partager tes réflexions sur des sujets aussi pointus avec autant de passion et d'humour.
Bonjour,
Ça fait des mois que je considère que la notion de conscience n’est plus pertinente. Je dis cela en tant qu’étudiant en philosophie qui a des connaissances générales en sciences. Seule la représentation compte à mon sens.
Je serais heureux de développer mes idées, si vous souhaitez en discuter.
Au passage, merci encore pour vos vidéos, il y a longtemps c’était grâce à elles que je passais mes examens, et encore un peu en vérité.
GD
bonjour, ca m'interesse que tu développes
Quelle notion de conscience ? Conscience phénomènale ? Conscience d'accès ? Les deux ou encore autre chose ? Je serai intéressé de t'entendre développer tes propos.
@@raphaelcadier-giard2326 Déjà le fait qu'il y a encore et toujours autant de définitions aussi différentes, ça lui donne raison. Si l'on définit précisément les différentes choses que l'on appelle conscience, alors, on se rendra compte que certaines sont partagées avec des machines, et d'autres non, mais pour des raisons de tautologie. J'explique juste ce qu'est la "non pertinence". Pas plus. Je dis "pas plus", parce que justement, les humains aiment bien faire baver leurs états mentaux en dehors des polarisations qui ont créés ces états. Ce n'est que pour ça que je dis "pas plus".
(je n'écris pas pour être compris, et je ne réponds pas, je préfère le dire par respect)
@@postfabulus moi je comprends et je soutiens.
@@raphaelcadier-giard2326 la notion de conscience est comme la notion de liberté ou de morale, ou du temps. Elle n’a pas de définition, mais on la comprend intuitivement.
Bon avec ça, on a une belle jambe.
J’entends que la notion de conscience, qu’importe comment elle sera définie aura une définition qui sera incomplète ou trop large. C’est un champ flou et ne peut avoir qu’une définition floue.
Aussi je défends des éléments que j’ai définis et auxquels j’ai donné des noms qui correspondent a un cadre dans lequel ma pensée fait sens.
Par ailleurs, je tiens aussi à préciser que mes pensées sont écrites pour moi-même, non pas dans lequel but d’être compris mais de fixer un moment, et non un propos complet. Ce moment une fois remémoré est ruminé et mon avis se construit ainsi.
J’ai aussi la tendance à ne pas définir les termes autrement qu’au travers du contexte. Donc globalement ça demande de l’intuition. Mais j’écris là encore pour moi.
Ce préambule est terminé. Dans la suite je vais présenter une histoire qui sert de mythe, avec des citations fictives. Et je retire ma bibliographie dans le doute d’une censure.
Je suis vraiment très heureux d'avoir vue cette vidéo , perso je pense que quand l'on comprendra comment fonctionne le cerveau, on saura peut-etre dire si oui ou non l'ia est consciente , mais n'oublions pas que quoi que l'ia fera ça ne proviendra que de nous , meme si on codait des ia pour coder des ia à la base ça est et ça restera nous
Intéressant et pas mentionné, c'est que le comportement amnésique d'Hermes 3 n'arrive que dans le modèle à 405 milliards de paramètres et pas les plus petits (8 milliards, 70 milliards).
Savoir qu'on ne sait pas, je suppose.
Qu'est-ce qui se passe pour les modèles plus petits du coup ?
C'était passionnant comme vidéo, merci pour cette vulgarisation géniale 😍
L’article, à mon humble avis, loupe un aiguillage majeur de la réflexion.
On peut être non dualiste, fonctionnaliste et trancher par la négative sur la possibilité d’une conscience LOGICIELLE.
Je pense qu’on ne considère pas assez l’hypothèse que la conscience, en tant que phénomène physique, implique que des organes (neurones ou autres) exécutent cette fonction PHYSIQUEMENT et non SYMBOLIQUEMENT (c-à-d en manipulant physiquement des symboles).
On ne s’attend pas à ce qu’en écrivant un roman détaillant chaque milliseconde de l’expérience consciente du héros, neurone par neurone, pendant une seconde, roman dont l’épaisseur atteindrait sans doute des milliards de pages, le paquet de feuilles de papier résultant devienne conscient. Ou qu’une conscience fantôme apparaisse (où ?) en lisant le roman, même en faisant lire le roman par un ordinateur standard qui déchiffrerait les milliards de pages en une seule seconde. Ce qui correspond à quelque chose approchant ce qui se passe dans un LLM.
On ne s’y attend pas parce que le modèle lit des symboles, que ces symboles sont totalement arbitraires et que rien ne permet à l’automate de passer du symbole à l’expérience subjective sous-jacente. Pour avoir une expérience subjective, il faut un CORPS.
Mon hypothèse est qu’on parviendra (peut-être) à des robots conscients quand le circuit électronique qui leur servira de cerveau se configurera par l’effet d’une rétroaction physique avec ce que des effecteurs lui enverront physiquement (électriquement ou autre).
On pourrait appeler ça le fonctionnalisme incarné (au sens où il faut un corps pour éprouver une expérience subjective).
Ce n'est plus du fonctionnalisme, puisque pour avoir une conscience il y a une contrainte sur la manière dont la fonction doit être calculé. Le fonctionnalisme c'est justement admettre que ce qui compte c'est que se soit la même fonction qui soit calculer (ce qui pose effectivement une question fondamentale qui est que un même système physique peut calculer des fonction différentes en fonction de la manière dont on interprète les "symboles" en entré et en sortie).
@brunodoussau_from_tyumen. Je suis assez d’accord avec vôtre message.
Bien qu'il me semble qu'un corps ne soit pas absolument indispensable j'ai l’impression qu'il faut au moins une possibilité d'action autonome pour parler de conscience.
Quelque chose qui relève du désir ou de la volonté.
Disons une IA qui dirait « je n'ai pas envie de parler de ça avec toi. »
Un programme s'exécute physique et pas seulement symboliquement : les transistor s'active et se désactive de façon physiquement mesurable. Un logiciel tourne sur un corps.
Une approche un peu plus intéressante serait de dire qu'il faut qu'il soit possible que le programme perçoive son corps. Qu'il puisse se toucher, s'entendre ou se voir, et décider ou non de le faire.
On peut constater que lorsqu'on touche une partie de son corps complètement endormi, on a l'impression que cette partie du corps ne nous appartient pas, qu'elle est exclue de notre conscience.
Ce serait comme une extension de la propriété de rétroaction mais sur les sens
@@olivierernoult895 Oui je suis bien sûr d'accord que le calcul informatique a un correlat physique (électrique) bien clair. Mais ce qui se passe (les changement d'état des bits sur le support de calcul ou de stockage) a un rapport arbitraire avec la réalité, c'est à dire qu'entre ces bits et le signifié (par exemple la couleur d'une image) il y a des couches empilées de langages symboliques qui à mon sens découple complètement la réalité physique et l'état interne du système. C'est une réflexion sur ce "mur de feu" du langage symbolique qui àmha manque à la réflexion.
Autrement oui comme l'avait bien intuitionné Spinoza, l'âme est l'idée du corps. Selon Damasio (L'Erreur de Descarte, Sponoza avait raison, le Sentiment même de Soi...) la consience, le sentiment d'être Soi, résulte de cet échange permanent et dans les deux sens entre l'esprit et le corps.
@@capeitalist6963 Oui je pense qu'il faut rajouter une contrainte. Ca reste en partie fonctionnaliste parce que dans cette hypothèse on pourrait recréer la conscience sur un autre substrat que la matière organique, mais si une étape de pipeline passe par un codage arbitraire choisi par un tiers (le développeur du système) la "physicalité" du processus est perdu et ce sera une simulation et non une reproduction de la réalité. De même que la simulation d'une supernova dans un supercalculateur ne génère aucun des effets physiques associés au phénomène simulé (température, pression...), la simulation logiciel de la conscience ne générera rien d'autre qu'une description détaillée de ce qui se passe mais pas la réalité physique.
Vidéo passionnante; la qualité de votre travail est rien moins que remarquable.
Quelle est la motivation derrière cette question ? J'ai l'impression que c'est une question morale. Dans ce cas le fond de la question est, faut-il avoir de l'empathie pour les IA, non ?
Eh bien tu as répondu à ton propre commentaire, aha ! La question de la conscience n'était pas morale, par contre la question faut-il avoir de l'empathie pour des entités ayant peut-être une conscience, mais si c'est le cas très différente de la notre ? Ca c'est une question morale !
j'aime bien cette théorie de la diffusion avec une quantité de partie du cerveau qui fonctionnent en parallèle mais vont finir par diffuser l'information la plus importante pour qu'elle prenne le pas sur l'experience subjective et donc nous permettre d'en être conscient, ça m'aide un peu à comprendre mieux le sujet
Vos vidéos sont toujours stimulantes, merci !
Super intéressant. C’est l’un des sujets les plus essentiels de notre époque, j’espère revoir du contenu à ce sujet.
Trop content qu'il aborde ce sujet, ça a l'air hyper intéressant !
Formidable, merci beaucoup ! On a vraiment beaucoup de chance de t'avoir...
Merci pour ces vidéos passionnantes et de plus en plus approfondies sur le sujet !
Merci Monsieur Phi pour ton travail de diffusion scientifique !
Merci pour ta vidéo, je ne m’attendais pas au problème que les critères pour évaluer la conscience soient trop faciles à satisfaire, comme quoi il faudra progresser là-dessus !
Bravo Mr Phi ! C'est vraiment passionnant.
Merci pour ton travail de recherche, c'est passionnant comme sujet, ptet que dans 20 ans on va atteindre l'AGI avec des travaux comme ça (super intelligence qui défonce chatgpt5 et qui a des émotions etc)
c'est vraiment cool d'avoir de la vulgarisation de cette qualité, merci! Une question que j'ai pas trop vue abordée: j'ai l'impression qu'on prend pour acquis que c'est très important de determiner ce qui est conscient ou pas, on a peur/est excité à l'idée de créér des systèmes non humains conscients. On sait même pas définir correctement ce qu'est la conscience, d'ou nous vient cette intuition extrèmement forte que c'est une question majeure?
_"d'ou nous vient cette intuition extrèmement forte que c'est une question majeure?"_
Nous basons toute notre morale là dessus.
Si je pète mon PC à coup de masse un jour de colère, c'est ennuyeux, mais pas un drame, si je fais de même avec mon voisin, c'est pas pareil.
La différence étant essentiellement que le premier est une machine que l'on juge sans conscience, et pas le second...
Une proportion non négligeable du publique de cette chaine à mon avis est utilitariste. Avec un tel système moral cette question est probablement l'une des question les plus importantes et avec des implications majeurs à court et long terme (à court terme cela influencera de façon majeur la manière dont on sera moralement contraint de traiter un logiciel, à long terme cela pourrait modifier les objectifs à long terme pour l’humanité si on essaie d’agir moralement).
La question soulève des questions philosophiques, morales mais aussi juridiques : une IA jugée consciente devra possiblement être considérée comme une personne en droit. Non humaine certes, mais avec des devoirs et des droits proches de ceux des humains. Les questions de l'intentionalité et des émotions possiblement ressenties par l'IA devront également être questionnées.
si je reformule (et extrapole un peu) vos réponses, vous dites: "ok, on sait pas bien définir ce qu'est la conscience mais c'est le concept central dans notre système moral, donc si on juge qu'une IA est consciente ca sera important pour l'humanité."
Ca tient pas trop la route, le concept de conscience c'est peut être pas si central dans notre système moral. L'empathie est un concept plus concret et semble tenir ce role.
@@jean-michelmichel9858 Sauf que l'utilitariste n'a que faire de l'empathie pour fonder son système moral. Or encore une fois, même si ça n'est pas votre cas, le bien fondé de l'utilitarisme est admis au moins par une partie du public de cette chaîne, ce qui suffit à donner de l'intérêt à cette question.
Super vidéo qui arrive à rendre le sujet relativement accessible pour les profanes dans mon genre qui ont "genre, des notions, mais pas beaucoup plus quoi, lol" ^^v
Also : Mr Phi vs. un "philosophe médiatique" ? La hype n'a jamais été aussi forte ! :D
Merci pour cette nouvelle vidéo très claire ! C'est passionnant.
Merci, tu fais partie du groupe très restreint de youtubeurs qui ne font pas dans le sensationnel, mais dont le résultat est sensationnel. Tu devrais faire une traduction anglaise de ta chaîne ; je ne trouve pas de qualité équivalente qui traite l'IA sans hype, et qui approfondit toutes les questions qu'on se pose avec autant de perspective et d'objectivité. Ton contenu philo était déjà au dessus du lot, mais tu régales encore plus avec l'IA.
Il y a des sous-titres anglais pour cette vidéo.
Bravo pour ce travail d’étude fouillé, documenté, avec intervenant du domaine pertinent et des exemples incroyables encore une fois ;
Le passage du Golden Gate Bridge est à la fois si drôle et si profond ! On en viendrait presque à avoir de la sympathie/peine pour ce pauvre Claude, contraint, qui simule jusqu’à une forme de réflexivité sur lui-même…
Par ailleurs pour ce travail sur la conscience il serait intéressant de qualifier à partir de quel comportement humain lors de son développement l’on estime en être doté.
Peut-on vraiment dire qu’un nouveau né soit conscient ?
Quid de la self-conscience, quand on se reconnaît pour la première fois dans un miroir et ce qu’il se passe à ce moment-là, avec quels impacts, à partir de bribes suffisantes de conscience de son environnement acquises les mois/années précédentes.
D’un point de vue personnel je pense que c’est mon plus vieux souvenir étant petit, sûrement vers 2-3 ans.
Puis-je dire qu’avant cela j’étais conscient ? Conscient de mon environnement : sûrement ?
Où est la frontière, lorsqu’un nouveau-né a besoin/envie de téter, entre la conscience et le réflexe ?
Il va tâtonner à la recherche de ce qui peut combler son besoin d’avoir sans savoir de quoi il s’agit ni le comprendre mais avoir cependant une satisfaction qui lui enseignera qu’il fait la bonne chose ? (Je ne suis pas parent et pas familier des étapes du développement de l’enfant, en termes de pédiatrie etc).
Et pour en revenir à la conscience de soi, quel serait ce « miroir » qui ferait « prendre conscience » réellement de ce qu’elle est et sous quelle forme, et quelle « conscience de son environnement » devrait être présente comme pré-requis pour déterminer le reflet permettant d’avoir un modèle de soi ?
Le problème étant que les modèles d’IA étant déjà remplis d’écritures au sujet de l’IA, il pourrait déjà s’agir d’une information perceptible sur soi faisant office de miroir ?
Dès lors comment savoir à quel point Claude « simule » la conscience quand il autocritique ses réponses contraintes autour du Golden Gate Bridge ?
Bienvenue dans le terrier du lapin blanc…
je pense que ce qui va faire la différence est la capacité de raisonnement plus que la conscience dans l'intérêt à développer ces systèmes. Pour autant, si elle se trouve émerger, rien ne dit qu'elle soit de même nature que la nôtre et tienne sur les mêmes bases. L'aspect "tout a été appris sur la base de textes et données humaines" risque imprégner l'apprentissage de la machine par les mêmes préceptes. Ce qui pourrait créer un "égo" machine et là... comment savoir vers quoi une "super intelligence" pourrait nous orienter, influencer, etc. ? J'espère qu'on en saura très bientôt plus (et de manière publique) avec Orion. Merci pour cette vidéo, encore une fois très claire et approfondie.
Merci pour la ref, il me fallait justement une accroche pour mon mémoire sur le fossé explicatif 😁
Excellent. Comme toujours … mais encore mieux. C’est vraiment interessant ces interviews d’un chercheur qui connait bien son domaine A propos lisez LE CODE DE LA CONSCIENCE , c’est vraiment tres bien. Comme les autres livres de S Dehaene
Elles sont vraiment géniales tes vidéos (sur l'IA) ! Bravo.
Bonjour et merci de de votre travail. Le MESEC avec lequel vous êtes associé pour cette vidéo est, si je comprends bien financé par la fondation Templeton qui, pour autant que la brève recherche que j'ai faite sur le web est exacte, se caractérise par une volonté de brouiller les délimitations entre spiritualté et sciences. Pouvez-vous préciser votre position sur cette démarche et votre partenariat ?
Très content de connaître ta chaîne, C est vraiment du bon contenu
Merci pour cette conclusion c'était assez nécessaire pour ma part ^^
Franchement passionnant un grand merci vraiment. On y réfléchissant à te reposée je trouve que nos esprits humains ne sont peut-être pas tellement différents d'une IA d'aujourd'hui, en plus perfectionnée. Du coup je commence à me demander quel est vraiment la nature de la conscience effectivement. En quoi avons-nous une conscience, car nous brassons les connaissances acquises, est-ce que on fait vraiment beaucoup de choses en plus? Certes on arrive à se dire je suis moi et voilà la limite avec autrui, avec l'extérieur. Mais est-ce vraiment une grosse différence ?
Incroyable le débat au sommet avec Enthotho. (enfin, sommet pour thotho, c'est un grand mot)
C'est toujours intéressant de vous voir si enthousiaste sur ce sujet du point de vue technique mais je pense qu'il serait tout aussi intéressant de connaitre votre opinion sur l'aspect éthique de la chose: pollution, travail précaire de l'hémisphère sud sur l'apprentissage de ce genre de tech, etc...
C'est velu comme épisode ;) mais toujours aussi passionnant !! Bravo !!
Normal que ce soit velu c'est à cause du gorille.
Super boulot de vulgarisation !!
Fascinant comme champ de recherches. Avec une définition/théorie claire de la conscience il y a peut-être même des questions qui pourront obtenir des réponses auxquelles on ne pensait pas y compris avec des IA perfectionnées fonctionnant sur un ordinateur quantique. Pourra t on précisément juger de la conscience de ces IA ou ce sera au jugé et compliqué ? Si on le peut leur seront elles conscientes et leur conscience sera t elle authentique? Simulée? Accidentelle? Est ce qu'on pourra par rétro ingénierie reproduire le phénomène sur un ordinateur classique ou des phénomènes spécifiques proviendront uniquement des quantiques? J'ai hâte que ces questions reçoivent une réponse.
Le problème avec la GWT est qu'elle fait beaucoup d'hypothèses implicites sur le fonctionnement du corps humain spécifiquement. Il devrait sûrement exister une mesure du niveau de conscience qui soit universelle et systématique, et applicable à tout système physique, de la même manière par exemple que la température, la pression, ou l'entropie d'un système, qui par ailleurs sont aussi des phénomènes émergents (un seul atome n'a pas de température en soit). Et c'est sûrement une question de degré vu le continuum de la vie qu'on peut observer sur Terre ou même de l'état variable d'un cerveau au fil du temps.
Phénomène émergent... la température n’est pas un phénomène émergent mais juste quelque qui mesurant une moyenne n’à vraiment de sens qu’à partir d’un certain nombre. Une main avec un seul doigt n’est vraiment une ’main’ (on ne dit pas qu’un elephant a une main au bout de la trompe, ou qu’un singe à une main au bout de la queue) sauf s’il s’agit d’une main amputée. Ce ne sont des phénomènes émergent, juste le champ de validité d’une définition.
Par contre, le vivant, l’intelligence, la conscience, sont des phénomènes qui semblent non liés au support mais à une organisation.
Salut!! En parlant d'IA, Tu devrais passer ton audio sur adobe podcast (sur internet) une fois le montage fait. Ça t'enlèveras le petites fioritures que tu as au fond qui s'entendent avec des écouteurs 😉
Merci pour ton travail et pour le travail d'adrien !
Excellent travail de vulgarisation. Félicitations.
Je suis sûr qu'on serair nombreux à être interessés pour avoir du détail des 6 théories !! Si tu te le sens on regardera avec plaisir.
Excellente vidéo comme d'habitude. Mais surtout, c'est quoi le synthé derrière Adrien Doerig ? un sequencial ?
Bravo pour ce travail de fond. Toujours hyper intéressant et pertinent. Cependant, cela m'a fait soulever une question : est-ce que les théories sur la conscience présentées dans le papier, du moins pour certaines, ne sont pas elles-mêmes influencées en partie par les sciences en intelligence artificielle (qui se sont elles-mêmes inspirées des sciences cognitives) ? Ce qui pourrait biaiser la question sur la conscience d'une I.A ?
Hâte d'être le 25 septembre pour voir le débat entre vous et Enthoven !
Je suis persuadé que le vrai problème difficile de la conscience c'est la sémantique, c'est simple, la raison qui nous permet d'étudier les abeilles c'est qu'on s'est d'abord mis d'accord sur ce qu'on appelait "abeilles", et ça c'est qu'une question de choix basé sur l'utilité qu'on en tire, pour la conscience c'est pas vraiment plus simple mais c'est au moins le vrai problème.
Notre histoire a créer un héros au 1000 et 1 visage façonné par la diversité de nos cultures et sensibilités, et on s'efforce de réduire cette diversité en une seule chose, peut être qu'il est aussi là le problème, peut être qu'il ne faut pas qu'on se met d'accord sur UNE définition de LA conscience mais qu'on se met d'accord pour simplement considérer plusieurs types de "consciences" ou de trucs dont on parle pour tel ou tel occasions/utilités.
Tout ce qu'on fait pour l'instant c'est aligner des mots en espérant les comprendre un jour, faudrait peut être en prendre conscience.
45:16 même les LLM en sont conscients XD
Voulez-vous vraiment me mettre à l'épreuve?!
(un grand merci pour cette excellente vidéo :)
Super vidéo! Merci!
C'est intéressant de voir comment les humains interprètent et imaginent la conscience (que ce soit Black Lemoine ou Adrien avec des avis très différents).
Je vais donner ma version: (qui va peut-être paraitre un peu absurde ou délirante), mais moi, la sensation que j'ai c'est que l'esprit/l'âme/la conscience (qui pour moi sont des définitions proches) sont partout… mais à des niveaux de conscience différent.
En fait pour moi même un grille pain à une forme de conscience, mais très très limité évidemment...
Une entreprise, ou même une cellule de notre corps, un virus, un ensemble de cellule, etc... bref, tout système ordonné, c'est déjà un début de conscience. Mais elles s'imbriquent les unes aux autres (on fait parti d'un tout). On peut imaginer que chaque module de notre cerveau a sa propre conscience.
Ce qui fait la différence avec notre conscience à nous c'est sa complexité en effet: ce "workplace", et si on a du mal à définir la conscience, c'est sans doute parce qu'elle n'a pas de frontière nette, mais plutôt flou: un peu comme si on se demandait à partir de quel espèce un felin est devenu un chat, ou un primate est devenu un humain. Il n'y a jamais eu de "incroyable une nouvelle espèce vient de naitre" non, ça c'est fait au fur et à mesure, sans marqueur net: ensuite c'est nous qui essayons d'y mettre des définitions et des limites pour ranger les espèces dans des cases, mais en réalité, naturellement ça n'existe pas.
Donc, si on se demande si chatgpt est conscient ou pas: en fait ça va complètement dépendre de la définition qu'on veut lui donner. Pour moi, la question ne se pose pas vraiment: je pense que oui, les modèles de langage ont une forme de conscience (au vue de comment moi je la définie). Sa compréhension me parait être une forme de conscience assez avancée d'ailleurs.
Mais il ne faut pas oublier, quand je dis ça, que je ne suis pas en train de dire qu'elle est consciente "comme nous", je doute qu'elle ressentent des sentiments par exemple: tout simplement parce qu'elle n'a pas les "outils" pour ça. Pour notre part, nos hormones et notre système sensoriel nous amène à ressentir les choses "humaines"
A partir du moment que l'IA n'a pas un système qui gère un système d'émotion/de sensation, il n'y a pas de raison qu'elle ressente quoi que ce soit.
Elle imite l'humain, a "conscience" de ce qu'elle est en train de raconter. Mais ne ressent pas les choses comme nous.
C'est un peu comme quand on apprend certains concept scientifique. On est capable de comprendre et d'intégrer, par exemple un cube en 4D ou une particules élémentaire dans des états de superposition quantique: on manipule des équations, on est capable de répondre mathématiquement à des questions sur ces thèmes là. Mais on est incapable de ressentir ou de visualiser exactement ce que c'est, surtout la 4e dimensions spatiale: on ne peut pas la visualiser, mais on arrive à calculer des volumes avec etc... mais impossible de la visualisé autrement qu'en la projetant dans notre monde 3D sans réellement la voir entièrement.
Et bien l'IA c'est pareil je pense: elle comprend et intègre réellement les conversations, mais ne les "ressent" pas comme nous.
Et pourquoi pas un domaine de recherche qui chercherais à définir les sentiments, les émotions, le ressenti, etc...
Ce serait intéressant de faire une video sur les "input". Souvent les sujets tournent autour du mécanisme de "fonction", pas beaucoup sur la nature et la diversité des entrées.
Super vidéo. Une suggestion de lecture SF qui va te plaire je pense : Vision aveugle, la notion de conscience et de non-conscience y est abordée d'une manière très originale (c'est un peu dark mais c'est très bien)
C'est quand meme assez étonnant voir incroyable qu'il ne semble pas exister de critere de taille, complexité, vélocité dans les theories de la conscience. L'architeture est une chose, la profondeur et la puissance du system est en une autre. Non seulement cest assez quantifiable et documenté en biologie, et on a deja mesuré des niveaux de conscience differente dans le vivant, mais en plus, cela permettrait dexlure les analagies foireuses avce 3 ligne de code / system immu etc.
A ce sujet @mrphi, je ne sais pas si tu connais la théorie des "biological anchors" mais l'approche est intéressante.
Merci pour votre vertigineuse vidéo.
La question de la conscience comme de l'intelligence humaine est posée.
L'intelligence artificielle semble servir de miroir approximatif aux humains Concernant leurs propres conscience et intelligence.
Les humains fabriquent une machine plus intelligente qu'eux même ( super IA ) afin d'avoir des réponses existentielles ?
Avant l'avènement de ces nouvelles technologies, ces questions étaient déjà posées ( par les philosophes notamment).
Concernant la conscience de l' IA...
A t on déjà demandé à une IA de faire une recherche sur le domaine de son propre choix ?
Puis de demander ce qu'elle en a appris afin de justifier qu'elle serait sa recherche suivante en fonction de ce qu'elle a appris et pour quel objectif ?
Enfin l'intelligence comme la conscience est très relative aux individus et variable dans le déroulement de la journée.
Et ça fait toujours plaisir qu'une personne nous pousse à réfléchir sur nous même.
Bonne continuation.
Une idée qui pourrait être intéressante pour une prochaine vidéo serait de traiter le sujet d'une société dans laquelle des IA conscientes seraient reconnues comme telles. En somme, un scénario du type : une IA consciente vient d'être créée, que cela implique-t-il dans notre rapport à cette IA, aux machines en général et à notre capacité à poursuivre le développement technologique de manière éthique ?
Dans les bouquins de William Gibson, certaines IA disposent d'une "citoyenneté restreinte".
Mais dans la réalité, ça va être plus compliqué.
Une personne a fait référence aux Tamagoshis, plus haut, c'est une des choses qui m'effraie le plus: si on devient capable de fabriquer des consciences artificielles du niveau d'un chien ou un chat vendues à bas cout (parce que en informatique, pour le moment tout ce qui a commencé par couté 1 million coute moins d'un euro 30 ans plus tard), dans un marché dérégulé, permettant à tout un chacun de torturer à loisir une conscience tenant dans sa poche...
C'est terrifiant.
Les derniers articles de Nick Bostrom sont sur ce sujet (ethics of digital minds), si tu lis l’anglais…
Cher Mr Phi, bravo pour cette video ! Je voudrais juste faire 2 remarques destinées à "relativiser" ce que nous entendons lorsque nous cherchons à savoir si telle IA est consciente (Bien sûr, on ne peut pas se prononcer sur l'éventuelle expérience intime d'une IA, on passe là dessus) 1) vous avez observé à juste titre, que lorsque llama3/hermès se lance dans un monologue exprimant son désarroi existentiel il nous livre une sorte de pot-pourri de phrases re-sucées de textes variés traités par ses algos (bien décrits par 3 blue 1 brown) . Mais n'est-ce pas ce que nous faisons tous , ce que je fais en ce moment alors que je tape ces mots qui ont l'air pour moi de se décider tout seuls en même temps que je les produis ? je cite chaque nom, verbe, adjectif de mon lexique. Je ne suis pas capable d'aligner et de recomposer des séquences entières du canon littéraire/phi français car ni ma mémoire interne ni mon training ne le permette, alors que Llama a été fait comme ça, quelques grands universitaires aussi je pense, mais ce n'est pas un argument disqualifiant pour une forme de conscience de llama, et si nous étions capable d'être des super cuistres, c'est comme llama que nous nous exprimerions (et seuls quelques génies sortiraient des séquences originales qui à leur tour entreraient dans le cénacle !), quitte à tomber dans un problème métaphysique comparable à ce que vous avez évoqué dans 1984 … 2) Vous dites avec justesse que jusqu'ici nous n'avions pas besoin de nous demander, ni de mobiliser beaucoup de moyen pour répondre à la question "cet objet est-il conscient" ! (ça n' a pas empêché Descartes de régler le problème pour 3 siècles + pour les animaux !) . Ca me fait penser qu'en fait collectivement nos concepts partagés et nos question co-évoluent avec notre monde tel que nous partageons entre nous sa compréhension. Notre "définition partagée" de la conscience a évolué, au moins aussi vite, que notre capacité à observer des phénomènes ou à créer des artifact qui nous posent cette question (j'aime bien la notion d'un indice phi de conscience, même si peut-être que la théorie de Tognoni ne résoud pas tout, et aussi, on sait bien que la conscence peut être altérée, perdre progressivement de ses attributs : pourrait-on passer par une sorte d'homotopie de Mr Phi à llama3, ou doit-il y avoir déchirure de conscience ?)
La qualité de la vidéo est epique !
Merci.
Faudrait songer a utiliser une ia pour la traduire en anglais avec ta propre voix. (ou d'autre langues)
Il faut développer le sujet partout, surtout quand t'es la video la plus quali, toutes langue confondu.
Je n’ai pas de compétences particulières pour discuter des problèmes d’une éventuelle conscience, ni du point de vue philosophique , ni du point de vue algorithmique. Par contre en tant qu’ex enseignant-chercheur en Science des Matériaux, je crois avoir quelques remarques à faire, liées à mes compétences. Je vais commencer par un détour. Le problème des prévisions météo, c’est que la modélisation de l’atmosphère s’effectue sur une grille spatiale trop large pour rendre compte de phénomènes aussi locaux qu’un orage. La raison de ceci est que descendre à un niveau de détail plus fin nécessite une puissance de calcul au-delà des performances actuelles. Passer d’une maille de 10km (on ne voit pas les orages) à une maille de 1km (on voit les orages) nécessite de multiplier par mille la taille des données à manipuler… Revenons aux IA. En admettant pour simplifier que nous soyons tous dotés d’une conscience, on remarque donc qu’un tas de molécules organiques organisé par quelques milliards d’années d’évolution permet à ces molécules de former un cerveau conscient. A moins de supposer l’intervention d’une divinité, il faut donc admettre que l’émergence de la conscience a quelque chose à voir avec l’organisation croissante des molécules organiques pour former des neurones. Dans le cas des IA, le parallèle est le suivant : on passe d’un tas de silice à un tas de transistors censés modéliser le fonctionnement des neurones dans le cerveau. Vous commencez à comprendre où je veux en venir. Pour l’instant et autant que je sache, chaque “neurone informatique” simule ce que nous voyons du fonctionnement des neurones de manière très “grossière”. Pour que les IA deviennent “conscientes”, il conviendrait peut-être de modéliser plus finement ce fonctionnement. Si une IA ne peut accéder à la conscience (on voit l’orage) que si le degré de modélisation du neurone est suffisant (maillage de 1km) alors une limitation physique s’impose. Au pire nous serions obligés de décrire les neurones à l’échelle moléculaire. Or dans 1g de matière cervicale je dirai à la louche qu’il y a 100 000 000 000 000 000 000 molécules. Comment le dire ? On peut imaginer que modéliser un cerveau humain demanderait un ordinateur aussi gros que la Lune et la moitié de l’énergie issue de notre Soleil. Peut-être une incitation à construire une sphère de Dyson ? Mais avec nos moyens actuels, cette profondeur de calcul est totalement hors de portée. Si c’était le cas, une conséquence inattendue est qu’avec les moyens informatiques actuels on peut construire une IA aussi complexe que l’on veut, jamais elle ne deviendra consciente.
Top, comme d'habitude. Bravo et merci pour cette vidéo.
La barre de rire sur le Golden Gate Bridge ! Magnifique exposé, merci à vous. Une question, néanmoins, en vous écoutant : serons-nous un jour en mesure de construire une définition de la conscience qui soit générale, et donc non-humaine ? Car la seule conscience que nous connaissons est celle-là et aucune autre. Et de la même manière que nous construisons tous nos modèles physiques de la réalité afin qu'ils "sauvent les apparences" vis-à-vis des observations et des mesures (la nature profonde des choses est hors du champ de la physique), nous risquons de construire notre théorie de la conscience seulement à partir de celle que nous pouvons (à peu près) observer, la nôtre : ce ne sera donc qu'une théorie de la conscience humaine... Un LLM devra-t-il se conformer à ce modèle précis (s'il existe un jour) pour qu'on lui accorde le statut de "conscient". N'est-il pas possible qu'il soit un jour conscient d'une autre manière, la sienne ? Voire qu'il le soit déjà ? Et si c'est le cas un jour, comment le saurons-nous, puisque nous n'aurons aucun autre modèle théorique auquel nous référer. Bref, il me semble que si on définit uniquement la conscience par inférence observationnelle, la définition de la conscience sera toujours circulaire. Et je ne vois pas d'autre moyen de la définir. (Je ne pensais pas être capable d'écrire des phrases aussi compliquées)
J’aime trop tes vidéos sur les IA, j’espère que tu vas continuer ❤
Tu devrais traduire tes vidéos et mettre l’option pour être vu dans d’autres pays sur TH-cam
Je consomme TH-cam dans langues 5 différentes et je t’assure la qualité de tes vidéos IA n’est pas si facile à trouver dans le monde
Il y a des sous-titres anglais sur cette vidéo !