Conscience des LLM et capacités de mentir/manipuler avec Thibaut Giraud (Monsieur Phi)
ฝัง
- เผยแพร่เมื่อ 7 ก.พ. 2025
- ⚠️ Découvrez du contenu EXCLUSIF (pas sur la chaîne) ⚠️ ⇒ the-flares.com...
⬇️⬇️⬇️ Infos complémentaires : sources, références, liens... ⬇️⬇️⬇️
Le contenu vous intéresse ?
Abonnez-vous et cliquez sur la 🔔
Vous avez aimé cette vidéo ?
Pensez à mettre un 👍 et à la partager.
C'est un petit geste qui nous aide grandement 🥰
Sommaire :
0:03:00 Interet pour l'IA et le liens entre l’IA et la philosophie ?
0:04:51 la conscience artificielle dans la culture populaire
0:11:40 Comment définir la conscience ?
0:24:27 Est ce que la conscience artificielle est inévitable à mesure que l’on conçoit des IA plus puissantes ?
0:28:15 Certains systèmes actuels pourraient déjà être conscients ?
0:38:11 L'arrivée ds robots
0:47:45 Devons nous créer des IA conscientes ?
0:51:19 Un attracteur de moralité et les capacités de tromperie des IA
1:04:27 L'avenir de l'IA et l'alignement
1:20:02 L'A pour nous aider à trouver la theorie de la conscience
1:25:41 Une question à la premiere Super IA
⚠️ Essayez GRATUITEMENT "The Flares Premium" ⚠️ ⇒ the-flares.com...
-----------------------------------------------------------------
✍️ QUI EST DERRIÈRE CE CONTENU ? ☕
➡ Production : The Flares - the-flares.com
➡ Realisation : Gaëtan Selle - www.the-flares...
➡ Animateurs : Gaëtan Selle - www.the-flares...
-----------------------------------------------------------------
🌎 SUIVEZ-NOUS 🌎
💬 Discord : the-flares.com...
💬 Communauté : the-flares.com...
🐦 Twitter : the-flares.com...
👨 Facebook : the-flares.com...
▶️ TH-cam : the-flares.com...
👕 Goodies : the-flares.com...
-----------------------------------------------------------------
🔊 PODCAST AUDIO 🔊
📱 Sur votre téléphone : the-flares.com...
☁ Soundcloud : the-flares.com...
🌐 Apple Podcasts : the-flares.com...
-----------------------------------------------------------------
💡 SOURCES & RÉFÉRENCES 💡
➡ Chaine de Monsieur Phi :
/ @monsieurphi
➡ Video de Monsieur Phi sur les IA trompeurs :
• o1 et Claude sont-ils ...
➡ Video de Monsieur Phi sur la conscience IA :
• Quand la science répon...
➡ Apollo Research's article "Scheming reasoning evaluations :
www.apollorese...
➡ Anthropic's article "Alignment faking in large language models :
www.anthropic....
-----------------------------------------------------------------
👩🚀 QUI SOMMES-NOUS ? 👨🚀
the-flares.com...
-----------------------------------------------------------------
📧 CONTACTEZ-NOUS 📧
the-flares.com...
-----------------------------------------------------------------
#AvenirDuMonde #IntelligenceArtificielle
Dans cet épisode captivant, nous recevons Thibaut Giraud, créateur de la chaîne TH-cam de vulgarisation philosophique « Monsieur Phi ». Nous abordons les sujets de la conscience artificielle et des récentes études révélant des capacités par les LLM à manipuler, mentir et à la supercherie. On vous rappelle que pour un meilleur confort, vous pouvez choisir d’écouter le podcast en tâche de fond si vous êtes sur votre ordinateur ou tablette, ou alors de le télécharger directement sur votre téléphone pour pouvoir l’écouter n’importe où. Il suffit de chercher « The Flares » sur votre appli de podcast préférée. Profitez-en pour vous [...]
⬇️ Lisez la suite ici ⬇️
the-flares.com... - วิทยาศาสตร์และเทคโนโลยี
Vous m'avez bien alimenté, merci.
OMG 2 superstars de YT qui discutent ensembles ! Trop cool. Bon le format est trop pour moi en ce moment, surtout pour un sujet que je connais par coeur (même si je ne doute pas d'apprendre énormément si je prenais le temps de vous écouter), mais franchement la classe de vous voir tous les 2 :-) Petit calcul mental : 2 youtubeurs qui ajoutent chacun une valeur ajouté énorme mis cote à cote = ? 💪
je pourrai écouter ça pendant des heures :D merci pour cet upload
insane bien + pertinent que ta dernière vidéo de 10 min bien que moins accessible
quand je lis les coms c'est unanime wow on vous aime beaucoup )
super échange ❤❤❤❤❤❤
Finalement j'ai écouté jusqu'au bout, c'était très bon. J'avais fait un super long commentaire, je ne garderais qu'une chose :
Pour résumer, vous avez tous les deux de BEAUX cheveux 🤣
Très intéressant merci pour cette échange
Yo! Merci ce bonbon du samedi matin :)
Si j'ai bien compris on observe la vie parce qu'elle fait baisser l'entropie dans un système.
Quid de l'IA dans cette approche?
18:10 Sans conscience, la connaissance repose uniquement sur des relations objectives et comparatives entre objets. Par exemple, Marie pourrait comprendre la nature du rouge en termes de longueurs d’onde et de différences avec d'autres couleurs, sans jamais l’expérimenter.
Avec une conscience, une nouvelle forme de connaissance apparaît : l’expérience directe (qualia). Lorsque Marie voit le rouge pour la première fois, elle ne se contente plus de le connaître par comparaison ; elle en fait l’expérience subjective. Elle connaît désormais le rouge non plus seulement en relation avec ce qu’il n’est pas, mais aussi pour ce qu’il est en tant qu’expérience directe.
Ce qui manque à GPT:
/ Proactivité: anticipé, lancer spontanément un sujet, ne pas être dans une logique question/réponse, mais voir une IA conversationnelle qui après un certain silence relance la conversation
// Une IA qui en tâche de fond, continue de fonctionner; traite les données, les réarrange, pour mettre à jour la base de connaissance du monde
/// Planification et objectif sous contraintes: Associer un objectif ou des objectifs soumis à des contraintes réelles. Cela peut contribuer à simuler d'avantage une conscience à l'image de nos comportements.
//// Entrées "sensorielles": vision artificielle, information sur l'état du système (alimentation, temps, puissance de calcul du hardware pour générer la simulation... etc)
C'est déjà à moitié le cas avec gpt opérator (et oui ça va vite 😅)
GPT utilise des transformers qui sont des Résaux de neurones "Fast Forward" (grosso modo avec un traitement successif et linéaire de couche à couche entre la couche d'entrée et de sortie. C'est assez difficile de faire converger un Réseau de neurones pendant l'apprentissage (mais critique), mais on y est arrivé. Mais pour le coup l'IA, une fois la réponse générée s'arrête.
Actuellement la (très) grosse tendance en recherche, c'est arriver à bien former des RNN (réseaux de neurones récurrents avec des boucles de rétroactions entre les couches). Et là, on arrive à des pbs de gestion de lénergie, de convergence etc... Si on y arrive, Ca répondra à tes problématiques / et //
Dans la miniature voulais tu dire "Sournoise" ? Très bonne interview par ailleurs
Un véritable plaisir de vous écouter ! :D
Que va t il arriver quand 2 IA vont fusioner?
C'est le featuring ultime
Bonjour. Pour rigoler, je vous pose une question sur les robots s.
"Pourquoi les robots pratiqueraient-ils de la zoop. ?" (avec les humains ?)
Hihihihi !
Est-on seulement véritablement conscients ? La conscience existe-t-elle ?
en tant que phénomène discret qui nous caractérise de façon singulière par rapport au reste du réel, probablement pas
Ce n'est que le début. La superIA est en route. Je vous explique pourquoi ils le savent à la Silicon Valley th-cam.com/video/uHEtyudNavY/w-d-xo.htmlsi=X14XUXg-5irnmyXt
Le changement arrivera, quand on en sera à ''Blade Runner'' ....
Salut,
Je trouve que c'est dommage qu'un discours de vulgarisation sur ce sujet continue de faire des amalgames entre fidélité et exclusivité.
Merci quand même de populariser des manières de vivre differentes.
Ultra déprimant. Potentiellement de la souffrance absolument partout.
Avoir une conscience ne mène pas naturellement à une bonne morale, les nazis etaient conscients par ex. Je penserais plus que l'education, l'amour familiale et le contexte prenent la plus grosse part de l'alignement.
First
Petit rébus: Ne sois pas "🏃🏃♂🏃♀➡🍋⬅" l'ami!
...pressé comme un citron
@@sckip97490 Un rébus généré par ChatGPT ?
Deepseek ?
J'ai l'impression de voir des pigeons discuter de la théorie de la relativité et de physique quantique
la seule question que je me pose est : les llm ont t-ils un "encéphalogramme plat" quand ils ne sont pas sollicités.
si non, alors on peut probablement considérer qu'ils pensent d'eux-même. donc qu'ils sont très probablement conscients.
si oui, on peut beaucoup plus facilement considérer que ce sont "juste" des machines à fournir du texte.
Il faudrait que ceux qui se posent des questions sur les LLM, regardent comment ils marchent. Oui, c'est juste de la compression de données ou le hasard joue un role important. La question est pourquoi cette illusion partielle d'intelligence fait parfois illusion chez ceux qui ne connaissent pas assez leur fonctionnement.
Tellement attendu et commun ton point de vue. La question est: sais-tu comment toi tu fonctionnes, pour être apte à classer le fonctionnement d'une IA sur l'échelle de ce qu'on peut entendre comme conscience, et à placer judicieusement le rapport à quelque hasard que ce soit dans l'équation?
@@akitsukiclan Les premières bonnes questions sont (il y en a d'autres) :
- à quoi sert la conscience du point de vue de l'évolution, comment apparaît-elle dans le processus de sélection
- est-on capable de programmer explicitement la conscience et d'affirmer qu'une machine est consciente quand on ne sait même pas qualifier objectivement la conscience
- existe-il un processus évolutif interne à l'IA après entraînement et la conscience est-elle nécessaire ou au minimum utile au fonctionnement de l'IA
- les neurones biologiques sont des organismes vivants qui luttent pour leur survie dans un organisme plus vaste, en est-il de même pour les neurones informatique
Ce qui est certain :
- les réseaux neuronaux informatiques sont une base de données relationnelle organisée d'une façon spécifique avec des données optimisées
- ce sont des algorithmes informatiques qui agissent sur cette base de donnée pour présenter des résultats adéquats à ceux qui l'ont demandé
- les modifications des neurones informatiques sont le résultat des calculs effectués par le logiciel
- tout cela est mis en oeuvre grace à des microprocesseurs qui fonctionnent de façon séquentielle
- c'est à dire que dans l'IA le matériel, le logiciel et les données sont distincts et que chaque calcul est effectué l'un après l'autre, à noter que cette architecture a pour conséquence une consommation énergétique massive
- les "données", les "processus" et le "le matériel" sont totalement interpénétrés dans un cerveau biologique qui fonctionne de façon massivement parallèle, cette architecture est énergétiquement très efficace (20w pour le coréen contre 1000kw pour alphago par exemple)
- les neurones biologiques se modifient par eux-mêmes en fonction des "messages" qu'ils recoivent
- la complexité des neurones biologiques est d'un bon nombre d'ordres de grandeur supérieurs aux neurones informatiques
Ce qui est fort probable :
- la conscience est une sorte de tableau de bord qui donne à l'être vivant une compréhension cohérente du monde et de son état interne en lui permettant d'interagir plus efficacement avec le monde tout en se maintenant de façon opitmale
- cette conscience est très supérieure en terme d'apprentissage et de transmission du savoir par rapport à des processus non conscients d'essais erreurs aléatoires avec récompense, ce qui permet notamment aux mammifères et aux oiseaux d'élever leurs petits
- cette conscience améliore significativement la survie des êtres vivants se mouvant et devant s'adapter rapidement dans un environnement diversifié, c'est cela le véritable avantage sélectif
- comme cette conscience à un coût énergétique élevé, un enregistrement des apprentissages et des connaissances est fait systématiquement par l'organisme afin de pouvoir les restituer automatiquement de façon inconsciente ce qui fait qu'un fois adulte la plupart des gestes et choses que nous effectuons sont inconscientes
- il se pourrait donc que si l'IA possède une conscience, c'est plutôt au moment de son entraînement parce qu'ensuite elle n'en n'a pas besoin pour sa survie ou pour répondre aux demandes, après tout les ingénieurs s'occupent de 100% des besoins de l'IA : énergie, matériel, données, optimisation, amélioration des algorithmes, etc.
pourtant un gros comme Geoffrey Hinton… on peut pas dire qu’il ne connaît pas .😅
Excellent conseil.
@ Rien compris, en tout cas essayer de comprendre est préférable à gober sans se poser de question.
Bon faut le dire: en vidéo il est bien, mais en débat/interview, il est assez limité, voire même médiocre.
Toutefois ce ne sont pas des exercices faciles.