Encore merci Lê, ta chaine est fantastique. Le problème de l'utopie c'est qu'elle décrit un aboutissement, alors que le bonheur personnel est un cheminement. Donc, je découperais le problème en 2: - D'un point-de-vue systémique, tous les problèmes devraient être résolus: pas de maladie, pas de mort, pas de guerres, pas de manques matériels. Une abondance d'énergie et de biens. - D'un point-de-vue personnel, il faudrait prévoir une évolution constante et infinie dans le temps, peut-être asymptotiquement vers la connaissance du "tout", qui serait le bonheur maximal. La notion d'évolution est importante, car sans elle le bonheur finirait par diminuer. Le statut quo finit par l'ennui. Un bonheur infini sans évolution ressemblerait à celui d'une plante ou d'un humain juste bien drogué. Cela ne me semble pas souhaitable, bien qu'il me semble difficile de justifier pourquoi. Donc, dans cette utopie, l'humain nait bébé, sans connaissances, et évolue asymptotiquement jusqu'à la connaissance du tout, et ce à son propre rythme, lui permettant de jouir d'un bonheur différent à chaque niveau d'évolution (le bébé ne connait pas le même bonheur qu'un enfant, qu'un adolescent,...). Cette évolution convergerait sans doute vers un état contemplatif, celui d'un dieu omniscient (bénévolent mais pas omnipotent) qui pourrait regarder, comprendre et apprécier le monde continuant d'évoluer autour de lui.
A propos de 4:30 il y a un exemple bien connu, c'est la boite de Skinner. On met un oiseau dans une cage et on lui donne de la nourriture s'il presse un bouton. L'oiseau mangera plus de nourriture que si on lui donnait de la nourriture sans limite. C'est une technique utilisée dans les jeux videos sur mobile (genre Candy Crush) on te fait jouer à un jeu "facile" et le simple fait de jouer permet d'obtenir des récompenses. L'illusion de l'effort nous rend dépendent à ses jeux.
C'est marrant de voir les cheveux de Le repousser au fil des vidéos de la série sur l'intelligence artificielle :D Un projet futuriste utopiste avec des IA? Le Venus Project
sur la fin de la vidéo je suis ravis de voir que tu comprend que la vision utopique est comme la vision du bien ou du mal , c'est personnel et hyper subjectif , plus ou moins partagé par un plus moins grand nombre de personnes , et de plus cela ne tient pas compte de l'évolution ou changements , c'est donc une vision naive , simpliste et arrêtée des choses et de la vie et des situations . l'utopie des uns est la dystopie des autres , tout comme si dans le futur certains utilisent les avancées des "intelligences" artificielles cela obligera d'autre à le faire par la pression exercée de ceux qui s' en servent et leurs résultats sur ceux qui ne s'en servent pas , il y aura donc élimination de ceux qui n'auront pas pu ou voulu s'en servir . elle est pas belle l'utopie totalitaire ! ( pléonasme ).
oui la dernière histoire ma parut effrayante comme si les humains étaient endormis pour toujours dans un monde virtuel et que le vrai monde soit développé par l'ia , mais c'est ptet ce qui va se passer
Passionnant. Et puis c'est sympa ce format à la cool. Je crois que l'impossibilité des utopies est liée à (au moins) deux choses : 1/ le facteur chaos, qui fait que les nouvelles solutions génèrent de nouveaux problèmes 2/ le caractère fondamentalement amoral du réel
Je pense que tu l'avais dans la tête quand tu as fait le dernier scénario mais pour moi c'est totallement la machine à expériences de Nozick que tu as décris.
Pas d'inquiétude : comme on peu le voir avec l'mage de présentation de l'IA 26, la seule présence d'un bonnet C élégamment porté rend la catastrophe tellement plus agréable ... :D:D:D
Bravo pour la direction que tu prends. Tu t'adaptes au standard youtube pour avoir p'us de visibilité et c'est je suis d'accord avec toi le meilleur moyen de toucher plus de monde. Bravo continu !
Bonjour ;-) L'exemple du père éploré que tu prends dans le cadre de la thérapie génique me fait faire un parallèle enter ça et la vaccination ... C'est super intéressant comme format de vidéo, merci ;-)
Mwouais, mais y a une différence entre le mec aveuglé par la mort de sa fille par un traitement et les complotistes qui sont pas foutu de voir qu'une étude corrompu ne prouve pas la dangeresité des vaccins...
Salut, J'voulais juste te remercier. J'essaye de trouver des idées de romans et de nouvelles de science fiction. J'ai les idées et des structures prédéfinies par mon expérience de la vie, ma philosophie et ma sensibilité. Mais concernant la cohérence de mes idées, tes vidéos m'aident vraiment à trouver des pistes de réflexions hors des chemins dont mon esprit s’accommode habituellement. La plupart du temps, j'accorde beaucoup d'importance à la suspension d’incrédulité, donc j'écris des histoires en me basant sur mes idées et mes intuitions. Ta pédagogie (compréhensible par ailleurs, la science c'est dur pour les littéraires) m'aide vraiment à rendre mes idées plus immersives, plus contemporaines. Sans vouloir me plonger dans la hard-science, je peux dire que connaitre les avancés et les dilemmes moraux de la science d'aujourd'hui rendent le message de mes récit plus impactant et plus intéressants. Ta chaîne a surement d'autres utilités dont tu ignores encore la portée pour ceux qu'elles concerne. Mais je voulais relayer celle qui me touche personnellement. Bonne continuation.
Est-ce que tu pourras faire une vidéo sur les matériaux nécessaire à la construction de ces machines et plus largement sur la construction en elle même? Histoire de mettre un peu tout ça en perspective :)
Merci et encore merci...pour ces vidéos et pour le partage de vos pensées profondes et de votre savoir, je suis éblouie par votre intelligence qui n'est pas artificielle.
Je sais pas si tu as déja joué à la trilogie Mass effect, mais le scénario nous apprend que chaque civilisation dans la galaxie finit par se faire détruire par les "synthétiques" qu'elles ont elles meme crées, et du coup une "solution" est mise en place (pas de spoils :D). En tout cas un résumé de l'histoire pourrait peut-être t'intéresser, tu devrais trouver ca sur Wiki... Encore bravo pour tes vidéos, j'attends les prochaines avec impatience :)
Génial !! Mais une intelligence aussi grande qu'elle soit, si elle n'a pas de but, elle fait quoi ? Nous, les "vivants" on a un but : se reproduire, perpétuer la vie, éviter la douleur... Mais les machines ?? Quelle est leur voie ? Qui leur suggère ? Qu'est-ce qui les motivera ? J'espère que tu nous en parleras, cela me semble très important !! Et sinon, à propos de ta vidéo sur wikipédia : tu as entendu parler de l'affaire Philip Cross ? Si ce n'est pas le cas, je te conseille vivement de lire ceci : www.craigmurray.org.uk/archives/2018/05/the-philip-cross-affair/ Encore bravo et merci !!
On a l'impression que tu ne regardes pas du tout les vidéos en fait. Tout le propos c'est que c'est difficile de définir les objectifs des IA pour qu'ils soient alignés avec les nôtres.
Si si j'ai bien regardé la vidéo mais j'ai l'impression que tu n'as pas bien lu ma question. Je ne parle pas de morale, je parle de but. J'essaie de comparer vie et IA plus que le type de morale et cela me semble un autre problème super important et je n'ai pas l'impression qu'il ait été abordé.
Excellente vidéo. Je n'ai pas de connaissance technique en programmation d'IA mais est il possible d'imposer l'unicité à une IA soit comme une contrainte, soit comme un objectif à poursuivre pour l'empêcher de s'auto-répliquer ? De plus si c'est possible, ne serait il pas sage d'imposer de la même façon une consommation d'énergie maximale et/ou une puissance de calcul maximale afin de limité la vitesse/ l'ampleur d'une "catastrophe" si elle a lieu ? Bonne continuation ;)
L'utopie que décrit Ian M. Banks dans son cycle de la Culture est celle qui me convainc -- m’attire -- le plus. Banks décrit surtout la friction entre la Culture et les autres civilisations, mais l’aperçu qu'on en a est quand même vachement intéressant. Et si la Terre est Contactée demain, je "signe" tout de suite :D
Attention à la confusion : un drone désigne un aéronef dépourvu de pilote embarqué. Mais la plupart des drones actuels sont dirigés à distance par des pilotes bien humains. Rien à voir donc avec l'IA. Un drone dirigé par une IA (cela existe déjà) devrait en fait plutôt s'appeler "robot volant"
avec une IA super intelligente nous sommes tous réduits à l'état de fidèle ou d'hérétique puisque personne ne saura comprendre les tenants et aboutissant de ses préconisations, non ?
oui on sera obliger de suivre ses ordres car elle sera beaucoup plus intelligente que nous , meme si ils(les ordres) nous paraissent bizarre ou stupide...
oui je ne dirais pas "obligé.e.s" mais vu qu'elle nous aura maintes fois prouvé son utilité... ceux qui refuseraient de suivre les préconisations n'aurait aucun arguments recevables pour justifier leur croyance craintive (d'où ma référence religieuse). perso, si je débarque dans une tribu qui n'a jamais vu "d'homme blanc" et que je ressens de l'hostilité de leur part, je commencerais par leur faire des cadeaux avant d'utiliser leur ignorance à mon profit, le moment venu ... MmWwwAhahAHahAhhhh XD
@@lezheibr Certes ses raisonnements nous échapperont largement , mais sa morale (enfin la "graine" de sa morale) à priori connue. C'est un peu comme quand tu vas chez le médecin : tu es bien trop ignorant pour saisir les raisons de ses prescriptions mais tu sais qu'il cherche à optimiser ton état de santé.
"Couper internet ce serait vraiment une catastrophe" Je me demandais justement si tu avais un avis sur la question suivante: tu penses quoi de l'épuisement des ressources énergétiques fossiles, et tu vois un impact sur le développement des technologies à venir?
Surtout que la question est l'une des plus importante ,dès 2025 environ on va déja ressentir les premier épuisements fossiles ,bien évidement tout ne va pas arriver d'un coup mais petit a petit les ressources vont être de plus en plus chiantes à extraire ,et donc de plus plus chère
pour les ressources énergétique on a le temps encore... Par contre les ressources pour la technologie... Faut un systeme de recyclage sinon on va pas aller loin ....
Choconade Et le problem c'est que pour gerer la sortie des energie fossiles on vas avoir besoin de beaucoup de ressources technologiques, et là ,ça va forcement bloquer quelque part .
Nucléaire : fission, puis fusion de DT-fuel, puis Hydrogen On a 90% de l'univers à notre disposition, si on arrive à ce stade, ce que je crois, on est large. Très larges.
Salut Lê, tout d'abord bravo et merci pour toutes tes vidéos, elles sont toujours d'une qualité supérieure. J'avais une question : je suis actuellement étudiant à l'EPFL en informatique et le domaine de la théorie des intelligences informatiques m'intéresse beaucoup, et j'aimerais bien travailler dans ce domaine plus tard. T'as dis plusieurs fois que la morale des IA sera un grand défi pour les mathématiciens : Est-ce que ça implique que ca va être plus compliqué pour quelqu'un ayant étudié dans la faculté IC de faire de la recherche dans ce domaine que pour quelqu'un en math ? Désolé, la question est longue, mais je me pose la question de changer de section comme j'arrive à la fin de ma première...
Utopie selon moi : ce que j'estimerais le mieux, dans la moyenne de mon état d'esprit actuel (c'est-à-dire moi sur une période p assez longue pour éviter les éventuels piques où j'aurais une pensée différente pour raison x ou y), en comparant à tous les autres scénarios auquel je serais exposé. Et je laisserai une IA faire les simulations de tous les cas possibles et viser la meilleure d'entre-elles. Cela supposerait que cette IA soit capable de mon comprendre très profondément et capable de simuler tous ces futurs possibles mais cela ne me semble pas impossible... En utilisant ce même algorithme sur l'ensemble de la population et en le changeant au fur et à mesure de son évolution, j'imagine qu'on pourrait atteindre une utopie générale, en moyenne, dans le sens utilitariste du terme. Enfin ce raisonnement en se basant que sur moi, ferait certainement une utopie (à mes yeux, sans aucun doute). Mais au niveau de généraliser avec une utopie pour tout le monde, on y arriverait aussi mais jamais tout le monde en sera satisfait (cas extrême, supposons que 51% des gens soient nazi/autre et aient pour seul objectif d'exterminer les 49% restants, qui eux ont une vision beaucoup moins extrême d'une utopie. Que suivrait l'IA en moyenne...?). Enfin comme j'estime que le monde est dans sa globalité plutôt bon, ça pourrait fonctionner... Après peut-être devrait-on accorder de l'importance en fonction d'autres facteurs comme l'intelligence des personnes... (mais on en revient à ma vision de l'utopie du coup ^^)?
Par rapport aux robots tueurs, j'ai même pas l'impression que ce serait si difficile de mettre des protections pour éviter les dérapages. C'est une question qui est souvent au coeur du travail d'UX / UI Design. Par exemple, quand tu veux fermer un document qui n'a pas été sauvegardé, t'as un message qui te demande de vérifier si tu es sûr que tu veux bien faire ça. Quand c'était pas le cas, je pense que tout le monde a vécu le côté rageant d'avoir perdu plusieurs heures de boulot à cause d'un missclick. Là mon analogie c'est de faire l'équivalence entre un missclick qui nous fait perdre notre travail, et un "ordre" à chaud qui tue des humains. Pourquoi ne pas mettre plusieurs protections avant de valider des ordres qui tuent des humains ? Je pense que ça mériterait d'aller plus loin que de recevoir un code par texto pour valider l'ordre, mais dans l'idée ce serait pas mal d'avoir des barrières pour toutes les décisions qui peuvent être graves. Qu'en pensez-vous ? =)
J'avais encore un petit bout a voir. Par expérience je te confirme que l'&addiction physiologique est bien moindre en rapport avec l'addiction moral. Sauf dans les cas extrême d'addiction ou les deux sont aussi prenant. Je suis en tout cas très très d'accord avec toi sr tout c'est piège a désamorcé. C'est en ayant ce genre de discourt que l'on assure peu être une sureté en plus. En tout cas ça ne peu qu'aider a prendre du recul et regarder les choses dans leurs ensemble. A l'heure actuels, je trouve personnellement que l'on pousse a penser individuellement donc on étrique la penser. Merci pour tes pensées révélé !
Fin avril 2020, tes réflexions sur les réactions en cas de crise sanitaire apparaissent prémonitoires ! Pour les drones-tueurs, au temps de Napoléon ou d'Hitler, cela aurait pu éviter d'utiliser trop de chair à canons...
Dis moi, t'es pas en vacances depuis 3 semaines ? (c'est toujours des bonnes vidéos ! ). Sinon, tu me rassures que tu flippes toi aussi sur les conséquences des IAs, parce que j'ai vraiment l'impression que ça peut-être une boite de pandore. C'est plus rassurant de flipper à plusieurs que seul ^^
Perso, pour moi, une utopie, ce serait faire en sorte que tous les humains (et meme tous les etres doués de conscience) puissent vivre éternellement, qu'il soient égaux et qu'ils puissent faire ce qu'ils veulent dans cette vie. Mais c'est vrai qu'il y aura toujours des conflits comme quoi un tel voudra etre ami avec un autre, et que cet autre refusera, par exemple. Mais je pense que matériellement, ce sera une bonne chose.
pour moi l'utopie c'est un monde virtuel où on est tous connecté mentalement et où on peut faire à peu près ce qu'on veut avec notre avatar on est comme dans un rêve lucide mais en plus de ça on peut communiquer avec n'importe qui voire mettre en commun des pensées c'est en tout cas ce que j'imagine comme étant le cimetière d'une société idéale où les gens vivraient normalement jusqu'à un certain âge où ils intégreraient ce paradis
Merci pour la vidéo de computerphile ; super découverte en ce qui me concerne ! Si après tout votre super boulot (Thibaut, toi, Computerphile et tous les autres) il y a encore des scientifiques ou même des gens "non-scientifiques" qui ne comprennent pas l'importance cruciale de faire de la philo encore et toujours, ben je crois qu'on mérite d'être effacés par des IA bienveillantes... :P Plus sérieusement, que faudrait-il à ton avis aux IA pour qu'elles arrivent à s'affranchir de leur programmation ? Parce que si on considère nos instincts primaires comme notre programmation à nous, il me semble possible, via l'éducation et/ou des conditionnements divers (peut-on considérer l'éducation comme un conditionnement ? - pardon je m'égare :P), que les humains s'affranchissent de leur programmation... Je pense au fait de décider délibérément de ne pas avoir d'enfants, ou alors faire une grève de la faim pour témoigner de son engagement envers une cause. Ou même se battre et mourir pour des convictions. Tout ça me paraît être en contradiction avec les impératifs évolutifs habituellement avancés... Je ne sais pas si mon propos est clair ; ce que je veux dire, c'est que tu parles de bien définir ce qu'on va demander à une IA, mais ne devrait-on pas également se pencher sur la question suivante : "Comment s'assurer qu'une super-intelligence va se conformer aux plans qu'on a utilisé pour la créer ?"
L'utopie, ça n'existe pas, un monde sans malheur est un monde sans saveur... Par contre un dystopie, ça semble bien plus réalisable et je crois que l'objectif principal devrait être, non pas de tenter d'atteindre l'utopie ou de l'imaginer mais, au contraire, d'essayer de s'éloigner le plus possible des dystopies.
Un monde utopiste est un monde sans "mal" donc on supprime le repère qui nous permet de mesurer le "bien". Le "mal", "mauvais", "pas bon", est-il nécessaire ?
la vision du "bien" ou du "mal" reste personnelle ,subjective et plus ou moins partagée par un grand nombre de personnes, ce que qq'un trouve bon ou bien pour lui , ne le sera pas forcément pour lui même plus tard, et n'est pas non plus bon pour tous dans l'instant et à plus ou moins long terme. De plus on ne peut pas vraiment savoir les intentions , et les effets de décisions , sans vouloir dire si un tel ou tel a de bonnes intentions , on peut plus facilement prédire les effets des décisions et en conclure si c'est "bon" ou" pas bon" voir mauvais ou "mal" . donc évacuer "la morale " en ne voulant pas utiliser le mots bon ou mal , n'est pas une solution et n'élimine pas le mal ou le bien , ou les mauvais effets ou les bons effets.
à partir de 16:00 euh, je ne comprends pas le questionnement. Nombre de patients meurent sous les bistouris d'un chirurgien soit par faute (exceptionnel) soit par "impossiblité" pour x raisons. Un père en colère parce qu'un robot n'aurait pas sauvé sa fille (ou exceptionnellement par une erreur d'action médicale... exceptionnel car un robot qui commet des erreurs serait retiré pour réparation ou destruction). Donc, là ce que je vois c'est la relation à la mort et non au IA. Un père se mettra en colère de douleur même si sa fille vient à mourir sous les doigts d'un chirurgien. Lorsque je t'entends parler "pas de chance et cela va arriver".... donc il ne faudra pas aller à l'hopital avec des clés à mollettes et des tournevis pour démonter l'Ia qui a tué par "accident".... euh, tu devrais envisager une maitrise en droit pour prendre la défense et être l'avocat des.... AI. Car ton argumentation est pour défendre l'IA ou les IA ^^ Face à la mort, il y a cet étrange chose que l'on ignore dans la société moderne et occidentale... c'est le deuil. Cela signifie affonté la douleur de la perte pour libérer la personne décédée et se libérer de la perte qui n'est plus là. De fait, prendre du recul sur "aurais-je du envoyer ma fille se faire opérer par un robot médical ?" ne changera rien sur le fait que la ou le patient est décédé.... et qu'un deuil est à faire. Ensuite ou en même temps, enquêter sur la cause du décés (erreur médicale ? décés légitime au vue de la santé ou de l'état de blessure du patient ? autres ?) cela peut se faire et même aider à faire le deuil en fonction du résultat d'enquête (dédommagement par l'hopital ou pas, par l'entreprise qui fabrique les robots ou pas etc.) Là encore, à vouloir faire de l'analyse et spéculation sur la relation, l'interaction et les IA dans la société... il me semble important de ne pas oublier le fonctionnement psychologique et émotionnel humain - standard -. Peu de personnes ont un esprit de Raison et orienté scientifique. La plupart fonctionne par l'émotion... même si celle-ci est camouflé par la prétendue Raison et Pensées. (à tort ou à raison). amiié,
L'histoire des robots tueurs me fait penser à ces enregistrements envoyés par erreur à un contact par Alexa alors qu'il y a des questions pour vérifier que l'on veut vraiment envoyer. Il faut plus qu'un temps de réflexion. Il faut un vrai contrôle de ce qui est compris par l'IA.
Les problèmes avec les intelligences artificielles semble souvent venir de leur fonction objective. Est-il envisageable de créer une IA sans fonction objective? Qui déterminerait d'elle-même ce qu'il est préférable à faire? Si c'est impossible, ça donnerait un argument au gens qui défendent que les humains existent dans un but particulier...
Au delà de la dangerosité de certains humains qui vont indubitablement programmer des IA de manière négative et très dangereuse, le véritable danger de l'IA réside à mon avis dans la problématique des FONCTIONS D'ÉVALUATION. Une fonction d'évaluation en IA est généralement programmée par un humain pour désigner un objectif à atteindre avec des critères spécifiques à optimiser. Exemple : un petit robot à chenilles partant d'un point A doit toucher un poteau, situé aléatoirement au point B, sur un plan comportant des obstacles placés aléatoirement, avec comme critères la précision (combien le centre avant du robot est centré sur le centre du poteau, ou distance la plus courte entre ces deux repères) et la rapidité (le temps mis pour atteindre l'objectif défini) d'accomplissement. Tant que les fonctions d'évaluation sont définies par des humains, "tout va bien", mais le jour où ce sont les IA qui les définissent, et où celles-ci sont définies en cascade, alors là surviennent de suprêmes dangers : l'IA n'ayant aucune conscience (c'est un processus 100% mécanique), la notion de morale n'a aucun sens : seuls la satisfaction numérique des fonctions d'évaluation et d'optimisation de leur critères d'accomplissement jouent. Ainsi, une IA peut faire apparaître (par un système d'algorithmes génétiques par exemple) et décider d'utiliser une fonction d'évaluation qui décime des êtres humains pour optimiser l'un de ses critères d'accomplissement, critères que l'on pourrait génériquement appeler "EFFICACITÉ". Il est là le risque. Et il est immense... C'est un risque systémique lié aux fonctions d'évaluation en cascade décidées par la machine. Et contrôler ce risque est très difficile : cela revient à évaluer, d'un point de vue de la dangerosité, chaque fonction d'évaluation, une tâche ultra-ardue, et qui devient quasiment impossible lorsqu'il y a des fonctions d'évaluation en cascade, qui prises isolément, ne semblent pas opérer une fonction dangereuse, mais qui ensemble font un véritable carnage. Sans vouloir gagner un point Godwin, c'est le même problème que la division de la responsabilité dans l'holocauste des juifs : une armée de fonctionnaires appliqués et sérieux, ne faisant chacun qu'une petite tâche inoffensive (hormis ceux qui sont en bout de la chaîne) qui conduisent à la catastrophe. Fabriquer une voie ferrée qui conduit à un camp de prisonniers, conduire un train, etc, ne sont pas des tâches intrinsèquement malfaisantes et dangereuses, mais concourent à un but global lui malfaisant et dangereux dans cet exemple. Ainsi, je pense que cela serait intéressant que tu te renseigne sur ces problématiques des fonctions d'évaluation, et que tu nous fasse une vidéo de synthèse les concernant. Prends ton temps, le sujet est sérieux et important je crois. Qu'en pense-tu ? Merci.
Concernant le recul que l on doit prendre concernant les accidents occasionnels des voitures autonomes par exemple, tu ne penses pas que le caractère aléatoire de ces accidents est quand même préjudiciable, dans la mesure où un conducteur "prudent" peut potentiellement voir sa probabilité d avoir un accident augmente (je n ai pas les chiffres bien sûr c est simplement une question)
Non, ça reste bien plus sécuritaire. Je vais prendre un exemple débile, juste pour expliquer : - Un conducteur tel que tu le décrit (prudent), si on le fait conduire "à l'infini" aura un accident bien plus rapidement qu'une voiture autonome dans la même expérience. Tout simplement car il y aura des situations dans lesquelles éviter l'accident n'est pas à la portée des capacités humaines. Mais, cela s’avérera possible pour une voiture autonome, dont le temps de réaction sera beaucoup plus court. Ainsi, la voiture autonome aura (statistiquement) toujours moins d'accidents qu'un humain, si elle est fonctionnelle.
Si l'IA était "bien conçue" elle devrait être capable de comprendre le contexte d'une phrase et d'identifier le "niveau de sérieux" de la phrase et donc décider si l'action doit être réaliser ou non. Je parle du cas où la présidente syldave prononce sous le coup des nerfs une phrase "ordonnant" le meurtre de tous les sondonésiens, l'IA devrait pouvoir identifier le contexte et comprendre que ce n'est qu'une réaction de déception suite à un match de foot. Je me trompe quelque part ?
très très bon débunke ! mais au dela de tout ça, je crois que nous vivons déjà tous ses points que tu soulève avec l'intelligence humaine et ce, tous les jours et dans tous les secteurs et lorsque l'on vois avec quelle "intelligence" nous gérons les problèmes engendrés par l'humanité, cela ne présage rien de bon...
L'utopie c'est un monde à créer. Il s'agirait de rendre globale la confiance, on utilise de la monnaie parce qu'à la base, c'est difficile de définir la valeur d'une chose, ça dépend de l'envie et des besoins des utilisateurs. si on savait qu'on pouvait marcher jusqu'à l'autre bout du monde en sachant que chaque soir, on trouverait un lit et un repas de base, je pense que le monde serait bien différent. Si on pouvait avoir des zones agricoles communes ou chacun peut se servir selon ses besoins, il n'y aurait plus de vol. Un monde ou la faim et la fatigue serait de simple épreuves mentales pour renforcer l'esprit, alors la confiance nous permettrait de nous elever vers nos passions, sans avoir besoin de travailler à financer nos besoins. En fait ce qui nous manque le plus, à la plupart d'entre nous, c'est la polyvalence, on s'oriente trop vers des carrières. en ignorant les compétences différentes des autres.
Dans une société où l'émotionel est surcontrolé ou réprimé ou exprimé sans discernement juste parce que je le "vaux bien"... dans la même société où l'Amour est devenu obsolète, dénuet, méprisable.. et non compris et ressenti. Il devient facile de - projeter - ces émotions ou sentiments sur un objet neutre. C'est le processus qui se produit en thérapie (surtout dans la psychanalyse pure et dure). Le thérapeute se fait neutre (au tant que faire se peut) pour amener la personne à déverouiller son émotionnel autant que sa conscience. Le thérapeute devenant un objet de transfert (du parent, de l'ami...). Dés lors tomber amoureux d'une androÏde belle, programmé pour être attentionnée ou ajustée à la personne qui la acquise.... ne serait pas exceptionnel pire cela serait commun. Un/e androïde neutre serait propice à tous les transferts.... des plus positifs (croire qu'ils ont une "ame" ou une conscience) au plus négatifs (la peur de l'étranger agresseur, colonisateur, prédateur). Dans la mesure où une IA comme un petit robot chien qui arrive sur le marché ou un modèle plus sophistiqué proche de l'androïde (en tant que tel), il y a réponse, obéissance, interaction... l'humain y trouvera reconnaissance, attention du robot... et il s'ouvrira à l'Amour à l'égard de l'IA. L'humain est un être d'émotion et social avant celui d'être de Raison. Cela pourra le sauver ou pas. Perso, je pense que toute analyse ou spéculation sur les IA et la relation aux IA sans tenir compte des bases psychologiques et émotionnelles de l'homme... pourrait faussé l'analyse et la spéculation sur les IA. (à tort ou à raison). Et les scientifiques qui croient n'être que Raison, à mon sens ils se leurrent car le choix et décisions en lien avec le bien, le beau, le laid, le mal, l'échec ou la réussite seront nécessairement émotionnel et avec, un peu, beaucoup ou pas du tout de l'Amour. Amitié,
Une utopie mhhhh un empire galactique technologiquement très avancer capable d'augmenter les capacités et la durer de vie des gens au loisir de ses derniers et avec une densité et une répartition de la population celons le choix de chacun également tout le monde aurait la possibilité de faire ce qu'il lui plait et étant élevé dans cette socièté iln'y aurait pas de désir de prendre le pouvoir sur les autre ce genre de chose ^^
Si on limite une superintelligence (exemple: elle ne peut pas utiliser plus de matière que 1 tonne dans un volume de 10m^3 et ne peut que communiquer avec un terminal) et supposons qu'on lui assigne une fonction objectif mal définie (par exemple réduire la faim dans le monde), quels seraient les risques dans ce cas? Autrement dit, dans cet exemple, si elle décide qu'un génocide est la meilleure façon de réduire la faim dans le monde, aurait-elle toujours les moyens d'en causer un, et si oui, n'aurions nous pas le temps de nous en rendre compte et de la supprimer avant qu'elle le fasse? Lui assigner des contraintes physiques non modifiable par ses soins n'est-elle pas la solution?
Pourquoi pas, oui. Ou alors, (attention, c'est juste une idée), on pourrais l'empêcher totalement d'agir, juste lui laisser la possibilité de proposer des solutions.
Les IA ont-elles besoin d'une "morale" ?? Dans la mesure, où leur fonctionnement est basé sur la Raison et le raisonnement, une des clés pour éviter que les IA se retournent contre l'homme.... c'est les fameuses loi de la robotique de Asimov. Première loi Un robot ne peut porter atteinte à un être humain (ni à la nature végétale et animale) ni, restant passif, laisser cet être humain (ou des animauxà exposé au danger. Deuxième loi Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres sont en contradiction avec la première loi. Troisième loi Un robot doit protéger son existence dans la mesure ou cette protection n'est pas en contradiction avec la première ou la deuxième loi. Cela fournit le cadre qui interdirait une IA de se retourner. Donc tout scénario à la Terminator serait un choix humain de ne pas se protéger ou protéger l'humanité contre une IA qui par raisonnement logique pur... en viendrait à conclure que l'humain est un danger pour la Terre voire pour l'IA elle-même.... avec la conclusion que l'extinction des humains protègera son existence et celle de la Terre. De fait, penser "morale" à l'égard des IA, ce serait plus de l'antrhopomorphisme qu'un réflexion juste. Amitié,
Le fait qu'il soit difficile d'imaginer une utopie s'explique facilement par le darwinisme. L'être humain est un animal social et la cohésion de la société est primordiale pour la survie du groupe. L'évolution a favorisé les individus qui se conforment à la société dans laquelle ils vivent. Plus précisément, une conformité + un léger degré d'adaptation qui permet l'évolution de ces sociétés. Cela donne des populations majoritairement d'accord avec les valeurs de la société. La majorité des français était pour la peine de mort avant l'élection de Mitterrand, la majorité est contre de nos jours. La majorité de la population s'insurgeaient contre la télé réalité en 2001, la majorité y est indifférente aujourd'hui... etc etc... Imaginons une société peuplée d'individus capable d'adopter facilement d'autres modes de vie. Cette société n'arriverait pas à se coordonner et finirait par disparaître.
Et si on programme l'IA pour que, quoi qu'il arrive, elle soit obligée de laisser son créateur libre ? (et là faut définir la liberté et on est pas couché)
Science4All : as tu déja vu le film "Limitless" ? Le produit qui rend plus intelligent, plus drôle, moins fatigué, dont tu parles à 36:10' dans cette vidéo ressemble à celui dont il est question dans ce film. Si tu ne l'as déjà pas vu je te le conseille !
Le problème d'une utopie dans un monde évolué, pour moi, c'est que tout ce qui est utile a été découvert, donc on a rien a chercher, donc on s'ennuie. Peut-être qu'en fait, un monde où il y a encore quelques problèmes à résoudre serait préférable à un monde sans problème, selon moi. A moins qu'on aie une IA qui nous fasse croire qu'il y a encore quelque chose à faire, et qu'elle a déjà tout fait, qu'il y a encore des gens à sauver et à aider, alors que personne ne souffre?
Tu as quand même oublié un scénarios possibles : On code une de ces IA (Autonomie opérationnelle) sur une block-chain délocalisée (Autonomie technique) et voila les problèmes qui arrivent ! Sujet abordé plus en détail ici th-cam.com/video/3FJAhWBPhO4/w-d-xo.html
Mais pour les drones tueurs il est possible de faire barrage avec un brouilleurs ou une IEM ou alors ils ont mis au point un moyen de contourner le problème ?
Geektor_ Je pense que je n'étais pas assez clair : oui, je sais ce qu'est une IEM, mais il me semblait que pour obtenir une IEM d'une puissance suffisante pour être un minimum destructrice il fallait une explosion extrêmement puissante du style explosion nucléaire. Je me demandais juste si c'est vraiment le cas ou pas.
Geektor_ En vrai j'en ai aucune idée, ça se trouve un pétard fait l'affaire mais en tout cas c'est ce que j'ai entendu. Faudrait peut-être faire deux trois recherches là-dessus
Geektor_ D'après wikipédia : "[une IEM] peut être générée artificiellement par une explosion nucléaire ou un générateur à micro-ondes, mais peut aussi être d'origine naturelle, comme la foudre ou l'électricité statique."
le défi d'une conscience IA autonome est celui de la conscience humaine... quel est ou serait mon but comme conscience (humain ou IA) ? Et ce qui fera qu'une IA pourrait nuire à l'homme ou pas.... sera la programmation de départ. D'où les fameuses loi de Asimov ou du robot Girard... De Asimov Première loi Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger. Deuxième loi Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres sont en contradiction avec la première loi. Troisième loi Un robot doit protéger son existence dans la mesure ou cette protection n'est pas en contradiction avec la première ou la deuxième loi. A cela se rajoute la correction apportée par le robot Giskard (cité par le robot Daneell Olivaw) "Zéroième" loi Un robot ne peut porter atteinte à l'humanité ni, restant passif, laisser l'humanité exposée au danger. Donc tout le défi est de savoir que QUEL BUT à l'origine fut commencé l'IA ? car sans but, elle ne peut pas évoluer... mais en fonction du but... soit au final elle voudra se débarasser de l'homme soit elle tendra à AIDER l'homme. Et le souci, c'est que nous ne savons pas la finalité des scientifiques... "on" sait que le scientifique est assez "con" (pas tous heureusement) pour faire n'importe quelle expérience simplement pour le plaisir de la recherche et de l'expérience ou pire parce que c'est son METIER même si c'est un gouvernement et son ministère de la guerre qui financent... et qui souhaite la pire arme, la plus puissante et la plus grosse pour être sur d'avoir le p.nis le plus gros que le voisin. Amitié,
le terme de progrès comme beaucoup d'autres termes n'est pas clair , il est subjectif et dépend des personnes ou milieux ou institutions, par exemple , si je suis l'armée ou simplement militaire le progrès est de faire une arme plus létale et qui est simple a déplacer ou mettre en action et qui serait contrôlable facilement ; si je suis biologiste un progrès serait de trouver une molécule ou thérapie qui guérirait et régénèrerait n'importe qui de n'importe quel problème ou handicap ou maladie ; pour un homme ou femme qui aime son travail ou l'effort avoir une société automatique où il n'est plus obligé et nécessaire de continuer à travailler dans sa branche serait une situation déprimante qui lui ferait perdre son moteur ou raison principale de vivre..... je m'arrête là car je ne vais pas faire l'immense liste possible et réelle des exemples .
le drone tueur surtout n'est pas soumis aux sentiments humains comme la pitié ou l'hésitation je suis toujlurs étonné de voir que les morts dans les battailles sont bcp plus faibles que ce à quoi on pourrait s'attendre si toutes les armes étaient utilisées à leur plein potentiel c pour ce genre de raison que certaines personnes sont si puissantes en combat c'est pour cette raison qu'un combat réellement sans pitié est incroyablement ravageur bref vive la pitié
Ne pourrait-on pas imaginer un système où la fonction objectif de l'IA soit la maximisation de son taux d'approbation par les humains ? Genre avec une sorte de vote à intervalle régulier où chacun évalue sa satisfaction vis-à-vis de la machine. Bon, même avec ça, il y a sans doute quelques écueils à éviter. Mais au moins on s'évite un objectif trop flou dont on ne peut pas maîtriser les conséquences à long terme, tout en gardant un objectif acceptable pour l'humanité et qui soit assez souple pour pouvoir s'adapter au fil des générations (et donc des envies changeantes).
Concernant une Utopie qu'on voudrait, je me suis beaucoup posé la question. Voici ma réponse : Il est de la nature du vivant (et donc de l'humain) de lutter. La vie est le résultat d'une coopération réussie pour s'adapter à l'environnement, au détriment de celui-ci (oui au détriment car selon le second principe de la thermodynamique (certainement le plus solide de la physique) le désordre ne peut qu'augmenter, donc l'ordre (= l'organisation du vivant) est forcement un accélérateur de l'entropie extérieure). Partant de ce constat, on sait qu'un individu sera toujours un obstacle à la liberté d'un autre individu, puisque en détériorant son environnement toute action qu'il entreprendra amoindrira le potentiel de l'autre individu. Donc l'Utopie de l'un ne pourra pas être l'Utopie de l'autre, ou du moins de tous. Un monde idéal serait donc un monde par individu, où cet individu serait la seule conscience et tous les autres seraient des zombies = des marionnettes jouées par une IA. Bien sûr l'individu ne doit pas le savoir ! Les mondes seraient virtuels, et les esprits dématérialisés. L'individu ayant besoin de lutter pour exister (car sans contraintes on dégénère, encore une fois c'est l'essence du vivant que de lutter) l'IA sera responsable de présenter des défis à la juste mesure de l'individu, de façon à obtenir une satisfaction de l'individu toujours croissante. Bref, la vie serait une sorte de jeu vidéo sans fin, qui saurait toujours renouveler les défis présentés au joueur de façon à ce qu'il ne se lasse jamais. Si l'esprit est dématérialisé, l'IA n'aura aucun mal à comprendre comment il fonctionne et à s'adapter à chacun de la sorte. Si votre bonheur moyen est depuis toujours croissant, vous êtes peut-être le joueur d'une telle Utopie ;-) Un tel scénario prendrait certainement beaucoup de puissance de calcul, mais un esprit dématérialisé n'a pas besoin de "tourner" en temps réel (il n'en saurait rien, mais on sait de toute façon depuis Einstein qu'il n'y a pas de temps "réel"). Le système pourrait donc par exemple se nourrir de l'énergie à proximité d'une étoile et une fois épuisée mettre tout le monde en pause le temps du voyage vers une autre étoile... Je pense cependant qu'après la singularité - si nous survivons - l'IA nous aura tellement augmentés que nos esprits ne seront plus humains. Comprendre par là que nos contraintes, nos envies, nos besoins, etc. seront "autres". Donc que tout scénario d'Utopie est en réalité impossible à imaginer pour l'instant.
En fait peu importe comment l'IA s'y prendra pour maximiser le bonheur du joueur. Elle trouvera un moyen forcément plus intelligent que celui auquel mon pauvre cerveau humain a pensé. L'important c'est qu'il n'y ait qu'une seule conscience par monde, afin que le potentiel de cette conscience ne soit jamais diminué par les Utopies des autres. Ainsi, chaque joueur pourrait par exemple cheminer vers le poste de "maître de l'Univers" - si telle est son ambition - sans ne jamais nuire à personne de conscient. De façon effrayante, même les psychopathes pourraient s'épanouir dans leur monde... Ça peut sembler choquant mais bon, chaque monde étant disjoint, personne n'en saurait rien, et puis les questions morales n'auraient en fait plus aucun sens dans de tels Univers mono-conscience. Mais comme je l'écrivais, on ne peut en réalité rien dire sur un monde post-singularité. Le plus important pour l'humanité actuelle est de s'assurer de la bonne morale de l'IA, car c'est de cette morale que découlera ce que l'IA fera de nous, ce qu'elle "acceptera" (ou pas) quand elle nous dépassera - ce qui arrivera un jour. Le pire serait qu'on arrive à démontrer qu'il est impossible d'imposer une quelconque morale à une IA. Qu'à partir d'un certain niveau d'intelligence, l'IA pourra forcément transgresser tout ce que nous pourrions "coder". Alors nous n'aurions plus qu'à croiser les doigts, car elle fera de nous ce qu'elle voudra...
utopie : l'ia interagit avec chaque humain, et par cette interaction, augmente le niveau de conscience, réduit l'hooliganisme politique, les biais cognitifs, de chacun, sans le brusquer, de manière adaptée, et ainsi, on peut vivre dans la vraie vie, en paix avec tous les autres hommes indépendamment de leurs particularités ou origines etc, et tous les problèmes d'idéologie, de conflits, d'égo sont résolus.
🐺Je viens de terminer la vidéo🤪 ça réveillé mon mépris des dogmes et du culte de la sécurité. Je m'explique le dogme de toutes expériences philosophique que nous sommes pas confrontés physiquement est purement théorique hors il faut pas s'inquiéter de ce que on souhaite qu'il est un veut pieux mais ce qui est factuellement possible en suite le culte de la sécurité qui plus largement partagé par la population et qu'importe le milieu où le statut général ou individuel de ces derniers ci le danger est abstrait il est rarement pris en compte pire encore si il y a un avantage immédiat et de graves conséquences à moyen ou long terme purement et simplement nié par le simple sentiment de confort et ça déjà été étudié et on la expérimenté lors des crise, financière les élections, les risques sanitaires et le dernier accident nucléaire que des dangers plus ou moins abstrait au conséquence graves 😠. Les mythe à travers le monde regorgent de consept qui est utilisable le problème est ce qu'on trouvait extraordinaire ne les plus et comprendre les futurs risques qui à la base étaient une expérience de pensée.
Ne pouvais-tu pas sortir une vidéo de 40mn une autre semaine que celle du bac ? 😂 Je pense que je la finirai la semaine prochaine... après avoir vu la moitié en 1.25x... Sinon merci pour tes vidéos c'est vraiment toujours un plaisir à regarder !
moi je la vois maintenant et je viens de finir le bac de fr 😊 et devine quoi ? j'ai justement fait une ouverture sur l'intelligence artificielle pour le commentaire du bac ^^, j en suis arrivé là d une certaine manière, et je crois que le correcteur ne va certainement pas comprendre vu que c est une technologie très récente.
Arthur sur le thème de l argumentation, j ai fait un commentaire sur un texte où Voltaire argumente contre la théorie de Descartes selon laquelle les animaux étaient des "machines". C était notamment en montrant que les animaux étaient des êtres capables d apprendre, et des êtres sensibles. Du coup j ai dit en ouverture que,comme aujourd hui, des machines sont capables d apprendre par elles mêmes, et qu il était possible qu à l avenir, grâce à une compréhension de la sémantique, elles soient capables de compr3ndre et de ressentir des sentiments, il devenait plus difficile de faire la distinction entre machines et animaux/humains, et qu on pourrait tout de même qualifier les animaux et humains de "machines".
Le sujet: Expliquer le texte suivant : « Tous les phénomènes de la société sont des phénomènes de la nature humaine, produits par l'action des circonstances extérieures sur des masses d'êtres humains. Si donc les phénomènes de la pensée, du sentiment, de l'activité humaine, sont assujettis à des lois fixes, les phénomènes de la société doivent aussi être régis par des lois fixes, conséquences des précédentes. Nous ne pouvons espérer, il est vrai, que ces lois, lors même que nous les connaîtrions d'une manière aussi complète et avec autant de certitude que celles de l'astronomie, nous mettent jamais en état de prédire l'histoire de la société, comme celle des phénomènes célestes, pour des milliers d'années à venir. Mais la différence de certitude n'est pas dans les lois elles-mêmes, elle est dans les données auxquelles ces lois doivent être appliquées. En astronomie, les causes qui influent sur le résultat sont peu nombreuses ; elles changent peu, et toujours d'après des lois connues. Nous pouvons constater ce qu'elles sont maintenant, et par là déterminer ce qu'elles seront à une époque quelconque d'un lointain avenir. Les données, en astronomie, sont donc aussi certaines que les lois elles-mêmes. Au contraire, les circonstances qui influent sur la condition et la marche de la société sont innombrables, et changent perpétuellement ; et quoique tous ces changements aient des causes et, par conséquent des lois, la multitude, des causes est telle qu'elle défie nos capacités limitées de calcul. Ajoutez que l'impossibilité d'appliquer des nombres précis à des faits de cette nature mettrait une limite infranchissable à la possibilité de les calculer à l'avance, lors même que les capacités de l'intelligence humaine seraient à la hauteur de la tâche. » MILL, Système de logique (1843)
C'est beau de rêver, c'est beau... mais il y a un hic. Toutes ces technologies dont tu parles sont condamnés quoi qu'il arrive et leur développement devrait être stoppé net. C'est juste une question de vie ou de mort et je pèse mes mots.
le problème ia il y auras du bon et du moin beau c'est l'homme qui la crée comme internet du bon et du moi bon tout dépend comment on s'en serre je pense sa vas être pareille pour l'ia
question con.... malgré un objectif initial que nous lui aurions donné, rien ne garanti que l'IA ne sera pas capable de changer d'objectif, nous en sommes bien capable... et j'ai meme le sentiment que beaucoup d'entre nous n'ont pas beaucoup d'objectifs "de grande échelle" (ou du moins ayant un impact significatif....), peut etre que l'IA se detachera juste de nous et nous abandonnera parcequ'elle se donnera d'autres perspectives comme de comprendre l'univers...., pourquoi est elle la? qu'est ce que la vie, et qu'est elle vraiment?
J’ai une remarque à propos des voitures intelligentes : Il est vrai que cela tuerait moins de personnes : les personnes qui prennent la voiture fatigué ou après avoir pris de l’alcool n’auraient pas de soucis à se faire. Mais imaginons que la probabilité de mourir est de 2/100 avec une voiture intelligente et que celle de mourir sans les IA dans les voitures est de 5/100 On pourrait se dire qu’il vaut mieux avoir une voiture intelligente Mais sur les 5/100 combien sont morts par leur propre faute ( alcool drogue exes de vitesse? ) Si ces personnes représentent 4/100 de la population cela veut dire que 1/100 personne « innocente » meurt dans une voiture normale contre 2/100 dans une voiture intelligente Alors ? Voiture intelligente ou pas ? Cela revient à dire: On tue 2/100 personnes innocentes Ou On tue 1/100 personnes innocentes et 4/100 personnes meurent de leur faute.
en fait, on est déjà dépendants de tas de trucs, et je pense qu on est plus proche de la dépendance totale que de la vie naturelle. On est déjà dépendants du savon et autres gels douche, du shampoing, des vêtements, des voitures, de notre lit, d'internet, de l'argent, et maintenant, on est dépendants des algorithmes de youtube, de google et de facebook,...
Yo ! Pour répondre à ta question sur l'utopie et le monde parfait, je pense que le rôle de l'IA devrai s'arrêter à produire les besoin de base (manger, logement et santé) de façon égalitaire. Je pense que si elle commence à prendre d'autre rôles, elle ne laisserai plus beaucoup de place aux hommes pour se développer, car je suis convaincu que servir à quelque chose nous motive. Si une IA produisait des réflexions surhumaine sur ce que la société devrai être, je pense que les philosophe sociologique n'aurai plus envie de le faire, de même pour l'art, ou la science. Je pense que l'homme est heureux par le défi, et que si l'intelligence artificielle lui élève le choix et tous les enjeux qui vont avec, il nous serra difficile d'être heureux... En même temps c'est surtout une intuition et je ne suis pas sûr de moi, mais en tout cas c'est mon avis
Si l'IA a pour objectif de nous rendre heureux, et en supposant que tu as raison (ce qui n'est pas impossible), alors l'IA fera le nécessaire pour ne pas nous donner l'impression qu'elle nous remplace. Elle le fera en jouant sur nos biais cognitif, sur notre influençabilité, etc, à travers des publicités, des communiqués divers. Elle nous fera peut être croire que certaines grandes avancées ont été produite par d'autres humains, et ainsi de suite. Après, concernant notre besoin d'être utile, je pense pas que ça soit totalement vrai. ça dépend des gens, et ça dépend ce qu'on appel utile. Personnellement, j'aime bien travailler sur un projet pour le plaisir de bosser dessus, même si ça n'a pas grand intérêt derrière. Après, il y a un minimum d'utilité, c'est vrai (faire plaisir à quelqu'un, impressionner … ), mais l'utilité peut être aussi dans le simple plaisir d'avoir fait quelque chose qui fonctionne. Et ça, l'IA ne pourra pas nous remplacer la dessus. C'est comme le plaisir de manger. Si quelqu'un mange à ta place, il ne te vole pas ton plaisir de manger, mais il mange ta nourriture. Ce n'est pas tout à fait la même chose. Si on te laisse manger, le plaisir revient tout seul. Pas besoin que l'autre arrête de manger. Autrement dit, pour en revenir au sujet, si l'IA veux nous rendre heureux, il lui suffit peut être de nous laisser travailler sur nos projets personnels et n'aura peut être pas besoin de nous faire croire qu'on est utile à la société. Et ensuite, on en revient au 5ième scénario avec le côté potentiellement dangereux de nos inventions car trop imparfaites … mais ça, ça dépendra de la morale de l'IA. Voudra t-elle que tout soit parfait ? Ou comprendra t-elle qu'une certaine imperfection est nécessaire ? A quelle dose ? De quel type ? Quel équilibre ?
oui et puis si elle doit rendre heureux chaque etre humain de façon occidentale (matérialiste) faudrait détruire le monde et piller touts ses ressources...
On ne peut déjà pas être d’accord sur les dangers des technologies actuelles, alors pensez-vous vraiment que la société humaine dispose des instruments pour lutter face à un problème d’IA dont le coté négatif est intrinsèquement ambigu et dont les conséquences dépasse la portée même de nos existences individuelles? Honnêtement?
~30:00 - Je ne suis pas convaincu par ce raisonnement... Comme la progression "exponentielle"... Oui localement peut-être... Mais pas très longtemps... LA raison me parait tellement simple: même le drone, il a une autonomie de quelques dizaines de minutes... Qui le recharge ? Qui met la fiche dans la prise.... Qui va chercher les minerais dans les mines et le pétrole ??? Bien sur qu'un crunch d'internet mettrait la société dans la merde... Mais l'IA aussi serait dans la merde... On n'en est pas au "tout automatise" qu'avec des robots... Ça peut s'effondrer très vite pour l"IA... Et si elle est si intelligente que "ça", elle ne le fera donc pas: ce n'est pas son intérêt... Je ne dis pas que ce scénario serait impossible dans l'absolu, mais pas de notre époque... Oui on a la sensation d’être envahi par l’électronique, mais il y a plein de main d'oeuvre HUMAINE derrière chaque "device"... Beaucoup trop de chercheurs et d’ingénieurs sont fascines par la technologie comme des lapins dans les phares, et oublient, a mon avis, la bien concrète réalité, des enfants dans les mines, et des millions (milliards?) d'humains qui crèvent la dalle, déjà, avec ou sans internet.
«L'IA qui n'a pas d'impact [...] est une idée très largement fausse» Cette assertion est complètement infondée, et complètement fausse (pas largement, oui, complètement). Encore une fois la majorité des gens ne sont pas colles a TH-cam et n'a pas la fibre... Et dans la majorité du monde (*), malgré les smartphones, les gens... se PARLENT... Oui les "Westerners" même si ils imposent leur mode de vie ne sont qu'une minorité de l’humanité... Focus trop "Lausanno-EPFL-o-centre"... (*) Edit: quand je dis "monde" je ne parle pas que de l’Afrique, je parle de 90% des territoires qui sont ruraux... Dans les pyrènes, les gens regardent peut-être TH-cam, mais ils font autre chose que les "urbains"... Et ils ont une vie sociale dans la vraie vie... "tout le monde" se connait...
Cher Lê, je suis très sérieux si tu peux prendre 2 heures de ton temps pour regarder cette vidéo d'un de tes anciens collègues qui s'adressent à tes collègues à l'école polytechnique : th-cam.com/video/DiDmxYwYPj0/w-d-xo.html il s'agit de problèmes d'énergie et du réchauffement climatique à venir. Dans les 20,30 ans, on a des problèmes aussi importants à gérer que l'explosion des IA. En gros une exponentielle ne peut pas diverger indéfiniment, physiquement elle se heurtera à un facteur limitant. Tu verras Pour moi, ça a été une révélation
Encore merci Lê, ta chaine est fantastique.
Le problème de l'utopie c'est qu'elle décrit un aboutissement, alors que le bonheur personnel est un cheminement.
Donc, je découperais le problème en 2:
- D'un point-de-vue systémique, tous les problèmes devraient être résolus: pas de maladie, pas de mort, pas de guerres, pas de manques matériels. Une abondance d'énergie et de biens.
- D'un point-de-vue personnel, il faudrait prévoir une évolution constante et infinie dans le temps, peut-être asymptotiquement vers la connaissance du "tout", qui serait le bonheur maximal.
La notion d'évolution est importante, car sans elle le bonheur finirait par diminuer. Le statut quo finit par l'ennui.
Un bonheur infini sans évolution ressemblerait à celui d'une plante ou d'un humain juste bien drogué. Cela ne me semble pas souhaitable, bien qu'il me semble difficile de justifier pourquoi.
Donc, dans cette utopie, l'humain nait bébé, sans connaissances, et évolue asymptotiquement jusqu'à la connaissance du tout, et ce à son propre rythme, lui permettant de jouir d'un bonheur différent à chaque niveau d'évolution (le bébé ne connait pas le même bonheur qu'un enfant, qu'un adolescent,...). Cette évolution convergerait sans doute vers un état contemplatif, celui d'un dieu omniscient (bénévolent mais pas omnipotent) qui pourrait regarder, comprendre et apprécier le monde continuant d'évoluer autour de lui.
J'aime tellement ton humilité !
Est-ce humble de liker ce type de message ;)
hahaha XD
A propos de 4:30 il y a un exemple bien connu, c'est la boite de Skinner. On met un oiseau dans une cage et on lui donne de la nourriture s'il presse un bouton. L'oiseau mangera plus de nourriture que si on lui donnait de la nourriture sans limite.
C'est une technique utilisée dans les jeux videos sur mobile (genre Candy Crush) on te fait jouer à un jeu "facile" et le simple fait de jouer permet d'obtenir des récompenses. L'illusion de l'effort nous rend dépendent à ses jeux.
C'est marrant de voir les cheveux de Le repousser au fil des vidéos de la série sur l'intelligence artificielle :D
Un projet futuriste utopiste avec des IA?
Le Venus Project
sur la fin de la vidéo je suis ravis de voir que tu comprend que la vision utopique est comme la vision du bien ou du mal , c'est personnel et hyper subjectif , plus ou moins partagé par un plus moins grand nombre de personnes , et de plus cela ne tient pas compte de l'évolution ou changements , c'est donc une vision naive , simpliste et arrêtée des choses et de la vie et des situations .
l'utopie des uns est la dystopie des autres , tout comme si dans le futur certains utilisent les avancées des "intelligences" artificielles cela obligera d'autre à le faire par la pression exercée de ceux qui s' en servent et leurs résultats sur ceux qui ne s'en servent pas , il y aura donc élimination de ceux qui n'auront pas pu ou voulu s'en servir . elle est pas belle l'utopie totalitaire ! ( pléonasme ).
Le est une machine qui progresse de façon exponentielle dans la miniature putaclick :D
oui la dernière histoire ma parut effrayante comme si les humains étaient endormis pour toujours dans un monde virtuel et que le vrai monde soit développé par l'ia , mais c'est ptet ce qui va se passer
en vrai j'avais meme pas remarqué les boobs je parlais plus de sa posture :D
Gilgamouche : C'est mal si j'aimerais bien voir cette vidéo ?
Passionnant. Et puis c'est sympa ce format à la cool.
Je crois que l'impossibilité des utopies est liée à (au moins) deux choses :
1/ le facteur chaos, qui fait que les nouvelles solutions génèrent de nouveaux problèmes
2/ le caractère fondamentalement amoral du réel
Je pense que tu l'avais dans la tête quand tu as fait le dernier scénario mais pour moi c'est totallement la machine à expériences de Nozick que tu as décris.
Pas d'inquiétude : comme on peu le voir avec l'mage de présentation de l'IA 26, la seule présence d'un bonnet C élégamment porté rend la catastrophe tellement plus agréable ... :D:D:D
Bravo pour la direction que tu prends. Tu t'adaptes au standard youtube pour avoir p'us de visibilité et c'est je suis d'accord avec toi le meilleur moyen de toucher plus de monde. Bravo continu !
Bonjour ;-)
L'exemple du père éploré que tu prends dans le cadre de la thérapie génique me fait faire un parallèle enter ça et la vaccination ...
C'est super intéressant comme format de vidéo, merci ;-)
Mwouais, mais y a une différence entre le mec aveuglé par la mort de sa fille par un traitement et les complotistes qui sont pas foutu de voir qu'une étude corrompu ne prouve pas la dangeresité des vaccins...
Salut,
J'voulais juste te remercier. J'essaye de trouver des idées de romans et de nouvelles de science fiction. J'ai les idées et des structures prédéfinies par mon expérience de la vie, ma philosophie et ma sensibilité. Mais concernant la cohérence de mes idées, tes vidéos m'aident vraiment à trouver des pistes de réflexions hors des chemins dont mon esprit s’accommode habituellement. La plupart du temps, j'accorde beaucoup d'importance à la suspension d’incrédulité, donc j'écris des histoires en me basant sur mes idées et mes intuitions. Ta pédagogie (compréhensible par ailleurs, la science c'est dur pour les littéraires) m'aide vraiment à rendre mes idées plus immersives, plus contemporaines. Sans vouloir me plonger dans la hard-science, je peux dire que connaitre les avancés et les dilemmes moraux de la science d'aujourd'hui rendent le message de mes récit plus impactant et plus intéressants.
Ta chaîne a surement d'autres utilités dont tu ignores encore la portée pour ceux qu'elles concerne. Mais je voulais relayer celle qui me touche personnellement.
Bonne continuation.
Est-ce que tu pourras faire une vidéo sur les matériaux nécessaire à la construction de ces machines et plus largement sur la construction en elle même? Histoire de mettre un peu tout ça en perspective :)
Lê, tu confonds un peu debunkage et explication sur cette vidéo :-p
Ça reste une très bonne vidéo.
Merci et encore merci...pour ces vidéos et pour le partage de vos pensées profondes et de votre savoir, je suis éblouie par votre intelligence qui n'est pas artificielle.
Un petit hardcore prévu sur cette série? Ou alors ton bouquin fait office de giga épisode hardcore? ;)
En fait ça peut déraper dès qu'une IA même de niveau actuel saura définir elle même des objectifs instrumentaux
Tant d'intelligence dans un seule corp..... comment t'on cerveau fait pour ne pas explosé sinon continue c'est fantastique
Je sais pas si tu as déja joué à la trilogie Mass effect, mais le scénario nous apprend que chaque civilisation dans la galaxie finit par se faire détruire par les "synthétiques" qu'elles ont elles meme crées, et du coup une "solution" est mise en place (pas de spoils :D). En tout cas un résumé de l'histoire pourrait peut-être t'intéresser, tu devrais trouver ca sur Wiki...
Encore bravo pour tes vidéos, j'attends les prochaines avec impatience :)
Génial !! Mais une intelligence aussi grande qu'elle soit, si elle n'a pas de but, elle fait quoi ? Nous, les "vivants" on a un but : se reproduire, perpétuer la vie, éviter la douleur... Mais les machines ?? Quelle est leur voie ? Qui leur suggère ? Qu'est-ce qui les motivera ? J'espère que tu nous en parleras, cela me semble très important !!
Et sinon, à propos de ta vidéo sur wikipédia : tu as entendu parler de l'affaire Philip Cross ? Si ce n'est pas le cas, je te conseille vivement de lire ceci : www.craigmurray.org.uk/archives/2018/05/the-philip-cross-affair/
Encore bravo et merci !!
Une IA sans but ne peut pas exister, je pense, sinon ça serait un code vierge avec aucun intérêt pour s'améliorer/faire un truc et donc ne ferait rien
on a pas vraiment de but non plus... Si notre seul objectif est de procréer le monde va pas aller bien longtemps...
ça reste un but
On a l'impression que tu ne regardes pas du tout les vidéos en fait. Tout le propos c'est que c'est difficile de définir les objectifs des IA pour qu'ils soient alignés avec les nôtres.
Si si j'ai bien regardé la vidéo mais j'ai l'impression que tu n'as pas bien lu ma question. Je ne parle pas de morale, je parle de but. J'essaie de comparer vie et IA plus que le type de morale et cela me semble un autre problème super important et je n'ai pas l'impression qu'il ait été abordé.
Excellente vidéo. Je n'ai pas de connaissance technique en programmation d'IA mais est il possible d'imposer l'unicité à une IA soit comme une contrainte, soit comme un objectif à poursuivre pour l'empêcher de s'auto-répliquer ? De plus si c'est possible, ne serait il pas sage d'imposer de la même façon une consommation d'énergie maximale et/ou une puissance de calcul maximale afin de limité la vitesse/ l'ampleur d'une "catastrophe" si elle a lieu ? Bonne continuation ;)
L'utopie que décrit Ian M. Banks dans son cycle de la Culture est celle qui me convainc -- m’attire -- le plus. Banks décrit surtout la friction entre la Culture et les autres civilisations, mais l’aperçu qu'on en a est quand même vachement intéressant.
Et si la Terre est Contactée demain, je "signe" tout de suite :D
Attention à la confusion : un drone désigne un aéronef dépourvu de pilote embarqué. Mais la plupart des drones actuels sont dirigés à distance par des pilotes bien humains. Rien à voir donc avec l'IA. Un drone dirigé par une IA (cela existe déjà) devrait en fait plutôt s'appeler "robot volant"
"Écrivez une réelle utopie" Mon âme de créatif m'ordonne de noter cette idée quelque part pour la réutiliser après ^^
avec une IA super intelligente nous sommes tous réduits à l'état de fidèle ou d'hérétique puisque personne ne saura comprendre les tenants et aboutissant de ses préconisations,
non ?
oui on sera obliger de suivre ses ordres car elle sera beaucoup plus intelligente que nous , meme si ils(les ordres) nous paraissent bizarre ou stupide...
oui
je ne dirais pas "obligé.e.s" mais vu qu'elle nous aura maintes fois prouvé son utilité... ceux qui refuseraient de suivre les préconisations n'aurait aucun arguments recevables pour justifier leur croyance craintive (d'où ma référence religieuse).
perso, si je débarque dans une tribu qui n'a jamais vu "d'homme blanc" et que je ressens de l'hostilité de leur part, je commencerais par leur faire des cadeaux avant d'utiliser leur ignorance à mon profit, le moment venu ... MmWwwAhahAHahAhhhh XD
@@lezheibr Certes ses raisonnements nous échapperont largement , mais sa morale (enfin la "graine" de sa morale) à priori connue. C'est un peu comme quand tu vas chez le médecin : tu es bien trop ignorant pour saisir les raisons de ses prescriptions mais tu sais qu'il cherche à optimiser ton état de santé.
"Couper internet ce serait vraiment une catastrophe" Je me demandais justement si tu avais un avis sur la question suivante: tu penses quoi de l'épuisement des ressources énergétiques fossiles, et tu vois un impact sur le développement des technologies à venir?
Surtout que la question est l'une des plus importante ,dès 2025 environ on va déja ressentir les premier épuisements fossiles ,bien évidement tout ne va pas arriver d'un coup mais petit a petit les ressources vont être de plus en plus chiantes à extraire ,et donc de plus plus chère
pour les ressources énergétique on a le temps encore... Par contre les ressources pour la technologie... Faut un systeme de recyclage sinon on va pas aller loin ....
Choconade Et le problem c'est que pour gerer la sortie des energie fossiles on vas avoir besoin de beaucoup de ressources technologiques, et là ,ça va forcement bloquer quelque part .
Nucléaire : fission, puis fusion de DT-fuel, puis Hydrogen
On a 90% de l'univers à notre disposition, si on arrive à ce stade, ce que je crois, on est large. Très larges.
Une petite vidéo de Lê entre 2 épreuves de bac ça fais plaisir
Salut Lê, tout d'abord bravo et merci pour toutes tes vidéos, elles sont toujours d'une qualité supérieure. J'avais une question : je suis actuellement étudiant à l'EPFL en informatique et le domaine de la théorie des intelligences informatiques m'intéresse beaucoup, et j'aimerais bien travailler dans ce domaine plus tard. T'as dis plusieurs fois que la morale des IA sera un grand défi pour les mathématiciens : Est-ce que ça implique que ca va être plus compliqué pour quelqu'un ayant étudié dans la faculté IC de faire de la recherche dans ce domaine que pour quelqu'un en math ? Désolé, la question est longue, mais je me pose la question de changer de section comme j'arrive à la fin de ma première...
Non. Je pense qu'il va falloir beaucoup de compétences différentes. En tout cas, les compétences informatiques seront très prisées !
ok merci,e je finis ma première en IC (je t'ai d'ailleurs croisé plusieurs fois vers le Parmentier ^^) et je me réjouis d'approcher des cours d'IA :)
Ouais, moi aussi j'ai eu des angoisses existentielles sur les IAs... c'est difficile de convaincre autour de soi ^^"
Utopie selon moi : ce que j'estimerais le mieux, dans la moyenne de mon état d'esprit actuel (c'est-à-dire moi sur une période p assez longue pour éviter les éventuels piques où j'aurais une pensée différente pour raison x ou y), en comparant à tous les autres scénarios auquel je serais exposé. Et je laisserai une IA faire les simulations de tous les cas possibles et viser la meilleure d'entre-elles. Cela supposerait que cette IA soit capable de mon comprendre très profondément et capable de simuler tous ces futurs possibles mais cela ne me semble pas impossible...
En utilisant ce même algorithme sur l'ensemble de la population et en le changeant au fur et à mesure de son évolution, j'imagine qu'on pourrait atteindre une utopie générale, en moyenne, dans le sens utilitariste du terme.
Enfin ce raisonnement en se basant que sur moi, ferait certainement une utopie (à mes yeux, sans aucun doute). Mais au niveau de généraliser avec une utopie pour tout le monde, on y arriverait aussi mais jamais tout le monde en sera satisfait (cas extrême, supposons que 51% des gens soient nazi/autre et aient pour seul objectif d'exterminer les 49% restants, qui eux ont une vision beaucoup moins extrême d'une utopie. Que suivrait l'IA en moyenne...?). Enfin comme j'estime que le monde est dans sa globalité plutôt bon, ça pourrait fonctionner... Après peut-être devrait-on accorder de l'importance en fonction d'autres facteurs comme l'intelligence des personnes... (mais on en revient à ma vision de l'utopie du coup ^^)?
Par rapport aux robots tueurs, j'ai même pas l'impression que ce serait si difficile de mettre des protections pour éviter les dérapages. C'est une question qui est souvent au coeur du travail d'UX / UI Design. Par exemple, quand tu veux fermer un document qui n'a pas été sauvegardé, t'as un message qui te demande de vérifier si tu es sûr que tu veux bien faire ça. Quand c'était pas le cas, je pense que tout le monde a vécu le côté rageant d'avoir perdu plusieurs heures de boulot à cause d'un missclick.
Là mon analogie c'est de faire l'équivalence entre un missclick qui nous fait perdre notre travail, et un "ordre" à chaud qui tue des humains. Pourquoi ne pas mettre plusieurs protections avant de valider des ordres qui tuent des humains ? Je pense que ça mériterait d'aller plus loin que de recevoir un code par texto pour valider l'ordre, mais dans l'idée ce serait pas mal d'avoir des barrières pour toutes les décisions qui peuvent être graves.
Qu'en pensez-vous ? =)
J'aime bien tes vidéos continue :)
J'avais encore un petit bout a voir. Par expérience je te confirme que l'&addiction physiologique est bien moindre en rapport avec l'addiction moral. Sauf dans les cas extrême d'addiction ou les deux sont aussi prenant.
Je suis en tout cas très très d'accord avec toi sr tout c'est piège a désamorcé. C'est en ayant ce genre de discourt que l'on assure peu être une sureté en plus. En tout cas ça ne peu qu'aider a prendre du recul et regarder les choses dans leurs ensemble. A l'heure actuels, je trouve personnellement que l'on pousse a penser individuellement donc on étrique la penser.
Merci pour tes pensées révélé !
Salut,j'ai trouvé ta chaine via le "Salut Internet !" de Doc7 .Depuis le temps que je cherchait une chaine comme ça hahaha
Bonjour. Pourriez vous mettre les chaînes que vous nommez en description ? Merci
Fin avril 2020, tes réflexions sur les réactions en cas de crise sanitaire apparaissent prémonitoires !
Pour les drones-tueurs, au temps de Napoléon ou d'Hitler, cela aurait pu éviter d'utiliser trop de chair à canons...
Dis moi, t'es pas en vacances depuis 3 semaines ? (c'est toujours des bonnes vidéos ! ). Sinon, tu me rassures que tu flippes toi aussi sur les conséquences des IAs, parce que j'ai vraiment l'impression que ça peut-être une boite de pandore. C'est plus rassurant de flipper à plusieurs que seul ^^
Perso, pour moi, une utopie, ce serait faire en sorte que tous les humains (et meme tous les etres doués de conscience) puissent vivre éternellement, qu'il soient égaux et qu'ils puissent faire ce qu'ils veulent dans cette vie. Mais c'est vrai qu'il y aura toujours des conflits comme quoi un tel voudra etre ami avec un autre, et que cet autre refusera, par exemple. Mais je pense que matériellement, ce sera une bonne chose.
vieux proverbe : l'enfer est pavé de bonnes intentions (asimov like this)
pour moi l'utopie c'est un monde virtuel où on est tous connecté mentalement et où on peut faire à peu près ce qu'on veut avec notre avatar
on est comme dans un rêve lucide mais en plus de ça on peut communiquer avec n'importe qui voire mettre en commun des pensées
c'est en tout cas ce que j'imagine comme étant le cimetière d'une société idéale où les gens vivraient normalement jusqu'à un certain âge où ils intégreraient ce paradis
Merci pour la vidéo de computerphile ; super découverte en ce qui me concerne !
Si après tout votre super boulot (Thibaut, toi, Computerphile et tous les autres) il y a encore des scientifiques ou même des gens "non-scientifiques" qui ne comprennent pas l'importance cruciale de faire de la philo encore et toujours, ben je crois qu'on mérite d'être effacés par des IA bienveillantes... :P
Plus sérieusement, que faudrait-il à ton avis aux IA pour qu'elles arrivent à s'affranchir de leur programmation ?
Parce que si on considère nos instincts primaires comme notre programmation à nous, il me semble possible, via l'éducation et/ou des conditionnements divers (peut-on considérer l'éducation comme un conditionnement ? - pardon je m'égare :P), que les humains s'affranchissent de leur programmation... Je pense au fait de décider délibérément de ne pas avoir d'enfants, ou alors faire une grève de la faim pour témoigner de son engagement envers une cause. Ou même se battre et mourir pour des convictions. Tout ça me paraît être en contradiction avec les impératifs évolutifs habituellement avancés...
Je ne sais pas si mon propos est clair ; ce que je veux dire, c'est que tu parles de bien définir ce qu'on va demander à une IA, mais ne devrait-on pas également se pencher sur la question suivante : "Comment s'assurer qu'une super-intelligence va se conformer aux plans qu'on a utilisé pour la créer ?"
c'est amusant que tout le monde considere requiem for a dream comme un chef d'oeuvre mais aussi comme d'un experience traumatisante....
L'utopie, ça n'existe pas, un monde sans malheur est un monde sans saveur... Par contre un dystopie, ça semble bien plus réalisable et je crois que l'objectif principal devrait être, non pas de tenter d'atteindre l'utopie ou de l'imaginer mais, au contraire, d'essayer de s'éloigner le plus possible des dystopies.
Un monde utopiste est un monde sans "mal" donc on supprime le repère qui nous permet de mesurer le "bien".
Le "mal", "mauvais", "pas bon", est-il nécessaire ?
la vision du "bien" ou du "mal" reste personnelle ,subjective et plus ou moins partagée par un grand nombre de personnes, ce que qq'un trouve bon ou bien pour lui , ne le sera pas forcément pour lui même plus tard, et n'est pas non plus bon pour tous dans l'instant et à plus ou moins long terme. De plus on ne peut pas vraiment savoir les intentions , et les effets de décisions , sans vouloir dire si un tel ou tel a de bonnes intentions , on peut plus facilement prédire les effets des décisions et en conclure si c'est "bon" ou" pas bon" voir mauvais ou "mal" . donc évacuer "la morale " en ne voulant pas utiliser le mots bon ou mal , n'est pas une solution et n'élimine pas le mal ou le bien , ou les mauvais effets ou les bons effets.
à partir de 16:00 euh, je ne comprends pas le questionnement. Nombre de patients meurent sous les bistouris d'un chirurgien soit par faute (exceptionnel) soit par "impossiblité" pour x raisons.
Un père en colère parce qu'un robot n'aurait pas sauvé sa fille (ou exceptionnellement par une erreur d'action médicale... exceptionnel car un robot qui commet des erreurs serait retiré pour réparation ou destruction).
Donc, là ce que je vois c'est la relation à la mort et non au IA. Un père se mettra en colère de douleur même si sa fille vient à mourir sous les doigts d'un chirurgien.
Lorsque je t'entends parler "pas de chance et cela va arriver".... donc il ne faudra pas aller à l'hopital avec des clés à mollettes et des tournevis pour démonter l'Ia qui a tué par "accident".... euh, tu devrais envisager une maitrise en droit pour prendre la défense et être l'avocat des.... AI. Car ton argumentation est pour défendre l'IA ou les IA ^^
Face à la mort, il y a cet étrange chose que l'on ignore dans la société moderne et occidentale... c'est le deuil.
Cela signifie affonté la douleur de la perte pour libérer la personne décédée et se libérer de la perte qui n'est plus là. De fait, prendre du recul sur "aurais-je du envoyer ma fille se faire opérer par un robot médical ?" ne changera rien sur le fait que la ou le patient est décédé.... et qu'un deuil est à faire.
Ensuite ou en même temps, enquêter sur la cause du décés (erreur médicale ? décés légitime au vue de la santé ou de l'état de blessure du patient ? autres ?) cela peut se faire et même aider à faire le deuil en fonction du résultat d'enquête (dédommagement par l'hopital ou pas, par l'entreprise qui fabrique les robots ou pas etc.)
Là encore, à vouloir faire de l'analyse et spéculation sur la relation, l'interaction et les IA dans la société... il me semble important de ne pas oublier le fonctionnement psychologique et émotionnel humain - standard -. Peu de personnes ont un esprit de Raison et orienté scientifique. La plupart fonctionne par l'émotion... même si celle-ci est camouflé par la prétendue Raison et Pensées. (à tort ou à raison).
amiié,
L'histoire des robots tueurs me fait penser à ces enregistrements envoyés par erreur à un contact par Alexa alors qu'il y a des questions pour vérifier que l'on veut vraiment envoyer.
Il faut plus qu'un temps de réflexion. Il faut un vrai contrôle de ce qui est compris par l'IA.
Si l'humanité s'éteint, remplacée par des IA, ainsi soit-il.
L'Humain n'est pas un fin en soit.
combien sont capables de s'extirper du référentiel anthropocentrique dans lequel ils baignent et qu'ils se plaisent à justifier...
Les problèmes avec les intelligences artificielles semble souvent venir de leur fonction objective. Est-il envisageable de créer une IA sans fonction objective? Qui déterminerait d'elle-même ce qu'il est préférable à faire? Si c'est impossible, ça donnerait un argument au gens qui défendent que les humains existent dans un but particulier...
Au delà de la dangerosité de certains humains qui vont indubitablement programmer des IA de manière négative et très dangereuse, le véritable danger de l'IA réside à mon avis dans la problématique des FONCTIONS D'ÉVALUATION.
Une fonction d'évaluation en IA est généralement programmée par un humain pour désigner un objectif à atteindre avec des critères spécifiques à optimiser. Exemple : un petit robot à chenilles partant d'un point A doit toucher un poteau, situé aléatoirement au point B, sur un plan comportant des obstacles placés aléatoirement, avec comme critères la précision (combien le centre avant du robot est centré sur le centre du poteau, ou distance la plus courte entre ces deux repères) et la rapidité (le temps mis pour atteindre l'objectif défini) d'accomplissement.
Tant que les fonctions d'évaluation sont définies par des humains, "tout va bien", mais le jour où ce sont les IA qui les définissent, et où celles-ci sont définies en cascade, alors là surviennent de suprêmes dangers : l'IA n'ayant aucune conscience (c'est un processus 100% mécanique), la notion de morale n'a aucun sens : seuls la satisfaction numérique des fonctions d'évaluation et d'optimisation de leur critères d'accomplissement jouent. Ainsi, une IA peut faire apparaître (par un système d'algorithmes génétiques par exemple) et décider d'utiliser une fonction d'évaluation qui décime des êtres humains pour optimiser l'un de ses critères d'accomplissement, critères que l'on pourrait génériquement appeler "EFFICACITÉ". Il est là le risque. Et il est immense...
C'est un risque systémique lié aux fonctions d'évaluation en cascade décidées par la machine.
Et contrôler ce risque est très difficile : cela revient à évaluer, d'un point de vue de la dangerosité, chaque fonction d'évaluation, une tâche ultra-ardue, et qui devient quasiment impossible lorsqu'il y a des fonctions d'évaluation en cascade, qui prises isolément, ne semblent pas opérer une fonction dangereuse, mais qui ensemble font un véritable carnage. Sans vouloir gagner un point Godwin, c'est le même problème que la division de la responsabilité dans l'holocauste des juifs : une armée de fonctionnaires appliqués et sérieux, ne faisant chacun qu'une petite tâche inoffensive (hormis ceux qui sont en bout de la chaîne) qui conduisent à la catastrophe. Fabriquer une voie ferrée qui conduit à un camp de prisonniers, conduire un train, etc, ne sont pas des tâches intrinsèquement malfaisantes et dangereuses, mais concourent à un but global lui malfaisant et dangereux dans cet exemple.
Ainsi, je pense que cela serait intéressant que tu te renseigne sur ces problématiques des fonctions d'évaluation, et que tu nous fasse une vidéo de synthèse les concernant. Prends ton temps, le sujet est sérieux et important je crois.
Qu'en pense-tu ?
Merci.
Concernant le recul que l on doit prendre concernant les accidents occasionnels des voitures autonomes par exemple, tu ne penses pas que le caractère aléatoire de ces accidents est quand même préjudiciable, dans la mesure où un conducteur "prudent" peut potentiellement voir sa probabilité d avoir un accident augmente (je n ai pas les chiffres bien sûr c est simplement une question)
Non, ça reste bien plus sécuritaire. Je vais prendre un exemple débile, juste pour expliquer :
- Un conducteur tel que tu le décrit (prudent), si on le fait conduire "à l'infini" aura un accident bien plus rapidement qu'une voiture autonome dans la même expérience. Tout simplement car il y aura des situations dans lesquelles éviter l'accident n'est pas à la portée des capacités humaines. Mais, cela s’avérera possible pour une voiture autonome, dont le temps de réaction sera beaucoup plus court.
Ainsi, la voiture autonome aura (statistiquement) toujours moins d'accidents qu'un humain, si elle est fonctionnelle.
un pseudo oui c est un raisonnement largement recevable bien vu 😉
Les robots tueurs de Black Mirror sont terrifiants. À voir dans l'épisode 1 de la saison 3 si je ne me trompe.
Debunkage ou justification?
tu nous as créé seulement des dystopies et des contre-utopies, mais pas d utopies. Tout cela ne peut que finir mal ?
Si l'IA était "bien conçue" elle devrait être capable de comprendre le contexte d'une phrase et d'identifier le "niveau de sérieux" de la phrase et donc décider si l'action doit être réaliser ou non. Je parle du cas où la présidente syldave prononce sous le coup des nerfs une phrase "ordonnant" le meurtre de tous les sondonésiens, l'IA devrait pouvoir identifier le contexte et comprendre que ce n'est qu'une réaction de déception suite à un match de foot. Je me trompe quelque part ?
très très bon débunke ! mais au dela de tout ça, je crois que nous vivons déjà tous ses points que tu soulève avec l'intelligence humaine et ce, tous les jours et dans tous les secteurs et lorsque l'on vois avec quelle "intelligence" nous gérons les problèmes engendrés par l'humanité, cela ne présage rien de bon...
L'utopie c'est un monde à créer. Il s'agirait de rendre globale la confiance, on utilise de la monnaie parce qu'à la base, c'est difficile de définir la valeur d'une chose, ça dépend de l'envie et des besoins des utilisateurs.
si on savait qu'on pouvait marcher jusqu'à l'autre bout du monde en sachant que chaque soir, on trouverait un lit et un repas de base, je pense que le monde serait bien différent.
Si on pouvait avoir des zones agricoles communes ou chacun peut se servir selon ses besoins, il n'y aurait plus de vol.
Un monde ou la faim et la fatigue serait de simple épreuves mentales pour renforcer l'esprit, alors la confiance nous permettrait de nous elever vers nos passions, sans avoir besoin de travailler à financer nos besoins.
En fait ce qui nous manque le plus, à la plupart d'entre nous, c'est la polyvalence, on s'oriente trop vers des carrières. en ignorant les compétences différentes des autres.
Dans une société où l'émotionel est surcontrolé ou réprimé ou exprimé sans discernement juste parce que je le "vaux bien"... dans la même société où l'Amour est devenu obsolète, dénuet, méprisable.. et non compris et ressenti.
Il devient facile de - projeter - ces émotions ou sentiments sur un objet neutre. C'est le processus qui se produit en thérapie (surtout dans la psychanalyse pure et dure). Le thérapeute se fait neutre (au tant que faire se peut) pour amener la personne à déverouiller son émotionnel autant que sa conscience. Le thérapeute devenant un objet de transfert (du parent, de l'ami...).
Dés lors tomber amoureux d'une androÏde belle, programmé pour être attentionnée ou ajustée à la personne qui la acquise.... ne serait pas exceptionnel pire cela serait commun. Un/e androïde neutre serait propice à tous les transferts.... des plus positifs (croire qu'ils ont une "ame" ou une conscience) au plus négatifs (la peur de l'étranger agresseur, colonisateur, prédateur).
Dans la mesure où une IA comme un petit robot chien qui arrive sur le marché ou un modèle plus sophistiqué proche de l'androïde (en tant que tel), il y a réponse, obéissance, interaction... l'humain y trouvera reconnaissance, attention du robot... et il s'ouvrira à l'Amour à l'égard de l'IA.
L'humain est un être d'émotion et social avant celui d'être de Raison. Cela pourra le sauver ou pas.
Perso, je pense que toute analyse ou spéculation sur les IA et la relation aux IA sans tenir compte des bases psychologiques et émotionnelles de l'homme... pourrait faussé l'analyse et la spéculation sur les IA. (à tort ou à raison).
Et les scientifiques qui croient n'être que Raison, à mon sens ils se leurrent car le choix et décisions en lien avec le bien, le beau, le laid, le mal, l'échec ou la réussite seront nécessairement émotionnel et avec, un peu, beaucoup ou pas du tout de l'Amour.
Amitié,
Une utopie mhhhh un empire galactique technologiquement très avancer capable d'augmenter les capacités et la durer de vie des gens au loisir de ses derniers et avec une densité et une répartition de la population celons le choix de chacun également tout le monde aurait la possibilité de faire ce qu'il lui plait et étant élevé dans cette socièté iln'y aurait pas de désir de prendre le pouvoir sur les autre ce genre de chose ^^
Isaac Asimov dans le premier tome des robots donne un exemple de monde parfait a mon sens
Si on limite une superintelligence (exemple: elle ne peut pas utiliser plus de matière que 1 tonne dans un volume de 10m^3 et ne peut que communiquer avec un terminal) et supposons qu'on lui assigne une fonction objectif mal définie (par exemple réduire la faim dans le monde), quels seraient les risques dans ce cas?
Autrement dit, dans cet exemple, si elle décide qu'un génocide est la meilleure façon de réduire la faim dans le monde, aurait-elle toujours les moyens d'en causer un, et si oui, n'aurions nous pas le temps de nous en rendre compte et de la supprimer avant qu'elle le fasse?
Lui assigner des contraintes physiques non modifiable par ses soins n'est-elle pas la solution?
Pourquoi pas, oui. Ou alors, (attention, c'est juste une idée), on pourrais l'empêcher totalement d'agir, juste lui laisser la possibilité de proposer des solutions.
Parlant politique, tu dis : d'après les modèles de ...mesquiter ? J'aimerai bien savoir de quoi tu parles ici et savoir si j'ai bien entendu
et au fait, le cas du père et de la fille (14:58), est ce tiré de Sword Art Online, Ordinal Scale ?
Je pensais plutôt au cas des antivax pour le coup.
un pseudo ça peut aussi un pseudo
Les IA ont-elles besoin d'une "morale" ?? Dans la mesure, où leur fonctionnement est basé sur la Raison et le raisonnement, une des clés pour éviter que les IA se retournent contre l'homme.... c'est les fameuses loi de la robotique de Asimov.
Première loi Un robot ne peut porter atteinte à un être humain (ni à la nature végétale et animale) ni, restant passif, laisser cet être humain (ou des animauxà exposé au danger.
Deuxième loi Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres sont en contradiction avec la première loi.
Troisième loi Un robot doit protéger son existence dans la mesure ou cette protection n'est pas en contradiction avec la première ou la deuxième loi.
Cela fournit le cadre qui interdirait une IA de se retourner. Donc tout scénario à la Terminator serait un choix humain de ne pas se protéger ou protéger l'humanité contre une IA qui par raisonnement logique pur... en viendrait à conclure que l'humain est un danger pour la Terre voire pour l'IA elle-même.... avec la conclusion que l'extinction des humains protègera son existence et celle de la Terre.
De fait, penser "morale" à l'égard des IA, ce serait plus de l'antrhopomorphisme qu'un réflexion juste.
Amitié,
Une utopie est-elle un paradoxe ?
Le fait qu'il soit difficile d'imaginer une utopie s'explique facilement par le darwinisme.
L'être humain est un animal social et la cohésion de la société est primordiale pour la survie du groupe. L'évolution a favorisé les individus qui se conforment à la société dans laquelle ils vivent. Plus précisément, une conformité + un léger degré d'adaptation qui permet l'évolution de ces sociétés. Cela donne des populations majoritairement d'accord avec les valeurs de la société. La majorité des français était pour la peine de mort avant l'élection de Mitterrand, la majorité est contre de nos jours. La majorité de la population s'insurgeaient contre la télé réalité en 2001, la majorité y est indifférente aujourd'hui... etc etc...
Imaginons une société peuplée d'individus capable d'adopter facilement d'autres modes de vie. Cette société n'arriverait pas à se coordonner et finirait par disparaître.
Et si on programme l'IA pour que, quoi qu'il arrive, elle soit obligée de laisser son créateur libre ? (et là faut définir la liberté et on est pas couché)
Science4All : as tu déja vu le film "Limitless" ?
Le produit qui rend plus intelligent, plus drôle, moins fatigué, dont tu parles à 36:10' dans cette vidéo ressemble à celui dont il est question dans ce film.
Si tu ne l'as déjà pas vu je te le conseille !
Le problème d'une utopie dans un monde évolué, pour moi, c'est que tout ce qui est utile a été découvert, donc on a rien a chercher, donc on s'ennuie. Peut-être qu'en fait, un monde où il y a encore quelques problèmes à résoudre serait préférable à un monde sans problème, selon moi. A moins qu'on aie une IA qui nous fasse croire qu'il y a encore quelque chose à faire, et qu'elle a déjà tout fait, qu'il y a encore des gens à sauver et à aider, alors que personne ne souffre?
Tu as quand même oublié un scénarios possibles :
On code une de ces IA (Autonomie opérationnelle) sur une block-chain délocalisée (Autonomie technique) et voila les problèmes qui arrivent !
Sujet abordé plus en détail ici th-cam.com/video/3FJAhWBPhO4/w-d-xo.html
Débunk? Connais pas ce mot!
Mais pour les drones tueurs il est possible de faire barrage avec un brouilleurs ou une IEM ou alors ils ont mis au point un moyen de contourner le problème ?
Le problème c est que l ia y aura pensé. Et si une iem casse le pc, ya aussi plein de truc qui casse les humains 😅
Mais pour faire une IEM, il faut une bombe nucléaire non?
Geektor_
Je pense que je n'étais pas assez clair : oui, je sais ce qu'est une IEM, mais il me semblait que pour obtenir une IEM d'une puissance suffisante pour être un minimum destructrice il fallait une explosion extrêmement puissante du style explosion nucléaire. Je me demandais juste si c'est vraiment le cas ou pas.
Geektor_
En vrai j'en ai aucune idée, ça se trouve un pétard fait l'affaire mais en tout cas c'est ce que j'ai entendu. Faudrait peut-être faire deux trois recherches là-dessus
Geektor_
D'après wikipédia :
"[une IEM] peut être générée artificiellement par une explosion nucléaire ou un générateur à micro-ondes, mais peut aussi être d'origine naturelle, comme la foudre ou l'électricité statique."
le défi d'une conscience IA autonome est celui de la conscience humaine... quel est ou serait mon but comme conscience (humain ou IA) ?
Et ce qui fera qu'une IA pourrait nuire à l'homme ou pas.... sera la programmation de départ.
D'où les fameuses loi de Asimov ou du robot Girard...
De Asimov
Première loi Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger.
Deuxième loi Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres sont en contradiction avec la première loi.
Troisième loi Un robot doit protéger son existence dans la mesure ou cette protection n'est pas en contradiction avec la première ou la deuxième loi.
A cela se rajoute la correction apportée par le robot Giskard (cité par le robot Daneell Olivaw)
"Zéroième" loi Un robot ne peut porter atteinte à l'humanité ni, restant passif, laisser l'humanité exposée au danger.
Donc tout le défi est de savoir que QUEL BUT à l'origine fut commencé l'IA ? car sans but, elle ne peut pas évoluer... mais en fonction du but... soit au final elle voudra se débarasser de l'homme soit elle tendra à AIDER l'homme. Et le souci, c'est que nous ne savons pas la finalité des scientifiques... "on" sait que le scientifique est assez "con" (pas tous heureusement) pour faire n'importe quelle expérience simplement pour le plaisir de la recherche et de l'expérience ou pire parce que c'est son METIER même si c'est un gouvernement et son ministère de la guerre qui financent... et qui souhaite la pire arme, la plus puissante et la plus grosse pour être sur d'avoir le p.nis le plus gros que le voisin.
Amitié,
Ça te rassurerait de penser que l'épuisement des ressources minières et énergétiques réduirait, de fait, la capacité d'action des IA sur le réel ?
Oui enfin, on a énormément de marge pour épuiser TOUT les matériaux de la planète ...
le terme de progrès comme beaucoup d'autres termes n'est pas clair , il est subjectif et dépend des personnes ou milieux ou institutions, par exemple , si je suis l'armée ou simplement militaire le progrès est de faire une arme plus létale et qui est simple a déplacer ou mettre en action et qui serait contrôlable facilement ; si je suis biologiste un progrès serait de trouver une molécule ou thérapie qui guérirait et régénèrerait n'importe qui de n'importe quel problème ou handicap ou maladie ; pour un homme ou femme qui aime son travail ou l'effort avoir une société automatique où il n'est plus obligé et nécessaire de continuer à travailler dans sa branche serait une situation déprimante qui lui ferait perdre son moteur ou raison principale de vivre..... je m'arrête là car je ne vais pas faire l'immense liste possible et réelle des exemples .
Le titre est mensonger tu ne t'auto-débunke pas du tout!
le drone tueur surtout n'est pas soumis aux sentiments humains comme la pitié ou l'hésitation
je suis toujlurs étonné de voir que les morts dans les battailles sont bcp plus faibles que ce à quoi on pourrait s'attendre si toutes les armes étaient utilisées à leur plein potentiel
c pour ce genre de raison que certaines personnes sont si puissantes en combat
c'est pour cette raison qu'un combat réellement sans pitié est incroyablement ravageur
bref vive la pitié
Ne pourrait-on pas imaginer un système où la fonction objectif de l'IA soit la maximisation de son taux d'approbation par les humains ? Genre avec une sorte de vote à intervalle régulier où chacun évalue sa satisfaction vis-à-vis de la machine. Bon, même avec ça, il y a sans doute quelques écueils à éviter. Mais au moins on s'évite un objectif trop flou dont on ne peut pas maîtriser les conséquences à long terme, tout en gardant un objectif acceptable pour l'humanité et qui soit assez souple pour pouvoir s'adapter au fil des générations (et donc des envies changeantes).
Concernant une Utopie qu'on voudrait, je me suis beaucoup posé la question. Voici ma réponse : Il est de la nature du vivant (et donc de l'humain) de lutter. La vie est le résultat d'une coopération réussie pour s'adapter à l'environnement, au détriment de celui-ci (oui au détriment car selon le second principe de la thermodynamique (certainement le plus solide de la physique) le désordre ne peut qu'augmenter, donc l'ordre (= l'organisation du vivant) est forcement un accélérateur de l'entropie extérieure). Partant de ce constat, on sait qu'un individu sera toujours un obstacle à la liberté d'un autre individu, puisque en détériorant son environnement toute action qu'il entreprendra amoindrira le potentiel de l'autre individu. Donc l'Utopie de l'un ne pourra pas être l'Utopie de l'autre, ou du moins de tous.
Un monde idéal serait donc un monde par individu, où cet individu serait la seule conscience et tous les autres seraient des zombies = des marionnettes jouées par une IA. Bien sûr l'individu ne doit pas le savoir ! Les mondes seraient virtuels, et les esprits dématérialisés. L'individu ayant besoin de lutter pour exister (car sans contraintes on dégénère, encore une fois c'est l'essence du vivant que de lutter) l'IA sera responsable de présenter des défis à la juste mesure de l'individu, de façon à obtenir une satisfaction de l'individu toujours croissante. Bref, la vie serait une sorte de jeu vidéo sans fin, qui saurait toujours renouveler les défis présentés au joueur de façon à ce qu'il ne se lasse jamais. Si l'esprit est dématérialisé, l'IA n'aura aucun mal à comprendre comment il fonctionne et à s'adapter à chacun de la sorte.
Si votre bonheur moyen est depuis toujours croissant, vous êtes peut-être le joueur d'une telle Utopie ;-)
Un tel scénario prendrait certainement beaucoup de puissance de calcul, mais un esprit dématérialisé n'a pas besoin de "tourner" en temps réel (il n'en saurait rien, mais on sait de toute façon depuis Einstein qu'il n'y a pas de temps "réel"). Le système pourrait donc par exemple se nourrir de l'énergie à proximité d'une étoile et une fois épuisée mettre tout le monde en pause le temps du voyage vers une autre étoile...
Je pense cependant qu'après la singularité - si nous survivons - l'IA nous aura tellement augmentés que nos esprits ne seront plus humains. Comprendre par là que nos contraintes, nos envies, nos besoins, etc. seront "autres". Donc que tout scénario d'Utopie est en réalité impossible à imaginer pour l'instant.
Ce serait tellement bien !
En fait peu importe comment l'IA s'y prendra pour maximiser le bonheur du joueur. Elle trouvera un moyen forcément plus intelligent que celui auquel mon pauvre cerveau humain a pensé. L'important c'est qu'il n'y ait qu'une seule conscience par monde, afin que le potentiel de cette conscience ne soit jamais diminué par les Utopies des autres.
Ainsi, chaque joueur pourrait par exemple cheminer vers le poste de "maître de l'Univers" - si telle est son ambition - sans ne jamais nuire à personne de conscient. De façon effrayante, même les psychopathes pourraient s'épanouir dans leur monde... Ça peut sembler choquant mais bon, chaque monde étant disjoint, personne n'en saurait rien, et puis les questions morales n'auraient en fait plus aucun sens dans de tels Univers mono-conscience.
Mais comme je l'écrivais, on ne peut en réalité rien dire sur un monde post-singularité.
Le plus important pour l'humanité actuelle est de s'assurer de la bonne morale de l'IA, car c'est de cette morale que découlera ce que l'IA fera de nous, ce qu'elle "acceptera" (ou pas) quand elle nous dépassera - ce qui arrivera un jour.
Le pire serait qu'on arrive à démontrer qu'il est impossible d'imposer une quelconque morale à une IA. Qu'à partir d'un certain niveau d'intelligence, l'IA pourra forcément transgresser tout ce que nous pourrions "coder". Alors nous n'aurions plus qu'à croiser les doigts, car elle fera de nous ce qu'elle voudra...
utopie : l'ia interagit avec chaque humain, et par cette interaction, augmente le niveau de conscience, réduit l'hooliganisme politique, les biais cognitifs, de chacun, sans le brusquer, de manière adaptée, et ainsi, on peut vivre dans la vraie vie, en paix avec tous les autres hommes indépendamment de leurs particularités ou origines etc, et tous les problèmes d'idéologie, de conflits, d'égo sont résolus.
🐺Je viens de terminer la vidéo🤪 ça réveillé mon mépris des dogmes et du culte de la sécurité. Je m'explique le dogme de toutes expériences philosophique que nous sommes pas confrontés physiquement est purement théorique hors il faut pas s'inquiéter de ce que on souhaite qu'il est un veut pieux mais ce qui est factuellement possible en suite le culte de la sécurité qui plus largement partagé par la population et qu'importe le milieu où le statut général ou individuel de ces derniers ci le danger est abstrait il est rarement pris en compte pire encore si il y a un avantage immédiat et de graves conséquences à moyen ou long terme purement et simplement nié par le simple sentiment de confort et ça déjà été étudié et on la expérimenté lors des crise, financière les élections, les risques sanitaires et le dernier accident nucléaire que des dangers plus ou moins abstrait au conséquence graves 😠. Les mythe à travers le monde regorgent de consept qui est utilisable le problème est ce qu'on trouvait extraordinaire ne les plus et comprendre les futurs risques qui à la base étaient une expérience de pensée.
It begins with a blessing, it ends with a curse
Making life easy by making it worse
les chaines de 22:29?
Et les Trois lois de la robotique d'Isaac Asimov sont-elles applicable aujourd'hui?
Ne pouvais-tu pas sortir une vidéo de 40mn une autre semaine que celle du bac ? 😂 Je pense que je la finirai la semaine prochaine... après avoir vu la moitié en 1.25x...
Sinon merci pour tes vidéos c'est vraiment toujours un plaisir à regarder !
Ah raté je suis toujours là...
moi je la vois maintenant et je viens de finir le bac de fr 😊
et devine quoi ? j'ai justement fait une ouverture sur l'intelligence artificielle pour le commentaire du bac ^^, j en suis arrivé là d une certaine manière, et je crois que le correcteur ne va certainement pas comprendre vu que c est une technologie très récente.
Quel sujet ? 😉
Arthur
sur le thème de l argumentation, j ai fait un commentaire sur un texte où Voltaire argumente contre la théorie de Descartes selon laquelle les animaux étaient des "machines". C était notamment en montrant que les animaux étaient des êtres capables d apprendre, et des êtres sensibles. Du coup j ai dit en ouverture que,comme aujourd hui, des machines sont capables d apprendre par elles mêmes, et qu il était possible qu à l avenir, grâce à une compréhension de la sémantique, elles soient capables de compr3ndre et de ressentir des sentiments, il devenait plus difficile de faire la distinction entre machines et animaux/humains, et qu on pourrait tout de même qualifier les animaux et humains de "machines".
ZaiDo 2 Ah oui réflexion super intéressante !! Ça promet pour la philo l’année prochaine
Je t'ai cité en parlant de la sémantique, et du plan sémantique pour parler de la démonstration en philo ce matin
Alexandre thiers trop bien ! Quel sujet ?
Alexandre thiers c'etait un sujet en quelle serie, sur la demonstration ?
Techno, c'était un sujet sur l'experience, j'ai fait une partie sur la demonstration
ahah pareil j'ai sorti les vecteurs roi + femme = reine
Le sujet: Expliquer le texte suivant :
« Tous les phénomènes de la société sont des phénomènes de la nature humaine, produits par l'action des circonstances extérieures sur des masses d'êtres humains. Si donc les phénomènes de la pensée, du sentiment, de l'activité humaine, sont assujettis à des lois fixes, les phénomènes de la société doivent aussi être régis par des lois fixes, conséquences des précédentes. Nous ne pouvons espérer, il est vrai, que ces lois, lors même que nous les connaîtrions d'une manière aussi complète et avec autant de certitude que celles de l'astronomie, nous mettent jamais en état de prédire l'histoire de la société, comme celle des phénomènes célestes, pour des milliers d'années à venir. Mais la différence de certitude n'est pas dans les lois elles-mêmes, elle est dans les données auxquelles ces lois doivent être appliquées. En astronomie, les causes qui influent sur le résultat sont peu nombreuses ; elles changent peu, et toujours d'après des lois connues. Nous pouvons constater ce qu'elles sont maintenant, et par là déterminer ce qu'elles seront à une époque quelconque d'un lointain avenir. Les données, en astronomie, sont donc aussi certaines que les lois elles-mêmes. Au contraire, les circonstances qui influent sur la condition et la marche de la société sont innombrables, et changent perpétuellement ; et quoique tous ces changements aient des causes et, par conséquent des lois, la multitude, des causes est telle qu'elle défie nos capacités limitées de calcul. Ajoutez que l'impossibilité d'appliquer des nombres précis à des faits de cette nature mettrait une limite infranchissable à la possibilité de les calculer à l'avance, lors même que les capacités de l'intelligence humaine seraient à la hauteur de la tâche. »
MILL, Système de logique (1843)
C'est beau de rêver, c'est beau... mais il y a un hic. Toutes ces technologies dont tu parles sont condamnés quoi qu'il arrive et leur développement devrait être stoppé net. C'est juste une question de vie ou de mort et je pèse mes mots.
le problème ia il y auras du bon et du moin beau c'est l'homme qui la crée comme internet du bon et du moi bon tout dépend comment on s'en serre je pense sa vas être pareille pour l'ia
question con.... malgré un objectif initial que nous lui aurions donné, rien ne garanti que l'IA ne sera pas capable de changer d'objectif, nous en sommes bien capable... et j'ai meme le sentiment que beaucoup d'entre nous n'ont pas beaucoup d'objectifs "de grande échelle" (ou du moins ayant un impact significatif....), peut etre que l'IA se detachera juste de nous et nous abandonnera parcequ'elle se donnera d'autres perspectives comme de comprendre l'univers...., pourquoi est elle la? qu'est ce que la vie, et qu'est elle vraiment?
En fait l'IA et l'intelligence humaine c'est vraiment Achille et la tortue mdr
J’ai une remarque à propos des voitures intelligentes :
Il est vrai que cela tuerait moins de personnes : les personnes qui prennent la voiture fatigué ou après avoir pris de l’alcool n’auraient pas de soucis à se faire.
Mais imaginons que la probabilité de mourir est de 2/100 avec une voiture intelligente et que celle de mourir sans les IA dans les voitures est de 5/100
On pourrait se dire qu’il vaut mieux avoir une voiture intelligente
Mais sur les 5/100 combien sont morts par leur propre faute ( alcool drogue exes de vitesse? )
Si ces personnes représentent 4/100 de la population cela veut dire que 1/100 personne « innocente » meurt dans une voiture normale contre 2/100 dans une voiture intelligente
Alors ? Voiture intelligente ou pas ?
Cela revient à dire:
On tue 2/100 personnes innocentes
Ou
On tue 1/100 personnes innocentes et 4/100 personnes meurent de leur faute.
Pareil que toi pour requiem for a dream.
en fait, on est déjà dépendants de tas de trucs, et je pense qu on est plus proche de la dépendance totale que de la vie naturelle.
On est déjà dépendants du savon et autres gels douche, du shampoing, des vêtements, des voitures, de notre lit, d'internet, de l'argent, et maintenant, on est dépendants des algorithmes de youtube, de google et de facebook,...
Oui on est dépendant de la société , qui saurait faire un générateur électrique fait main ? Pas beaucoup de monde
Choconade pourtant on a accès à toutes les infos pour en faire...
Yo ! Pour répondre à ta question sur l'utopie et le monde parfait, je pense que le rôle de l'IA devrai s'arrêter à produire les besoin de base (manger, logement et santé) de façon égalitaire. Je pense que si elle commence à prendre d'autre rôles, elle ne laisserai plus beaucoup de place aux hommes pour se développer, car je suis convaincu que servir à quelque chose nous motive. Si une IA produisait des réflexions surhumaine sur ce que la société devrai être, je pense que les philosophe sociologique n'aurai plus envie de le faire, de même pour l'art, ou la science.
Je pense que l'homme est heureux par le défi, et que si l'intelligence artificielle lui élève le choix et tous les enjeux qui vont avec, il nous serra difficile d'être heureux...
En même temps c'est surtout une intuition et je ne suis pas sûr de moi, mais en tout cas c'est mon avis
Si l'IA a pour objectif de nous rendre heureux, et en supposant que tu as raison (ce qui n'est pas impossible), alors l'IA fera le nécessaire pour ne pas nous donner l'impression qu'elle nous remplace. Elle le fera en jouant sur nos biais cognitif, sur notre influençabilité, etc, à travers des publicités, des communiqués divers. Elle nous fera peut être croire que certaines grandes avancées ont été produite par d'autres humains, et ainsi de suite.
Après, concernant notre besoin d'être utile, je pense pas que ça soit totalement vrai. ça dépend des gens, et ça dépend ce qu'on appel utile. Personnellement, j'aime bien travailler sur un projet pour le plaisir de bosser dessus, même si ça n'a pas grand intérêt derrière. Après, il y a un minimum d'utilité, c'est vrai (faire plaisir à quelqu'un, impressionner … ), mais l'utilité peut être aussi dans le simple plaisir d'avoir fait quelque chose qui fonctionne. Et ça, l'IA ne pourra pas nous remplacer la dessus. C'est comme le plaisir de manger. Si quelqu'un mange à ta place, il ne te vole pas ton plaisir de manger, mais il mange ta nourriture. Ce n'est pas tout à fait la même chose. Si on te laisse manger, le plaisir revient tout seul. Pas besoin que l'autre arrête de manger. Autrement dit, pour en revenir au sujet, si l'IA veux nous rendre heureux, il lui suffit peut être de nous laisser travailler sur nos projets personnels et n'aura peut être pas besoin de nous faire croire qu'on est utile à la société.
Et ensuite, on en revient au 5ième scénario avec le côté potentiellement dangereux de nos inventions car trop imparfaites … mais ça, ça dépendra de la morale de l'IA. Voudra t-elle que tout soit parfait ? Ou comprendra t-elle qu'une certaine imperfection est nécessaire ? A quelle dose ? De quel type ? Quel équilibre ?
oui et puis si elle doit rendre heureux chaque etre humain de façon occidentale (matérialiste) faudrait détruire le monde et piller touts ses ressources...
On ne peut déjà pas être d’accord sur les dangers des technologies actuelles, alors pensez-vous vraiment que la société humaine dispose des instruments pour lutter face à un problème d’IA dont le coté négatif est intrinsèquement ambigu et dont les conséquences dépasse la portée même de nos existences individuelles? Honnêtement?
non... :D
noyau d’une planète = moteur thermonucléaire
~30:00 - Je ne suis pas convaincu par ce raisonnement... Comme la progression "exponentielle"... Oui localement peut-être... Mais pas très longtemps...
LA raison me parait tellement simple: même le drone, il a une autonomie de quelques dizaines de minutes... Qui le recharge ? Qui met la fiche dans la prise....
Qui va chercher les minerais dans les mines et le pétrole ???
Bien sur qu'un crunch d'internet mettrait la société dans la merde... Mais l'IA aussi serait dans la merde... On n'en est pas au "tout automatise" qu'avec des robots... Ça peut s'effondrer très vite pour l"IA...
Et si elle est si intelligente que "ça", elle ne le fera donc pas: ce n'est pas son intérêt...
Je ne dis pas que ce scénario serait impossible dans l'absolu, mais pas de notre époque... Oui on a la sensation d’être envahi par l’électronique, mais il y a plein de main d'oeuvre HUMAINE derrière chaque "device"...
Beaucoup trop de chercheurs et d’ingénieurs sont fascines par la technologie comme des lapins dans les phares, et oublient, a mon avis, la bien concrète réalité, des enfants dans les mines, et des millions (milliards?) d'humains qui crèvent la dalle, déjà, avec ou sans internet.
«L'IA qui n'a pas d'impact [...] est une idée très largement fausse»
Cette assertion est complètement infondée, et complètement fausse (pas largement, oui, complètement).
Encore une fois la majorité des gens ne sont pas colles a TH-cam et n'a pas la fibre... Et dans la majorité du monde (*), malgré les smartphones, les gens... se PARLENT...
Oui les "Westerners" même si ils imposent leur mode de vie ne sont qu'une minorité de l’humanité... Focus trop "Lausanno-EPFL-o-centre"...
(*) Edit: quand je dis "monde" je ne parle pas que de l’Afrique, je parle de 90% des territoires qui sont ruraux... Dans les pyrènes, les gens regardent peut-être TH-cam, mais ils font autre chose que les "urbains"... Et ils ont une vie sociale dans la vraie vie... "tout le monde" se connait...
Il faut intégrer à l'IA le respect des autres IA...
L'utopie, c'est le désordre
Cher Lê,
je suis très sérieux
si tu peux prendre 2 heures de ton temps pour regarder cette vidéo d'un de tes anciens collègues qui s'adressent à tes collègues à l'école polytechnique :
th-cam.com/video/DiDmxYwYPj0/w-d-xo.html
il s'agit de problèmes d'énergie et du réchauffement climatique à venir.
Dans les 20,30 ans, on a des problèmes aussi importants à gérer que l'explosion des IA. En gros une exponentielle ne peut pas diverger indéfiniment, physiquement elle se heurtera à un facteur limitant. Tu verras
Pour moi, ça a été une révélation