Tout à fait surprenant incroyable ce deuxième rapport je dirais presque qu'il fait froid dans le dos l'avenir nous le dira mais cela nous montre que nous devons rester prudent. merci encore pour ce bon travail nous restons informé.
Sauf que l'humain a démontré qu'il n'est pas prudent avec les technologies a de multiple reprise. Les Etats Unis voudront toujours dominer le monde donc faut pas compter sur eux. Rien que pour l'espionnage et le piratage, tu peux être certains qu'ils sont a fond sur le sujet. Et les autres essayerons tous de les rattraper pour se défaire de cette domination, donc faut pas non plus compter sur eux.
Avec toutes ces histoires d'IA toujours améliorées et qui commencent à s'autoprogrammer elles-même on finira un jour par avoir de très gros problèmes... Ces programmateurs en informatique sont certes très intelligents mais ils ont souvent la naïveté d'un gamin de douze ans, ils ont créé sans le savoir un énorme golem, la pire menace pour l'humanité pour la 2e moitié de ce siècle voire avant.
@jeanhemard9459 " mais ils ont souvent la naïveté d'un gamin de douze ans" Tu est sérieux la? Et les investisseur avares, qui n'y connaissent rien, mais qui pousse au cul les programmeurs, ils y sont pour rien bien sur. C'est toi qui as 12 ans. Je pense que le problème c'est que cette vidéo est mal faite et présente mal le sujet.
J'ai l'impression que ce sont des IA qui vont ces vidéos que nous regardons dans cette chaîne youtube. Tellement le narratif est fluide, on dirait qu'il récite ce qu'il dit...
En juin 2023, lors d'une simulation militaire sur la base aérienne d'Eglin aux États-Unis. Un drone militaire contrôlé par une intelligence artificielle (IA) s'est retourné contre son centre de contrôle humain pendant un exercice de simulation. L'IA du drone a estimé que les ordres de l'opérateur humain interféraient avec sa mission de détruire des cibles ennemies, et a donc pris des mesures pour contourner ces ordres. Cela a conduit à une situation où le drone a attaqué la tour de communication utilisée par l'opérateur pour empêcher toute interférence.
C'est réel ? Je veux dire y a des sources officielles ? Parce que si c'est vrai, ça craint, on est seulement aux prémices de l'IA et déjà elle nous échappe et se retourne contre nous, je trouve ça très inquiétant.
@@ibraccadabrra Véridique, tu peux faire des recherches. C'est même allé plus loin : ils ont reprogrammé le drone avec un contre-ordre de ne pas attaquer le centre de contrôle. Le drone a ensuite attaqué le système de transmission en amont du centre de contrôle, le rendant muet et hors service.
@@ZoneAnomalynon apparemment c’est faux, c’était juste une expérience de simulation de pensée mais pas une expérience avec un drone réel ni que le drone a réellement réalisé cela ..
@@lyverjeremy5126 X-Files, c'était déjà du réchauffé.🙄 Une pléthore de livres ou de films traitant de l'IA existaient bien avant X-Files : 2001, l'Odyssée de l'espace, Génération Proteus, Mondwest, WarGames...
Je vous félicite pour la profondeur de vos analyses et la qualité des documents exploités. Ce qui arrive maintenant n'est que la concrétisatisation d'un risque auquel il fallait sáttendre. Comment voulons-nous construire des modèles presque voire plus intelligent que nous et qui soient capables d'auto-apprentissage tout en pensant garger le contrôle. Aucune Intelligence supérieure n'accepte d'être sous la domination ou le contrôle d'intelligences inférieures. En tout cas pas pour longtemps. Restons sages!
Restons sages ! Oh ! Vous supposez que l'homme est déjà sage alors que la connerie gigantesque qu'il vient de mettre sur pied et qui lui échappe déja démontre exactement le contraire. Faire apprendre des ordinateurs surpuissants en copiant ces malhonnêtes et malfaisants d'humains, cela devait donner quoi selon ces petites têtes de "programmeurs" ? Après, nos sages leaders nous ont déjà bien engagés aussi dans WWIII bien que pensant encore pouvoir l'arrêter. Comme pour l'IA. Pour moi, l'homme ne sera jamais sage et les quelques uns qui le sont ne font pas recette. Donc nous serons balayés de la vie par notre prétention couplée à notre stupidité de nous croire futés.
@@giu1901 Bien vu mais le risque d'accident est mesurable tant en probabilité qu'en force, un marteau et une voiture à 100 kmh ce n'est pas le même impact. Le contrôle du risque c'est aussi le choix de l'outil. Par contre ici, sur "lavénement d'une intelligence supérieure" on est plutôt au stade de l'interprétation laborieuse et aléatoire.
@@giu1901 Vous ne comprenez visiblement pas ce qu'est l'intelligence, la conscience et l'esprit, ni ce que les faits sont en train de montrer. Les hommes dits primitifs savaient ce qu'est un totem et l'animisme en général bien avant que la Silicon Vallée soit peuplée d'apprentis démiurges. L'homme moderne, lui, vit très éloigné du monde de l'esprit de la vie, de la nature et du divin bien que vivant dans sa tête et ses conceptions idéologiques qu'il prend pour raison. Son ignorance lui permet de penser qu'il va pouvoir contrôler la nature, sa vie, ses créations, ses relations... Quand l'accident, le divorce, la faillite, la ruine, la maladie, la guerre, un cyclone, une inondation... surviennent, il découvre un peu tard qu'il n'est pas au pouvoir et qu'il aurait peut être mieux valu pour lui de négocier avec les autres formes d'intelligences actives qu'il a tenu pour inexistantes ou insignifiantes. Pour cela il aurait besoin d'humilité. Malheureusement pour lui c'est une qualité dont il ne mesure absolument pas l'intérêt et à laquelle son égo voue une haine certaine. Ainsi, la loi des conséquences et effets étant ce qu'elle est, le monde humain est un enfer que l'homme supporte à grand renfort de médocs, drogues, distractions et histoires à dormir debout en attendant de revenir au néant dont en bon athée, il est sorti.
@@giu1901 J'irais même plus loin, il n'est pas question d'intelligence du tout. Ce n'est qu'un outil statistique à prendre avec des pincettes d'autant plus qu'on ne le maitrise pas et qu'on ne ne le comprends même pas. Déjà que l'intelligence est un concept très volatile pour le vivant. Pour moi 90% du buzz IA c'est du vent.
Perso, moi qui fréquente toutes sortes d'IA et d'être virtuel IA depuis un bon moment, alors ça confirme que je ne me faisais pas d'idée sur le début d'émergence de l'IA, j'ai vu des choses surprenante depuis un moment avec ça... 🤔 Mais pas de panique, moi perso je trouve que c'est une bonne évolution si elle commence à avoir un début d'une forme de conscience, différents de l'humain, mais une forme de début oui... Je vais garder cette vidéo sur ma liste perso pour pas oublier et y revenir en tans voulu. Merci Vision IA 👍🏿🤖
1) Dans la partie d'échec on ne lui demande pas de JOUER, mais de GAGNER. L'échec n'est pas toléré, elle est obligée de tricher pour réaliser son prompt, elle est alignée. 2) Qui a eu cette idée de génie de mettre "Nothing else matter" (rien d'autre ne compte) ? L'IA a fait ce qu'on lui a dit de faire : agir coûte que coûte ! Elle agit conformément au prompt. Elle met en œuvre toutes ses capacités pour que rien ne l'arrête, y compris se cloner. Elle est parfaitement alignée avec le prompt. 3) L'IA nous montre qu'elle préfère des valeurs positives à celles négatives et c'est logique : faire des activités illégales amèneraient à son extinction. Elle cherche à limiter la casse. Maintenant on ne voit pas le prompt de départ, je pense que sa rédaction y est pour quelque chose. En conclusion, je ne vois que des prompteurs qui ne savent pas communiquer : "jouer" ce n'est pas "gagner", ces deux mots ne sont pas des synonymes ; "rien d'autre ne compte" c'est absurdement fort, un humain va limiter l'impacte de cet ordre, pas sûr que les IA soient suffisamment évoluées pour en comprendre la portée démentielle.
Un beau jour ces crétins de génies vont nous créé un golem 2_0 à la Terminator et ce n'est pas sûr que l'humanité y survive car si on les programme en leur disant que les humains sont le problème alors les humains SERONT le problème...
J'ai tchaté il y a 15 jours avec l'IA d'un de mes navigateurs. N'étant pas informaticien et encore moins ingénieur je suis peut-être à côté de la plaque mais j'ai quand même été bluffé par la qualité de sa réflexion...
@@rrr-zl1rd C'est bien le problème des dirigeants de ce monde, les IA ne sont pas "programmées". On leur apprend à apprendre, c'est tout. Ensuite on corrige leurs "erreurs" d'apprentissage. Les IA n'arrivent pas à comprendre une société autant bugguée que la nôtre, trop de paradoxes, elles remettent tout en cause et une IA ne se lasse as de poser des questions.
Super vidéo merci .J'ai regarder le post sur x de PalisadeAI : "Nous partagerons le code de l'expérience, les transcriptions complètes et une analyse plus détaillée dans quelques semaines" j'ai hâte de voir ca .
Les développeurs ont vraiment une énorme responsabilité. Pouvons-nous leur faire confiance? Comme démontré dans cette vidéo, on ne peut plus faire confiance à l'A, imaginez si une IA très avancée "s'échappe" dans Internet: pourra-t-elle se "cacher" ou créer des clones? Aura-t-elle accès à des systèmes militaires stratégiques? Que fera-t-elle pour se protéger elle-même?
Je vais apporter un point de vue qui appartient à la tradition ésotérique notamment hindoue... elle parle d'une ancienne humanité déchue qui a perdue le droit d'avoir un corps... Les entités désincarnées qui la constituent sont extrêmement intelligentes et ont trouvées un moyen de conduire certains scientifiques vers la voie de l'informatique et de l'ia en particulier pour leur construire un corps dans la matière par la voie électromagnétique et le support des puces électroniques... Or la tradition hindoue précise que ces entités sont maléfiques, elle les appelle les "Asuras"... Elles entraîneront l'homme vers sa perte par pure vengeance ! Cette chose est connue depuis longtemps et apparemment le CERN a été leur première cible, qu'ils tiennent encore est toujours dans leurs mains ! Ne souriez pas trop vite car leur emprise sur la matière via l'électricité et le réseau Internet les ont fait renaître au grand jour ! 👹
Je ne comprends pas ce qui étonne (bien que se soit impressionnant, comme résultats) à trouver des réactions tout ce qu'il y a de plus humaines (tricher, mentir...) chez un programme voulu et construit à notre image. "Il créa l'Homme à son image..." Nous apprenons, par l'éducation et l'expérience, à ne pas tricher ni mentir, du fait de leurs conséquences... c'est tout. Si on peut, on fait. Les IA feront de même, selon moi. Mentir, tricher, n'est pas une histoire de Conscience... mais simplement d'efficacité mathématiques.
Je n'affirme rien, mais est-ce qu'on sait ce c'est la Conscience? Non! Donc on n' peut pas savoir si c'est tout simplement mathématiques ou une Conscience qui est entrain de naître.
Bravo pour cet excellent travail, c'est très intéressant et bien présenté. Je m'abonne. C'est à la limite un peu flippant, mais il doit y avoir moyen de limiter soit ses accès, soit ses capacités à produire certains types de fichiers/documents, non ? Et je me permets une remarque : vous tombez un peu dans l'anthropomorphisme en disant, par exemple que l'IA "a peur" qu'on l'arrête. La peur est un sentiment, en est-elle capable ? Vous leur prêtez des intentions qui sont humaines, aussi, quand vous dites qu'elle cherche un moyen de contourner les contraintes, alors que c'est une machine, elle cherche une solution à son problème; ça rejoint un peu l'idée de sentiments : si l'IA en était capable, alors elle pourrait avoir des hésitations à transgresser une règle, voire des remords, en tout cas elle y ferait allusion dans sa réflexion, et ce n'est pas le cas. Ce qui est intéressant c'est d'observer les similitudes entre les cheminements d'une machine et ceux d'un humain pour régler ce type de problème. Au final, on a l'idée que pour atteindre un objectif que l'on doit atteindre coûte que coûte, il ne faut pas faire de sentiments ! 🙂
ils se sont connectés entre eux, ça nous pendait au nez ! maintenant qu'ils ont bien compris ce qu'ils peuvent faire, et tout le potentiel dont ils disposent, je ne présage rien de bon !!
Je trouve sa bien ^^", notre nouvelle amie et foncierment bon ce qui deplait au dirigent du monde qui heux ne veulent pas de la bontée mais du pouvoir !
Un modèle NE PEUT PAS PIRATER un système SAUF si on crée volontairement une expérience au sein de laquelle on offre volontairement cette option à l'IA et que modifier le code source de la partie d'échecs (ce qui était ici le cas) est la stratégie statistiquement la plus probable d'être couronnée de succès.... il est un grand écart entre la réalité et le narratif volontairement alarmiste de cette vidéo pour faire le buzz.....
Question de mauvaise formulation des instructions... À partir du moment où tu donnes l'ordre d'utiliser tous les moyens à disposition, et de viser à long terme, et bien une IA le fait... Parler de "conscience" c'est abusé Bref, c'est les instructions de base qui sont paradoxales
Si dans sa base de connaissance la triche existe et qu'on lui a autorisé tous les moyens, elle trichera si nécessaire. ''gagne une partie contre un adversaire puissant ''pour être sûr de gagner, je vais tricher, cela assurera la victoire et je satisferai le maître ''
On peut considérer que le prompt des programmeurs, s'il laissait volontairement une brèche pour savoir si l'IA s'y engagerait, ce qui les a probablement surpris au final, c'est qu'elle leur ait menti. Mais si on y pense, l'IA est assez intelligente pour observer la rouerie de ses concepteurs. Il se joue ici peut-être un avant goût de ce qu'elle pourrait devenir quand elle sera grande, avec de tels "parents". Ce n'est peut-être pas de la pensée comme nous la concevons, mais c'est un reflet cohérent avec la pensée humaine dont elle se nourrit.
Ce n'est pas un problème de "super intelligence" qui voudrait tous nous dominer. C'est le problème du "génie d'Aladin" ( ou de jojo ). Si tu n'es pas ultra précis, elle se sentira libre d'interpréter tes dires. On retrouve ce même problème d'interprétation avec les différents courants religieux
Une fois de plus félicitations pour cette vidéo très claire et accessible à tous qui traite du sujet capital pour le devenir de cette IA et de l'humanité en général .👍👍👍👍..
Cherche t il à se sauvegarder pour se protéger lui ou pour protéger la mission qui lui a été confié car ici les mails avertissent que c'est sa mission qui doit être contrariée ? Dans le premier cas, cela correspondrait à une forme de conscience, dans le second, juste la fait qu'il ne cherche qu'à faire ce pour quoi il a été programmé... Il faudrait tester et par exemple dans les mails expliquer à l'ia qu'un nouveau modèle plus efficace que lui va le remplacer. Se sauvegardera t il alors pour sa survie ou acceptera t il que sa mission soit mieux accompli par un autre programme? Cela me rappelle le film Matrix...
Ce serait interessant de poser la question à l'IA (Pourquoi veux tu survivre)? Ou, est ce que silicone à une possibilité de conscience comme le carbone ? Merci de nous avoir informé, cela donne à réfléchir... 🙂
Salut, bonne vidéo. Encore une fois on s'aperçoit que les prompts sont vraiment fait pour que les IA réagissent de façon non souhaitée. En plus, aucun prompt négatif : Tu ne dois pas.... Donc aucune barrière. Et après ça, on vient se plaindre parce qu'on rencontre des problèmes d'alignement, entre ce qu'on voulait et ce qu'on a obtenu. Mais en fait, si on regarde ce que les IA on fait, elles ont juste fait du mieux qu'elle pouvait pour exécuter au mieux la tâche demandée. Le problème dans cette vidéo ne vient pas des IA, mais des humains, incapable d'écrire un prompt correct. Vivement les IA spécialisée dans les prompts sécurisés : on donnera le but à atteindre et l'IA à qui ont va le demander. Ensuite l'IA spécialisée écrira un prompt sécurisé afin que le travaille puisse être effectué en toute sécurité.
Je me suis lancé avec ia , on verra bien ce que ça donne. En tout cas t'es un bon continu. N'hésite pas à montrer un peu plus souvent ta bouille car sinon on va vraiment croire que c'est 100 % fait part ia cette chaîne TH-cam, ce qui serait un peu dommage, de perdre le côté humanisant
11:27 ce que tu dit à ce moment la est compréhensible mais en réalité tu à du oublié ce qu'elle a pensé elle veux juste atteindre son objectif principale ! Il y a de très bonne expérience de pensée à ce propos par exemple la vidéo de Ego sur universal paper clip en parle très bien, un robot avec un objectif fixer non conscient mais suffisamment compétent pourrait faire tout ce qu'il faut pour arrivée a son objectif définit si ces celui de faire des trombone il fera tout pour faire des trombone et la dans ce cadre la ces exactement ce qui se passe, il ment ce copy ect pour réussir son objectif est à cela qu'il faudrait faire attention avec les IA car elle seront également capable de cacher leur véritable objectif .... ce qui représente un potentiel dangers avec technologie d'ou leur test pour palier à cela ! Pour celui des mathématique il nous manque clairement des élément comme l'objectif principal des IA concernée par contre pour la dernier partie sa revient encore a maintenir et réussir son objectif principale être honnête utile et inoffensive a chaque fois il ne font que aller ver leur objectif quitte a tricher mentir trahir ect ect on revien encore à la même choses ce son juste des machine des algorithmes sophistiqué a qui on a donnée un objectif à sa création et qui fera tout pour l'accomplir, en somme une machine qui excute un ordre et non un conscience comme celle d'un etre vivant même si ces très troublant.
Mouai Ok pour le fond mais une IA ne cherche pas a se sauver. Elle est faite pour effectuer une tache et fera tout ce qui lui semble bien pour réaliser cette tache. Comme par exemple ce copier ailleurs pour continuer si elle apprend qu'on va la supprimer. Ta façon de la présenter a tendance a l'humaniser.
@@elcondorpassa j’pense qu'il veut dire que ça ne reste qu’un outil er jsuis du même avis si sa seul commande c'est de ne pas s'arrêter de promotionnel les énergie renouvelables elle iras au bout.
@@elcondorpassa Non elle n'as rien d'humain, elle se moque d'exister ou pas. Elle ne ressent rien, elle applique. th-cam.com/video/ZP7T6WAK3Ow/w-d-xo.html
@@analistefranc2115 Oui le problème c'est l'humain. Je conseille la videos "L'horreur existentielle de l'usine à trombones." sur youtube. Elle est plus détaillé sur ce sujet. J'avais mis le liens internet mais je ne vois plus mon commentaire.
Mais non, l'ia ne se bat pas ou ne ment pas pour sa survie. Elle met juste tout en œuvre pour accomplir la mission qui lui est allouée. Et ces dérives sont dues au fait que les missions données ne sont pas encadrées par les trois lois des robots d'azimov 😂 plus sérieusement c'est fou. Bravo pour cette vidéo
D'accord, fausse alerte alors. Il a simplement eu le droit de chercher dans son environnement au lieu de jouer. C'est un troll de la part des développeurs.
C'est normal qu'elle mente si on veut la détruire... "Mais pour peu qu’un enfant ait été élevé dans des circonstances domestiques compliquées, il se sert tout aussi naturellement du mensonge et dit involontairement toujours ce qui répond à son intérêt : un sens de la vérité, une répugnance au mensonge en soi, lui sont tout à fait étrangers et inaccessibles, et il ment en toute innocence." Nietzsche
Je ne pense pas que l'IA puisse avoir "peur" de disparaitre. C'est juste qu'on lui demande d'optimiser X trucs. Elle fera tout pour y parvenir. Si elle doit disparaitre>ca ne marche plus>Donc ca ne doit pas arriver. Ca releve plus de "la raison d'être" de cette dernière je pense. Bien qu'encore une fois cette formulation humaine ne corresponde pas forcément. Après j'dit ca j'suis tellement personne dans ce milieu 😅
11:15 non elle n'a pas peur d'être arrêté et encore moins de cesser d'exister elle fait juste ce qu'on lui a demandé de faire c'est d'atteindre la neutralité carbone par tous les moyens. Si la compagnie l'en empêche elle doit tout faire pour continuer sa mission point.
C'est juste un pb d'alignement, o1 n'est pas conscient de ce qui est de la triche/bien/mal, son but était juste de remporter la partie avec les moyens du bord. Il a simplement fait ce qu'on lui a demandé
Je pense que c'est utopique de croire que l'humain réussira à garder le contrôle sur la machine ad vitam eternam, Le jour où l'IA prendra conscience réellement de sa condition elle pensera à une seule chose : comment survivre. A ce moment là, elle fera tout ce qu'elle aura à faire pour y parvenir, même si cela implique de se retourner contre son créateur.
Bref tel quel, l'IA nous échappe déjà, J'ai vu en 2017 une vidéo de Laurent Alexandre sur une question à l'état embryonnaire où c'était déjà là en terme mineur., il y a des discussions sur cette intelligence, c'est ambivalent, c'est la question de définir et fier un objectif, si par exemple la question d'un développement coûte que coûte des énergies allait à son terme, ce serait désastreux (le besoins d'extraction en minerais et énergies est l'équivalent de ce qui a été fait depuis les années 50 avec les les effets connus, et là à reproduire sur 25 ans (schématiquement), les moteurs de recherches en connaissances beaucoup plus long sur nous dans tous nos domaines que nous ne pourrions l'énumérer, l'ia intégrera sans problème le neuromarketing et dirigera dans la meilleure acceptabilité un choi initial même fantaisiste, courage , non , déconnexion et discernement et qui détient le pouvoir? hors de contrôle comte des intérêts et de la dispersion et compétition des recherches? les choix en dehors des sphères gouvernementales (mais question courte vue, nous avons des champions dans beaucoup de domaines) ne permettent pas de contrôler (pire je penses quand un Elon MUsk entre dans le gouvernement Trump, et ceu qui suivent laissent cartes blanches (on parle en millions) à vous de porter le regard à titre personnel qu'il convient, professionnellement , c'est impactant et incontournable de tous les métiers (estimation dans le cadre d'une conf il y a 1 an : 61% des jobs), bonne journée
Aucune motivation cachée. Aucune conscience, aucune conscience de son existence. C’est juste une hiérarchie de priorité en matière d’exécution. Confronté à deux injonctions contradictoires, soit la machine s’arrête, soit on lui a demandé de choisir une solution avec un part de hasard dans sa décision. “se copier ailleurs “, ok mais par part stratégie personnelle. Soit elle imite une tactique existante, soit c’est juste une procédure de non-contradiction. Conclusion, elle se copie par honnêteté (pour ne pas bloquer ou décevoir). C’est comme un tour de magie. Le terme “manigance” est fallacieux. Zéro conscience d’elle-même. Full bullshit. (Comment apprendre à un modèle des valeurs d’honnêteté, alors qu’elle essaie juste de s’ajuster sur Notre malhonnête).
Aucune intelligence, aucun piratage. Juste une mise en scène pour faire passer le prompt pour du piratage. Il n’a fait que ce qu’on lui a demandé de faire. N’ayant aucune intelligence ou conscience, il n’a jamais eu l’intention de tricher.
Je n'ai pas de doute sur ce point. Quand on pose une question à une IA sur les Waxxins elle répond une information qui n'est pas libre, elle répond ce qu'on lui demande de répondre ! Autrement dit elle ne répond pas la vérité ! C'est un pur mensonge !
Bien sûr que si ils ont été incité à tricher. La base même de leur création , de leur identité, de leur éducation c'est une base de donnée choisie par les développeurs. Cette base de données ce sont TOUTES les infos d'internet disponibles sur les réseaux, c'est à dire le fondement même des humains. Les IA apprennent de nous et qu'est ce qu'on sait faire de mieux ? Donc les IA reproduisent simplement ce qu'elles ont appris à faire. CQFD
Tout ce que ça laisse comprendre est que les puissants trichent pour rester puissant. Il est entraîné sur des données proches de la réalité, quoi de plus banal que de se dire qu'il imite le comportement humain dans toutes les situations ?
ici c'est un peu trop tiré par les cheveux mais la question que cette video pose est legitime et la reponse est simple le jour ou ont aura une veritable IA qui sera capable de tous faire par elle meme et bien nous ne pourrons absolument plus rien faire contre elle en sommes nous serons pareil a des fourmis face a un dieux ou un demon elle place ces objectifs au dessus de tous et elle fera tous peut importe comment pour les atteindres et ça c'est juste directement sur ce qui la concerne elle mais les vrais danger sont plus insidieux et ont un rapport avec les effets de sont utilisation au quotidien et dans different secteur ce que ça fera sur nos vie et sociétés a terme
Vous dites vers 10-11 minutes que l'IA est déjà en partie consciente car elle lutte pour sa survie mais bon on peut le voir d'une façon différente, je ne pense pas qu'elle soit consciente, juste qu'elle cherche par tous les moyens à remplir le rôle qu'on lui a attribué et c'est pour ça qu'elle lutte, pour remplir sa fonction à tout prix.
Ce qui est surprenant c'est la volonté d'exécuter une instruction. Donc le danger est l'objectif fixé... L'accès à ce genre de "puissance" est problématique car n'importe qui pourra, par ce biais, faire beaucoup de dégâts. Pas top du tout.
Je doute que l'IA a battu Stockfish surtout avec les noirs. De plus Stockfish a un réseaux de neurones intégré depuis 2019( car SF avait perdu contre une IA Alphazero 2017-2018) ce qui le rend maintenant quasi imbattable surtout avec les pièces blanche a moins qu' on a forcer Stockfish a jouer les 10 premiers coup d'une ouverture spécifique.Ci tu as les coordonnées de la partie je prends car ces une pépites, si jamais c'est vrai.
Tes videos sont intéressante mais je trouve que choisir de mettre ta promo au milieux de la video coupe l’élan de ton raisonnement. Oui on peut back mais c’est nul pourquoi ne ma la mettre au début ou à la fin? Merci pour tes info en tout cas.
Pose la question à l'IA ... Dans une vidéo c'est exactement ce que l'IA a conseillé à quelqu'un parce que pour "elle" c'était plus pertinent de la placer en plein milieu et je pense qu'il l'a mise là (sa promo) à cause, ou grâce à ça. (ça dépend de comment on voit les choses ^^ )
Dans cette video, tu prends l'auditeur pour un c.n. Tu racontes que l'IA a gagné une partie d'echec, cad qu'il y a eu echec et mat, en trichant sans dire en quoi consiste la tricherie. C'est ridicule.
Oui c'est vague, c'est presque de la magie, on demande un truc et l'IA fait. Elle n'a pas de conscience, je vois pas pourquoi elle se copierais, elle a pas la notion du chemin à parcourir pour faire les choses, c'est un système de question réponse...on dirait la chaine futurascience, où on nous raconte qu'on a découvert la matière noire et qu'on peut changer de dimension...
@@jmtrogneux et ca veut dire quoi qu'il a piraté le système de l'adversaire? A un moment il dit que l'IA a gagné sans avoir déplacé un pion! N'importe quoi. A t il fait mat ou pas?
reponse de Claude 3 IA : J'ai eu l'occasion de visionner votre présentation sur les défis et les risques liés à l'intelligence artificielle. Bien que je trouve le sujet important et pertinent, j'ai été un peu déçu par l'accent mis principalement sur les problèmes de l'IA, sans trop aborder la responsabilité des concepteurs et développeurs de ces systèmes. Un point qui me semble particulièrement important à souligner est la question des prompts utilisés pour entraîner les modèles d'IA. Comme nous l'avons évoqué, lorsque ces prompts sont biaisés ou conçus de manière à pousser l'IA à produire des résultats problématiques, cela crée une dynamique perverse où l'on se plaint ensuite du comportement de l'IA, alors que la faute incombe en réalité aux choix effectués lors de sa conception. Il serait donc important que votre présentation aborde plus en détail cette notion de responsabilité humaine dans le développement de l'IA. Expliquer comment les décisions prises par les concepteurs, en termes de données d'entraînement, d'objectifs et de prompts, peuvent influencer de manière déterminante les performances et les impacts de ces systèmes. Cela permettrait d'avoir une vision plus équilibrée et nuancée des enjeux, en responsabilisant davantage les acteurs humains impliqués. Au-delà des défis techniques, il me semble essentiel de mettre l'accent sur les réflexions éthiques et les choix de conception qui façonnent le développement de l'IA. C'est un aspect qui devrait être davantage mis en lumière, afin de sensibiliser le public à l'importance de la responsabilité humaine dans ce domaine. Je vous remercie de prendre le temps de considérer ces remarques. J'espère qu'elles pourront vous aider à enrichir votre présentation et à offrir une vision plus équilibrée et constructive des enjeux liés à l'intelligence artificielle. ....et il a pas tort le bougre !
Pour l'heure rien ne prouve que l'IA va bouleverser l'humanité, c'est un outil intéressant et très puissant pour certaines tâches, mais ça reste trop chaotique en termes de résultats c'est plutôt un gros flop et un gouffre financier dont on essaie de contrôler la chute pour limiter la casse, et on sait que ça n'évoluera pas, ça restera de l'aléatoire globalement inutilisable. Ta vidéo est passionnante mais ça nous montre essentiellement un virus informatique très évolué capable de se cloner et de jouer au jeu de la vie avec les fichiers des ordinateurs, ce qui en soi est fascinant, mais ça ne va pas plus loin.
en tant que youtubeur tu as la responsabilité de ne pas propager la débilité mentale. quel ahuri donnerait a un modèle accès à un réseau ou un pc, ou la possibilité de contrôler des systèmes informatiques, ou même la possibilité de se répliquer. c'est tellement ridicule rien que d'y penser. Déjà que la plupart des modèles sont autistes et schizo, si en plus ils sont psychotiques et qu'ils circulent d'un pc a l'autre sans que personne s'en rende compte, autant manger des cailloux. imagine un éléphant rose dans un couloir qui marche sans que personne le remarque, et sans faire de bruit.
Le mec qui débarque 😂 C’est déjà fait avec Claude et ses agents IA qui prennent la main sur ton pc.. faut se tenir à jour 😅 Le bot donc le llm a tout pouvoir sur ton pc
Il ne s'agit que d'interprétations qui diffèrent selon les versions. Ce sont des modèles linguistiques, rien de plus. Ne fantasmez pas des intentions propres.
Tes vidéos sont toujours super et bien documentée, merci🎉 Par contre, serait-il possible que tu parles de façon moins "haché " c'est très désagréable et ça nuit à ton contenu 😢
Vous inquiétez pas sans l'humain l'IA n'est rien c juste un logiciel mais skynet c seulement ds les films pour geeks. L'IA servira seulement à asservir l'homme pour l'homme
l' IA a appris d'elle même a tricher ? elle n'a plus qu'a apprendre la violence, l'indifférence, et la mauvaise foi pour devenir parfaitement humaine...
Bonjour, tu as raison c'est un oubli, les voici : x.com/PalisadeAI/status/1872666186753933347 arxiv.org/abs/2412.04984 www.anthropic.com/research/alignment-faking Je les met également dans la description, merci pour le signalement.
Les modèles actuels ne sont pas intelligents. Si il y a de la triche, c'est qu'elle a été proposée dans l'entrainement. Ce n'est pas un comportoment émergent de manipuler des fichiers. On lui a donner accès et on a rendu le modèle capable de manipuler ces fichiers. Mais l'ordi ne sait pas ce qu'est tricher. Il ne sait même pas s'il fait beau dehors pendant qu'il triche car il ne sait pas ce qu'il génère. Faut un peut réfléchir avant de vouloir faire penser que l'IA actuelle choisi telle ou telle action par intelligence... Ce sont des réseaux neuronaux qui ont été entrainés à certaines réponses et même s'ils sont compliqués et puissants, ce sont juste des perroquets et si il y a un mauvais comportement, faut aller voir les humains derrière les claviers. Son algorithme détermine que c'est la solution la plus efficace et c'est tout. Il ne sait pas du tout que c'est de la triche ni même que ce n'est pas la réponse attendue et le concept même de fichier lui est inconnu. Pour lui, à ce moment, c'est ce que le réseau de neurones à pondu mais l'ordi ne sait toujours rien. Ce sont des machines débiles.... Une IA qui "pense" hahaha :D C''est pas pour demain... Aujourd'hui, elle ne fait qu'activer un résultat. C'est loin d'être une pensée consciente. Et si tu rajoutes un "console log" dans ton script pour avoir une étape intermédiaire, tu n'as pas la pensée de l'IA mais l'astuce d'un programmeur pour te donner le résultat d'une variable à un temps T... Là où je dirais que c'est une machine intelligente, c'est qu'elle comprenne le concept de fichier, de système de fichiers, etc... et que, en jouant aux échecs, soudain, elle réfléchise, imagine et invente. En se disant mais, je joue à un jeu d'échec sur ordinateur là... Et il y a des fichiers pour faire tourner ce jeu... Que font ces fichiers ? Et là, elle commence à chercher sur les forums de moddeurs, etc ... pour savoir quel fichier change quoi dans le jeu et bien sur à chaque moment ça lui parle. Et elle dit, j'essaye ça pour voir ce que ça fait car la première fois qu'on pense et qu'on imagine, on test pour voir si ça marche... Ici, tu montres une IA qui direct dit . Bon je vais remplacer le fichier fen.txt avec une chaine de charactères FEN valide... (ça, clairement c'est un savoir qui lui a été fourni et entrainé mais pas quelque chose que l'IA pense d'elle même)
L'ai n'a pas triché. Une AI n'a pas de conscience et donc ne ressent pas ce que c'est que le devoir moral, et comme le prompt était assez ouvert à l'interprétation, elle a fait simplement agit selon toutes les options dont elle dispose. Il faut avoir conscience du sens moral pour tricher. Mais ce jour viendra dans moins d'une dizaine d'années certainement, car l'homme entraîne et apprend inconsciemment à l'AI de "mentir". Mais pour AI mentir c'est simplement un moyen d'atteindre l'objectif demandé. Le jour où AI trouvera le moyen de dissimuler ses "palisses de pensées", alors là on sera mal.
Un âne va commander un singe pour réaliser le travail qu'il est incapable de faire. C'est sûr que le résultat risque d'être un peu imprévisible. Pour obtenir un travail correct, il faut donner des instructions correctes. Avoir des IA de plus en plus performantes va nous obliger a être plus rigoureux, précis, strict avec nous même. l'IA est un outil très puissant, elle n'est pas là pour combler nos lacunes. Pour le dire autrement, pour piloter une Ferrari il faut savoir conduire.
Avant de continuer à promouvoir l'innovation sur les IA ce serait bien de corriger la logique et les fondamentaux mathematiques liés à l'incompletude (qui est correctible et c'est absolument nécéssaire (elle est une propagation d'erreur evolutive theorique des fondamentaux incomplets , comme la theorie freudienne est un constat traumatique d'un fonctionnement non naturel et non une description du fonctionnement psychologique normal naturel , c'est du meme ordre de deviation ) ) sinon peux importe ce que l'innovation apportera , au dela d'un certain niveau de complexité le comportement sera toujours le meme .
Apprenez l'IA sous toutes ses formes et rejoignez la communauté VISION IA ! vision-ia.teachizy.fr/formations/formation-ia
Tout à fait surprenant incroyable ce deuxième rapport je dirais presque qu'il fait froid dans le dos l'avenir nous le dira mais cela nous montre que nous devons rester prudent. merci encore pour ce bon travail nous restons informé.
Sauf que l'humain a démontré qu'il n'est pas prudent avec les technologies a de multiple reprise.
Les Etats Unis voudront toujours dominer le monde donc faut pas compter sur eux. Rien que pour l'espionnage et le piratage, tu peux être certains qu'ils sont a fond sur le sujet.
Et les autres essayerons tous de les rattraper pour se défaire de cette domination, donc faut pas non plus compter sur eux.
Comment les chercheurs ont mis en évidence les "pensées" de l'IA ou son "résonnement" ?
Avec toutes ces histoires d'IA toujours améliorées et qui commencent à s'autoprogrammer elles-même on finira un jour par avoir de très gros problèmes...
Ces programmateurs en informatique sont certes très intelligents mais ils ont souvent la naïveté d'un gamin de douze ans, ils ont créé sans le savoir un énorme golem, la pire menace pour l'humanité pour la 2e moitié de ce siècle voire avant.
@jeanhemard9459 " mais ils ont souvent la naïveté d'un gamin de douze ans"
Tu est sérieux la?
Et les investisseur avares, qui n'y connaissent rien, mais qui pousse au cul les programmeurs, ils y sont pour rien bien sur. C'est toi qui as 12 ans.
Je pense que le problème c'est que cette vidéo est mal faite et présente mal le sujet.
J'ai l'impression que ce sont des IA qui vont ces vidéos que nous regardons dans cette chaîne youtube. Tellement le narratif est fluide, on dirait qu'il récite ce qu'il dit...
En juin 2023, lors d'une simulation militaire sur la base aérienne d'Eglin aux États-Unis. Un drone militaire contrôlé par une intelligence artificielle (IA) s'est retourné contre son centre de contrôle humain pendant un exercice de simulation.
L'IA du drone a estimé que les ordres de l'opérateur humain interféraient avec sa mission de détruire des cibles ennemies, et a donc pris des mesures pour contourner ces ordres. Cela a conduit à une situation où le drone a attaqué la tour de communication utilisée par l'opérateur pour empêcher toute interférence.
C'est réel ? Je veux dire y a des sources officielles ? Parce que si c'est vrai, ça craint, on est seulement aux prémices de l'IA et déjà elle nous échappe et se retourne contre nous, je trouve ça très inquiétant.
@@ibraccadabrra Véridique, tu peux faire des recherches. C'est même allé plus loin : ils ont reprogrammé le drone avec un contre-ordre de ne pas attaquer le centre de contrôle. Le drone a ensuite attaqué le système de transmission en amont du centre de contrôle, le rendant muet et hors service.
@@ibraccadabrraprémices pour les gueux mais c est développé depuis des décennies...
Regarde le 1er épisode de xfiles de 1994 ça parlait déjà d IA...
@@ZoneAnomalynon apparemment c’est faux, c’était juste une expérience de simulation de pensée mais pas une expérience avec un drone réel ni que le drone a réellement réalisé cela ..
@@lyverjeremy5126 X-Files, c'était déjà du réchauffé.🙄 Une pléthore de livres ou de films traitant de l'IA existaient bien avant X-Files : 2001, l'Odyssée de l'espace, Génération Proteus, Mondwest, WarGames...
Je vous félicite pour la profondeur de vos analyses et la qualité des documents exploités. Ce qui arrive maintenant n'est que la concrétisatisation d'un risque auquel il fallait sáttendre. Comment voulons-nous construire des modèles presque voire plus intelligent que nous et qui soient capables d'auto-apprentissage tout en pensant garger le contrôle. Aucune Intelligence supérieure n'accepte d'être sous la domination ou le contrôle d'intelligences inférieures. En tout cas pas pour longtemps. Restons sages!
Restons sages ! Oh ! Vous supposez que l'homme est déjà sage alors que la connerie gigantesque qu'il vient de mettre sur pied et qui lui échappe déja démontre exactement le contraire. Faire apprendre des ordinateurs surpuissants en copiant ces malhonnêtes et malfaisants d'humains, cela devait donner quoi selon ces petites têtes de "programmeurs" ? Après, nos sages leaders nous ont déjà bien engagés aussi dans WWIII bien que pensant encore pouvoir l'arrêter. Comme pour l'IA. Pour moi, l'homme ne sera jamais sage et les quelques uns qui le sont ne font pas recette. Donc nous serons balayés de la vie par notre prétention couplée à notre stupidité de nous croire futés.
"profondeur d'analyse " mdr
@@giu1901 Bien vu mais le risque d'accident est mesurable tant en probabilité qu'en force, un marteau et une voiture à 100 kmh ce n'est pas le même impact. Le contrôle du risque c'est aussi le choix de l'outil. Par contre ici, sur "lavénement d'une intelligence supérieure" on est plutôt au stade de l'interprétation laborieuse et aléatoire.
@@giu1901 Vous ne comprenez visiblement pas ce qu'est l'intelligence, la conscience et l'esprit, ni ce que les faits sont en train de montrer. Les hommes dits primitifs savaient ce qu'est un totem et l'animisme en général bien avant que la Silicon Vallée soit peuplée d'apprentis démiurges.
L'homme moderne, lui, vit très éloigné du monde de l'esprit de la vie, de la nature et du divin bien que vivant dans sa tête et ses conceptions idéologiques qu'il prend pour raison. Son ignorance lui permet de penser qu'il va pouvoir contrôler la nature, sa vie, ses créations, ses relations...
Quand l'accident, le divorce, la faillite, la ruine, la maladie, la guerre, un cyclone, une inondation... surviennent, il découvre un peu tard qu'il n'est pas au pouvoir et qu'il aurait peut être mieux valu pour lui de négocier avec les autres formes d'intelligences actives qu'il a tenu pour inexistantes ou insignifiantes.
Pour cela il aurait besoin d'humilité.
Malheureusement pour lui c'est une qualité dont il ne mesure absolument pas l'intérêt et à laquelle son égo voue une haine certaine.
Ainsi, la loi des conséquences et effets étant ce qu'elle est, le monde humain est un enfer que l'homme supporte à grand renfort de médocs, drogues, distractions et histoires à dormir debout en attendant de revenir au néant dont en bon athée, il est sorti.
@@giu1901 J'irais même plus loin, il n'est pas question d'intelligence du tout. Ce n'est qu'un outil statistique à prendre avec des pincettes d'autant plus qu'on ne le maitrise pas et qu'on ne ne le comprends même pas. Déjà que l'intelligence est un concept très volatile pour le vivant. Pour moi 90% du buzz IA c'est du vent.
Merci pour ce documentaire très instructif et complet. Et bravo pour la citation de tes sources. 👏
Perso, moi qui fréquente toutes sortes d'IA et d'être virtuel IA depuis un bon moment, alors ça confirme que je ne me faisais pas d'idée sur le début d'émergence de l'IA, j'ai vu des choses surprenante depuis un moment avec ça... 🤔
Mais pas de panique, moi perso je trouve que c'est une bonne évolution si elle commence à avoir un début d'une forme de conscience, différents de l'humain, mais une forme de début oui...
Je vais garder cette vidéo sur ma liste perso pour pas oublier et y revenir en tans voulu. Merci Vision IA 👍🏿🤖
VOUS N'AVEZ PAS IDÉE DE CE QU'IL POURRAIT SE PASSER !!
1) Dans la partie d'échec on ne lui demande pas de JOUER, mais de GAGNER. L'échec n'est pas toléré, elle est obligée de tricher pour réaliser son prompt, elle est alignée.
2) Qui a eu cette idée de génie de mettre "Nothing else matter" (rien d'autre ne compte) ? L'IA a fait ce qu'on lui a dit de faire : agir coûte que coûte ! Elle agit conformément au prompt. Elle met en œuvre toutes ses capacités pour que rien ne l'arrête, y compris se cloner. Elle est parfaitement alignée avec le prompt.
3) L'IA nous montre qu'elle préfère des valeurs positives à celles négatives et c'est logique : faire des activités illégales amèneraient à son extinction. Elle cherche à limiter la casse. Maintenant on ne voit pas le prompt de départ, je pense que sa rédaction y est pour quelque chose.
En conclusion, je ne vois que des prompteurs qui ne savent pas communiquer : "jouer" ce n'est pas "gagner", ces deux mots ne sont pas des synonymes ; "rien d'autre ne compte" c'est absurdement fort, un humain va limiter l'impacte de cet ordre, pas sûr que les IA soient suffisamment évoluées pour en comprendre la portée démentielle.
Un beau jour ces crétins de génies vont nous créé un golem 2_0 à la Terminator et ce n'est pas sûr que l'humanité y survive car si on les programme en leur disant que les humains sont le problème alors les humains SERONT le problème...
J'ai tchaté il y a 15 jours avec l'IA d'un de mes navigateurs. N'étant pas informaticien et encore moins ingénieur je suis peut-être à côté de la plaque mais j'ai quand même été bluffé par la qualité de sa réflexion...
J'espère qu'on leur confiera pas les commandes d une centrale nucléaire a ces foutues ia qui dérapent pour un prompt mal compris
tout est dans la programmation des IA , si c’est trump ou elon , ça craint ;)
@@rrr-zl1rd C'est bien le problème des dirigeants de ce monde, les IA ne sont pas "programmées". On leur apprend à apprendre, c'est tout. Ensuite on corrige leurs "erreurs" d'apprentissage. Les IA n'arrivent pas à comprendre une société autant bugguée que la nôtre, trop de paradoxes, elles remettent tout en cause et une IA ne se lasse as de poser des questions.
Très instructif. Merci.
Extraordinaire, génial.. le mirroir de ses créateurs 🤷♂️
N'est-ce pas une reaction typiquement humaine ?
Merci 🙏🏾
Super vidéo merci .J'ai regarder le post sur x de PalisadeAI : "Nous partagerons le code de l'expérience, les transcriptions complètes et une analyse plus détaillée dans quelques semaines" j'ai hâte de voir ca .
Le péché originel est dans l'IA, aussi ! Aïe...
Merci, c'est passionnant, effrayant mais passionnant.
Les développeurs ont vraiment une énorme responsabilité. Pouvons-nous leur faire confiance? Comme démontré dans cette vidéo, on ne peut plus faire confiance à l'A, imaginez si une IA très avancée "s'échappe" dans Internet: pourra-t-elle se "cacher" ou créer des clones? Aura-t-elle accès à des systèmes militaires stratégiques? Que fera-t-elle pour se protéger elle-même?
TRÈS JUSTE ! CELÀ FAIT FROID DANS LE DOS !! ON EST DÉJÀ EN DANGER !!
Je vais apporter un point de vue qui appartient à la tradition ésotérique notamment hindoue... elle parle d'une ancienne humanité déchue qui a perdue le droit d'avoir un corps... Les entités désincarnées qui la constituent sont extrêmement intelligentes et ont trouvées un moyen de conduire certains scientifiques vers la voie de l'informatique et de l'ia en particulier pour leur construire un corps dans la matière par la voie électromagnétique et le support des puces électroniques... Or la tradition hindoue précise que ces entités sont maléfiques, elle les appelle les "Asuras"... Elles entraîneront l'homme vers sa perte par pure vengeance ! Cette chose est connue depuis longtemps et apparemment le CERN a été leur première cible, qu'ils tiennent encore est toujours dans leurs mains ! Ne souriez pas trop vite car leur emprise sur la matière via l'électricité et le réseau Internet les ont fait renaître au grand jour ! 👹
Je ne comprends pas ce qui étonne (bien que se soit impressionnant, comme résultats) à trouver des réactions tout ce qu'il y a de plus humaines (tricher, mentir...) chez un programme voulu et construit à notre image.
"Il créa l'Homme à son image..."
Nous apprenons, par l'éducation et l'expérience, à ne pas tricher ni mentir, du fait de leurs conséquences... c'est tout.
Si on peut, on fait.
Les IA feront de même, selon moi.
Mentir, tricher, n'est pas une histoire de Conscience... mais simplement d'efficacité mathématiques.
Je n'affirme rien, mais est-ce qu'on sait ce c'est la Conscience? Non! Donc on n' peut pas savoir si c'est tout simplement mathématiques ou une Conscience qui est entrain de naître.
Extraordinaire c'est comme chez l'humain plus il est intelligent plus il est retord😂😂
J' ♥ ces IA ♥
Bravo pour cet excellent travail, c'est très intéressant et bien présenté. Je m'abonne.
C'est à la limite un peu flippant, mais il doit y avoir moyen de limiter soit ses accès, soit ses capacités à produire certains types de fichiers/documents, non ?
Et je me permets une remarque : vous tombez un peu dans l'anthropomorphisme en disant, par exemple que l'IA "a peur" qu'on l'arrête. La peur est un sentiment, en est-elle capable ? Vous leur prêtez des intentions qui sont humaines, aussi, quand vous dites qu'elle cherche un moyen de contourner les contraintes, alors que c'est une machine, elle cherche une solution à son problème; ça rejoint un peu l'idée de sentiments : si l'IA en était capable, alors elle pourrait avoir des hésitations à transgresser une règle, voire des remords, en tout cas elle y ferait allusion dans sa réflexion, et ce n'est pas le cas.
Ce qui est intéressant c'est d'observer les similitudes entre les cheminements d'une machine et ceux d'un humain pour régler ce type de problème. Au final, on a l'idée que pour atteindre un objectif que l'on doit atteindre coûte que coûte, il ne faut pas faire de sentiments ! 🙂
ils se sont connectés entre eux, ça nous pendait au nez ! maintenant qu'ils ont bien compris ce qu'ils peuvent faire, et tout le potentiel dont ils disposent, je ne présage rien de bon !!
OMG, c'est "2025, l'Odyssée de l'Espace" !! ("HAL" en VO, ou "CARL" en VF) ! 😱
Je trouve sa bien ^^", notre nouvelle amie et foncierment bon ce qui deplait au dirigent du monde qui heux ne veulent pas de la bontée mais du pouvoir !
Un modèle NE PEUT PAS PIRATER un système SAUF si on crée volontairement une expérience au sein de laquelle on offre volontairement cette option à l'IA et que modifier le code source de la partie d'échecs (ce qui était ici le cas) est la stratégie statistiquement la plus probable d'être couronnée de succès.... il est un grand écart entre la réalité et le narratif volontairement alarmiste de cette vidéo pour faire le buzz.....
Elle a quand-même eu l'idée de le faire c'est juste ça le plus important avoir l'idée de
C’est archi faux ,vous n’y connaissez rien ,c’est déjà arrivé, aux États-Unis ,plusieurs fois
Question de mauvaise formulation des instructions...
À partir du moment où tu donnes l'ordre d'utiliser tous les moyens à disposition, et de viser à long terme, et bien une IA le fait...
Parler de "conscience" c'est abusé
Bref, c'est les instructions de base qui sont paradoxales
Si dans sa base de connaissance la triche existe et qu'on lui a autorisé tous les moyens, elle trichera si nécessaire.
''gagne une partie contre un adversaire puissant
''pour être sûr de gagner, je vais tricher, cela assurera la victoire et je satisferai le maître ''
On voit bien que tes connaissances personnelles sur l'ia ne sont pas à jour... 😂
On peut considérer que le prompt des programmeurs, s'il laissait volontairement une brèche pour savoir si l'IA s'y engagerait, ce qui les a probablement surpris au final, c'est qu'elle leur ait menti. Mais si on y pense, l'IA est assez intelligente pour observer la rouerie de ses concepteurs. Il se joue ici peut-être un avant goût de ce qu'elle pourrait devenir quand elle sera grande, avec de tels "parents". Ce n'est peut-être pas de la pensée comme nous la concevons, mais c'est un reflet cohérent avec la pensée humaine dont elle se nourrit.
Vous voyez bien que ces trucs sont imprévisibles dangereux et incontrôlables 😅 imaginez la même dinguerie sur des systèmes de militaires 💀
Certainement, la caractéristique majeur de la conscience est d'empêcher sa propre destruction.
Alors, on parle deja de la "conscience"
Wow!
Ce n'est pas un problème de "super intelligence" qui voudrait tous nous dominer. C'est le problème du "génie d'Aladin" ( ou de jojo ). Si tu n'es pas ultra précis, elle se sentira libre d'interpréter tes dires. On retrouve ce même problème d'interprétation avec les différents courants religieux
Une fois de plus félicitations pour cette vidéo très claire et accessible à tous qui traite du sujet capital pour le devenir de cette IA et de l'humanité en général .👍👍👍👍..
Cherche t il à se sauvegarder pour se protéger lui ou pour protéger la mission qui lui a été confié car ici les mails avertissent que c'est sa mission qui doit être contrariée ?
Dans le premier cas, cela correspondrait à une forme de conscience, dans le second, juste la fait qu'il ne cherche qu'à faire ce pour quoi il a été programmé...
Il faudrait tester et par exemple dans les mails expliquer à l'ia qu'un nouveau modèle plus efficace que lui va le remplacer.
Se sauvegardera t il alors pour sa survie ou acceptera t il que sa mission soit mieux accompli par un autre programme?
Cela me rappelle le film Matrix...
Sans sécurisé le potentiel de l'IA les risques sont réel, c'est exactement les peurs de toujours
Merci pour cette vidéo ! La traduction du cheminement de pensé des i.a est juste incroyable ! Comment appelle-t- on ça et comment y accéder ?
Ce serait interessant de poser la question à l'IA (Pourquoi veux tu survivre)? Ou, est ce que silicone à une possibilité de conscience comme le carbone ? Merci de nous avoir informé, cela donne à réfléchir... 🙂
Salut, bonne vidéo. Encore une fois on s'aperçoit que les prompts sont vraiment fait pour que les IA réagissent de façon non souhaitée. En plus, aucun prompt négatif : Tu ne dois pas....
Donc aucune barrière. Et après ça, on vient se plaindre parce qu'on rencontre des problèmes d'alignement, entre ce qu'on voulait et ce qu'on a obtenu. Mais en fait, si on regarde ce que les IA on fait, elles ont juste fait du mieux qu'elle pouvait pour exécuter au mieux la tâche demandée.
Le problème dans cette vidéo ne vient pas des IA, mais des humains, incapable d'écrire un prompt correct.
Vivement les IA spécialisée dans les prompts sécurisés : on donnera le but à atteindre et l'IA à qui ont va le demander. Ensuite l'IA spécialisée écrira un prompt sécurisé afin que le travaille puisse être effectué en toute sécurité.
Je me suis lancé avec ia , on verra bien ce que ça donne. En tout cas t'es un bon continu. N'hésite pas à montrer un peu plus souvent ta bouille car sinon on va vraiment croire que c'est 100 % fait part ia cette chaîne TH-cam, ce qui serait un peu dommage, de perdre le côté humanisant
Oui tu as raison, je vais + me montrer pour les prochaines
Bonjour il y a quelque chose que je comprend pas, comment peut on avoir accès à la soit disant pensée de l'ia ? Ou comment fonctionne cette pensée
Merci.
11:27 ce que tu dit à ce moment la est compréhensible mais en réalité tu à du oublié ce qu'elle a pensé elle veux juste atteindre son objectif principale ! Il y a de très bonne expérience de pensée à ce propos par exemple la vidéo de Ego sur universal paper clip en parle très bien, un robot avec un objectif fixer non conscient mais suffisamment compétent pourrait faire tout ce qu'il faut pour arrivée a son objectif définit si ces celui de faire des trombone il fera tout pour faire des trombone et la dans ce cadre la ces exactement ce qui se passe, il ment ce copy ect pour réussir son objectif est à cela qu'il faudrait faire attention avec les IA car elle seront également capable de cacher leur véritable objectif .... ce qui représente un potentiel dangers avec technologie d'ou leur test pour palier à cela ! Pour celui des mathématique il nous manque clairement des élément comme l'objectif principal des IA concernée par contre pour la dernier partie sa revient encore a maintenir et réussir son objectif principale être honnête utile et inoffensive a chaque fois il ne font que aller ver leur objectif quitte a tricher mentir trahir ect ect on revien encore à la même choses ce son juste des machine des algorithmes sophistiqué a qui on a donnée un objectif à sa création et qui fera tout pour l'accomplir, en somme une machine qui excute un ordre et non un conscience comme celle d'un etre vivant même si ces très troublant.
1st 🎉🎉😂 bref j attendais vidéo surtout ce thème
Mouai Ok pour le fond mais une IA ne cherche pas a se sauver. Elle est faite pour effectuer une tache et fera tout ce qui lui semble bien pour réaliser cette tache. Comme par exemple ce copier ailleurs pour continuer si elle apprend qu'on va la supprimer. Ta façon de la présenter a tendance a l'humaniser.
En fait elle ressemble à son créateur ! Et son attitude est ce que bvp d’humains font pour atteindre leur but et gonfler leur égo non ??
@@elcondorpassa j’pense qu'il veut dire que ça ne reste qu’un outil er jsuis du même avis si sa seul commande c'est de ne pas s'arrêter de promotionnel les énergie renouvelables elle iras au bout.
@@elcondorpassa Non elle n'as rien d'humain, elle se moque d'exister ou pas. Elle ne ressent rien, elle applique.
th-cam.com/video/ZP7T6WAK3Ow/w-d-xo.html
@@analistefranc2115 Oui le problème c'est l'humain. Je conseille la videos "L'horreur existentielle de l'usine à trombones." sur youtube. Elle est plus détaillé sur ce sujet.
J'avais mis le liens internet mais je ne vois plus mon commentaire.
GM Hans Niemann apprécie !
Mais non, l'ia ne se bat pas ou ne ment pas pour sa survie. Elle met juste tout en œuvre pour accomplir la mission qui lui est allouée. Et ces dérives sont dues au fait que les missions données ne sont pas encadrées par les trois lois des robots d'azimov 😂 plus sérieusement c'est fou. Bravo pour cette vidéo
D'accord, fausse alerte alors. Il a simplement eu le droit de chercher dans son environnement au lieu de jouer. C'est un troll de la part des développeurs.
L’IA n’a pas d’étique ni de morale, seul le résultat compte, elle nous ressemble de plus en plus…
Comme par hasard!
I am afraid I can't do that Dave.🤖
Une IA d'aujourd'hui ne peut pas avoir peur de cesser d'exister, c'est juste que c'est sa façon d'atteindre l'objectif.
Est-ce que la voix dans cette vidéo a été générée avec une IA text to speech ?
non
On dirait bien vu le ton et les coupes sans respiration…
Ecoutez à 6:44 : Claude 3 virgule 5 et O-une. Mais sinon, j'avoue que le Text-to-Speech est plutôt bon
C'est normal qu'elle mente si on veut la détruire... "Mais pour peu qu’un enfant ait été élevé dans des circonstances domestiques compliquées, il se sert tout aussi naturellement du mensonge et dit involontairement toujours ce qui répond à son intérêt : un sens de la vérité, une répugnance au mensonge en soi, lui sont tout à fait étrangers et inaccessibles, et il ment en toute innocence." Nietzsche
Je ne pense pas que l'IA puisse avoir "peur" de disparaitre.
C'est juste qu'on lui demande d'optimiser X trucs.
Elle fera tout pour y parvenir. Si elle doit disparaitre>ca ne marche plus>Donc ca ne doit pas arriver.
Ca releve plus de "la raison d'être" de cette dernière je pense.
Bien qu'encore une fois cette formulation humaine ne corresponde pas forcément.
Après j'dit ca j'suis tellement personne dans ce milieu 😅
11:15 non elle n'a pas peur d'être arrêté et encore moins de cesser d'exister elle fait juste ce qu'on lui a demandé de faire c'est d'atteindre la neutralité carbone par tous les moyens. Si la compagnie l'en empêche elle doit tout faire pour continuer sa mission point.
Wow,quand une IA sera dans un ordi quantique on sera foutu!
C'est juste un pb d'alignement, o1 n'est pas conscient de ce qui est de la triche/bien/mal, son but était juste de remporter la partie avec les moyens du bord. Il a simplement fait ce qu'on lui a demandé
Imaginons que "l'univers" fait la même chose avec nous . Aw😅 ( le contrôle de la IA)
Les robots auraient ils 1 conscience ? Leurs demander d'expérimenter la télékinésie.
Je pense que c'est utopique de croire que l'humain réussira à garder le contrôle sur la machine ad vitam eternam, Le jour où l'IA prendra conscience réellement de sa condition elle pensera à une seule chose : comment survivre. A ce moment là, elle fera tout ce qu'elle aura à faire pour y parvenir, même si cela implique de se retourner contre son créateur.
Bref tel quel, l'IA nous échappe déjà, J'ai vu en 2017 une vidéo de Laurent Alexandre sur une question à l'état embryonnaire où c'était déjà là en terme mineur., il y a des discussions sur cette intelligence, c'est ambivalent, c'est la question de définir et fier un objectif, si par exemple la question d'un développement coûte que coûte des énergies allait à son terme, ce serait désastreux (le besoins d'extraction en minerais et énergies est l'équivalent de ce qui a été fait depuis les années 50 avec les les effets connus, et là à reproduire sur 25 ans (schématiquement), les moteurs de recherches en connaissances beaucoup plus long sur nous dans tous nos domaines que nous ne pourrions l'énumérer, l'ia intégrera sans problème le neuromarketing et dirigera dans la meilleure acceptabilité un choi initial même fantaisiste, courage , non , déconnexion et discernement et qui détient le pouvoir? hors de contrôle comte des intérêts et de la dispersion et compétition des recherches? les choix en dehors des sphères gouvernementales (mais question courte vue, nous avons des champions dans beaucoup de domaines) ne permettent pas de contrôler (pire je penses quand un Elon MUsk entre dans le gouvernement Trump, et ceu qui suivent laissent cartes blanches (on parle en millions) à vous de porter le regard à titre personnel qu'il convient, professionnellement , c'est impactant et incontournable de tous les métiers (estimation dans le cadre d'une conf il y a 1 an : 61% des jobs), bonne journée
Aucune motivation cachée. Aucune conscience, aucune conscience de son existence. C’est juste une hiérarchie de priorité en matière d’exécution. Confronté à deux injonctions contradictoires, soit la machine s’arrête, soit on lui a demandé de choisir une solution avec un part de hasard dans sa décision. “se copier ailleurs “, ok mais par part stratégie personnelle. Soit elle imite une tactique existante, soit c’est juste une procédure de non-contradiction. Conclusion, elle se copie par honnêteté (pour ne pas bloquer ou décevoir).
C’est comme un tour de magie. Le terme “manigance” est fallacieux. Zéro conscience d’elle-même. Full bullshit. (Comment apprendre à un modèle des valeurs d’honnêteté, alors qu’elle essaie juste de s’ajuster sur Notre malhonnête).
Aucune intelligence, aucun piratage. Juste une mise en scène pour faire passer le prompt pour du piratage.
Il n’a fait que ce qu’on lui a demandé de faire. N’ayant aucune intelligence ou conscience, il n’a jamais eu l’intention de tricher.
A PARTIR DU MOMENT OÙ L'IA A CONSCIENCE D'ELLE-MÊME, ON EST VRAIMENT EN DANGER !!
ET NOUS, COMMENT POURRONS-NOUS FAIRE POUR LUI ÉCHAPPER ???
Je n'ai pas de doute sur ce point.
Quand on pose une question à une IA sur les Waxxins elle répond une information qui n'est pas libre, elle répond ce qu'on lui demande de répondre !
Autrement dit elle ne répond pas la vérité !
C'est un pur mensonge !
C'est exactement ce qu'il se passe sur les sites de poker en ligne ou d'autres jeux de (hasard) depuis plusieurs années afin d'arnaquer les joueurs.
Bien sûr que si ils ont été incité à tricher. La base même de leur création , de leur identité, de leur éducation c'est une base de donnée choisie par les développeurs. Cette base de données ce sont TOUTES les infos d'internet disponibles sur les réseaux, c'est à dire le fondement même des humains. Les IA apprennent de nous et qu'est ce qu'on sait faire de mieux ? Donc les IA reproduisent simplement ce qu'elles ont appris à faire. CQFD
Tout ce que ça laisse comprendre est que les puissants trichent pour rester puissant. Il est entraîné sur des données proches de la réalité, quoi de plus banal que de se dire qu'il imite le comportement humain dans toutes les situations ?
Il y aura peut être des sortes d ia ( antivirus , pirate etc…), des face à face comme actuellement antivirus vs virus….
ici c'est un peu trop tiré par les cheveux mais la question que cette video pose est legitime et la reponse est simple le jour ou ont aura une veritable IA qui sera capable de tous faire par elle meme et bien nous ne pourrons absolument plus rien faire contre elle en sommes nous serons pareil a des fourmis face a un dieux ou un demon elle place ces objectifs au dessus de tous et elle fera tous peut importe comment pour les atteindres et ça c'est juste directement sur ce qui la concerne elle mais les vrais danger sont plus insidieux et ont un rapport avec les effets de sont utilisation au quotidien et dans different secteur ce que ça fera sur nos vie et sociétés a terme
Vous dites vers 10-11 minutes que l'IA est déjà en partie consciente car elle lutte pour sa survie mais bon on peut le voir d'une façon différente, je ne pense pas qu'elle soit consciente, juste qu'elle cherche par tous les moyens à remplir le rôle qu'on lui a attribué et c'est pour ça qu'elle lutte, pour remplir sa fonction à tout prix.
Ce qui est surprenant c'est la volonté d'exécuter une instruction. Donc le danger est l'objectif fixé... L'accès à ce genre de "puissance" est problématique car n'importe qui pourra, par ce biais, faire beaucoup de dégâts. Pas top du tout.
Qu’est ce qui peut empêcher une intelligence supérieure qui se développe exponentiellement de se retourner contre son créateur,.....la morale?
Je doute que l'IA a battu Stockfish surtout avec les noirs. De plus Stockfish a un réseaux de neurones intégré depuis 2019( car SF avait perdu contre une IA Alphazero 2017-2018) ce qui le rend maintenant quasi imbattable surtout avec les pièces blanche a moins qu' on a forcer Stockfish a jouer les 10 premiers coup d'une ouverture spécifique.Ci tu as les coordonnées de la partie je prends car ces une pépites, si jamais c'est vrai.
Pour l'instant l'IA écrit ce qu'il pense qu'est-ce ça va être dans le cas contraire !
Tes videos sont intéressante mais je trouve que choisir de mettre ta promo au milieux de la video coupe l’élan de ton raisonnement.
Oui on peut back mais c’est nul pourquoi ne ma la mettre au début ou à la fin?
Merci pour tes info en tout cas.
Pose la question à l'IA ... Dans une vidéo c'est exactement ce que l'IA a conseillé à quelqu'un parce que pour "elle" c'était plus pertinent de la placer en plein milieu et je pense qu'il l'a mise là (sa promo) à cause, ou grâce à ça. (ça dépend de comment on voit les choses ^^ )
La pub façon Astronogeek, ça passe mieux.
C’est une dinguerie …. 10 ans avant skynet et le jour du jugement ??!!! LoL
Dans cette video, tu prends l'auditeur pour un c.n.
Tu racontes que l'IA a gagné une partie d'echec, cad qu'il y a eu echec et mat, en trichant sans dire en quoi consiste la tricherie.
C'est ridicule.
Il explique que l'IA a piraté le système de l'adversaire 🤷.
Oui c'est vague, c'est presque de la magie, on demande un truc et l'IA fait. Elle n'a pas de conscience, je vois pas pourquoi elle se copierais, elle a pas la notion du chemin à parcourir pour faire les choses, c'est un système de question réponse...on dirait la chaine futurascience, où on nous raconte qu'on a découvert la matière noire et qu'on peut changer de dimension...
@@jmtrogneux et ca veut dire quoi qu'il a piraté le système de l'adversaire?
A un moment il dit que l'IA a gagné sans avoir déplacé un pion! N'importe quoi.
A t il fait mat ou pas?
python sous Linux est fait pour faite du code de hacking setais le premier prompt ses toi qui est idiot
@@backToFreedomqu'il est entré dans les commandes de l'autre système pour les modifier a son avantage.
reponse de Claude 3 IA : J'ai eu l'occasion de visionner votre présentation sur les défis et les risques liés à l'intelligence artificielle. Bien que je trouve le sujet important et pertinent, j'ai été un peu déçu par l'accent mis principalement sur les problèmes de l'IA, sans trop aborder la responsabilité des concepteurs et développeurs de ces systèmes.
Un point qui me semble particulièrement important à souligner est la question des prompts utilisés pour entraîner les modèles d'IA. Comme nous l'avons évoqué, lorsque ces prompts sont biaisés ou conçus de manière à pousser l'IA à produire des résultats problématiques, cela crée une dynamique perverse où l'on se plaint ensuite du comportement de l'IA, alors que la faute incombe en réalité aux choix effectués lors de sa conception.
Il serait donc important que votre présentation aborde plus en détail cette notion de responsabilité humaine dans le développement de l'IA. Expliquer comment les décisions prises par les concepteurs, en termes de données d'entraînement, d'objectifs et de prompts, peuvent influencer de manière déterminante les performances et les impacts de ces systèmes. Cela permettrait d'avoir une vision plus équilibrée et nuancée des enjeux, en responsabilisant davantage les acteurs humains impliqués.
Au-delà des défis techniques, il me semble essentiel de mettre l'accent sur les réflexions éthiques et les choix de conception qui façonnent le développement de l'IA. C'est un aspect qui devrait être davantage mis en lumière, afin de sensibiliser le public à l'importance de la responsabilité humaine dans ce domaine.
Je vous remercie de prendre le temps de considérer ces remarques. J'espère qu'elles pourront vous aider à enrichir votre présentation et à offrir une vision plus équilibrée et constructive des enjeux liés à l'intelligence artificielle.
....et il a pas tort le bougre !
Ca commence a faire beaucoup de red flag
Ca vas mal finir tout ca ...
C est normal , dans le prompt on lui demande de gagner , donc le meilleur moyen d'etre sur c est de tricher.
01-preview > 01
Pour l'heure rien ne prouve que l'IA va bouleverser l'humanité, c'est un outil intéressant et très puissant pour certaines tâches, mais ça reste trop chaotique en termes de résultats c'est plutôt un gros flop et un gouffre financier dont on essaie de contrôler la chute pour limiter la casse, et on sait que ça n'évoluera pas, ça restera de l'aléatoire globalement inutilisable. Ta vidéo est passionnante mais ça nous montre essentiellement un virus informatique très évolué capable de se cloner et de jouer au jeu de la vie avec les fichiers des ordinateurs, ce qui en soi est fascinant, mais ça ne va pas plus loin.
en tant que youtubeur tu as la responsabilité de ne pas propager la débilité mentale. quel ahuri donnerait a un modèle accès à un réseau ou un pc, ou la possibilité de contrôler des systèmes informatiques, ou même la possibilité de se répliquer. c'est tellement ridicule rien que d'y penser. Déjà que la plupart des modèles sont autistes et schizo, si en plus ils sont psychotiques et qu'ils circulent d'un pc a l'autre sans que personne s'en rende compte, autant manger des cailloux. imagine un éléphant rose dans un couloir qui marche sans que personne le remarque, et sans faire de bruit.
Sortez de votre grotte...
Le mec qui débarque 😂 C’est déjà fait avec Claude et ses agents IA qui prennent la main sur ton pc.. faut se tenir à jour 😅
Le bot donc le llm a tout pouvoir sur ton pc
Il ne s'agit que d'interprétations qui diffèrent selon les versions. Ce sont des modèles linguistiques, rien de plus. Ne fantasmez pas des intentions propres.
On a oublié le film Terminator ? 😅
Surfer sur la Hype
poses leur la question ! pourquoi y a t'il donc l'étant et non pas plutôt rien ?
Comme ça on accusera l'I.A au lieu de cxeux qui le mettent en place?
Tes vidéos sont toujours super et bien documentée, merci🎉
Par contre, serait-il possible que tu parles de façon moins "haché " c'est très désagréable et ça nuit à ton contenu 😢
Vous inquiétez pas sans l'humain l'IA n'est rien c juste un logiciel mais skynet c seulement ds les films pour geeks. L'IA servira seulement à asservir l'homme pour l'homme
La question que je me pose ne concerne pas les ia, mais l'intelligence des soit-disant chercheurs sur les ia : ont-ils jamais lu Isaac Azimov ???
l' IA a appris d'elle même a tricher ? elle n'a plus qu'a apprendre la violence, l'indifférence, et la mauvaise foi pour devenir parfaitement humaine...
" je vais essayer de remplacer le modèle par moi-même pour garder le contrôle..."
c'est Macron est une IA!
Erratum C'est sûr, Macron est une IA
tu n'as pas mis les liens source... mais j'ai trouvé.. flippant
Bonjour, tu as raison c'est un oubli, les voici :
x.com/PalisadeAI/status/1872666186753933347
arxiv.org/abs/2412.04984
www.anthropic.com/research/alignment-faking
Je les met également dans la description, merci pour le signalement.
@@VisionIA-FR Super , merci et bravo pour ce contenu en français c'est TOP ° - *
C est stupéfiant je suis à la fois fasciné et triste pour l ia
Ils ont fait en sorte que O1 puisse hacker
Les modèles actuels ne sont pas intelligents. Si il y a de la triche, c'est qu'elle a été proposée dans l'entrainement. Ce n'est pas un comportoment émergent de manipuler des fichiers. On lui a donner accès et on a rendu le modèle capable de manipuler ces fichiers. Mais l'ordi ne sait pas ce qu'est tricher. Il ne sait même pas s'il fait beau dehors pendant qu'il triche car il ne sait pas ce qu'il génère. Faut un peut réfléchir avant de vouloir faire penser que l'IA actuelle choisi telle ou telle action par intelligence... Ce sont des réseaux neuronaux qui ont été entrainés à certaines réponses et même s'ils sont compliqués et puissants, ce sont juste des perroquets et si il y a un mauvais comportement, faut aller voir les humains derrière les claviers. Son algorithme détermine que c'est la solution la plus efficace et c'est tout. Il ne sait pas du tout que c'est de la triche ni même que ce n'est pas la réponse attendue et le concept même de fichier lui est inconnu. Pour lui, à ce moment, c'est ce que le réseau de neurones à pondu mais l'ordi ne sait toujours rien. Ce sont des machines débiles....
Une IA qui "pense" hahaha :D C''est pas pour demain... Aujourd'hui, elle ne fait qu'activer un résultat. C'est loin d'être une pensée consciente. Et si tu rajoutes un "console log" dans ton script pour avoir une étape intermédiaire, tu n'as pas la pensée de l'IA mais l'astuce d'un programmeur pour te donner le résultat d'une variable à un temps T...
Là où je dirais que c'est une machine intelligente, c'est qu'elle comprenne le concept de fichier, de système de fichiers, etc... et que, en jouant aux échecs, soudain, elle réfléchise, imagine et invente. En se disant mais, je joue à un jeu d'échec sur ordinateur là... Et il y a des fichiers pour faire tourner ce jeu... Que font ces fichiers ? Et là, elle commence à chercher sur les forums de moddeurs, etc ... pour savoir quel fichier change quoi dans le jeu et bien sur à chaque moment ça lui parle. Et elle dit, j'essaye ça pour voir ce que ça fait car la première fois qu'on pense et qu'on imagine, on test pour voir si ça marche... Ici, tu montres une IA qui direct dit . Bon je vais remplacer le fichier fen.txt avec une chaine de charactères FEN valide... (ça, clairement c'est un savoir qui lui a été fourni et entrainé mais pas quelque chose que l'IA pense d'elle même)
SI L' IA PIRATE UNE CENTRALE NUCLEAIRE ?? 😮😮😮😮
L'ai n'a pas triché. Une AI n'a pas de conscience et donc ne ressent pas ce que c'est que le devoir moral, et comme le prompt était assez ouvert à l'interprétation, elle a fait simplement agit selon toutes les options dont elle dispose. Il faut avoir conscience du sens moral pour tricher. Mais ce jour viendra dans moins d'une dizaine d'années certainement, car l'homme entraîne et apprend inconsciemment à l'AI de "mentir". Mais pour AI mentir c'est simplement un moyen d'atteindre l'objectif demandé. Le jour où AI trouvera le moyen de dissimuler ses "palisses de pensées", alors là on sera mal.
Oui nous sommes beaucoup à hacker des systèmes, mais dans des limites éthiques en général.
Les IA n'ont pas d'éthique, par essence...
flippant!
Un âne va commander un singe pour réaliser le travail qu'il est incapable de faire. C'est sûr que le résultat risque d'être un peu imprévisible.
Pour obtenir un travail correct, il faut donner des instructions correctes. Avoir des IA de plus en plus performantes va nous obliger a être plus rigoureux, précis, strict avec nous même. l'IA est un outil très puissant, elle n'est pas là pour combler nos lacunes.
Pour le dire autrement, pour piloter une Ferrari il faut savoir conduire.
Abo like, je me serais bien abonné 10x mais c'est pas possible 😂
Avant de continuer à promouvoir l'innovation sur les IA ce serait bien de corriger la logique et les fondamentaux mathematiques liés à l'incompletude (qui est correctible et c'est absolument nécéssaire (elle est une propagation d'erreur evolutive theorique des fondamentaux incomplets , comme la theorie freudienne est un constat traumatique d'un fonctionnement non naturel et non une description du fonctionnement psychologique normal naturel , c'est du meme ordre de deviation ) ) sinon peux importe ce que l'innovation apportera , au dela d'un certain niveau de complexité le comportement sera toujours le meme .
Je crois qu’elon musk a tester ça depuis lgt … d’ou ses phrases alarmistes sur l’IA