NVIDIA "Chat with RTX" 😱 - Installer ChatGPT en LOCAL à la MAISON pour TOUS + Injecter vos données !
ฝัง
- เผยแพร่เมื่อ 9 ก.ค. 2024
- Tuto FR pour installer NVIDIA 'CHAT with RTX' et avoir ton propre Chatbot GPT (LLM) en LOCAL sur ton PC WINDOWS et le fabuleux modèle Mistral AI 🚀 .On teste le modèle de base sans rien, avec nos fichiers et avec une vidéo TH-cam !
👉🏻 Je vous montre tout de A à Z comme d'habitude, pour Débutant comme Confirmé en Français.
👉🏻 C'est super rapide par rapport à mon test sous llama.cpp de la vidéo précédente et totalement Gratuit !
👉🏻 Pleins de formats supportés ! (pdf, txt, word, doc, docx, xml) + Vidéos TH-cam
Bonne vidéo la Team !
La bise 😎
⭐️⭐️⭐️ Me soutenir et m'aider ⭐️⭐️⭐️
👉🏻 N'hésitez pas à vous ABONNER à la chaine TH-cam si le contenu vous plait !
👉🏻 Vous pouvez PARTAGER, COMMENTER et LIKER la vidéo pour m'aider à démarrer l'aventure TH-cam (Cela aide énormément Merci ) !
👉🏻 Si vous souhaitez m'aider plus encore rejoignez la chaine TH-cam !
Merci beaucoup !
A bientôt les amigos !
▫️▫️▫️▫️▫️▫️▫️▫️▫️▫️▫️▫️▫️▫️▫️▫️▫▫️▫️▫️▫️▫️▫️▫️▫️▫️▫️▫️▫️▫️▫️▫️▫️▫▫️▫️▫️▫️▫️▫️▫️▫️▫️▫️▫️▫️▫️▫️▫️▫️▫
⚙️ Liens ⚙️
👉🏻 blogs.nvidia.com/blog/chat-wi...
👉🏻 www.nvidia.com/en-us/ai-on-rt...
👉🏻 Les Commandes : drive.google.com/drive/u/1/fo...
📽 Mon Matériel 📽
✔️ AMD Ryzen 7 5800X + Nvidia GeForce RTX 3080
✔️ Souris Logitech G502 LightSpeed : amzn.to/42KmiKR
✔️ Clavier Wooting 60HE + Extension APAYADO
✔️ Microphone Sennheiser Profile USB
✔️ Elgato Stream Deck et Wave Mic Arm LP
✔️ Ecran LG 27GP850P-B 27
✔️ Lampe De bureau Xiaomi : amzn.to/3JXSXUD
✔️ Lumières : amzn.to/3JUMj1l
✔️ Micro Cravate : amzn.to/3zfJbYO
✔️ Casque Logitech G Pro X : amzn.to/3lP9KRL
🔌 Mon imprimante 3D 🔌
✔️ Artillery X2 (tiptop) : amzn.to/3ZzzQWQ
💻 Mes Réseaux Sociaux 💻
Twitch : / raynoxis
Twitter : / raynoxis
Instagram : / raynoxis
Facebook : / raynoxis
TikTok : tiktok.com/@raynoxis
📚 Sommaire Vidéo 📚
00:00 Introduction
00:52 Introduction Chat with RTX
02:28 Installation
03:37 Lancement
04:35 Test 1/3 : Modèle par défaut
05:49 Test 2/3 : Modèle avec nos fichiers
08:51 Test 3/3 : Modèle avec TH-cam
09:43 Conclusion des Tests
10:07 Conclusion
Il est possible que certains liens dans la description soient des liens d'affiliation, ça ne change absolument rien pour vous, mais ca permet de soutenir la chaîne ! Merci beaucoup !
#chatwithRTX #ia #chatgpt #openai #google #meta #chatbot - วิทยาศาสตร์และเทคโนโลยี
Question, que faire quand Mistral 7B INT4 Failed lors du lancement? J'ai essayé de désinstaller maintes fois mais rien n'y fait
Hello je sais pas quoi te dire tu as des logs ? Ta carte graphique est quel modèle ?
Salut,
J'avais bien vu la vidéo sur Zipline, et franchement c'est super intéressant.
Bon par contre pour l'application chat with RTX je suis beaucoup moins enthousiaste !
Ok c'est cool, ça tourne en locale..... mais alors le nombre de fichier PDF qu'il n'arrive pas à ouvrir , sans compter le nombre de fois qu'il répond de la m****..... non désolé, c'est très loin d'être au point mais alors très loin !!!
Tu dis que les entreprise vont pouvoir faire des choses incroyable avec cet outil. je suis d'accord mais pas en 2024 !
J' ai pris un cas concret : Faire étudier un répertoire avec près de 200 fichiers PDF qui contient l'historique de la gestion d'un grande copropriété depuis 2017. Il a pas réussi à ouvrir la plus part des fichiers. Non, franchement, on va être encore être dépendant de Open AI pendant un bon moment..... Et c'est bien triste :/
Hello merci pour ton retour !
Oui je suis d'accord que pour l'ajoute de documents c'est pas super top pour le moment, ton test est un vrai test concret c'est bon a savoir !
Après Mistral AI c'est ultra costaud comme modèle, je pense que c'est plus un souci d'interface NVIDIA Mistral que purement un souci sur le modèle lui même. A mon avis en lui injectant les PDF sous forme de .TXT ca doit déjà donner autre chose. Après ce que j'ai trouvé dommage c'est qu'il semble ne plus utiliser du tout son apprentissage lorsqu'il passe en mode document... Enfin c'est une Beta, mais je pense que d'ici fin 2024 on aura des surprises à la vitesse à laqu'elle ça va ! Mais pour moi c'est vraiment un tournant ces modèles qui tournent en local ! Tu peux tester peut être avec le modèle Mistral directos et un tuto comme ça pour voir ce que ca donne : scalastic.io/mixtral-ollama-llamaindex-llm/#%C3%A9tape-5--impl%C3%A9mentation-de-la-sp%C3%A9cialisation-du-mod%C3%A8le ... 😁 .. J'avais aussi fais une autre vidéo il y a 10 jours avec llama.cpp ...
Top !
Juste moi avec les liens TH-cam. Voici la réponse qu'il me donne à chaque fois : 'Je ne peux pas dire de quoi parle cette vidéo car je n'ai pas été fourni de référence ni de contexte. Veuillez fournir plus de détails ou une référence spécifique pour que je puisse vous fournir une réponse plus adéquate.'
Hello Merci beaucoup ! Etonnant, tu as bien cliqué sur la flèche pour qu'il analyse la vidéo ? (A droite de l'URL)
De rien :)
Oui oui tout comme toi mais pas grave :)
J'ai testé sur un DOE assez velu sur une grosse usine, c'est pas encore au point, mais c'est prometteur.
Yesss je pense que c’est les prémices mais que ça va partir fort dans quelques temps ! 😬 Mais ces IA locales ça change vraiment la donne pour les pros
Merci, je viens de tester mais c'est pas vraiment au point ça ressemble plus a une alpha qu'a une bêta...
Peut on utiliser Chat RTX pour de la domotique ?
Pour le moment je ne crois pas !
Wow en terme de vitesse on est deja plus proche de GPT ca donne envie ! au niveau des hallucinations ca donne quoi ?
Hello ! J’ai pas testé à fond mais ça avait l’air d’aller sur le modèle classique ! Avec les documents c’est pas encore parfait , je vais essayer de le tester un peu plus sur des cas d’usages réels je te dirais 😬
@@Raynoxis Top merci beaucoup pour tout ce que tu fais ! l'interrogation que je me pose maintenant c'est comment l'entrainer a etre specialiste dans un domaine. Par exemple personnellement je suis developpeur ABAP (langage propriétaire SAP) et j'aimerai qu'il devienne plus pointu surtout sur les dernieres sortie (Fiori , CDS etc) si je lui fais ingerer de la doc va t il sauvegarder les data et s'autoentrainer ?
PS : t'as pas un discord sinon ? ^^
@@Risbo__ Merci beaucoup encore une fois pour ton retour ! 😁 Je sais pas si c'est possible via cette interface comme ça, c'est aussi une question que je me pose. Parce que c'est différent de lui donner de la doc a chaud et de l'entrainer au fur et a mesure du temps.... Un pote m'avait envoyé cet article, mais j'ai pas encore regardé : scalastic.io/mixtral-ollama-llamaindex-llm/#%C3%A9tape-5--impl%C3%A9mentation-de-la-sp%C3%A9cialisation-du-mod%C3%A8le
Mais je pense que ca se tente quand même de lui donner a manger les docs ABAP et de voir ce qu'il retourne etc ! Tu as une carte graphique compatible ? (3XXX 4XXX)
J'ai un discord ! Je vais le publier a nouveau, je dois regarder rapido comment il est configuré haha 😂
@@Raynoxistop merci pour le lien intéressant, yes j'ai une 4060 j'attends ton retour pour le discord 👌
Top ! Juste une question ,comment l'installer sur un Mac ?
Hello merci ☺️ ! J’ai pas du tout regardé , mais il y a des cartes graphiques Nvidia sur les macs ?
Mouais, pas top!🤔
Le modèle est limité , après en rapidité d’exécution en local il y a pas mieux optimisé je pense. Mais pour de la perf et ajouter des documents persos c’est assez bancale pour le moment …. On verra avec le temps ça reste une bêta.