วีดีโอ

Merci, à lundi :)

Oui, dans Reinforcement Learning, An introduction de Sutton et Barto (le must-have pour apprendre le RL), la première moitié traite du technique, la seconde moitié parle du lien entre le RL et l'apprentissage animal/humain

@pierrew1532 pourquoi ca? Deja c'est opensource alors laisse le tzmps aux gens d'éplucher, mais ca serait osé de balancer un teuc backdooré en open (apres bon ca s'est deja vu), mais surtout en le faisant tourner sur du ollama dans un docker franchement le risque semble ridiculement faible... et si ta vraiment peur, dans une vm!

En local, par définition, aucun problème de sécurité de données. Il ne peut pas y avoir du code caché qui secrètement fait des choses louches, puisque DeepSeek publie tout sur HuggingFace en mode "ouvert" (ce n'est pas un logiciel sombre etc) Après, pour l'instant, faire tourner R1 en local en entier c'est un peu compliqué il faut du bon matos, mais d'ici peu ça devrait être plus abordable (notamment aussi avec les distillations possibles de ce modèle).

(Ma réponse dans un autre commentaire)

@@steveblack2420 c'est pas vraiment sur...dur de savoir qui a raison dans cette affaire, openai a tout interet a calomnier aussi, et j'ai trouvé que cette citation faisais réfléchir dans le fond: « Ils peuvent voler des choses à tout le monde et engloutir toutes les ressources. Mais personne ne peut leur appliquer le même remède », a ironisé sur X l’ex-ingénieure de Google Timnit Gebru

En 2 mots : 1) le fond de ma vidéo n'était pas DeepSeek 2) je maintiens le fait que DeepSeek-V3 est une prouesse. Le buzz autour de DeepSeek est assez surprenant (et pas très justifié, comme tous les buzzs finalement) étant donné que V3/R1 ont été annoncé en décembre. J'ai couvert dans d'anciennes vidéos plusieurs papiers proposés par DeepSeek, je t'invite à les regarder. Tu verras que DeepSeek est une équipe très dynamique et qui propose des idées très intéressantes. De plus, finalement je ne sais pas si tu l'as regardé, mais ma vidéo n'est pas sur DeepSeek, il se trouve que c'est DeepSeek en premier qui a publié ce type de recherches de manière ouverte, c'est juste ça. Le message de la vidéo ce n'est pas du tout DeepSeek, mais plutôt le RL (cf. le titre). Concernant ton commentaire, oui bien sûr. Mais comme tu as un avis extrêmement tranché, je me dis que tu dois être très au courant de ce qui se passe dans la recherche, donc tu n'es pas sans savoir que la distillation est une technique *scientifiquement* très intéressante. Mais ça n'empêche pas que oui, DeepSeek a fait une prouesse. Et légalement, oui DeepSeek marche sur une ligne rouge, tout comme OpenAI depuis quelques années (et encore récemment avec TH-cam). Au plaisir de discuter avec toi.

Oui des CoT avec utilisation d'outils ça semble une prochaine étape logique, d'ailleurs je crois que R1 peut déjà faire des recherches internent pendant sa réflexion. Mais oui ton idée est intéressante, c'est sûr que le schéma CoT->réponse c'est bien mais c'est un peu "académique" ou "scolaire" dans le sens où c'est pour donner une réponse et puis stop. Après une des limites qui va se poser c'est la longueur de contexte, c'est assez dur pour le modèle de traiter des input très longues donc pas sûr qu'il se souvienne de ce qu'il a dit il y a 50k mots en arrière.. Mais les chercheurs y travaillent

@@alexandretl top coconut😍 je suis entrain de lire un papier la dessus c'est exactement ca on dirait! Vraiment trop bien hate de voir si ca va emerger😍😍😍😍 vraiment je suis hyper entousiaste de ce genre de concepts

C'est aussi mon opinion... ou en tout cas que l'apprentissage suppervisé a par nature une triste limite: il ne peut pas depasser l'humain...

J'en parle à la fin de la vidéo, il y a eu un pic en 2015-2016 après lequel beaucoup n'y ont plus cru. Oui certains ont gardé l'espoir mais le RL n'était plus du tout sur le devant de la scène.

​@@alexandretl Ah d'accord, j’avais pas fait gaffe ! Mais c’est quand même surprenant que cette méthode ait été écartée à un moment, parce qu’elle propose clairement le mécanisme le plus intéressant. C’est ce qui se rapproche le plus de l’apprentissage réel, et en plus, c’est la seule qui permet une vraie créativité, donc des raisonnements innovants pour résoudre des problèmes.

@@Bananeflambee-qh1xc Oui entièrement d'accord

Merci pour l'encouragement!

Bonne réflexion !🤟🏾

Oui lui il développe toute une série de modèles (la famille JEPA). J'ai l'impression qu'il mise plus sur la "compréhension des données" . Mais il est un peu isolé dans cette position quand même, il faut le dire.

@@alexandretl Tout à fait. Quand on lit les papiers sur JEPA, c'est une sorte de moelle "monde" de ce que je comprends et tout le monde converge vers des modèles "monde" non ?

@@JohanEQUIXOR en effet j'allais faire la meme reflexion.... dautant que a mon maigre niveau, il me semble evident que l'apprentissage supervisé est par nature condamnée a ne jamais pouvoir depasser l'homme... (en considerant rlhf comme du pseudo rl en effet) Apres concernant l'apprentissage non supervisé VS par renforcement .... les deux ont sûrement un interet conjointement ? En tout cas je vois mal comment un jours on pourrait finir par sortir le fantasme de l'iag seulement en supervisé..... la facon de presenter les choses ici me semble ultra interessante, l'apprentissage supervise pourrait etre une sorte de tremplin pour la suite!

Merci!!

Trop rapidement ;-) c'était juste de la propa de la Chine pour faire chuter Nvidia et par conséquent TSMC et de facto Taiwan

Oui bien sûr, j'ai vu une estimation passer de $6000 de hardware pour le faire tourner en Q8. Mais oui, le plus intéressant ça va être les versions distillées de R1 (Qwen-2.5-1.5B-R1 bat GPT-4o sur quelques benchmarks de maths). Et puis vu la tendance ces dernières années, ça ne va que aller dans le bon sens.

Yes pourquoi pas! Après on n'en sait pas beaucoup, mais oui une vidéo "spéculation" peut-être intéressante, pour comparer ces 500 milliards avec le budget actuel et en déduire qu'est-ce qu'ils peuvent faire avec un tel budget.

Oui ça ne m'étonne pas, c'est ce que je dis à 4:00 : une fois le raisonnement fait, produire la réponse est beaucoup plus probable.

DeepMind en fait un usage dans pratiquement tous leurs produits.

AHLALALA J'ETAIS SUR! J'attendais votre video avec impatience depuis la la sortie de deepseekR1!!! Je verifiais tout les jours😂

Merci à toi pour le retour :)

Merci! :)

Merci :))

Oui bien sûr! à la fin c'était un peu un élargissement à la technologie en général (et ce que l'IA pourra nous apporter)

Oui le test est privé et OpenAI n'a aucun moyen d'y accéder. Les problèmes ont été crée spécialement pour l'occasion, et sont gérés par une entité complètement indépendante d'OpenAI (EpochAI). Très très très peu probable qu'il y ait tricherie (ce qui desservirait OpenAI sur le long terme en plus)

@alexandretl oah super merci de votre reponse! Mega impresionnant alors si le test est fiable j'ai les etoiles dans les yeux😍

@@crocodil.13 yes moi aussi! et encore il faut dire que les IA actuelles ne vont faire que s'améliorer!

Oui peut-être que je ferais un petit live récap sur les choses importantes. Oui totalement! Pour l'instant on s'en sert essentiellement pour du texte, mais c'est juste parce que ce n'est pas encore très utilisé. Mamba a été très utilisé dans le domaine de la vision notamment. Partout où il y a de l'attention, on peut remplacer ça par de l'attention linéaire.