اولین مدل زبانی بزرگ گوگل | BERT

قطعا یکی از مهمترین و شاید اولین کاربرد جدی معماری ترانسفورمرها مدل زبانی گوگل (برت) هست. ایده هایی که توی معماری برت استفاده شده خیلی توی درک درست این مدل از کانتکست کمک کرده از جمله پیش بینی جمله بعد یا ماسک کردن کلمات یا حتی مدل تعبیه توکن ها.
مقاله bert:
arxiv.org/abs/1810.04805
00:00 what is bert
01:00 موزیک در ستایش bert
01:55 بررسی کلیات مقاله
02:43 یادآوری ترانسفورمرز
06:15 دوطرفه بودن برت bidirectional
06:43 مقایسه با جی پی تی GPT و المو ELMo
08:18 حرفای ایلیا در ستایش مدلهای تولید کننده متن
10:30 عملکرد مقایسه ای برت
15:33 معماری برت و ایده کلی
17:30 توضیح پایین دستی بالادستی
18:00 فازهای ترین کردن مدل
21:40 ایده embedding در bert
27:28 انواع برت
دسترسی به ویدیوهای سایر نتورکها:
Transformers
• ترانسفورمر و مکانیزم ت...
Alex Net
• مقاله شبکه عصبی الکس ن...
ResNet
• مقاله شبکه عصبی رزنت |...
VGGNet
• دیپ لرنینگ | VGGNet یا...
GoogleNet
• دیپ لرنینگ | گوگل نت و...
EfficientNet
• دیپ لرنینگ | Efficient...
U-Net
• مقاله شبکه عصبی یونت |...
آدرس کانال‌های ارتباطی:
بلاگ مقالات به روز حوزه: ctdrs.ir/ds1111
وبسایت دپارتمان علم داده: cafetadris.com/datascience
کانال تلگرام تخصصی علم داده: @dslanders
id تلگرام من: @rezashokrzad

[@ehsansepahsalari617]

روزی نمی گذره که یادنگیرم ازتون مهندس، واقعا علم 1 و2 شما من رو به این حوزه علاقه مند کرد و یه جورایی ترسم رو ریخت! دمتون گرم، قدم هاتون هر روز پر توانتر در مسیری که شروع کردین

[@RezaShokrzad]

خوشحال میشم کمکی بشه 👾

[@elnazeskandari8532]

Thank you very much for your comprehensive and complete explanation, it was very helpful. 👌🏻👌🏻

[@mp-rk4db]

Thank you very much💫

[@faymelari3494]

عالی. مثل همیشه.

[@mostafaasg]

مفید و عالی بود

[@AhmadrezaGholami_2001]

تشکر زیاد بخاطر محتوا❤

[@alizareikashan]

عالی بود

[@zehra_pe]

I don't know how you came up with the idea for the data science and machine learning papers playlist, but it's truly excellent and unparalleled. You explain the most important papers clearly and thoroughly, which is very helpful for me as a beginner in this field. Thank you for the time you spend and the top-notch content you create.

[@ronakfatahi1058]

فوق العاده بود.پایانامه ارشد من توی همین حوزه هست و بزرگترین کمک رو از توضیحات شما گرفتم. یک دنیا تشکر❤❤❤❤

[@RezaShokrzad]

خوشحال شدم شنیدم 🙂