วีดีโอ

정말 재밌게 봤어요! ViT는 Encoder 기본적인 구조를 따라가서 딱히 설명할게 없고, 오히려 모델 성능을 비교하며 inductive bias를 고찰해보는게 핵심이군요~ 앞으로도 많은 영상 부탁드립니다

너무 잘 듣고 있습니다. 재생목록 정주행 중인데 소리가 너무 작은게 아쉽네요 ㅠㅠ

잘 봤습니다!

41:23 code(dictionary) 하나의 크기는 D 차원으로 고정되어 있고 32*32*1은 128*128*3을 1024(32*32)개의 code(dictionary)로 표현한다는것 아닌가요? 즉 z_e(x)의 shape은 32*32*D 이고 각 D차원 벡터를 전체 코드북 하나 하나와 비교해서 거리가 제일 가까운 몇번째 코드를 쓰면 되는지로 표현하는 것이고, 그게 논문 figure의 가운데에 있는 파란색 격자 그림이 표현하는것 이라고 저는 이해했습니다. 그리고 z_q는 저 파란색 격자가 알려주는 index에 따라 codebook에서 code를 retreive하여 다시 codebook의 code들로 구성된 32*32*D shape의 z_q(x)를 구성해서 decoder에 태워 reconstruct하는 것이구요. 18:45 그래서 x라는 image하나가 z라는 하나의 integer로 mapping되는 것이 아니라 여러개의 code의 집합 (codebook들의 inde를 가르키는 integer들의 집합)으로 표현된다고 저는 이해했는데, 혹시 제가 틀리게 이해한 것일까요?

인사이트있는 세미나 잘 들었습니다. 감사합니다!

정리 감사합니다 유익하네요!

51:00 bm25, stride~8, seg len~64 훌륭한 세미나 감사합니다

34:40 G연

중간 중간 끼어들어서 정리해주셔서 감사합니다😂 정리 퀄리티가 o1이십니다

감사합니다

잘들었습니다!

VAE는 GMM에서 EM을 하는걸 딥러닝으로 가져온거고 vq-vae는 이걸 다시 KNN으로 가져가서 EM을 하는거로 생각하면 안되나요? 그렇게 생각하면 KL도 말씀하신것 처럼 똑같이 나오는데

좋은 내용 감사합니디

감사합니다

잘 봤습니다!

잘 들었습니다

안녕하세요, 좋은 발표 감사합니다. 47:20 쯤에 말씀하신 mean score 를 최종적으로 0으로 수렴시켜야한다는 부분은 선호님 말씀처럼 두 reward 의 차이를 maximize 시키는 방향이 맞는 것 같습니다. 두 reward의 차이가 크면 sigmoid 를 거쳐서 1에 가까운 값이 나오고, 결국에는 log가 앞에 있어서 0이 나오는데, 여기서 말하는 mean score 가 저 log까지 포함한 값이 아닐까 싶습니다.

유익한 영상 감사합니다. 중간에 해주시는 질문/의견들이 너무 좋습니다! 영상 중간에서 37:10 Retriever 성능 측정 측면에서 Recall의 부적절성을 언급해주셨는데, f1 score처럼 false negative와 false positive를 동시에 고려하는게 더 적합하다는 의견으로 이해하면 될까요? 혹시, 영상에서의 예시와는 다르게 BM25와의 비교 없이 오직 DPR의 성능만을 비교하는 경우에도 Recall 만을 사용하는게 부적절하다고 생각하실까요?

감사합니다

Llava나 CogVLM도 같은 VLM이라고 봐도 되는거죠?

랭귀지 데이터에서 로우퀄리티와 하이퀄리티는 어떤 것들이 있고 이 둘은 차이점은 무엇인가요?

너무 잘 들었습니다!!

화면해상도가 1080p이지만 유효화면이 작습니다. 글씨가 잘 안보여요. 유효화면을 키웠으면 합니다.

좋은 발표 감사합니다 !

잘 보려..했으나 사전 지식이 부족해서 패스합니다 ...

잘 들었습니다. 구독하였습니다

넘 재밌는 주제 다뤄주셔서 감사합니다 😮😮

감사합니다. 설명이랑 피드백이 좋다는 표현이 좋네요.

감사합니다 ❤

스터디에 참여 지원하고 싶었는데 아쉽습니다! 잘 듣겠습니다:)

LLM 개요를 이해하는데 도움이 되었어요. 감사합니다! 발표자 얼굴이 나오는 화면을 가리기 처리한 오른쪽 상단의 상자때문에 발표 화면이 일부 보이지 않을 때가 있습니다. 다음번에는 발표자료(ppt?)에서 오른쪽 상단을 비워두면 좋겠습니다. 다음 강의 기다릴게요.

감사히 잘 볼게요

발표자분이 정리도 정말 잘 해 주시고 이해하기 쉽게 설명 해 주시네요! 덕분에 많은 도움이 됐습니다. 감사합니다.

CLIP 내용 재밌네요.! 후속으로 나온 논문들 읽어보기 전에 참고하려고 영상을 보는데 정리가 잘 되는 것 같습니다.~~ 그리고 혹시 논문을 같이 읽는 모임이 있는 건가요?

자세한 설명과 좋은 피드백 쌓아주셔서, 공부하는데 큰 도움이 되네요. 감사합니다^^

안녕하세요! 거꾸로 읽는 VLM 시리즈 잘 보았습니다. 멀티모달을 공부하는 학생인데 큰 도움이 됐습니다. 감사합니다! 혹시 스터디 다음 시즌은 언제 진행되는지 계획이 있을까요?

안녕하세요. 재욱님. 항상 너무 좋은 생각들 제공해주셔서 감사합니다 :) 혹시 올려주신 논문과 영상자료를 바탕으로, 비영리 VLM 스터디에서 자료로 활용해 공부해도 괜찮을까요?

자랑스러운~ 성국찡

영상 잘 봤습니다. 궁금한 점이 있는데 가장 중요했던 문제가 cls의 attention pattern이 적절하지 않아서 condenser구조를 사용해서 이를 교정했다는 점 같은데요. 혹시 그럼 condenser 구조의 어떤 method가 attention pattern을 교정할 수 있도록 해준건지도 알 수 있을까요?

Really thx for sharing! And is there any fully english version of ppt or course video :)

coordinator 분께서 부연설명 해 주시니 좋네요!

너무 이해가 쏙쏙 되는 것 같아요 감사합니다

해당 발표자료 및 김동규님 메일 주소를 알 수 있을까요?

잘보고있습니다!

좋은 강의 감사합니다!!! 잘 듣고 있습니다. 최근에 Coling 2022에 "Towards Robust Neural Retrieval with Source Domain Synthetic Pre-Finetuning" 논문이 나왔는데 Contriever와 하고 싶은 것은 비슷한 것 같습니다. 나중에 소개해주실 수 있으신가요?

강의 잘봤습니다. 중간에 질문이 있어서 ...혹시 보실 지 모르겠지만 댓글 남기겠습니다. queue를 사용하여 negative samples와 보다 더 많은 contrastive learning의 기회를 줄 수 있었고, queue에 들어 있는 모든 미니 배치 단위의 key들이 학습에 사용된다는 것까지는 이해하는데, queue의 자료구조 특성 상 가장 처음에 들어온 순서대로 빠져나가게 되잖아요? 그렇다는 말은 새로 들어온 query representation과 가장 유사도가 적은 key가 반드시 queue의 top에 위치하게 된다는 점을 전제하고 있다고 이해를 해도 될까요?