내 컴퓨터에서 구동되는 Local LLM모델로 나만의 ChatBot 만들기 ( Let's make a ChatBot Using Local LLM Model )

내 컴퓨터에서 구동되는 Local LLM모델로 나만의 ChatBot 만들기 입니다.
유튜브 영상 처음으로 중간중간 영어를 조금 써보기도 했습니다. 약간 오글거려도 이해해주세요ㅋㅋ
개발자들 아니면 잘 모르는 Ollama를 사용하는 방법과 LangChain을 쉽게 시작하실 수 있도록 안내드립니다.
ollama.com
사이트에서 ollama 받아주시고요. 따라해보시면 됩니다.
참고로 ChatGPT OpenAI API를 사용하는 방법도 있는데, API 사용료가 조금 나갑니다.
이 영상에서는 비용이 전혀 나가지 않는 로컬 PC에서 구동가능한 오픈소스 LLM 모델을 Ollama를 통해
설치하고 다루는 방법과 ChatBot을 만들어 보는 튜토리얼을 담고 있어요~!
그럼 즐거운 시간 보내세요.!
There is also a way to use ChatGPT OpenAI API, but it costs a little bit of API usage fee.
In this video, an open-source LLM model that can run on a local PC at no cost is introduced via Ollama. Here are tutorials on how to install and handle it and create ChatBot.
Let's Fun !!

[@piljungGim]

감사합니다.... 그런데 어누 어려워요.... 소스 좀 뿌려주세요... ㅜㅜ

[@oskwon72]

영상 잘 봤습니다. 혹시 자기가 가진 데이터를 학습 시킬 수 있는 방법이 있을까요? 이를테면, 'a1'는 '포도' 라는 상품코드를 갖고 있다고 가정할때, 'a1'을 입력하면 '포도'라는 답이 나오게 학습 시킬 수 가 있을까요?

[@rgbitcode]

네, 검색증강생성(RAG) 이라는 기법을 사용하시면 됩니다. 상품코드와 상품명을 가지고 있는 데이터를 준비하시고 임베딩을 통해 Vector 스토어에 저장해놓고, LLM에서 해당 스토어를 통해 검색을 하게끔 하는 기법이에요. 프롬프트로 해당 자료에서만 검색해서 응답하라고 넣어주고 찾지못하는 경우 말 지어내지 말라고 하면, 해당 사실에 근거에서 답변을 생성해줍니다. 차후 유튜브에 다뤄볼 생각인데, 우선 구글링을 조금 해보세요.

[@oskwon72]

@@rgbitcode 고맙습니다. 몇달전부터 찾고 있었던 내용인데, 그게 바로 RAG이라는 것 이군요. 많은 해외 유튜버들이 RAG을 소개햐서 뭔가 했었는데... 유익한 정보 감사합니다.

[@singlehealth298]

고맙습니다. 정말 유익한 내용인데,, 많이 알려졌으면 좋겠습니다!!

[@rgbitcode]

@@singlehealth298댓글 감사합니다ㆍ더 유익한 내용들도 있는데 조금씩 올려볼 생각이에요^^

[@hyeondaejin]

영어발음이 상당 하십니다.

[@rgbitcode]

앗~!ㅎㅎ 감사합니다.

[@소망-t5l]

새로운것들 활용에 도움주심에 감사합니다!

[@rgbitcode]

감사합니다~!