Chạy Large Language Model trên máy tính local dễ như ăn cháo - Mì AI
ฝัง
- เผยแพร่เมื่อ 11 ก.ย. 2024
- "Chào mừng các bạn đến với kênh TH-cam "Mì AI"! Trong video hôm nay, chúng ta sẽ cùng nhau khám phá cách chạy Large Language Model (LLM) trực tiếp trên máy tính cá nhân một cách dễ dàng như việc ăn cháo.
Bạn có muốn trải nghiệm sức mạnh của mô hình ngôn ngữ lớn ngay trên chiếc máy tính của mình mà không cần kết nối đến các dịch vụ đám mây? Video này sẽ hướng dẫn bạn từng bước, từ việc cài đặt đến chạy thử nghiệm mô hình ngôn ngữ lớn trên máy tính cá nhân của bạn.
Chúng ta sẽ sử dụng công cụ mạnh mẽ và hiệu quả để thực hiện điều này, giúp bạn tiết kiệm thời gian và năng lượng. Đồng thời, video cũng sẽ giải thích cách tối ưu hóa hiệu suất và tài nguyên máy tính để có trải nghiệm chạy mô hình mượt mà nhất.
Nếu bạn là một người đam mê về công nghệ và muốn khám phá cách sử dụng Large Language Model ngay trên máy tính cá nhân của mình, thì đây chính là video dành cho bạn. Hãy cùng nhau thực hiện và trải nghiệm ngay hôm nay!
Đừng quên like, share và subscribe để cập nhật những nội dung mới nhất từ kênh "Mì AI". Cảm ơn các bạn đã theo dõi và chúc các bạn có một trải nghiệm thú vị!"
🎯Link hữu ích: .....
🎯Link mua áo ủng hộ Mì AI: miai.vn/mua-ao
🎯Link mua Shopee ủng hộ Mì AI: miai.vn/donate...
-------------------------------------
Xin chào các bạn, rất vui vì các bạn đã ghé thăm vlog Mì AI của tôi!
Hãy join cùng cộng đồng Mì AI nhé!
🎯🎯🎯#MìAI
Fanpage: / miaiblog
Group trao đổi, chia sẻ: / miaigroup
Website: miai.vn
TH-cam: / miaiblog
------
We use "Fun Summer Pop Party Intro" - bought from audiojungle.net.
I have text and pdf license file, i can show it to proof of my purchase.
Thanks and đã cung cấp những thông tin nền tảng cho người mới gia nhập AI!
Yeah. Cảm ơn em. Biết j chia sẻ nấy hihi. Dù dễ hay khó!
Hay quá , anh làm video hướng dẫn triển khai với data của mình đi ạ
Có luôn rồi em. Em tìm mấy video về RAG trên TH-cam: th-cam.com/users/MiAIblog nhé!
thanks a, đúng cái em đang tìm
Cảm ơn em. Cần thêm gì cứ lên Group trao đổi, chia sẻ: facebook.com/groups/miaigroup nhé!
định mua laptop chạy Intel Core Ultra thì mới dám chạy được model của LM Studio này, chứ mấy laptop thường thì chịu thua
Yeah. Giờ công nghệ cũng tốn tiền phết,. Thanks bạn!
Anh ra video train nó theo data của mình đi ạ
Anh đang bố trí GPU để làm video finetune đây. Thanks em. Cần thêm gì em post lên Group trao đổi, chia sẻ: facebook.com/groups/miaigroup nhé!
hay quá anh ơi hjhj
Cảm ơn em. Cần thêm gì cứ lên Group trao đổi, chia sẻ: facebook.com/groups/miaigroup nhé!
Cảm ơn em. Cần thêm gì cứ lên Group trao đổi, chia sẻ: facebook.com/groups/miaigroup nhé!
Thả tim...
Thanks bạn hihi
LM Studio không support Mac Intel a a. A có gợi ý phần mềm nào tương tự không a?
Em tìm llama.cpp hoặc ollama nhé
nãy em dùng thử 1 câu hỏi mà dùng CPU AMD 5800H laptop xong em nghe quạt hú cái em từ bỏ luôn :)))
Haha kiếm cái máy m,ạnh hơn tý vậy=))
Hay
Cảm ơn bạn. Cần thêm gì cứ lên Group trao đổi, chia sẻ: facebook.com/groups/miaigroup nhé!
Cảm ơn bạn rất hay , vậy mình muốn chạy ứng dụng ra website thì mình phải chạy máy tính 24/24 phải không bạn?
Đúng rồi bạn.
Anh cho em hỏi cái LM studio có chạy đc trên linux server không ạ? Linux server không có giao diện ạ
Hình như ko em. Em triển trên server theo clip trước clip này nhé! Cảm ơn em. Cần thêm gì cứ lên Group trao đổi, chia sẻ: facebook.com/groups/miaigroup nhé!
làm sao mình đính kèm dữ liệu để cho ngôn ngữ học và có dữ liệu làm cơ sở để xuất dữ liệu tiếp được anh, ví dụ mình đưa những dữ liệu đơn thuốc vào cho ngôn ngữ đó học thì sao anh?
Em tìm kiểm video cho chữ RAG trên kênh nhé. Anh có chia sẻ một chút về vấn đề đó!
Xin hỏi laptop chạy model AI thì card RTX 4090 hay card RTX™ 5000 Ada Generation Laptop GPU 16GB GDDR6 card nào tốt hơn ? Xin cám ơn.
Cái này bạn post lên Group trao đổi, chia sẻ: facebook.com/groups/miaigroup nhé. Nhiều bạn đã dùng rồi sẽ cho ý kiến chuẩn nhất!
muốn cho nó trả lời được data của mình thì làm sao ạ
Được em. Em expose API ra sau đó code theo clip trước của anh nhé! Cảm ơn em. Cần thêm gì cứ lên Group trao đổi, chia sẻ: facebook.com/groups/miaigroup nhé!
cái này có đưa file của mình vào để nó train không bác
Em xem lại clip trước của anh nhé. Cảm ơn em. Cần thêm gì cứ lên Group trao đổi, chia sẻ: facebook.com/groups/miaigroup nhé!
Chờ video này của bạn
Sếp mà dùng mạng chậm thế cũng chịu? bảo hotline 1 câu là dc, không dc thì bảo hotline của NCC khác là được nhá
Haha. Em báo rồi nó bảo do hạ tầng chung cư!
em chạy nó cứ bị lag anh ạ máy em ram 8gb
LLM cần tài nguyên khá lớn. Em post cụ thể cấu hình lên Nhóm "Hội anh em thích ăn Mì AI" - facebook.com/groups/miaigroup bài toán cụ thể để cả nhà cùng trao đổi cho tiện nhé!
LM studio chỉ support Mac M1 trở lên à mọi người?
Các loại nhé bạn. Cả Windows luôn!