ขนาดวิดีโอ: 1280 X 720853 X 480640 X 360
แสดงแผงควบคุมโปรแกรมเล่น
เล่นอัตโนมัติ
เล่นใหม่
看不懂你 到底是教程还是炫耀 要教就好好教
你好，有个问题想请教，在Colab里微调成功后，怎么把微调后的模型下载到本地？谢谢
这个unsloth微调好自己的模型后，再通过ollama来本地运行自己微调好的模型，是不是就可以定制自己的私有的ai产品了？ 比如昆虫识别
感謝分享 不過看用來訓練的資料集都是短文本的，如果是想用長文本文獻資料做summary整理 如: 會談對話、小說文字、文獻期刊、病歷資料等 做摘要的話訓練集資料要怎麼設計比較好呢? 謝謝
您好，请问您在用长文本微调大模型方面有什么方法吗？我最近也在做这方面的工作，谢谢。
博主请问下, 单机多卡如何操作unslosh训练? 感谢
微调就是用一个自己的数据集去监督学习么？
如何在训练中应用不同的attention机制
RuntimeError: Unsloth: `unsloth/llama-3-8b-bnb-4bit` is not a base model or a PEFT model.We could not locate a `config.json` or `adapter_config.json` file.Are you certain the model name is correct? Does it actually exist?博主，为啥colab可以运行但是本地会报错
本地系统是Linux吗？
教程里没说如何上传自己的数据集，这块有文档可以参考么？
th-cam.com/video/JpQC0W91E6k/w-d-xo.html&ab_channel=PAPAYA%E9%9B%BB%E8%85%A6%E6%95%99%E5%AE%A4
一般学英文时不会用通用常用名！ jiabin 不是通用泛用名 像 Albert 一样！
70b的模型能不能48g显存微调出个教程
想想 Jenny 他们在外国得表现 可能不用微调！ 想 Albert 得男同学 可能要微调！
很棒，请问您有会员群吗？大家大家互相交流
感谢兄台分享！很期待出一期如何创建数据训练集的教学视频。另外，请问如何将自己的数据训练集加入到这个在Colab上运行的代码中？
蹲
colab上面微调好的模型保存在本地的哪个位置吗，还是hugging face上面？
請問這個範例支援中文資料訓練嗎？
可以的
@@AIsuperdomain 另外想請問，要如何測試以及驗證模型訓練是否精準，除了跟模型進行問答之外? 如果訓練出來的模型精準度不高，有什麼方式可以進行調整呢?
最新版本支持在Mac Silicon芯片上运行了吗？
支持，而且速度很快
用它去调试奇门遁甲的，起步妙哉
哈哈哈 太有创意了 可以试试
@@AIsuperdomain 哈哈哈₍ᐢ⸝⸝› ̫ ‹⸝⸝ᐢ₎
我现在正在做
@@伟文钟 啊，一起深入研究，我弄了个本地，用的是阿里的千问，不是很好用。
部署本地可以文生图吗
stable diffusion模型可以本地
unsloth 訓練完之後的結果能再把結果再拿來繼續訓練嗎?
@@AIsuperdomain 能否簡單說明下要怎麼重複訓練，感謝！
请问，怎么在本地微调？
怎么将一般企业的知识库（pdf、word等）简便的转换成可训练的json格式？
这需要对数据进行清洗和处理，等我下期视频具体演示
如果涉及机密内容，在这上面训练是不合适的
微调并没有联网
請問有建議至少要多少數據集嗎？例如8B , 70B 要多少數據集才夠呢
8b模型对算力要求低，但如果显卡多算力足，70b模型也是可以的
Rag or fine tuning, that is the question
RAG is used to solve knowledge-based questions, while fine-tuning is used to address logical problems. They are complementary, not conflicting.
核显有gpu吗
可以用这个命令检查：nvidia-smi
如果做个类似客服的模型，是不是可以选择最小尺寸的模型作为底模去训练呢？
对 这种非常适合
怎么下载模型啊？
从huggingface下载 代码里也会自动下载
@@AIsuperdomain 我的意思是微调后的模型怎么下载或者上传到hf
小白想问一句，照着这样弄完后，东西在哪？模型怎么下回来
colab可以挂载自己的google硬盘，然后保存到硬盘即可
在Google drive里
有没有什么微调前后的评测结果展示？
等我下期视频进行对比
請問是要把示範的數據集“全部”換成自己的數據嗎？這樣好像有點多耶
示范数据只是个例子，可以将自己的数据转为json格式即可
@@AIsuperdomain謝謝妳你，請問數據越多越好嗎？
另外，影片中有提到清洗數據集，請問要怎麼清洗？
笔记本4080能跑多少 b
可以百度显卡有多少的TOPS
RTX 4080移动版拥有7424个CUDA核心和542 TOPS的算力。换个方式理解就是54B的模型
他这个数据集可以是那种pdf文件吗
不是pdf，但是可以将pdf转为这种数据集
@@AIsuperdomain 求方法或者出一期视频，感谢up主
文生图场景有可以微调的大模型么？
stable diffusion
@@AIsuperdomain 老铁出一款教程吧，起到你了
各种大模型低价api官方接口直连，欢迎企业、科研机构、实验室、合作洽谈
数据集可以出现中文字符么
可以
能读PDF吗？
pdf需要清洗和处理，等我下期视频演示
博主，问一下，我在谷歌云上这样操作，这算是收费的？还是免费的？
免费的
@@AIsuperdomain 哦，已经搞好了！我不是搞编程的，是搞硬件的，所以不太理解！我问一下，我这样部署好了，能不能再弄个比较好的UI界面 ，然后再发布出来使用，我可以给到别人通过WEB访问？
@@user-fadeshun 你可以參考一下gradio, 或是更複雜的streamlit這兩個框架. 個人推薦用gradio
@@user-fadeshun 可以，cloudlflare tunnel 可以让你自己的电脑映射到公网上提供web服务
@@user-fadeshun 👍
看不懂你 到底是教程还是炫耀 要教就好好教
你好，有个问题想请教，在Colab里微调成功后，怎么把微调后的模型下载到本地？谢谢
这个unsloth微调好自己的模型后，再通过ollama来本地运行自己微调好的模型，是不是就可以定制自己的私有的ai产品了？ 比如昆虫识别
感謝分享 不過看用來訓練的資料集都是短文本的，如果是想用長文本文獻資料做summary整理 如: 會談對話、小說文字、文獻期刊、病歷資料等 做摘要的話
訓練集資料要怎麼設計比較好呢? 謝謝
您好，请问您在用长文本微调大模型方面有什么方法吗？我最近也在做这方面的工作，谢谢。
博主请问下, 单机多卡如何操作unslosh训练? 感谢
微调就是用一个自己的数据集去监督学习么？
如何在训练中应用不同的attention机制
RuntimeError: Unsloth: `unsloth/llama-3-8b-bnb-4bit` is not a base model or a PEFT model.
We could not locate a `config.json` or `adapter_config.json` file.
Are you certain the model name is correct? Does it actually exist?
博主，为啥colab可以运行但是本地会报错
本地系统是Linux吗？
教程里没说如何上传自己的数据集，这块有文档可以参考么？
th-cam.com/video/JpQC0W91E6k/w-d-xo.html&ab_channel=PAPAYA%E9%9B%BB%E8%85%A6%E6%95%99%E5%AE%A4
一般学英文时不会用通用常用名！ jiabin 不是通用泛用名 像 Albert 一样！
70b的模型能不能48g显存微调出个教程
想想 Jenny 他们在外国得表现 可能不用微调！ 想 Albert 得男同学 可能要微调！
很棒，请问您有会员群吗？大家大家互相交流
感谢兄台分享！很期待出一期如何创建数据训练集的教学视频。另外，请问如何将自己的数据训练集加入到这个在Colab上运行的代码中？
蹲
colab上面微调好的模型保存在本地的哪个位置吗，还是hugging face上面？
請問這個範例支援中文資料訓練嗎？
可以的
@@AIsuperdomain 另外想請問，要如何測試以及驗證模型訓練是否精準，除了跟模型進行問答之外? 如果訓練出來的模型精準度不高，有什麼方式可以進行調整呢?
最新版本支持在Mac Silicon芯片上运行了吗？
支持，而且速度很快
用它去调试奇门遁甲的，起步妙哉
哈哈哈 太有创意了 可以试试
@@AIsuperdomain 哈哈哈₍ᐢ⸝⸝› ̫ ‹⸝⸝ᐢ₎
我现在正在做
@@伟文钟 啊，一起深入研究，我弄了个本地，用的是阿里的千问，不是很好用。
部署本地可以文生图吗
stable diffusion模型可以本地
unsloth 訓練完之後的結果能再把結果再拿來繼續訓練嗎?
可以的
@@AIsuperdomain 能否簡單說明下要怎麼重複訓練，感謝！
请问，怎么在本地微调？
怎么将一般企业的知识库（pdf、word等）简便的转换成可训练的json格式？
这需要对数据进行清洗和处理，等我下期视频具体演示
如果涉及机密内容，在这上面训练是不合适的
微调并没有联网
請問有建議至少要多少數據集嗎？例如8B , 70B 要多少數據集才夠呢
8b模型对算力要求低，但如果显卡多算力足，70b模型也是可以的
Rag or fine tuning, that is the question
RAG is used to solve knowledge-based questions, while fine-tuning is used to address logical problems. They are complementary, not conflicting.
核显有gpu吗
可以用这个命令检查：nvidia-smi
如果做个类似客服的模型，是不是可以选择最小尺寸的模型作为底模去训练呢？
对 这种非常适合
怎么下载模型啊？
从huggingface下载 代码里也会自动下载
@@AIsuperdomain 我的意思是微调后的模型怎么下载或者上传到hf
小白想问一句，照着这样弄完后，东西在哪？模型怎么下回来
colab可以挂载自己的google硬盘，然后保存到硬盘即可
在Google drive里
有没有什么微调前后的评测结果展示？
等我下期视频进行对比
請問是要把示範的數據集“全部”換成自己的數據嗎？這樣好像有點多耶
示范数据只是个例子，可以将自己的数据转为json格式即可
@@AIsuperdomain謝謝妳你，請問數據越多越好嗎？
另外，影片中有提到清洗數據集，請問要怎麼清洗？
笔记本4080能跑多少 b
可以百度显卡有多少的TOPS
RTX 4080移动版拥有7424个CUDA核心和542 TOPS的算力。换个方式理解就是54B的模型
他这个数据集可以是那种pdf文件吗
不是pdf，但是可以将pdf转为这种数据集
@@AIsuperdomain 求方法或者出一期视频，感谢up主
th-cam.com/video/JpQC0W91E6k/w-d-xo.html&ab_channel=PAPAYA%E9%9B%BB%E8%85%A6%E6%95%99%E5%AE%A4
文生图场景有可以微调的大模型么？
stable diffusion
@@AIsuperdomain 老铁出一款教程吧，起到你了
各种大模型低价api官方接口直连，欢迎企业、科研机构、实验室、合作洽谈
数据集可以出现中文字符么
可以
能读PDF吗？
pdf需要清洗和处理，等我下期视频演示
th-cam.com/video/JpQC0W91E6k/w-d-xo.html&ab_channel=PAPAYA%E9%9B%BB%E8%85%A6%E6%95%99%E5%AE%A4
博主，问一下，我在谷歌云上这样操作，这算是收费的？还是免费的？
免费的
@@AIsuperdomain 哦，已经搞好了！我不是搞编程的，是搞硬件的，所以不太理解！我问一下，我这样部署好了，能不能再弄个比较好的UI界面 ，然后再发布出来使用，我可以给到别人通过WEB访问？
@@user-fadeshun 你可以參考一下gradio, 或是更複雜的streamlit這兩個框架. 個人推薦用gradio
@@user-fadeshun 可以，cloudlflare tunnel 可以让你自己的电脑映射到公网上提供web服务
@@user-fadeshun 👍