如何低成本构建 AI 图谱知识库?GraphRAG 搭配 GPT 4o mini
ฝัง
- เผยแพร่เมื่อ 20 ต.ค. 2024
- 欢迎加入我的会员频道:
/ @wshuyi
视频中提到的 Github repo:
github.com/wsh...
兴趣:数据科学、人工智能、效率工具、知识管理
Substack: wangshuyi.subs...
Patreon: / wshuyi
Twitter: / wshuyi
Medium: / wshuyi
知识星球:t.zsxq.com/124...
小报童服务:xiaobot.net/p/...
少数派专栏:sspai.com/colu...
微信公众号:玉树芝兰(nkwangshuyi)
GPT-4o-mini 真是批量干活的好帮手,感觉输出的稳定性(严格按prompt办事)要优于一些顶流的开源模型。我对比几个同价位的模型来做批量文章翻译,用LLAMA3-70b,Deepseek-coder V2, Mixtral 8x22b,和它对比,其他几个在翻译几篇文章之后都会出幺蛾子,比如提供的不是翻译而是文章总结,但4o-mini就能保证稳定的输出,而且更还快,更便宜。
那是因为tokens上线了😂
现在在国内,不是gpt api不能购买了吗?这个有什么办法打通?
SearchGPT似乎也可以包含GraphRAG技術來增強本身的功能 不是嗎?那為何OPEN AI 不直接將GraphRAG技術融進CHATGPT中?還得我們辛苦的自己建?
三步反思是react模式吗? 引用的数字是社区报告的ID吗
王老师您好 近来多次看到您的公众号文章 语言深入浅出 如醍醐灌顶 ;有一个问题想咨询一下:有一个研究生同学在南京 在做RAG相关的 如果知识库比较大比如有30g 这边想到一个是拆分缩小做embedding 不知您有没有什么其他建议 她目前的纠结点在于觉得30g 2.5亿个实体做embedding 成本高
30G里面是否是有29G的视频+900M的图片?
感谢王老师,好奇如果用本地大语言模型,差距有多大
试试看
直接把小说抛给Chatgpt 4o: "请提供查尔斯·狄更斯《圣诞颂歌》中的主要主题,并提供每个主题的数据来源“。也能取得和您回答一样的答案。那么我们这么做的意义何在?
那么如果换成今年最新出版的书呢?或是公司内部的企业知识库?意义不就来了吗?
@@张特-z5m 非常感谢您的建议,新书也可以抛给chatgpt-4o得到想要的答案, 企业知识库就需要保密了,不过使用本视频的方法,也得经过一个步骤,就是抛给了4o-mini(在.env中调用Openai Key:xxxx)。那也许本地布置一个4o-mini是一个solution。。。不知道是否可行🤝
老师,音频出问题了,不清晰
你换个耳机试试😜
0.2美元确实不多