ไม่สามารถเล่นวิดีโอนี้
ขออภัยในความไม่สะดวก
Rust是AGI超级人工智能的语言?马斯克都点头了(看Demo后面的理由)
ฝัง
- เผยแพร่เมื่อ 30 ม.ค. 2024
- SpaceX和特斯拉很多软件是Rust写的?马斯克发推文说 Rust 是 AGI的语言?心动了吗!快来跟着GPT学Rust,还能把你的Python、C++变成Rust,在网页上就能尝试👉 flows.network/learn-rust
使用 Rust + WebAssembly 在自己的電腦上運行 llama2,實現零 python 依賴、輕量級、可移植的 AI 推理。一个命令行在Mac跑各种开源大模型?试试超好用的Wasm+Rust技术栈👉llamaedge.com/
demo 链接:github.com/second-state/WasmE...
文章鏈接:zhuanlan.zhihu.com/p/665968480
更能一个命令行在本地跨平台运行大模型,跑跑看吧,详细教程👉 zhuanlan.zhihu.com/p/676814562
聽起來真的很誘人 能理解py包起來那大小與速度確實差強人意 c本身安全性問題
不過還是要看社群態度如何,畢竟遷移成本也是問題
拿某个语言来说是以后AGI特定支持语言 看着都觉得搞笑
类似于dominating的语言吧。
Mojo也非常值得期待
只和python的短板比较有失公允,不过说的rust的优点确实非常棒准备尝试去用用。希望rust社区风波能过去,再撕裂下去就看不到前景。
原來 Rust 有撕裂?關於什麼的?
好像是基金会和社区有一些争执@@2sourcerer
什麼風波沒跟到 反正別回去寫西都是進步
讲的不错
谢谢☺️可以试试视频详情里的LlamaEdge
大哥您講話速度真快!
😆是台北的小伙伴吗 视频做了剪辑 有调快
@@mileyfu5208 感謝回覆,我只是個路人而已
为什么不用容器化的 c++ 呢?wasm比这个更有优势么?另外你们这个编译出来的wasm代码是如何运行在gpu甚至其他的异构device上面的呀?
容器化的C++不是真正的跨平台,wasm可以cross CPU GPU compatible
相对pthon,rust的问题可能更多
可能会有工具链不成熟的问题 但是它可以结合Wasm做到真正跨平台而且非常轻量
不应该是python吗
这里面最后讲了为什么不是python或者C++哇
vlang
等你做出了, 市场都凉了。
为什么呢 已经做了很多工作呀 可以尝试我们的这个工具 叫LlamaEdge llamaedge.com
The Rust+Wasm stack provides a strong alternative to Python in AI inference.
* Lightweight. Total runtime size is 30MB as opposed 4GB for Python and 350MB for Ollama.
* Fast. Full native speed on GPUs.
* Portable. Single cross-platform binary on different CPUs, GPUs and OSes.
* Secure. Sandboxed and isolated execution on untrusted devices.
* Modern languages for inference apps.
* Container-ready. Supported in Docker, containerd, Podman, and Kubernetes.
* OpenAI compatible. Seamlessly integrate into the OpenAI tooling ecosystem.
Give it a try --- www.secondstate.io/articles/wasm-runtime-agi/
反正底层始终是cuda,顶层始终是python,至于中间的框架层,用什么语言重要吗?好用就行,谁管你用什么语言实现
反正大部分人也不会想要去修改框架层
why not C
Containerized的C不是真正的跨平台,比如说docker不能跨CPU别提GPU
RUST也是无法平滑地跨平台。
编译成Wasm就可以啦
照你这么说c c++ go 等都可以wasm
@@mingz7596确实是这样 其实任何可以编译成的都可以
主要还是虚拟机的存在,例如 JVM ,V8 这些 PL 运行时问题,wasm 运行时就是针对 wasm 的。
能力集跨平台就行。各个平台自有其特性,代码跨平台其实是不现实的。
虚拟机只是做不同平台的翻译器,然后提供给用户一个虚构的唯一平台来使用。