【生成式AI】能夠使用工具的AI：New Bing, WebGPT, Toolformer

投影片: drive.google.com/file/d/1cLpC...
Introduction of New Bing: blogs.bing.com/search-quality...
WebGPT: arxiv.org/abs/2112.09332
Toolformer: arxiv.org/abs/2302.04761

[@HungyiLeeNTU]

2:25 我把PTT錯打成了PPT😅，不過看來對 New Bing 的回答沒甚麼影響

[@philosophy.of.strategy]

chatGPT系列是有一定的容錯能力的，只要上文與本輪對話的信息足夠多（概率足夠大）就行了。這是以前的問答、對話系統做不到的。

[@zd676]

这个频道最少应该要有几百万的订阅量啊！讲到太好了啊！

[@hanseyye1468]

李老师太棒了！期待李老师讲一讲diffusion model 的原理以及应用！

[@user-pb9xw2xu9q]

4:04 這個bing真的是挺嗆的😂

[@left_right_men]

感謝老師的課程

[@KevinZou1001]

老师讲得太棒了，谢谢这么好的频道和分享，订阅数早晚突破百万〜

[@suenjyhbin4306]

Nice talk 👍

[@azn7842]

感覺現在的bing用起來沒有chatgpt順，想要生成長文章時會給一些很短的答案與很莫名的搜尋，原來有可能是導向WebGPT了😂

[@user-nn8vb4gp4f]

老師去Google 也不是問題 👍👍👍👍👍

[@eskimo2208]

这是夸奖吗，google真有那么夸张吗

[@lukelee8089]

是ntu更难进

[@quietbin]

bing：甄嬛体是一种模仿电视剧《甄嬛传》中的对白风格的文体，通常用来描写一些现代的事物或人物，以达到幽默或讽刺的效果。 用甄嬛体介绍台湾的李宏毅，可能是这样的：
李宏毅，台大电机系之花，机器学习之魁。他以深度学习为武器，以语音识别为招牌，以语义理解为巧计，以课程视频为名声。他不惧强敌，不畏艰难，不贪名利，不忘初心。他教书育人，传道授业，广受学子爱戴，深得业界赞誉。他是一方明珠，一代楷模，一位大师，一枝独秀。

[@YWCTech]

看到 ChatGPT Plugins 就想到了這部影片。沒想到這麼快 OpenAI 就有類似的實現了！

[@li-pingho1441]

太神啦！！！！！

[@v86861062]

好酷

[@smyumyu8526]

老师可以在课程的description box里附上paypal donate链接🔗感謝老師的无私分享

[@dl2894]

老師您好，ChatGPT屬於生成式AI(Generative Adversarial Network)與通用人工智慧(AGI：Artificial General Intelligence)，這兩項的技術差別可否請老師有機會的做成影片解釋呢？(雖然我已經問過ChatGPT了)

[@jeffkevin3]

什麼時候語音才能一併成為 ChatGPT 這樣聊天機器人的主要模態呢？ 😀 （不是只是轉成文字，而是把 prosody、non-linguistc clues 等等都一併記錄下來，機器也能用自然有情緒的回覆回應--而且不是隨便的加上情緒聽起來自然就好，而是要根據話語的脈絡、情緒等調整）

[@HungyiLeeNTU]

很多人都在思考類似的問題，包括我們實驗室的很多同學，我相信建成哥的想像指日可待

[@philosophy.of.strategy]

感覺可能性很低。而且成本太高。😅

[@zhiyaozhang2761]

我自己在公司的一个项目里面做了一段时间这方面研究，职业的原因我也了解到科大讯飞也在做这方面的研究，他们的进展和我的研究结论好像也差不多，在情绪识别上加入声音和不加入声音其实没什么差别，我理解是交流的情绪信息本身基本就能从文字上面反映出来了，无需额外的声音信息，如果单独只把声音作为输入，各项指标会比依赖文字输入差非常多。两者工程化难度差很远，性能上没有差别特别远的话，可能这方面的落地我个人觉得会很难。

[@yi-erliao468]

老師現在有關於嵌入、向量庫、langchain相關的教學影片嗎？

[@zjlxgxz]

autoregressive model真的知道在哪里放入call-func最好么？ 感觉multiple autoregressive or multi-step neural editing 才能做到最好。

[@user-zn5tn9br3b]

在過不久人類就只能回到 線下的工作，否則沒有任何生產價值，大學剛畢業的學生，我誠心建議不要 往程式工程師 去走，因為 新人還要學個幾年 (很漫長)，但這幾年學的未來很高機率都會白學，這 AI 只是剛開始而已

[@xin-kuandawuyoulv]

想太多了，就算程式类ai再厉害，也是属于程式工程師的ai

[@WillWhite1984]

完全不覺得會被取代，工程師反而能透過ai加速他們的開發效率, 只有不持續學習的人才會被取代 (老屁股要小心不要被年輕人和ai取代了!

[@drnmss3860]

我认为大量程序员都会在不久的将来被AI取代，很多人不信，认为AI只能写snippets，但我觉得其实也就5年左右。AI使用搜索引擎就能用开发工具。虽然GUI类的开发涉及到视觉方面的内容，但这方面的科技也没有差太远。

[@user-zn5tn9br3b]

是的，在過不久人類就只能回到 線下的工作，否則沒有任何生產價值，大學剛畢業的學生，我誠心建議不要 往程式工程師 去走，因為 新人還要學個幾年，很可能這幾年學的未來都會白學，這 AI 只是剛開始而已

[@xin-kuandawuyoulv]

不会被AI取代，除非你认为普通人使用了ai就能理解程序的知识，或是指望老板高层亲自下场使用AI。

[@drnmss3860]

@@xin-kuandawuyoulv 取代不一定是你说的那种方式，比如原本2个Leader程序员带8个手下，现在2个程序员就行了

[@kakawa7535]

new bing结合互联网 是真的强

[@xaviertsai4063]

以前有google bomb，未來會不會有chatgpt bomb?

[@user-ye3zc5qn1x]

Output中：QA这些是AI生成 还是 人工输入

[@mtien888]

87% 😂

[@tsajm6bh]

曾以動漫角色來講解深度學習，這bing很懂事嘛

[@guojustin5052]

感觉new bing还是不如chatGPT

[@Zephyr711]

歐，我好想要做一個toolformer，去連結我會使用到的各種工具，一個進階腳本使用的概念
說實在，如果toolformer可以比較各種工具使用的結果，我想和人類去做也不會差太多，剩下的就是設定某些條件，遇到這些條件就放棄機器學習的某些部份，機械化的執行某些運算，這樣根本就是訓練有素的狗
如果還可以疊代好幾層能使用不同工具的toolformer模型來分配權重，最終的結果應該會很可靠，會是某種意義上的共識
在更更進一步，如果有個toolformer可以學習上述"好幾層能使用不同工具的toolformer模型來分配權重"的權重(可以稱為固執度演算法)，是否就能達到和人類相近的學習效率呢?

[@Zephyr711]

不知道這個疊代N次的toolformer要需要多少算力才是人可接受的呢?

[@billyharrinton4885]

你提到的Toolformer的想法很有趣，它可以作為一個結合各種工具和腳本的工具箱，讓你更有效率地處理各種任務。而且，如果您可以進行權重調整和優化，它還可以自我學習和進化，這是非常有用的。
然而，現實中，要設計一個如此複雜的工具是需要大量的努力和時間，需要專業的知識和技能。而且，Toolformer也需要擁有相應的數據來訓練和優化模型，這是一個需要長時間和耗費大量成本的過程。因此，要開發出一個具有高度自主學習能力的Toolformer可能是非常困難的。
此外，Toolformer是一個非常廣泛的概念，要建立一個能夠涵蓋各種工具和腳本的統一接口是非常困難的，這需要具有豐富經驗和技能的開發人員。而且，要設計一個能夠很好地處理各種工具和腳本的統一接口也是非常困難的。
總結而言，Toolformer的構想是非常有趣和具有挑戰性的，但要實現它，需要長時間和大量的努力。在當前技術水平下，要設計一個具有高度自主學習能力的Toolformer可能是非常困難的，但是您可以將其視為一個長期的目標。

[@mipyang]

如果亂改維基百科，有可能被歪樓這樣

[@albertdouglas1797]

bing好笨的感觉，回答也很简短

[@hailuyin9915]