วีดีโอ

謝謝觀看。應該不必那麼久，如果只是個人玩一玩，精準度要求不是太高的話，現在開源模型很多，很快就可以實現。我昨天晚上心血來潮弄了一下，就有了簡易的版本，過幾天會把Python code和影片分享到頻道。

@YulandySpace 謝謝你，期待你的影片

@@sam83121252000 請參考 th-cam.com/video/1qB-opvJxnU/w-d-xo.htmlsi=-qXx61FecZjx6mT2 使用Python 實現個人知識庫

Thanks for your interest in this video. The English subtitle is now available for this video.

要過年了，我猜應該沒那麼快

謝謝分享。現階段我不建議考慮微調，因為目前的技術像是LoRA，所需資源大，個人電腦很難負擔；此外， 實際執行微調的技術門檻也比較高。如果需要考慮特定的應用場景，利用 Prompt Engineering 提升LLMs能力是比較可行的。等待之後更強大的開源模型或許也是個好策略，新的模型通常有更好的基礎性能，在強大的預訓練模型上微調，有機會可以使用較少的數據和較低的算力。

@@YulandySpace 谢谢建议，我先从Prompt Engineering入手。另外关于打造知识库方面，我上传了几份文档在knowledge里面，ollama在回应时会考虑里面的内容吗？或者说怎样让ollama回应时更大权重的考虑某一个文档中的内容？

@@zacharyy127 Ollama並沒有直接支援知識庫的使用，我猜你說的是Page Assist在設定選項裡面的功能 (Manage Knowledge)? 我錄這部影片的時候，該功能沒有作用；剛剛又測試一下，發現Page Assist已經可以使用了。步驟為 1) 右上角 settings點進去 -> Manage Knowledge -> Add New Knowledge -> 增加知識庫的知識，目前支援 .pdf, .csv, .txt, .md, .docx。2) 回到交談頁面，最新版本的Page Assist在Submit按鈕左邊，有一個Knowledge的圖示，可以點選你想要分析的文件。不過目前每次只能點選和分析單一文件，沒辦法同時分析多個。點選完畢後，根據你的prompt需求，就會針對該文件內容作回應。可以參考另一部影片: th-cam.com/video/imAf9GJng08/w-d-xo.htmlsi=ZSDntbbdux-WmEIg

謝謝觀看，歡迎訂閱本頻道!

謝謝觀看。歡迎訂閱並持續關注本頻道！

LLM主要是文字生成文字 (text-to-text generation)，要生成圖片，通常需要有image model (擴散模型diffusion model)。ChatGPT有將DALL･E (diffusion model，非開源的專屬模型) 整合進去，所以可以直接用文字生成圖片，也可以下載。但如果是這部影片使用的開源模型llama系列，只能生成文字。 至於``真正的圖’’，我猜您說的是接近照片品質的生成圖片? 通常可以透過提示詞修正生成的圖片，例如使用提示詞: 調整圖像的光影效果，降低色彩的鮮豔度，並加入更真實的雨水質感和陰影，讓它更接近真實照片的感覺。不過除了使用ChatGPT透過文字生成接近照片品質的圖片，網路上應該還有很多軟體可以嘗試看看。

@@YulandySpace 你誤解我的意思了，不是接近照片品質的生成圖片，例如說我有一份張忠謀自傳PDF，其中在第三頁有張忠謀待在公司討論的照片，LLM要把我第三頁照片提取出來(假設是我是發問他在公司在幹嘛)，你上面的問題依舊是圍繞在AI亂生成圖

@@jasonchen6623 目前還不行(需要自己開發)，LLM只能告訴你相關的圖片在哪 (例如: 頁碼、圖X，這種文字資訊)，最後還是得依據這些文字資訊自己再做後續處理。

謝謝觀看，歡迎長期關注本頻道!

主要還是Gemini不夠強。Google的ideas一直跑在前面，像是transformer、CoT、multimodality，可惜最後商品化後都輸其他家的LLM。

​@@YulandySpace 感覺是故意的省錢 Gemini Pro ai model 明明排名很前面 因為是免費工具使用量大 ,懷疑根本是用弱的ai model 回答起來像8B model的笨ai 這其實有個矛盾點 懂得東西就不用問他,不懂又怕他唬爛~~

AI加持的HFT的確可以在極短時間辨識出人類難以察覺的趨勢，最簡單的方法就是利用AI決定事件觸發的threshold。金融市場中，數據複雜、noise多，過度依賴歷史資訊，的確也有可能發現不存在的規律，過度擬合資料，在新數據表現不佳。有學術研究指出，AI驅動的HFT在某些市場條件下，能夠超越傳統演算法，但長期的統計數據其實不易取得，只有大型金融機構像JP Morgan，有可能做深入的統計分析，只不過通常是營業秘密，外人無法使用。或許比較客觀的理解是，AI-based HFT在短期有機會比傳統演算法帶來更好利潤，該優勢取決於數據質量、市場條件、適當的風險管理。

要讓AI真的像人類一樣理解因果，當然是很偉大的目標，但是目前還很遙遠。 根據Forbes的報導，Level 2的定義是，可以像具有博士學位教育的人一樣執行基本的問題解決任務，所以不是您說的``像人類一樣理解因果''。報導裡的這種定義的好處是，比較方便利用benchmarks提供較客觀的效能評比。事實上，OpenAI o1的版本也做了相關技術分析，在某些問題上 (GPQA diamond)，o1的確可以超過具有博士學位的專家。但這些結果並不意味著 o1 在所有方面都比博士更有能力，只能說該模型更擅長解決``一些''博士應該能解決的問題。OpenAI o1的討論，可參考 th-cam.com/video/K34ejqPB-cQ/w-d-xo.htmlsi=z1ZqO4viHHYh2o-R

為了實現``具有博士學位教育的人一樣執行基本的問題解決任務''，OpenAI目前是使用思考鏈的方法 (Chain of Thought, CoT) th-cam.com/video/dldo5jDNfJg/w-d-xo.htmlsi=wtilh4YVgf7dHIzm

OpenAI最近推出了o1版本，根據資料顯示，推力能力與4o相比有大幅度的提升。雖然仍是使用LLM模型，但新增加了chain of thought機制，利用時間換取效能。值得一提的是，o1推理能力的大幅提升，僅限於在目前benchmarks上的評估，在實現human-level intelligence/AGI還差距甚遠。以人類為例，隨著年齡增長，通常各項能力也會進步，但是LLM在某些能力的提升，可能會造成其他能力的下降 (e.g., 與4o相比，o1在programming能力提升，但在personal writing 能力下降)。另一個常見的例子是，人類的學習，相較於LLM，需要的樣本、消耗的能量少很多。所以即便o1能力有大幅提升，目前還看不出來LLM有機會實現human-level intelligence/AGI。我的看法是，每一種架構都有其擅長之處，要用一種架構(e.g., LLM)實現human-level intelligence/AGI 不太可能。

了解.謝謝 我也不覺得會變成agi 不過不用到agi也夠取代人類工作了....

1. 通常我們對超參數的設定和效能影響，只能提供一個guideline (就是影片中我的用語``一般來說'' or ``通常'')，不能說在某個設定下，就一定會達到怎麼樣的效果，因為影響實驗結果的因素很多。舉例來說，``SGD… 用比較少的epoch就可以收斂到接近0的loss’’，這也取決於learning rate的使用。在某些情況下，較大的learning rate會造成SGD的參數搜尋跳動太大 (疊代的參數數值會在最佳解附近跳來跳去)，反而需要花更多的時間來收斂，甚至有可能會發散 (loss趨近於無限大)。相較之下，因為batch GD比較穩定，較大的learning rate有助於收斂速度。我的建議是，利用程式來調整若干超參數，實際體驗超參數對演算法收斂的影響。 2. Mini-batch GD對應1<batch_size<m，意思是我們將 Mini-batch GD 看成 batch GD和 SGD之間的方法；Mini-batch GD對應1<=batch_size<=m，意思是我們將 Mini-batch GD 看成一個general method，透過m的調正，我們可以在spectrum上選擇趨近batch GD或 SGD的行為模式。因此，影片中的數學表示比較不好，我建議用1<batch_size<m或1<=batch_size<=m的表示方式比較精確。

1. 學術上，縮寫使用以方便為主，全文統一即可，無對錯之分。隨機梯度下降SGD為大部分書籍、文章會使用的縮寫，BGB和MBGB則不一定會使用。 2. 此為系列主題，請見3.1 影片的符號使用。m是樣本數目(訓練集大小)、n是特徵數目，批量梯度下降使用所有樣本，所以batch_size = m。 3. Correct! 根據我影片裡面的口述解釋，應稱作stream learning比較精準。 4. 影響最後獲得的模型參數因素包含: 參數初始值、損失函數的圖形、隨機種子使用。假設損失函數 (cost function) 有多個區域最小值，即便使用批量梯度下降，在不同的參數初始值，最後的模型參數可能會不一樣。有時候為了確保reproducibility，我們會在程式中把參數初始值、隨機種子設定好，此時即便使用隨機梯度下降，每次也會得到相同的模型參數。不過如果是處理linear/polynomial regression，因為損失函數是convex，上述幾個因素影響不大，只要iterations數目足夠，都會非常接近最佳參數 (應該是你所謂的準確率?) 我的建議是，實作上使用mini-batch GD，可以在收斂速度和穩定性之間達到不錯的平衡。

@@YulandySpace 了解了 1. 全文統一即可，其他人怎麼縮寫，就跟著縮寫，比較統一，大家都知道在講甚麼。 2. 系列主題，特徵數量縮寫n，所以樣本數量縮寫m 3. 果然如此 4. 有多種因素影響，可以固定參數初始值、隨機種子，就算使用隨機梯度下降，每次也會得到相同的參數模型。 我又有幾個問題 1. 為甚麼處理linear/polynomial regression，因為損失函數是convex，上述幾個因素影響不大？ 2. batch_size設定多少比較適合?batch_size=1, 2, 4, 8, 16, 32, 64, 128，epoch設定多少比較適合？epoch=1, 2, 3... 不知道以下想法是否正確 batch_size先設定越大越好，只要GPU VRAM裝得下，batch_size越大，iteration會越小，epoch要越多，才會接近最佳參數，監控loss，loss不再下降或反而上升時，就early stop

1. linear/polynomial regression的損失函是quadratic function (convex function)。Convex function有一個很好的特性，區域最小值就是全域最小值；不管從哪個初始參數值開始，很容易收斂到最佳值(全域最小值)。 2. 常用的 batch size範圍在 32 ~512，太小的 batch size可能無法充分利用硬體算力，太大的 batch size可能導致記憶體空間不足，減慢計算速度。有些人會根據硬體能力和模型訓練中的表現，將batch size從較小開始逐漸增加。關於epoch，可以選擇一個較大的數量，例如100 或 200，並使用early stopping來自動調整。 3. "batch_size先設定越大越好，只要GPU VRAM裝得下" 設定較大的 batch size，可以更有效利用 GPU 的算力。但如果損失函數有多個區域極值 (multimodal function)，演算法需要足夠的隨機性幫助模型跳出區域最小值，從而找到全域最小值；過大的 batch size 會降低隨機性，不利於找到模型最佳參數。 "batch_size越大，iteration會越小" Correct，可參考th-cam.com/video/vBg6huGvJTc/w-d-xo.html "監控loss，loss不再下降或反而上升時，就early stop" 這是常見的使用策略，沒問題

謝謝更正，應該是TP/(FN+TP)