Inference & GPU Optimization: GPTQ

แชร์
ฝัง
  • เผยแพร่เมื่อ 28 ม.ค. 2025

ความคิดเห็น • 2

  • @AI-Makerspace
    @AI-Makerspace  3 หลายเดือนก่อน

    GPTQ - AIMS: colab.research.google.com/drive/1iZQ_Byo9F-bM6IGywtb3sN9TIEcE_Mqd?usp=sharing
    Event Slides: www.canva.com/design/DAGTF8vsIIM/9qbXt5T-pvt-KIHDtC_4nA/view?DAGTF8vsIIM&

  • @andresrubio2015
    @andresrubio2015 3 หลายเดือนก่อน +1

    Top

ต่อไป
เล่นอัตโนมัติ
Quantization vs Pruning vs Distillation: Optimizing NNs for Inference19:46Quantization vs Pruning vs Distillation: Optimizing NNs for Inference
Quantization vs Pruning vs Distillation: Optimizing NNs for InferenceEfficient NLP
มุมมอง 28K
Agent Evaluation #langchain1:02:21Agent Evaluation #langchain
Agent Evaluation #langchainAI Makerspace
มุมมอง 659
Attention in transformers, step-by-step | DL626:10Attention in transformers, step-by-step | DL6
Attention in transformers, step-by-step | DL63Blue1Brown
มุมมอง 2.1M
Nec Red Rockets Kawasaki vs. LP Bank Ninh Binh - Pool B | Highlights | Club World Champs 202410:01Nec Red Rockets Kawasaki vs. LP Bank Ninh Binh - Pool B | Highlights | Club World Champs 2024
Nec Red Rockets Kawasaki vs. LP Bank Ninh Binh - Pool B | Highlights | Club World Champs 2024Volleyball World
มุมมอง 184K
แหกหน้าพ่อค้าจีน 2 #hagatestudio #fun #funny #พากย์นรก01:00แหกหน้าพ่อค้าจีน 2 #hagatestudio #fun #funny #พากย์นรก
แหกหน้าพ่อค้าจีน 2 #hagatestudio #fun #funny #พากย์นรกHaGate Studio
มุมมอง 1.1M
마시멜로우 버섯 만들기🍄😂Making marshmallow mushrooms#funny00:14마시멜로우 버섯 만들기🍄😂Making marshmallow mushrooms#funny
마시멜로우 버섯 만들기🍄😂Making marshmallow mushrooms#funnyByungari 병아리언니
มุมมอง 4.5M
คอมเมนต์แฟนเวียดนามสุดทึ่ง หลังไทยเกือบหลับแต่กลับมาได้ พลิกนรกคว้าชัยเหนือสิงคโปร์ 4-2 แบบสุดมันส์08:12คอมเมนต์แฟนเวียดนามสุดทึ่ง หลังไทยเกือบหลับแต่กลับมาได้ พลิกนรกคว้าชัยเหนือสิงคโปร์ 4-2 แบบสุดมันส์
คอมเมนต์แฟนเวียดนามสุดทึ่ง หลังไทยเกือบหลับแต่กลับมาได้ พลิกนรกคว้าชัยเหนือสิงคโปร์ 4-2 แบบสุดมันส์Farangthink
มุมมอง 95K
NVIDIA CEO Jensen Huang's Vision for Your Future1:03:03NVIDIA CEO Jensen Huang's Vision for Your Future
NVIDIA CEO Jensen Huang's Vision for Your FutureCleo Abram
มุมมอง 326K
Large Reasoning Models1:02:50Large Reasoning Models
Large Reasoning ModelsAI Makerspace
มุมมอง 817
Why Does Diffusion Work Better than Auto-Regression?20:18Why Does Diffusion Work Better than Auto-Regression?
Why Does Diffusion Work Better than Auto-Regression?Algorithmic Simplicity
มุมมอง 441K
RAG Evaluation #langchain1:06:08RAG Evaluation #langchain
RAG Evaluation #langchainAI Makerspace
มุมมอง 982
Deep Dive: Optimizing LLM inference36:12Deep Dive: Optimizing LLM inference
Deep Dive: Optimizing LLM inferenceJulien Simon
มุมมอง 27K
Transformers (how LLMs work) explained visually | DL527:14Transformers (how LLMs work) explained visually | DL5
Transformers (how LLMs work) explained visually | DL53Blue1Brown
มุมมอง 4.5M
AI can't cross this line and we don't know why.24:07AI can't cross this line and we don't know why.
AI can't cross this line and we don't know why.Welch Labs
มุมมอง 1.5M
New Tutorial on LLM Quantization w/ QLoRA, GPTQ and Llamacpp, LLama 226:53New Tutorial on LLM Quantization w/ QLoRA, GPTQ and Llamacpp, LLama 2
New Tutorial on LLM Quantization w/ QLoRA, GPTQ and Llamacpp, LLama 2Discover AI
มุมมอง 16K
LLMs Quantization Crash Course for Beginners58:43LLMs Quantization Crash Course for Beginners
LLMs Quantization Crash Course for BeginnersAI Anytime
มุมมอง 4K
Mache leckere Lutscher mit diesem PRO-Gadget! 🚽🍭00:17Mache leckere Lutscher mit diesem PRO-Gadget! 🚽🍭
Mache leckere Lutscher mit diesem PRO-Gadget! 🚽🍭Chill Thesoul Out German
มุมมอง 8M
LIVE🔴 : Cambodia vs Timor-Leste | ASEAN Championship 2024 | 17.12.242:40:50LIVE🔴 : Cambodia vs Timor-Leste | ASEAN Championship 2024 | 17.12.24
LIVE🔴 : Cambodia vs Timor-Leste | ASEAN Championship 2024 | 17.12.24BG SPORTS
มุมมอง 438K
#อึ้ง!เหลือจะเชื่อ!ไทยพลิกนรกดับสิงคโปร์คาบ้าน ทะลุเข้ารอบรองชนะเลิศ! คารวะอิชิอิโคตรการเปลี่ยนแปลง!12:08#อึ้ง!เหลือจะเชื่อ!ไทยพลิกนรกดับสิงคโปร์คาบ้าน ทะลุเข้ารอบรองชนะเลิศ! คารวะอิชิอิโคตรการเปลี่ยนแปลง!
#อึ้ง!เหลือจะเชื่อ!ไทยพลิกนรกดับสิงคโปร์คาบ้าน ทะลุเข้ารอบรองชนะเลิศ! คารวะอิชิอิโคตรการเปลี่ยนแปลง!# จัน ฑาล
มุมมอง 194K
ไก่วิเศษ #การ์ตูน #นิทาน #cartoon00:51ไก่วิเศษ #การ์ตูน #นิทาน #cartoon
ไก่วิเศษ #การ์ตูน #นิทาน #cartoonวัยรุ่นผาฮอม
มุมมอง 17K
ต้าห์อู๋-ออฟโรด ขอฝึกวิชาเซียน จับหมูป่ามือเปล่า | เฮ็ดอย่างเซียนหรั่ง FULL EP.21 | One Playground25:22ต้าห์อู๋-ออฟโรด ขอฝึกวิชาเซียน จับหมูป่ามือเปล่า | เฮ็ดอย่างเซียนหรั่ง FULL EP.21 | One Playground
ต้าห์อู๋-ออฟโรด ขอฝึกวิชาเซียน จับหมูป่ามือเปล่า | เฮ็ดอย่างเซียนหรั่ง FULL EP.21 | One PlaygroundOne Playground
มุมมอง 452K
"ทักษิณ" ยึดปราจีนฯ ลูกน้องโกทรแปรพักตร์| DAILYNEWSTODAY 17/12/6725:15"ทักษิณ" ยึดปราจีนฯ ลูกน้องโกทรแปรพักตร์| DAILYNEWSTODAY 17/12/67
"ทักษิณ" ยึดปราจีนฯ ลูกน้องโกทรแปรพักตร์| DAILYNEWSTODAY 17/12/67Dailynews Online
มุมมอง 368K
【พากย์ไทย】สาวใช้ในวังจะถูกประหารชีวิต แต่เธอมีฐานะที่ไม่ธรรมดา คือพระราชบุตรีแท้ๆ ของพระราชา!1:31:16【พากย์ไทย】สาวใช้ในวังจะถูกประหารชีวิต แต่เธอมีฐานะที่ไม่ธรรมดา คือพระราชบุตรีแท้ๆ ของพระราชา!
【พากย์ไทย】สาวใช้ในวังจะถูกประหารชีวิต แต่เธอมีฐานะที่ไม่ธรรมดา คือพระราชบุตรีแท้ๆ ของพระราชา!Fresh Thailand Pro
มุมมอง 177K
คริสต์มาสมรณะ | Who Are You EP.7 ( Edwin )1:12:27คริสต์มาสมรณะ | Who Are You EP.7 ( Edwin )
คริสต์มาสมรณะ | Who Are You EP.7 ( Edwin )Ananped
มุมมอง 1.2M