Self-Hosted LLMs on Kubernetes: A Practical Guide - Hema Veeradhi & Aakanksha Duggal, Red Hat

แชร์
ฝัง
  • เผยแพร่เมื่อ 10 พ.ย. 2024

ความคิดเห็น • 3

ต่อไป
เล่นอัตโนมัติ
Unleashing the Power of DRA (Dynamic Resource Allocation) for Just-in-Time GPU Slicing39:03Unleashing the Power of DRA (Dynamic Resource Allocation) for Just-in-Time GPU Slicing
Unleashing the Power of DRA (Dynamic Resource Allocation) for Just-in-Time GPU SlicingCNCF [Cloud Native Computing Foundation]
มุมมอง 1.1K
Training Large Language Models on Kubernetes - Ronen Dar, Run:ai27:43Training Large Language Models on Kubernetes - Ronen Dar, Run:ai
Training Large Language Models on Kubernetes - Ronen Dar, Run:aiCNCF [Cloud Native Computing Foundation]
มุมมอง 1.4K
Homomorphic Encryption in the Open Source World - Aakanksha Duggal, Red Hat32:43Homomorphic Encryption in the Open Source World - Aakanksha Duggal, Red Hat
Homomorphic Encryption in the Open Source World - Aakanksha Duggal, Red HatThe Linux Foundation
มุมมอง 868
มายคราฟสุ่มเอาชีวิตรอด "ใช่หรือไม่" นะหรือไม่ใช่!?00:56มายคราฟสุ่มเอาชีวิตรอด "ใช่หรือไม่" นะหรือไม่ใช่!?
มายคราฟสุ่มเอาชีวิตรอด "ใช่หรือไม่" นะหรือไม่ใช่!?Zalmonz
มุมมอง 622K
UNLIMITED CHOCOLATE 😲😍| My Dad is a Vending Machine!00:18UNLIMITED CHOCOLATE 😲😍| My Dad is a Vending Machine!
UNLIMITED CHOCOLATE 😲😍| My Dad is a Vending Machine!BRAVO!
มุมมอง 2.3M
How Much Tape To Stop A Lamborghini?00:15How Much Tape To Stop A Lamborghini?
How Much Tape To Stop A Lamborghini?MrBeast
มุมมอง 83M
CORSAIR K70 PRO TKL คีย์บอร์ดโคตรโกง สำหรับสายเกมมิ่ง !!01:00CORSAIR K70 PRO TKL คีย์บอร์ดโคตรโกง สำหรับสายเกมมิ่ง !!
CORSAIR K70 PRO TKL คีย์บอร์ดโคตรโกง สำหรับสายเกมมิ่ง !!Extreme IT
มุมมอง 726K
Future of Service Mesh- Sidecar or Sidecarless or Proxyless? - Levine Kohavi, Mattix, Norman, Howard37:40Future of Service Mesh- Sidecar or Sidecarless or Proxyless? - Levine Kohavi, Mattix, Norman, Howard
Future of Service Mesh- Sidecar or Sidecarless or Proxyless? - Levine Kohavi, Mattix, Norman, HowardCNCF [Cloud Native Computing Foundation]
มุมมอง 715
Kubernetes Gateway API vs Ingress | IMESH | Demo16:34Kubernetes Gateway API vs Ingress | IMESH | Demo
Kubernetes Gateway API vs Ingress | IMESH | DemoIMESH
มุมมอง 1.5K
vLLM on Kubernetes in Production27:31vLLM on Kubernetes in Production
vLLM on Kubernetes in ProductionKubesimplify
มุมมอง 3.6K
Efficiently Scaling and Deploying LLMs // Hanlin Tang // LLM's in Production Conference25:14Efficiently Scaling and Deploying LLMs // Hanlin Tang // LLM's in Production Conference
Efficiently Scaling and Deploying LLMs // Hanlin Tang // LLM's in Production ConferenceMLOps.community
มุมมอง 10K
Running Generative AI & LLM on a Kubernetes Cluster | Cloud Institute30:32Running Generative AI & LLM on a Kubernetes Cluster | Cloud Institute
Running Generative AI & LLM on a Kubernetes Cluster | Cloud InstituteCloud Institute
มุมมอง 4.9K
Self-Hosted LLM | CodiLime18:49Self-Hosted LLM | CodiLime
Self-Hosted LLM | CodiLimeCodiLime
มุมมอง 2K
Enabling Cost-Efficient LLM Serving with Ray Serve30:28Enabling Cost-Efficient LLM Serving with Ray Serve
Enabling Cost-Efficient LLM Serving with Ray ServeAnyscale
มุมมอง 6K
Machine Learning on Kubernetes | Salman Iqbal25:45Machine Learning on Kubernetes | Salman Iqbal
Machine Learning on Kubernetes | Salman IqbalKubernetes Community Days UK
มุมมอง 3.7K
Unlocking the Full Potential of GPUs for AI Workloads on Kubernetes - Kevin Klues, NVIDIA32:38Unlocking the Full Potential of GPUs for AI Workloads on Kubernetes - Kevin Klues, NVIDIA
Unlocking the Full Potential of GPUs for AI Workloads on Kubernetes - Kevin Klues, NVIDIACNCF [Cloud Native Computing Foundation]
มุมมอง 6K
RoV : ความแรงของฮุค Grakk #rov #theped #เดอะเป็ด #shorts00:29RoV : ความแรงของฮุค Grakk #rov #theped #เดอะเป็ด #shorts
RoV : ความแรงของฮุค Grakk #rov #theped #เดอะเป็ด #shortsTHE PED
มุมมอง 298K
ถ่ายทอดสด l ฟุตซอลชิงแชมป์อาเซียน 2024 l รอบชิงอันดับที่ 3 l ออสเตรเลีย v ไทย2:17:55ถ่ายทอดสด l ฟุตซอลชิงแชมป์อาเซียน 2024 l รอบชิงอันดับที่ 3 l ออสเตรเลีย v ไทย
ถ่ายทอดสด l ฟุตซอลชิงแชมป์อาเซียน 2024 l รอบชิงอันดับที่ 3 l ออสเตรเลีย v ไทยช้างศึก - ฟุตบอลทีมชาติไทย
มุมมอง 334K
他们是怎么做到的#shots00:10他们是怎么做到的#shots
他们是怎么做到的#shots在逃的公主
มุมมอง 3.5M
[LIVE] : ONE ลุมพินี 86 | คู่เอก "คมเพชร vs ชาติพยัคฆ์"4:10:05[LIVE] : ONE ลุมพินี 86 | คู่เอก "คมเพชร vs ชาติพยัคฆ์"
[LIVE] : ONE ลุมพินี 86 | คู่เอก "คมเพชร vs ชาติพยัคฆ์"Ch7HD
มุมมอง 722K
"ทนายเดชา" ท้า "สนธิ" ลั่นแฉมาแฉกลับ | ข่าวเย็นช่องวัน | สำนักข่าววันนิวส์09:50"ทนายเดชา" ท้า "สนธิ" ลั่นแฉมาแฉกลับ | ข่าวเย็นช่องวัน | สำนักข่าววันนิวส์
"ทนายเดชา" ท้า "สนธิ" ลั่นแฉมาแฉกลับ | ข่าวเย็นช่องวัน | สำนักข่าววันนิวส์ข่าวช่องวัน
มุมมอง 354K
ไฮไลท์ฟุตบอล พรีเมียร์ลีก 2024/25 สัปดาห์ที่ 11 : ลิเวอร์พูล พบ แอสตัน วิลล่า03:26ไฮไลท์ฟุตบอล พรีเมียร์ลีก 2024/25 สัปดาห์ที่ 11 : ลิเวอร์พูล พบ แอสตัน วิลล่า
ไฮไลท์ฟุตบอล พรีเมียร์ลีก 2024/25 สัปดาห์ที่ 11 : ลิเวอร์พูล พบ แอสตัน วิลล่าTrueVisionsOfficial
มุมมอง 1.3M
มายคราฟแต่ถ้าผมเห็น "สีน้ำเงิน" คลิปนี้จะระเบิด!?00:42มายคราฟแต่ถ้าผมเห็น "สีน้ำเงิน" คลิปนี้จะระเบิด!?
มายคราฟแต่ถ้าผมเห็น "สีน้ำเงิน" คลิปนี้จะระเบิด!?Zalmonz
มุมมอง 150K
No more ice cream mess 😫 #parenting #cleaning #diy #hacks #useful #parentingtips00:10No more ice cream mess 😫 #parenting #cleaning #diy #hacks #useful #parentingtips
No more ice cream mess 😫 #parenting #cleaning #diy #hacks #useful #parentingtipsLa La Laugh! Shorts
มุมมอง 2.7M