What is LLM quantization?
5:13
YouTubeAirtrain AI
What is LLM quantization?
In this video we define the basics of quantization and look at how its benefits and how it affects large language models. Links mentioned: Perplexity vs model size https://github.com/ggerganov/llama.cpp/pull/1684 Qualitative comparison https://rentry.org/quants #largelanguagemodels #quantization #artificialintelligence #chatgpt #llama 0:00 ...
已浏览 3万 次2023年11月6日
Large Language Model Examples
How Large Language Models Work
5:34
How Large Language Models Work
YouTubeIBM Technology
已浏览 140.5万 次2023年7月28日
Large Language Models explained briefly
7:58
Large Language Models explained briefly
YouTube3Blue1Brown
已浏览 572.3万 次2024年11月20日
Intro to Fine-Tuning Large Language Models
2:02:52
Intro to Fine-Tuning Large Language Models
YouTubefreeCodeCamp.org
已浏览 5.7万 次7 个月之前
热门视频
Deep Dive: Quantizing Large Language Models, part 1
40:28
Deep Dive: Quantizing Large Language Models, part 1
YouTubeJulien Simon
已浏览 2.3万 次2024年3月6日
How to quantize Large Language Models #huggingface #transformers #quantization #llm #generativeai
32:01
How to quantize Large Language Models #huggingface #transformers #quantization #llm #generativeai
YouTubeSuper Lazy Coder
已浏览 1870 次2024年3月4日
Deep Dive: Quantizing Large Language Models, part 2
27:13
Deep Dive: Quantizing Large Language Models, part 2
YouTubeJulien Simon
已浏览 4216 次2024年3月6日
How to Train a Large Language Model
Pretraining Large Language Models: Everything You Need to Know!
22:02
Pretraining Large Language Models: Everything You Need to Know!
YouTubeUnder The Hood
已浏览 1.2万 次2025年3月17日
Create a Large Language Model from Scratch with Python – Tutorial
5:43:41
Create a Large Language Model from Scratch with Python – Tutorial
YouTubefreeCodeCamp.org
已浏览 136.7万 次2023年8月25日
How to Train Your Own Large Language Models
38:11
How to Train Your Own Large Language Models
YouTubeDatabricks
已浏览 5.8万 次2023年7月26日
Deep Dive: Quantizing Large Language Models, part 1
40:28
在视频中查找 02:05What is quantization?
Deep Dive: Quantizing Large Language Models, part 1
已浏览 2.3万 次2024年3月6日
YouTubeJulien Simon
How to quantize Large Language Models #huggingface #transformers #quantization #llm #generativeai
32:01
How to quantize Large Language Models #huggingface #transforme…
已浏览 1870 次2024年3月4日
YouTubeSuper Lazy Coder
Deep Dive: Quantizing Large Language Models, part 2
27:13
在视频中查找 07:00Group-wise Precision Tuning Quantization (GPTQ)
Deep Dive: Quantizing Large Language Models, part 2
已浏览 4216 次2024年3月6日
YouTubeJulien Simon
Quantization in vLLM: From Zero to Hero
45:42
Quantization in vLLM: From Zero to Hero
已浏览 1274 次8 个月之前
YouTubeSiemens Knowledge Hub
What is LLM Quantization ?
9:57
What is LLM Quantization ?
已浏览 3158 次2025年3月19日
YouTubeNew Machina
Quantize any LLM with GGUF and Llama.cpp
27:43
在视频中查找 06:01Defining Model Names
Quantize any LLM with GGUF and Llama.cpp
已浏览 2万 次2024年3月2日
YouTubeAI Anytime
LLaMa GPTQ 4-Bit Quantization. Billions of Parameters Made Smaller and Smarter. How Does it Work?
11:03
在视频中查找 00:33Neural Networks and Quantization
LLaMa GPTQ 4-Bit Quantization. Billions of Parameters Made Small…
已浏览 2.9万 次2023年5月14日
YouTubeAemonAlgiz
19:15
Large Language Models Explained! How LLMs Work for Beginners!
已浏览 1.8万 次2025年2月21日
YouTubeThe Data Guy
1:01:53
在视频中查找 06:02Quantization Process
Tim Dettmers | QLoRA: Efficient Finetuning of Quantized Large Lan…
已浏览 6466 次2023年7月20日
YouTubeLondon Machine Learning Meetup
27:14
Transformers, the tech behind LLMs | Deep Learning Chapter 5
已浏览 940.5万 次2024年4月1日
YouTube3Blue1Brown
10:29
在视频中查找 09:32General Tips for Choosing Models and Quantizations
5. Comparing Quantizations of the Same Model - Ollama Course
已浏览 2.9万 次2024年8月21日
YouTubeMatt Williams
12:37
Run AI Models on Your PC: Best Quantization Levels (Q2, Q3, Q4) E…
已浏览 4619 次2025年1月9日
YouTubeGosuCoder
24:04
Compressing Large Language Models (LLMs) | w/ Python Code
已浏览 1.6万 次2024年9月1日
YouTubeShaw Talebi
1:22
What is quantization? | Why essential for LLM deployment? #S…
已浏览 8709 次4 个月之前
YouTubeGeeksforGeeks
1:09:14
在视频中查找 01:43Quantization
Efficient LLM Deployment at the Edge Through Quantization
已浏览 415 次2024年7月16日
YouTubeSan Francisco Bay ACM
1:13:08
【CC字幕】Quantization & Quantization of Large Language M…
已浏览 1063 次2024年2月16日
bilibiliNobleAI
7:20
Large Language Models | Introduction to LLM | How Large L…
已浏览 1274 次2024年9月5日
YouTubeSimplilearn
57:11
LLMs | Quantization, Pruning & Distillation | Lec 14.2
已浏览 3624 次2024年9月29日
YouTubeLCS2
13:59
The Era of 1-bit LLMs: All Large Language Models are in 1.58 Bits …
已浏览 4058 次2024年3月14日
YouTubeDataMListic
3:48
How Quantization Makes AI Models Faster and More Efficient
已浏览 2697 次2024年11月20日
YouTubeDigitalBrainBase
34:38
在视频中查找 01:38What is a Large Language Model?
Introduction to Large Language Models for Life Scientists
已浏览 1661 次2024年10月7日
YouTubeSIB - Swiss Institute of Bioinformatics
19:17
在视频中查找 09:42Application to Large Language Models
Low-rank Adaption of Large Language Models: Explaining the …
已浏览 13.1万 次2023年5月1日
YouTubeChris Alexiuk
50:55
Quantization explained with PyTorch - Post-Training Quantizati…
已浏览 5.2万 次2023年12月11日
YouTubeUmar Jamil
5:30
What are Large Language Models (LLMs)?
已浏览 36.9万 次2023年5月5日
YouTubeGoogle for Developers
4:57
KV Cache: The Trick That Makes LLMs Faster
已浏览 6590 次6 个月之前
YouTubeTales Of Tensors
7:14
LLM Explained | Common LLM Terms You Should Know | KodeKl…
已浏览 5833 次2024年4月19日
YouTubeKodeKloud
58:43
LLMs Quantization Crash Course for Beginners
已浏览 5780 次2024年5月19日
YouTubeAI Anytime
52:42
Zechun Liu - Efficient Deployment of Large Language Models (MobileLL…
已浏览 364 次2024年11月29日
YouTubeCohere
9:49
QTIP - Quantize Models to 2bit and 3bit with Trellises - Hands-on Demo
已浏览 713 次2024年11月3日
YouTubeFahd Mirza
观看更多视频
静态缩略图占位符