×
ribbon

LLMOps برای مدل‌های زبانی بزرگ (LLM)

مدرس:

رضا محمودیزینب صادقی

آیا آماده اید تا مهارت های خود را در حوزه عملیاتی سازی مدل های یادگیری ماشین به سطح... بیشتر
گواهی‌نامه
2.5 (6)
4 دیدگاه
377دانشجو
10ساعت
سرفصل‌ها
مقدماتی سطح دوره
بروزرسانیشهریور ۱۴۰۴
محتوای دوره
سرفصل‌ها
پیش‌نیاز‌ها
توضیحات دوره
دیدگاه کاربران
درباره مدرس

آنچه در این دوره می‌آموزید

طراحی و مدیریت زیرساخت‌های مقیاس‌پذیر

عملیاتی‌سازی و استقرار پیشرفته LLMها

پیاده‌سازی مانیتورینگ و observability جامع

بهینه‌سازی و مدیریت هزینه‌ها

این دوره شامل:

10 ساعت ویدئو

گواهینامه مکتب‌خونه

دسترسی مادام‌العمر به محتوای دوره

سرفصل‌های دوره

6 فصل52 جلسه10 ساعت ویدیو
مبانی LLMOps
  مقدمه
07:03
  نیازهای محاسباتی
12:29
  چالش‌های منحصر به فرد LLMها در تولید
25:51
  الزامات زیرساختی برای مدل‌های بزرگ
14:50
  مراحل چرخه عمر LLMOps
22:15
  شبکه
16:22
  ملاحظات ابزارسازی برای LLMOps
20:55
  تغییرات روش‌شناختی (Methodological Shifts )
15:26
  تکامل اکوسیستم ابزارسازی
15:02
  مانیتورینگ و ارزیابی
16:25
  مقیاس: از مگابایت تا ترابایت
11:33
زیرساخت و مدیریت داده‌ها در مقیاس بزرگ
  طراحی زیرساخت محاسباتی مقیاس‌پذیر
18:48
  کنترل نسخه برای داده‌ها و مدل‌های بزرگ
15:29
  زیرساخت ابری در مقابل زیرساخت‌های درون سازمانی
08:43
  خطوط لوله پیش‌پردازش داده‌ها برای LLMها
23:07
  مدیریت مجموعه داده‌های در مقیاس پتابایت
07:52
  ملاحظات شبکه برای سیستم‌های توزیع‌شده
09:22
  زیرساخت و مدیریت داده‌ها در مقیاس بزرگ
19:31
  تمرین: راه‌اندازی ذخیره‌سازی مقیاس‌پذیر
08:19
  آموزش مدل بزرگ و عملیات Fine-tuning
06:14
  سازماندهی Distributed Training Jobs
09:46
آموزش مدل بزرگ و عملیات Fine-tuning
  آموزش مدل بزرگ و عملیات Fine-tuning
06:14
  سازماندهی Distributed Training Jobs
09:46
  استفاده از فریم ورک هایی مانند DeepSpeed ​​و Megatron-LM
08:58
  Fine-tuning پارامتر با کارایی عملیاتی (PEFT)
10:15
  ردیابی آزمایش برای اجراهای در مقیاس بزرگ
09:53
  مکانیزم‌های Checkpoint و تحمل‌پذیری خطا
06:59
  تمرین: تنظیمات آموزش توزیع‌شده
09:45
  پیاده‌سازی Distributed Training با pytorch ddp
07:22
  پیاده‌سازی استراتژی‌های موازی‌سازی مدل
08:49
استقرار LLM و بهینه سازی Serving
  چالش‌های ارائه Serving به مدل‌های بزرگ
07:39
  بسته‌بندی و کانتینرسازی مدل برای LLMها
11:46
  پیاده‌سازی تکنیک‌های Quantization مدل
23:23
  تقطیر دانش برای استقرار
06:38
  الگوهای استقرار پیشرفته (Canary، تست A/B)
09:11
  مقیاس‌بندی خودکار نقاط پایانی استنتاج
09:52
  ملاحظات استنتاج GPU بدون سرور
07:55
  استقرار یک مدل کوانتیزه شده
06:45
  بهینه‌سازی سرور استنتاج GPU
11:46
نظارت یا مانتورینگ، مشاهده‌پذیری و نگهداری
  تعریف معیارهای عملکرد خاص LLM
09:12
  نظارت بر استفاده از زیرساخت (GPU، حافظه)
11:55
  تشخیص انحراف داده‌ها و مفاهیم در LLMها
09:22
  نظارت بر کیفیت خروجی LLM (سمیت، سوگیری)
09:39
  ایجاد حلقه‌های بازخورد برای بهبود مستمر
10:24
  ردیابی هزینه‌های عملیاتی
06:09
  پلتفرم‌های ثبت log و Observability برای LLMOps
08:27
  تکنیک‌های تشخیص Hallucination
12:30
  تمرین: راه اندازی مانیتورینگ پایه LLM
07:56
سیستم‌ها و گردش‌های کاری پیشرفته LLMOps
  عملیاتی کردن مهندسی Prompt
08:54
  سیستم‌ها و گردش‌های کاری پیشرفته LLMOps
05:56
  مدیریت سیستم‌هایRAG
08:02
  عملیات و مدیریت پایگاه داده برداری یا Vector Database
08:34

پیش‌نیاز‌ها

توضیحات دوره

 آیا آماده‌اید تا مهارت‌های خود را در حوزه عملیاتی‌سازی مدل‌های یادگیری ماشین به سطح جدیدی ارتقا دهید؟ با دوره پیشرفته "LLMOps برای مدل‌های زبانی بزرگ( LLM)" در مکتب‌خونه، شما عمیقاً با پیاده‌سازی و مدیریت چرخه عمر عملیاتی مدل‌های زبانی بزرگ (LLM) در محیط‌های عملیاتی آشنا خواهید شد. این دوره برای متخصصانی طراحی شده است که به دنبال ساخت پایپ لاین‌های قوی، مقیاس‌پذیر و مقرون‌به‌صرفه LLMOps هستند.
 پیش‌نیاز: این دوره در سطح پیشرفته بوده و نیازمند آشنایی با مبانی MLOps است.

لازم به ذکر است این دوره توسط هوش مصنوعی تولید شده است.


 در این دوره چه چیزهایی خواهید آموخت؟


 • طراحی زیرساخت LLM: نحوه معماری زیرساخت‌های مقیاس‌پذیر برای آموزش و سرویس‌دهی مدل‌های زبانی بزرگ را خواهید آموخت، با در نظر گرفتن منابع GPU/TPU و شبکه‌بندی.
 • مدیریت آموزش توزیع‌شده: پیاده‌سازی و مدیریت فرآیندهای آموزش توزیع‌شده برای مدل‌های با میلیاردها پارامتر را با استفاده از فریم‌ورک‌هایی مانند DeepSpeed یا Megatron-LM فرا خواهید گرفت.
 • عملیات تنظیم دقیق کارآمد (Efficient Fine-tuning): عملیاتی‌سازی تکنیک‌های تنظیم دقیق پارامتر-کارآمد (PEFT) را در جریان‌های کاری MLOps یاد می‌گیرید.
 • استقرار پیشرفته LLM: نحوه استقرار مدل‌های بزرگ با استفاده از سرورهای استنتاج بهینه‌شده، کوانتیزاسیون و الگوهای سرویس‌دهی تخصصی را بررسی خواهیم کرد.
 • مانیتورینگ و مشاهده‌پذیری LLM: استراتژی‌های جامع مانیتورینگ برای عملکرد، هزینه، drift (انحراف مدل) و کیفیت خروجی LLMها را پیاده‌سازی خواهید کرد.
 • بهینه‌سازی هزینه: استراتژی‌هایی را برای مدیریت و بهینه‌سازی هزینه‌های قابل توجه مرتبط با آموزش و سرویس‌دهی مدل‌های بزرگ به کار می‌گیرید.
 • عملیات سیستم RAG: مدیریت جنبه‌های عملیاتی سیستم‌های تولید مبتنی بر بازیابی (Retrieval-Augmented Generation)، از جمله مدیریت پایگاه داده وکتور، را خواهید آموخت.
 با شرکت در این دوره، شما تکنیک‌های پیشرفته مدیریت زیرساخت، استقرار مدل، بهینه‌سازی عملکرد و نظارت اختصاصی برای مقیاس و پیچیدگی LLMها را فرا خواهید گرفت. همین امروز به جمع متخصصان LLMOps بپیوندید و آینده عملیات مدل‌های زبانی بزرگ را بسازید!

دیدگاه کاربران

2.5

بر اساس امتیاز 6 دانشجو

1
2
3
4
5

دانشجوی دوره

9 ماه پیش

5

واقعا چنین دوره یجاش در مکتب خونه خالی بوده

دانشجوی دوره

9 ماه پیش

5

دوره ی بسیار عالیه

امیرمحمد ناطقی

8 ماه پیش

2

مباحث تکراری شدید. همچنین کیفیت پایین از نظر ارایه پیاده سازی مفاهیم عملی مثل کار با کتابخونه ها یا توضیح الگوریتم ها

امیرکسری کاظمی

3 ماه پیش

1

کل دوره با notebook lm ساخته شده و ارزش دیدن نداره.

گواهینامه اختصاصی دو زبانه

پس از گذراندن دوره به صورت آنلاین در سایت مکتب‌خونه، گواهی‌نامه رسمی پایان دوره به زبان فارسی و انگلیسی، توسط مکتب‌خونه به اسم شما صادر شده و در اختیار شما قرار می‌گیرد.

امکان اشتراک گذاری در لینکدین
دو زبانه
6دوره
1,634دانشجو
51نظر و امتیاز

مهندس کامپیوتر ویژن با بیش از 5 سال تجربه در  صنعت نفت و گاز و راهنمایی و رانندگی کشور   مسلط به پایتون و C++، مهارت در فریم ورک های دیپ لرنینگ و ماشین لرنینگ 

 

6دوره
1,634دانشجو
51نظر و امتیاز

زینب صادقی دانشمند ارشد داده و مهندس یادگیری ماشین، متخصص در هوش مصنوعی مولد .

مهارت‌هایی که می‌آموزید

دوره‌های مشابه

دیگر دوره‌های رضا محمودی

دیگر دوره‌های زینب صادقی