×
ribbon

تا پایان تخفیف

آموزش هوش مصنوعی مولد با مدل‌های زبانی بزرگ (LLM)

مدرس:

علیرضا اخوان‌پورکلاس ویژن

درس هوش مصنوعی مولد با مدل های زبانی بزرگ (LLM) یک دوره آموزشی جامع است که به معرفی... بیشتر
پرطرفدار
گواهی‌نامه
دسترسی: کامل
اطلاعات بیشتر
4.7 (190)
68 دیدگاه
4,757دانشجو
51ساعت
سرفصل‌ها
مقدماتی تا پیشرفته سطح دوره
بروزرسانیمرداد ۱۴۰۴

اشتراک مکتب‌پلاس

خرید اشتراک

با خرید اشتراک مکتب‌پلاس، علاوه بر این دوره، به بیش از ۴،۰۰۰ دوره دیگر دسترسی خواهید داشت.

دسترسی به تمام دوره‌هابیش از ۴،۰۰۰ دوره
محتوای دوره
سرفصل‌ها
پیش‌نیاز‌ها
توضیحات دوره
دیدگاه کاربران
درباره مدرس

آنچه در این دوره می‌آموزید

مفاهیم پایه و ساختار مدل‌های زبانی بزرگ (LLM)

روش‌های پیش‌پردازش داده و تکنیک‌های بهینه‌سازی مانند PEFT، LoRA و Peft

آموزش و ریزتنظیم (fine-tuning) مدل‌ها و تکنیک‌های بهبود عملکرد

بهینه‌سازی مبتنی بر بازخورد انسانی مانند RLHF، DPO و GRPO

این دوره شامل:

22 ساعت ویدئو

8 تمرین و پروژه

43 سؤال سنجش و یادگیری

8 فایل ضمیمه قابل دانلود

دسترسی به تالار گفتگو

گواهینامه مکتب‌خونه

دسترسی مادام‌العمر به محتوای دوره

8 هفته مهلت ارسال تمرین و پروژه

سرفصل‌های دوره

7 فصل101 جلسه22 ساعت ویدیو
موارد استفاده و چرخه عمر پروژه و آشنایی با Hugging face
  مقدمه
07:47
  هوش مصنوعی مولد و مدلهای زبانی بزرگ
10:43
  کوییز مقدماتی
01:00
  موارد استفاده و وظایف
08:19
  کوییز موارد استفاده و وظایف
02:00
  نحوه کار مدل‌های زبانی بزرگ - معماری ترنسفورمرها
14:39
  کوییز معماری ترنسفورمرها
01:00
  ترنسفورمرها - بخش اول
21:51
  ترنسفورمرها - بخش دوم
07:00
  کوییز ترنسفورمرها
01:00
  تولید متن با ترنسفورمرها
18:20
  کوییز تولید متن با ترنسفورمرها
03:00
  پرامپت (پرسش‌دهی) و مهندسی پرامپ
11:33
  پارامترهای پیکربندی تولیدی برای استنتاج - بخش اول
09:21
  پارامترهای پیکربندی تولیدی برای استنتاج - بخش دوم
07:15
  کوییز پارامترهای پیکربندی
01:00
  شروع کار با LLM در Google Colab: از Hugging Face تا آماده‌سازی دیتاست
15:33
  مفهوم Tokenization و اجرای Zero-Shot با LLMs
18:40
  پروژه خلاصه‌سازی در پایتون: از Zero تا Few-Shot با LLM و In-Context Learning
23:30
  چرخه حیات پروژه هوش مصنوعی مولد
11:22
  تمرین اول (الزامی)
150:00
  تمرین دوم (الزامی)
210:00
پیش‌آموزش LLM و قوانین مقیاس‌پذیری
  ملاحظات برای انتخاب مدل
04:08
  معماری‌های مدل و اهداف پیش‌آموزش
05:16
  مدلهای فقط خودرمزگذار
08:21
  مدلهای فقط رمزگشا
05:52
  مدل‌های توالی به توالی (مدلهای رمزگذار-رمزگشا)
07:22
  کوییز مدل‌های توالی به توالی
02:00
  رابطه اندازه مدل و دقت
12:47
  کوییز رابطه اندازه مدل و دقت
02:00
  چالش‌های محاسباتی و کوانتیزیشن
24:39
  استراتژی‌های محاسباتی کارآمد با چند پزدازنده گرافیکی (DDP) - بخش اول
05:52
  استراتژی‌های محاسباتی کارآمد با چند پردازنده گرافیکی (FSDP) - بخش دوم
19:03
  کوییز استراتژی‌های محاسباتی کارآمد با چند پزدازنده گرافیکی
01:00
  قوانین مقیاس‌پذیری و مدل‌های بهینه از نظر محاسباتی
12:02
  قانون Chinchilla و استثناها: نقش اندازه مدل و داده در عملکرد
10:54
  پیش‌آموزش برای انطباق دامنه
10:13
تنظیم دقیق (Fine-tuning) مدل‌های LLM با دستورالعمل‌ها و ارزیابی آن‌ها
  تنظیم دقیق یک LLM با استفاده از دستورالعمل‌های پرامپت
23:08
  fine-tune کردن روی یک وظیفه‌ی خاص
05:21
  کوییز fine-tune کردن روی یک وظیفه‌ی خاص
01:00
  fine-tuning چندوظیفه‌ای و دستوری
11:55
  کوییز fine-tuning چندوظیفه‌ای و دستوری
02:00
  معیارهای ارزیابی مدل‌های زبانی ROUGE
17:29
  معیارهای ارزیابی مدل BLEU
10:47
  بنچمارک‌ها در ارزیابی مدل‌های زبان بزرگ (LLM)
10:12
  کوییز بنچمارک‌ها در ارزیابی مدل‌های زبان بزرگ
02:00
  وظایف Close-ended و بنچمارک‌ها
18:17
  ارزیابی وظایف Open-ended با معیارهای مبتنی بر مدل
09:59
  ارزیابی انسانی، چالش‌ها و معیارهای ارزیابی بدون مرجع برای LLM‌ها
13:21
  خودارزیابی مدل‌های زبان بزرگ (LLM) با AlpacaEval : کاهش هزینه‌های ارزیابی
16:09
  تمرین سوم (الزامی)
180:00
فاین‌تیون کردن کارآمد پارامترها (PEFT)
  آشنایی با PEFT: روش‌های تنظیم دقیق کارآمد پارامترها
11:35
  کوییز آشنایی با PEFT: روش‌های تنظیم دقیق کارآمد پارامترها
03:00
  انطباق کم‌رتبه مدل‌های زبانی بزرگ (LoRA)
16:23
  کوییز انطباق کم‌رتبه مدل‌های زبانی بزرگ
01:00
  تنظیم پرامپت با soft promptها
13:33
  کوییز تنظیم پرامپت با soft promptها
02:00
  نحوه کرایه GPU ابری از Vast.ai
13:34
  پیاده سازی فاین‌تیون مدل هوش مصنوعی مولد برای خلاصه‌سازی گفت‌وگو
32:49
  فاین‌تیون کارآمد پارامترها (PEFT) برای خلاصه‌سازی گفت‌وگو: راه‌اندازی، آموزش و ارزیابی
18:57
  طبقه‌بندی نظرات IMDB با Gemma2 - بخش 1: راه‌اندازی نوت‌بوک و ورود به Hugging Face
14:13
  طبقه‌بندی نظرات IMDB با Gemma2 - بخش ۲: پیش‌پردازش داده‌ها، توکن‌سازی و آماده‌سازی برچسب‌ها
16:45
  طبقه‌بندی نظرات IMDB با Gemma2 - بخش ۳: تعریف معیارهای ارزیابی، کوانتیزاسیون و بارگذاری مدل ۴-بیتی
14:33
  طبقه‌بندی نظرات IMDB با Gemma2 - بخش ۴: آموزش مدل با استفاده از QLoRA
28:55
  ترجمه انگلیسی به فارسی با Gemma2-9B – بخش ۱: بارگذاری داده، آماده‌سازی مدل، و تولید اولیه ترجمه‌ها
23:30
  ترجمه انگلیسی به فارسی با Gemma2-9B – بخش ۲: ارزیابی کیفیت ترجمه با معیار BLEU و دیتاست PEPC
19:26
  ترجمه انگلیسی به فارسی با Gemma2-9B – بخش ۳: تنظیم LoRA و آموزش مدل با QLoRA
24:44
  ترجمه انگلیسی به فارسی با Gemma2-9B –: بارگذاری مدل آموزش‌دیده و استنتاج (Inference)
19:12
  آموزش Prompt Tuning با PEFT - بخش ۱: مقدمه و بارگذاری مدل Bloom
12:32
  آموزش Prompt Tuning با PEFT - بخش ۲: آماده‌سازی داده‌ها و ساخت دو مدل مختلف
13:30
  آموزش Prompt Tuning با PEFT - بخش ۳: آموزش مدل‌ها، ذخیره‌سازی و انجام استنتاج
12:08
  آموزش تولید شعر فارسی با GPT2 - بخش ۱: آماده‌سازی داده‌های شعر
13:04
  آموزش تولید شعر فارسی با GPT2 - بخش ۲: ساخت و توکنایز کردن مدل زبان فارسی
14:09
  آموزش تولید شعر فارسی با GPT2 - بخش ۳: آموزش، اعتبارسنجی و تولید شعر
19:59
  تمرین چهارم (الزامی)
210:00
  پروژه اول: خلاصه‌سازی کوتاه خبر با PEFT روی مدل مولد (الزامی)
240:00
  پروژه دوم: شناسایی موجودیت‌های نامدار فارسی با استفاده از PEFT (الزامی)
360:00
بازخورد انسانی و الگوریتم‌های پیشرفته یادگیری تقویتی
  همراستایی مدل‌ها با بازخورد انسانی: مفهوم و اهمیت
09:54
  مقدمه‌ای بر یادگیری تقویتی: مفاهیم پایه برای مدل‌های زبانی
17:08
  جمع‌آوری بازخوردهای انسانی
06:57
  آموزش مدل پاداش
09:27
  Fine-tune کردن با یادگیری تقویتی با بازخورد انسانی
05:07
  کوییز Fine-tune کردن با یادگیری تقویتی با بازخورد انسانی
01:00
  بهینه‌سازی خط‌مشی نزدیک
12:20
  Policy Loss در PPO: قلب الگوریتم به‌روزرسانی خط‌مشی
08:23
  کوییز Policy Loss در PPO
01:00
  درک Value Loss و Entropy Loss در RLHF
05:09
  وقتی مدل زرنگ‌بازی درمیاره! بررسی Reward Hacking و کنترل با KL Divergence
08:31
  کوییز بررسی Reward Hacking و کنترل با KL Divergence
01:00
  آموزش RLHF با FLAN-T5 - بخش اول: آماده‌سازی داده و ساخت دیتاست برای خلاصه‌سازی دیالوگ
16:04
  آموزش RLHF با FLAN-T5 - بخش دوم: بارگذاری مدل، اعمال LoRA و آماده‌سازی مدل مرجع و پاداش
14:58
  آموزش RLHF با FLAN-T5- بخش سوم: آموزش مدل با PPO، ارزیابی سمیّت، و مقایسه نتایج قبل و بعد از RLHF
15:01
  بهینه‌سازی مستقیم ترجیحات(DPO)
14:56
  کوییز بهینه‌سازی مستقیم ترجیحات
02:00
  آموزش DPO با Qwen - بخش اول: ساخت دیتاست ترجیحات برای عنوان‌گذاری ویدیوهای یوتیوب
14:53
  آموزش DPO با Qwen - بخش دوم: آموزش مدل بر اساس ترجیحات برای عنوان گذاری ویدیوهای یوتیوب
08:41
  DPO با Phi-3 - آماده‌سازی دیتای ترجیحات برای پاسخ‌های دقیق محاسباتی
18:48
  DPO با Phi-3 - آموزش مدل برای پاسخ دقیق به سوالات محاسباتی
13:35
  DPO با Phi-3 - تست مدل آموزش داده شده
07:12
  بهینه‌سازی سیاست نسبی گروهی
14:46
  انتخاب بین PPO، DPO و GRPO
06:28
  کوییز انتخاب بین PPO، DPO و GRPO
02:00
  درک عمیق الگوریتم GRPO
13:32
  مثال ساده فاین‌تیون LLM با روش GRPO برای محدود کردن طول جمله
07:01
  زنجیره افکار
08:15
  فاین‌تیون مدل زبانی بزرگ با LoRA و Unsloth - آماده‌سازی داده و تنظیمات - بخش اول
19:41
  آموزش مدل زبانی بزرگ با روش GRPO در Unsloth - توابع پاداش و تولید متن - بخش دوم
23:47
  مقیاس‌پذیر کردن بازخورد انسانی
10:53
  کوییز مقیاس‌پذیر کردن بازخورد انسانی
02:00
  تمرین پنجم (الزامی)
240:00
بهینه‌سازی مدل‌ها برای استقرار (Deploy)
  بهینه‌سازی مدل با هدف افزایش بهره‌وری برنامه کاربردی
03:58
  تقطیر دانش (Knowledge Distillation)
06:47
  کوییز تقطیر دانش
01:00
  کوانتیزیشن و هرس مدل
11:54
  کوییز کوانتیزیشن و هرس مدل
01:00
  هرس مدل‌های زبان بزرگ در عمل
23:44
  پیاده‌سازی تقطیر دانش(Knowledge Distillation) برای LLMها - بخش ۱: آماده‌سازی داده و مدل
15:34
  پیاده‌سازی تقطیر دانش(Knowledge Distillation) برای LLMها - بخش ۲: حلقه آموزش و ارزیابی
13:30
ساخت اپلیکیشن‌های هوشمند با LLM
  استفاده از مدل زبانی بزرگ در برنامه‌ها
06:15
  تولید متن تقویت‌شده از طریق بازیابی اطلاعات (RAG)
10:55
  گوییز RAG
02:00
  آماده‌سازی داده‌ها برای پایگاه برداری در مدل RAG
04:25
  آشنایی با امبدینگ جمله به‌صورت عملی
06:22
  RAG با LangChain بخش 1: آماده‌سازی مدل زبانی و امبدینگ برای پرسش‌وپاسخ از PDF
16:16
  RAG با LangChain بخش 2: تکه‌بندی PDF و ساخت اپلیکیشن پرسش‌وپاسخ برداری
14:12
  کوییز RAG با LangChain
04:00
  امکان‌پذیر ساختن تعامل با برنامه‌های خارجی
06:48
  کمک به LLM برای استدلال و برنامه‌ریزی با استفاده از روش «زنجیره تفکر»
07:19
  مدل‌های زبانی تقویت‌شده با برنامه‌نویسی
12:06
  حل مسائل ریاضی با تولید کد پایتون توسط مدل Mistral (به روش PAL)
16:50
  ReAct: ترکیب استدلال و اقدام در مدل‌های زبانی بزرگ
12:28
  کوییز PAL
01:00
  ساخت Agent با LangChain و مدل Qwen2.5 برای جستجوی زنده با DuckDuckGo
06:43
  جمع‌بندی نهایی و ادامه مسیر یادگیری
02:53
  تمرین نهایی (الزامی)
120:00

پیش‌نیاز‌ها

پیش‌نیاز شرکت در این دوره، آشنایی اولیه با زبان پایتون و مفاهیم پایه‌ی یادگیری ماشین و شبکه‌های عصبی است. آشنایی با کتابخانه‌هایی مانند PyTorch یا TensorFlow نیز بسیار مفید است، اما ضروری نیست.

توضیحات دوره

درس «هوش مصنوعی مولد با مدل‌های زبانی بزرگ (LLM)» یک دوره آموزشی جامع است که به معرفی مفاهیم، روش‌ها و کاربردهای مدل‌های زبانی پیشرفته می‌پردازد. این مدل‌ها در قلب ابزارهایی مانند ChatGPT، Gemini و Grok قرار دارند و در طیف گسترده‌ای از کاربردها از جمله تولید متن، پاسخ‌ به سوالات، ترجمه ماشینی، خلاصه‌سازی خودکار و حتی برنامه‌نویسی خودکار به کار می‌روند.

در این دوره ابتدا ساختار مدل‌های زبانی و مفاهیم پایه‌ای مانند زبان طبیعی، توکن‌سازی، ترنسفورمر و attention آموزش داده می‌شود. سپس مسیر آموزش این مدل‌ها از مرحله پیش‌تمرین (pretraining) تا ریزتنظیم (fine-tuning) بررسی می‌شود. پس از آن مفاهیم پیشرفته‌تری مانند instruction tuning، RLHF (یادگیری تقویتی از بازخورد انسانی)، و روش‌های جدیدتر مانند DPO (Direct Preference Optimization) و GRPO (General Reward Policy Optimization) معرفی و پیاده‌سازی می‌شوند.

یکی از ویژگی‌های برجسته این دوره، ارائه‌ی ۱۵ نوت‌بوک آموزشی و پروژه‌محور است که شامل مثال‌های کاربردی (از جمله مثال‌هایی در زبان فارسی) و کدهای قابل اجرا هستند. این ساختار به یادگیری عمیق‌تر و درک بهتر مفاهیم کمک می‌کند.
پیش‌نیاز شرکت در این دوره، آشنایی اولیه با زبان پایتون و مفاهیم پایه‌ی یادگیری ماشین و شبکه‌های عصبی است. آشنایی با کتابخانه‌هایی مانند PyTorch یا TensorFlow نیز بسیار مفید است، اما ضروری نیست.

این دوره مناسب دانشجویان، پژوهشگران، مهندسان نرم‌افزار، علاقه‌مندان به هوش مصنوعی و توسعه‌دهندگان NLP است و می‌تواند زمینه‌ساز فعالیت‌های پژوهشی یا کاربردی در حوزه مدل‌های زبانی بزرگ به زبان فارسی یا انگلیسی باشد.

دیدگاه کاربران

4.7

بر اساس امتیاز 191 دانشجو

1
2
3
4
5

رنی هاکوپیان

6 روز پیش

5

awlii

الهه بدلی گلعذانی

9 روز پیش

5

کامل و مفید

زمان زنگیان رکن آبادی

10 روز پیش

5

عالی

علیرضا هدایتی

13 روز پیش

5

عالی بود فقط لول بالا و سنگینه

دانشجوی دوره

14 روز پیش

5

استادی بی نظیر

سید محمد احمدی

15 روز پیش

5

عالی

گواهینامه اختصاصی دو زبانه

پس از گذراندن دوره به صورت آنلاین در سایت مکتب‌خونه، گواهی‌نامه رسمی پایان دوره به زبان فارسی و انگلیسی، توسط مکتب‌خونه به اسم شما صادر شده و در اختیار شما قرار می‌گیرد.

امکان اشتراک گذاری در لینکدین
دو زبانه
علیرضا اخوان‌پورمدرس و متخصص هوش مصنوعی
12دوره
57,090دانشجو
1,261نظر و امتیاز

علیرضا اخوان‌پور، متخصص برجسته در حوزه هوش مصنوعی و یادگیری عمیق، با بیش از ۱۰ سال سابقه تدریس و فعالیت حرفه‌ای، یکی از چهره‌های شناخته‌شده در این حوزه است. او علاوه بر سابقه ۷ سال مدیریت فنی در مجموعه دانش‌بنیان شناسا، در طراحی و پیاده‌سازی چندین پروژه عملی در زمینه پردازش تصویر، بینایی کامپیوتر و مدل‌های یادگیری عمیق نقش کلیدی داشته است.

از سال ۱۳۹۴ به عنوان مدرس در دانشگاه شهید رجایی فعالیت خود را آغاز کرد و از سال ۱۳۹۵ به طور تخصصی در حوزه هوش مصنوعی و یادگیری عمیق به تدریس مشغول است. در کنار تدریس، او چاپ مقالات بین‌المللی و داوری بیش از ۱۰ مقاله علمی را نیز در کارنامه دارد و تجربه عملی خود را با پیاده‌سازی پروژه‌های صنعتی و پژوهشی موفق ترکیب کرده است.

حضور او در محیط‌های آکادمیک با ارائه ورکشاپ در دانشگاه‌های امیرکبیر، شریف و تهران همراه بوده و دوره‌های تخصصی خود را در جهاد دانشگاهی شریف، دانشگاه تهران و سازمان‌های بزرگی مانند معاونت علمی و فناوری ریاست جمهوری، صندوق نوآوری و شکوفایی، همراه اول و دیجی‌کالا برگزار کرده است. همچنین در حوزه بانکی و تلکام، دوره‌های تخصصی برای کارکنان بانک‌های قوامین، سپه و صادرات و همراه اول و ایبیکام ارائه کرده و مدرس رویداد علم داده ایرانسل بوده است.

او در سایت مکتب‌خونه نیز دوره‌های پرمخاطبی در زمینه LLM، یادگیری عمیق، پردازش تصویر و OpenCV ضبط کرده که تجربه عملی گسترده او در پروژه‌های واقعی را نیز پوشش می‌دهند.

علیرضا اخوان‌پور به عنوان منتور و مشاور هوش مصنوعی با شتاب‌دهنده همتک و شرکت‌های معتبر مانند همراه اول و ایبیکام همکاری داشته و مدیریت سایت تخصصی Class.Vision را بر عهده دارد، که در زمینه هوش مصنوعی، یادگیری عمیق، بینایی کامپیوتر و یادگیری ماشین فعالیت می‌کند.

حضور موثر او در رویدادهای مهم مانند کنفرانس MVIP، فیس کاپ، داده ایرانسل و من برنامه‌نویسم و تولید محتوا در آکادمی همراه اول، مکتب‌خونه، کلاس ویژن و نماتک، به همراه تجربه عملی در چندین پروژه صنعتی و پژوهشی موفق، نقش برجسته او در گسترش دانش و کاربرد هوش مصنوعی در کشور را نشان می‌دهد.

کلاس ویژنسایت تخصصی برای دوره‌های هوش مصنوعی، دیپ لرنینگ، بینایی کامپیوتر و یادگیری ماشین
8دوره
53,866دانشجو
1,226نظر و امتیاز

کلاس‌ویژن، یک سایت تخصصی برای دوره‌های هوش مصنوعی، دیپ لرنینگ، بینایی کامپیوتر و یادگیری ماشین است.

مهارت‌هایی که می‌آموزید

دوره‌های مشابه

دیگر دوره‌های علیرضا اخوان‌پور

دیگر دوره‌های کلاس ویژن

سوالات پرتکرار

حداقل و حداکثر زمانی که می‌توانم یک دوره را بگذرانم چقدر است؟

برای گذراندن دوره، حداقل زمان مشخصی وجود ندارد و شما می‌توانید در هر زمان که مایل هستید، ویدیوهای آموزشی دوره را ببینید و تمارین را انجام دهید؛ اما برای هر دوره یک حداکثر زمان تعیین شده که در صفحه معرفی دوره قابل مشاهده است که تنها در این بازه زمانی امکان تصحیح پروژه‌ها توسط پشتیبان و دریافت گواهی‌نامه را خواهید داشت.

آیا پس از به اتمام رساندن و قبولی در دوره، می‌توانم نسخه فیزیکی گواهی‌نامه را دریافت کنم؟

خیر. به‌دلیل ملاحظات محیط‌زیستی و کاهش مصرف کاغذ، گواهی‌نامه فقط به‌صورت الکترونیکی ارائه می‌شود.

آیا بعد از پایان مدت دوره همچنان به محتوای آن دسترسی دارم؟

بله. پس از پایان مدت دوره نیز به ویدئوها، تمرین‌ها، پروژه‌ها و سایر محتوای آموزشی دوره دسترسی خواهید داشت؛ اما امکان تصحیح تمرین‌ها توسط پشتیبان دوره و دریافت گواهی‌نامه برای شما وجود نخواهد داشت.

آیا در صورت خرید دوره، گواهی‌نامه آن به من تعلق می‌گیرد؟

خیر. با خرید دوره، امکان شرکت در دوره و دسترسی به محتوای آن را خواهید داشت؛ اما تنها در صورتی که در بازه زمانی تعیین‌شده دوره را با موفقیت و نمره قبولی به اتمام برسانید، گواهی‌نامه به نام شما صادر می‌شود.