آموزش مقدماتی کدنویسی Transformers (مبدل‌ها)

این دوره سعی بر این دارد که با کلیت مبدل‌ها (Transformers) آشنا شوید و قادر به کدنویسی آنها برای اجرای پروژه‌های خود باشید. تئوری موضوع به‌طورکلی بیان شده و بیشتر بر اجرای کدها تمرکز شده ... ادامه

ارائه دهنده:  مکتب‌خونه  مکتب‌خونه
مدرس دوره:
 100% (4 رای)
سطح: مقدماتی
 پلاس
  
زمان مورد نیاز برای گذارندن دوره:  6 ساعت
مجموع محتوای آموزشی:  6 ساعت ویدئو
 (قابل دانلود می‌باشد)

آنچه در این دوره می‌آموزیم:

 آموزش مبدل‌ها

  آشنایی با Pipelineهای Huggingface

 آموزش یک مدل برای تشخیص هویت کلمه (NER)

  آشنایی با مدل‌های خلاصه‌سازی متن

پیش‌نیاز‌ها

پیش‌نیاز این دوره آشنایی مقدماتی با زبان برنامه‌نویسی پایتون است.

سرفصل‌های دوره آموزش مقدماتی کدنویسی Transformers (مبدل‌ها)

مقدمه

مقدمه ای کلی بر دوره

  مقدمه
"04:22  
Pipelines

آشنایی با Pipe lineها در کتابخانه Huggingface برای اجرا مدل‌های آماده در این کتابخانه

  Pipelines
"14:33  
طبقه‌بندی متن (Text classification)

آموزش مدل برای طبقه‌بندی متن و استفاده از دو روش Feature extraction و Fine tuning

  Data Set
"08:40  
  بصری‌سازی Data Set
"09:43  
  Tokenization - بخش اول
"13:07  
  Tokenization - بخش دوم
"09:41  
  Feature Extraction - بخش اول
"11:31  
  Feature Extraction - بخش دوم
"10:48  
  Fine Tuning - بخش اول
"13:56  
  Fine Tuning - بخش دوم
"05:37  
آناتومی مبدل‌ها (Transforme Anatomy)

آشنایی با قسمت‌های مختلف یک مبدل و کدنویسی آن‌ها

  آشنایی با بخش‌های مختلف یک مبدل
"08:41  
  Self َAttention - بخش اول
"15:13  
  Self َAttention - بخش دوم
"14:59  
  لایه Feed forward
"06:02  
  لایه Normalization
"07:15  
  بخش Positional embedding
"10:27  
  ایجاد کلاس Encoder
"11:37  
  تفاوت Encoder و Decoder
"09:14  
تشخیص هویت کلمه(NER)

مدلسازی برای تشخیص هویت کلمه(NER) و بهبود عملکرد آن با استفاده از fine tuning

  دیتاست
"16:09  
  انتخاب Tokenizer
"07:48  
  انتخاب مدل برای فرآیند NER
"15:26  
  دریافت خروجی از مدل بدون Train
"13:55  
  آماده‌سازی ورودی برای مدل
"17:38  
  Train - بخش اول
"18:38  
  Train - بخش دوم
"10:40  
تولید متن(Text generation)

پیاده سازی یک مدل تولید متن با استفاده از Pipeline و آشنایی با پارامترهای موجود برای بهبود عملکرد آن

  آشنایی با Hyperparameter
"14:43  
  پیاده‌سازی Hyperparameters
"10:35  
خلاصه سازی(Summarization)

پیاده سازی سه مدل معروف برای خلاصه سازی و مقایسه آنها با استفاده از معیار ارزیابی Rouge

  آماده‌سازی دیتا ست
"12:47  
  تولید خروجی از مدل‌ها برای مقایسه
"08:15  
  معرفی ابزار ارزیابی Rouge و Bleu
"07:31  
  پیاده‌سازی Rouge و Bleu
"09:57  

درباره دوره

این دوره سعی بر این دارد که با کلیت مبدل‌ها (Transformers) آشنا شوید و قادر به کدنویسی آنها برای اجرای پروژه‌های خود باشید.
 تئوری موضوع به‌طورکلی بیان شده و بیشتر بر اجرای کدها تمرکز شده است.
 این دوره به‌صورت مقدماتی و برای اجرای پروژه‌های پر تکرار بسیار مناسب است و به‌راحتی با آشنایی با موضوعات مطرح شده می‌توانید پروژه خودتان را پیاده‌سازی کنید.


 فریم‌ورک Pytorch برای کدنویسی استفاده شده است و از کتابخانه Huggingface برای آموزش مدل‌ها بهره‌گیری شده است.
 برای دیتاست‌ها و مدل‌ها همگی از Huggingface استفاده شده است
 مواردی که در این دوره فرا خواهید گرفت: 
 آشنایی با Pipelineهای Huggingface برای اجرای خودکار و بدون نیاز به آموزش مدل‌های موجود
 آشنایی با آموزش مدل‌های موجود به دو روش Feature extraction و Fine tuning در قالب طبقه‌بندی متن (Text classification)
 آشنایی کامل با کدنویسی جزءبه‌جزء قسمت‌های مختلف مبدل‌ها (Transformers)
 پیاده‌سازی و آموزش یک مدل برای تشخیص هویت کلمه (NER)
 آشنایی با مدل‌های تولید متن و نحوه تنظیم این مدل‌ها برای بهبود عملکرد
 آشنایی با مدل‌های خلاصه‌سازی متن و معیارهای ارزیابی متن‌های تولید شده (Rouge)

درباره استاد

maktabkhooneh-teacher حسن بنارضوی

حسن بنارضوی، کارشناسی ارشد برق گرایش کنترل نزدیک به 7 سال فعالیت و اجرای پروژه در حوزه هوش مصنوعی بینایی ماشین و پردازش متن ایشان تجربه فعالیت با عنوان مدیر پروژه در شرکت‌های تانا منیر سازه، رهیافت و دیاکو، مدیر فنی شرکت سروش مهر را در کارنامه خود داشته و هم اکنون به‌صورت آزادکار خود را در حوزه پردازش متن و LLM ادامه می‌دهد. ایشان دوره‌های بین‌المللی زیادی مانند Natural Language Processing in TensorFlow در کورسرا و Fine Tune BERT for Text Classification with TensorFlow نیز در کورسرا و 11 مورد دیگر در حوزه هوش مصنوعی را طی نموده و مدرک آنها را دریافت نموده است.

مشاهده پروفایل و دوره‌‌های استاد

نظرات کاربران  ( نظر)

صفحه 1 از
کوثر رجائی راد 1402-10-04
دانشجوی دوره
دوره خوبی به نظر میاد،اما کدهای پایتون اگه قرار داده بودید قطعا بهتر بود
سبحان محمدی 1402-09-25
دانشجوی دوره
سلام اگه ممکنه کد های دوره رو لطفا برای دانلود قرار بدید ممنون
1402-06-20
دانشجوی دوره
سلام خیلی خوب بود به نظرم در حوزه ترنسفورمر واقعا به یک ویدئو فارسی نیاز داشتیم ممنون از زحمات شما

دوره‌های پیشنهادی

سوالات پرتکرار

پس از سپری شدن زمان دوره، به محتوای دوره دسترسی خواهم داشت؟
بله؛ پس از سپری شدن مدت زمان دوره شما به محتوای دوره دسترسی خواهید داشت و می توانید از ویدئوها، تمارین، پروژه و دیگر محتوای دوره در صورت وجود استفاده کنید ولی امکان تصحیح تمارین توسط پشتیبان و دریافت گواهی نامه برای شما وجود نخواهد داشت.
poster
  
برگزار کننده:  مکتب‌خونه
  
زمان مورد نیاز برای گذارندن دوره:  6 ساعت
مجموع محتوای آموزشی:  6 ساعت ویدئو
 (قابل دانلود می‌باشد)