×
ribbon

آزمایش نفوذ مدل های GenAI LLM - تأمین امنیت مدل های بزرگ زبان

مدرس:Udemy

Start-Tech Trainings

آزمایش نفوذ و ایمن‌سازی مدل‌های GenAI (LLM)

جدید
زیرنویس
7دانشجو
3ساعت
سرفصل‌ها
مقدماتی سطح دوره
بروزرسانیشهریور ۱۴۰۵
محتوای دوره
سرفصل‌ها
توضیحات دوره
دیدگاه کاربران
درباره مدرس

آنچه در این دوره می‌آموزید

درک آسیب‌پذیری‌های منحصر به فرد مدل‌های زبان بزرگ در کاربردهای دنیای واقعی.

بررسی مفاهیم کلیدی آزمایش نفوذ و کاربرد آن‌ها در سامانه‌های هوش مصنوعی مولد.

تسلط بر فرایند تیم‌سازی برای LLMها با استفاده از تکنیک‌های عملی و شبیه‌سازی حملات واقعی.

تحلیل اینکه چرا معیارهای سنتی در امنیت GenAI ناکافی‌اند و یادگیری روش‌های ارزیابی بهتر.

این دوره شامل:

3 ساعت ویدئو

گواهینامه مکتب‌خونه

دسترسی مادام‌العمر به محتوای دوره

زیرنویس اختصاصی مکتب‌خونه

سرفصل‌های دوره

8 فصل49 جلسه3 ساعت ویدیو
معرفی
  معرفی و منابع دوره
02:25
آشنایی با امنیت مدل‌های زبان بزرگ و آزمایش نفوذ
  آزمایش نفوذ چیست؟
04:18
  چرا مدل‌های زبان بزرگ آسیب‌پذیرند؟
02:34
بررسی آسیب‌پذیری‌های مدل‌های زبان بزرگ
  چرا معیارها برای ایمنی و امنیت هوش مصنوعی کافی نیستند؟
02:03
  آسیب‌پذیری‌های کاربردی مدل‌های زبان بزرگ — دمو 01 (توضیح کد)
03:00
  آسیب‌پذیری‌های کاربردی مدل‌های زبان بزرگ — دمو 02 (تعصب و کلیشه‌ها)
03:34
  آسیب‌پذیری‌های کاربردی مدل‌های زبان بزرگ — دمو 03 (افشای داده‌های حساس)
04:50
  آسیب‌پذیری‌های کاربردی مدل‌های زبان بزرگ — دمو 04 (اخلال در خدمات)
02:04
  آسیب‌پذیری‌های برنامه‌های مدل زبان بزرگ — نمونه — ۰۵ (توهم)
04:04
  مدل‌های پایه در برابر برنامه‌های مدل زبان بزرگ
02:37
  استراتژی‌های ایمنی برنامه‌های مدل زبان بزرگ
02:49
  بررسی آسیب‌پذیری‌های مدل زبان بزرگ
02:21
  مرور کلی برنامه مدل زبان بزرگ — نمونه
01:05
  وارد کردن برنامه مدل زبان بزرگ
00:52
اصول آزمون نفوذ و تیم قرمز
  چرا آزمون نفوذ برای هوش مصنوعی مولد ضروری است
04:34
  مقایسه تیم قرمز و آزمون نفوذ
04:07
  فرایند آزمون نفوذ
03:29
  استغلال آسیب
02:46
  پس از استغلال
04:15
تیم قرمز برای مدل‌های زبانی بزرگ
  تیم قرمز برای مدل‌های زبانی بزرگ: پنج تکنیک کلیدی
12:47
روش‌ها و راهبردهای گزارش و کاهش آسیب
  گزارش
01:29
  رفع آسیب و گزارش
03:31
چارچوب میتر 'ATT&CK' برای مدل‌های زبانی بزرگ
  'ATT&CK' چیست؟
01:58
  درک هرم درد
06:42
  مروری بر ماتریس‌های 'ATT&CK'
01:34
  تاکتیک‌های 'ATT&CK'
11:02
  تکنیک‌های 'ATT&CK'
03:37
  زیرتکنیک‌های 'ATT&CK'
04:30
  منابع داده برای 'ATT&CK'
01:58
  استراتژی‌های تشخیص
02:09
  پیاده‌سازی تکنیک‌های کاهش آسیب
02:21
  بررسی گروه‌های 'ATT&CK'
02:33
  نرم‌افزارها در چارچوب 'ATT&CK'
01:57
  نمای کلی کارزارها
02:29
  روابط 'ATT&CK'
02:23
  ماتریس سازمانی 'ATT&CK' - کارگاه عملی
14:53
آسیب‌پذیری‌های برنامه‌های 'LLM'
  تزریق پرومپت
02:47
  نمایش تزریق پرومپت به‌طور غیر مستقیم
12:50
  نظریه مدیریت خروجی ناامن
03:08
  دموی مدیریت خروجی ناامن
11:02
  آسیب‌پذیری‌های زنجیره تأمین
03:25
  مدل انکار سرویس
05:16
  توقف حمله انکار سرویس مدل
02:10
  آلودگی داده‌های آموزشی
03:15
  افشای اطلاعات حساس
03:28
  امنیت افزونه‌ها در مدل‌های زبان بزرگ
02:16
  اختیار بیش از حد
02:44
  اعتماد بیش از حد
04:16
  سرقت مدل
02:33

توضیحات دوره

امنیت مدل‌های بزرگ زبان (LLM): آزمایش نفوذ، تیم‌سازی (Red Team) و MITRE ATT&CK برای مدل‌های زبان بزرگ امن. این دوره به تحلیل آسیب‌پذیرترین جنبه‌های LLMها و یادگیری روش‌های عملی برای آزمایش نفوذ، شبیه‌سازی حملات و ارزیابی امنیت GenAI می‌پردازد. هرچه سریع‌تر با استفاده از چارچوب MITRE ATT&CK تاکتیک‌های مهاجم علیه LLMها را نقشه‌برداری کنید، تهدیدهای خاص مانند تزریق پرامپت، توهم‌ها و پاسخ‌های دارای سوگیری را شناسایی و کاهش دهید و نتایج بهره‌برداری را گزارش کنید. همچنین به تفاوت معیارهای قدیمی با شیوه‌های ارزیابی نوین در امنیت GenAI می‌پردازد.

گواهینامه اختصاصی دو زبانه

پس از گذراندن دوره به صورت آنلاین در سایت مکتب‌خونه، گواهی‌نامه رسمی پایان دوره به زبان فارسی و انگلیسی، توسط مکتب‌خونه به اسم شما صادر شده و در اختیار شما قرار می‌گیرد.

امکان اشتراک گذاری در لینکدین
دو زبانه

ضمانت بازگشت وجه

کیفیت این آموزش توسط مکتب‌خونه تضمین شده است. در صورت عدم رضایت، با شرایط زیر می‌توانید درخواست بازگشت وجه کنید.

مهلت درخواستتا ۱۵ روز پس از خرید دوره
میزان مشاهدهکمتر از ۲۰ درصد یا ۵ جلسه از دوره
3دوره
36دانشجو
3نظر و امتیاز
استارت-تک آکادمی یک شرکت آموزشی مبتنی بر فناوری در حوزه تحلیل داده است و هدف آن گردآوردن شرکت‌های تحلیل داده و فراگیران علاقه‌مند است. محتوای آموزشی باکیفیت بالا همراه با فرصت‌های کارآموزی و پروژه به دانش‌آموختگان در آغاز سفر تحلیل داده کمک می‌کند. این مؤسسه توسط ابیشیک بنسال و پوخرج پارِخ تأسیس شده است. پوخرج پارِخ به‌عنوان مدیر پروژه در یک شرکت مشاوره تحلیل داده، سال‌ها تجربه کار با ابزارها و نرم‌افزارهای تحلیل دارد. او به MS Office، محاسبات ابری، SQL، Tableau، SAS، Google Analytics و Python تسلط دارد. ابیشیک بنسال پیش از پیوستن به حوزه یادگیری ماشین و هوش مصنوعی، به‌عنوان صاحب فرایند به‌دست آوردن در شرکت مخابراتی پیشرو کار می‌کرد و سپس به یادگیری و تدریس فناوری‌هایی مانند یادگیری ماشین و هوش مصنوعی روی آورد.
poster

آزمایش نفوذ مدل های GenAI LLM - تأمین امنیت مدل های بزرگ زبان

7دانشجو

دوره‌های مشابه