×
ribbon

Apache Iceberg و معماری Lakehouse با چند موتور پردازشی

مدرس:Udemy

Snowbrix Academy

یاد می‌گیرید آیس‌برگ را به لیک هاوس چند موتور تبدیل کنید و از مشخصات تا تولید را پیاده‌سازی کنید.

جدید
زیرنویس
13دانشجو
10ساعت
سرفصل‌ها
پیشرفته سطح دوره
بروزرسانیمهر ۱۴۰۵
محتوای دوره
سرفصل‌ها
توضیحات دوره
دیدگاه کاربران
درباره مدرس

آنچه در این دوره می‌آموزید

خواندن مشخصات Iceberg به‌عنوان مدل ذهنی کارکردی شامل manifests، snapshots، metadata.json و پروتکل commit.

انتخاب کاتالوگ مناسب با استفاده از ماتریس Decision Spine و دفاع از گزینه.

راه‌اندازی lakehouse کامل با معماری مدال‌دار Iceberg با Kafka CDC، Spark MERGE و خوانندگان چند موتور.

اجرای نگهداری تولیدی شامل کمپاکشن، انقضای snapshots، پاکسازی رکوردهای بی‌صاحب و بازنویسی manifests با اعداد هزینه واقعی.

این دوره شامل:

10 ساعت ویدئو

گواهینامه مکتب‌خونه

دسترسی مادام‌العمر به محتوای دوره

زیرنویس اختصاصی مکتب‌خونه

سرفصل‌های دوره

23 فصل116 جلسه10 ساعت ویدیو
زنگ بیدارباش برای لیک هاوس
  بحران صبحگاهی لیک هاوس در روز دوشنبه
04:12
  چرا هایو متاستور به محدودیت رسید
03:28
  مسئلهٔ دشوار حفظ اتمیت، سازگاری، ایزولاسیون و دوام‌پذیری در ذخیره‌سازی شیء
04:25
  معنای واقعی لیک هاوس باز چیست
04:27
  نسخهٔ ۱ ستون تصمیم‌گیری وقتی آیس برگ سازگار است
03:51
چرا آیس برگ در نبرد فرمت‌ها واقعاً پیروز شد
  داستان منشاء آیس برگ نتفلیکس ۲۰۱۷
04:36
  جنگ‌های فرمت آیس برگ در برابر دلتا در برابر هودی
07:28
  نقاط عطف ۲۰۲۴ تا ۲۰۲۶
05:30
  حاکمیت آپاچی در برابر شاخه‌سازی فروشندگان
04:25
  خلاصه ماژول و پل ارتباطی به اجزای داخلی مشخصات
03:46
مشخصات ایس برگ بخش ۱ چیدمان پرونده
  آناتومی یک جدول ایس برگ
05:24
  گزینه‌های فایل‌های داده پارکت، اورک، آورو
05:37
  بررسی عمیق پرونده‌های منیفست
06:45
  فهرست‌های منیفست و نسخه‌ها
05:34
  کارگاه بازرسی یک جدول واقعی ایس برگ روی دیسک
06:20
مشخصات ایس برگ بخش ۲: اشاره‌گر کاتالوگ
  متادیتا منبع حقیقت
05:06
  تعهدات اتمی از طریق کاتالوگ
05:43
  نسخهٔ ۱ در برابر نسخهٔ ۲ چه تغییراتی رخ داده است
05:25
  کارگاه پیگیری یک تعهد از اسپارک به S3
06:08
تکامل طرحواره و پارتیشن‌بندی
  تکامل طرحواره: افزودن، حذف و تغییر نام به صورت ایمن
06:20
  تقسیم پنهان در مقابل تقسیم‌بندی هایو
06:40
  تکامل پارتیشن: تغییر بدون بازنویسی
05:31
  ترتیب‌های مرتب‌سازی و اثر آن‌ها
05:25
  آزمایشگاه: تکامل طرحواره و چیدمان پارتیشن
05:46
بررسی عمیق کاتالوگ REST
  چرا کاتالوگ REST آینده است
05:56
  مرور نقاط پایان رابط REST
05:43
  عملیات جدول فضای نام هویت
04:50
  احراز هویت با OAuth و AWS SigV4
05:01
  راه‌اندازی آزمایشگاه برای سرور کاتالوگ REST
05:41
مقایسه کاتالوگ‌های بزرگ پنج گانه
  معماری پولاریس و Snowflake
05:15
  Unity Catalog از Databricks با کد منبع باز
05:00
  Nessie و شاخه بندی داده‌ها
05:19
  کاتالوگ Aws Glue
04:29
  Hive متاستور هنوز پابرجاست
04:18
  کارت مرجع ماتریس تصمیم‌گیری کاتالوگ نسخه ۲
07:05
نوشتن با Spark
  نوشت‌های Spark Sql شامل درج، ادغام و به‌روزرسانی
06:08
  نوشت‌های API برای Dataframe
05:17
  الگوی نگارش، بازرسی و انتشار
06:02
  فشرده‌سازی در حین نوشتن
03:37
  آزمایشگاه ساخت یک لایه برنز
05:14
نوشتن‌های استریم با فِلینک و کافکا کانکت
  معماری سینک ایس برگ در فِلینک
05:15
  اتصال ایس برگ کافکا کانکت
04:32
  معنای دقیق یک‌بار
04:42
  مشکل فایل‌های کوچک و راهکارهای مقابله با آن
04:26
  تساوی در برابر حذف‌های موقعیتی
05:19
شناسایی تغییرات داده‌ها در ایس برگ
  خط لوله دبزیوم به کافکا به ایس برگ
05:56
  الگوهای به‌روزرسانی با ادغام
05:03
  نوع ابعاد با تغییر تدریجی نوع ۲ در ایس برگ
05:06
  مدیریت رویدادهای خارج از ترتيب
05:13

توضیحات دوره

تسلط بر مشخصات Iceberg، تمامی کاتالوگ‌ها، همه موتورهای پردازشی و اصول اجرای یک lakehouse چند موتور در عمل امکان‌پذیر می‌کند. آنچه یاد می‌گیرید عبارت است از: خواندن مشخصات Iceberg به‌عنوان مدل ذهنی کارکردی شامل manifests، snapshots، metadata.json و پروتکل commit؛ انتخاب کاتالوگ مناسب با استفاده از ماتریس Decision Spine و دفاع از گزینه؛ راه‌اندازی یک lakehouse کامل با معماری مدال‌دار Iceberg با Kafka CDC، Spark MERGE و خوانندگان چند موتور؛ اجرای نگهداری تولیدی شامل کمپاکشن، انقضای snapshots، پاکسازی رکوردهای بی‌صاحب و بازنویسی manifests با اعداد هزینه واقعی؛ پیاده‌سازی الگوهای WAP، شاخه‌بندی، برچسب‌گذاری و بازگشت تاریخ با Time Travel که هر دو حسابرس و SRE آن را امضا می‌کنند؛ مهاجرت Hive، Delta یا انبارهای Parquet خام به Iceberg با استراتژی مناسب برای موقعیت؛ تشخیص چهار خطای رایج Iceberg با استفاده از یک مجموعه چک‌لیست ده مرحله‌ای؛ عبور از ارزیابی معماری با هشت بُعد مشخصات، کاتالوگ، Writes/Reads، نگهداری، امنیت، هزینه و عیب‌یابی.

دیدگاه کاربران

5

بر اساس امتیاز 1 دانشجو

1
2
3
4
5

گواهینامه اختصاصی دو زبانه

پس از گذراندن دوره به صورت آنلاین در سایت مکتب‌خونه، گواهی‌نامه رسمی پایان دوره به زبان فارسی و انگلیسی، توسط مکتب‌خونه به اسم شما صادر شده و در اختیار شما قرار می‌گیرد.

امکان اشتراک گذاری در لینکدین
دو زبانه

ضمانت بازگشت وجه

کیفیت این آموزش توسط مکتب‌خونه تضمین شده است. در صورت عدم رضایت، با شرایط زیر می‌توانید درخواست بازگشت وجه کنید.

مهلت درخواستتا ۱۵ روز پس از خرید دوره
میزان مشاهدهکمتر از ۲۰ درصد یا ۵ جلسه از دوره
1دوره
13دانشجو
1نظر و امتیاز
«Snowbrix Academy» به‌عنوان مدرس این دوره معرفی شده است.
poster

Apache Iceberg و معماری Lakehouse با چند موتور پردازشی

13دانشجو

دوره‌های مشابه