العودة إلى الدورات
متوسط
الذكاء الاصطناعي وتعلم الآلة
en
البدء مع نموذج جوجل بيرت (BERT)
إديوكيتيف
منصة
· Washington, USA
عن هذه الدورة
تغطي هذه الدورة الشاملة بنية نموذج جوجل بيرت (BERT) ودوره الثوري في معالجة اللغة الطبيعية (NLP). ستبدأ بالتعرّف على بنية بيرت وطرق التدريب المسبق، ثم تستكشف أساسيات نماذج المحوّل مثل مكوّنات المرمِّز/المفسِّر وآلية الانتباه الذاتي والانتباه متعدد الرؤوس. من خلال تمارين برمجية عملية ومشاريع، ستقوم بضبط نماذج بيرت المدربة مسبقًا لمهام مثل تحليل المشاعر، والإجابة عن الأسئلة، واستخراج الكيانات المسماة. ستعمل أيضًا مع نسخ بيرت المختلفة مثل ALBERT وRoBERTa وELECTRA وDistilBERT وTinyBERT وSpanBERT، بالإضافة إلى النماذج المتخصصة في مجالات معينة مثل ClinicalBERT وBioBERT وFinBERT. أخيرًا، ستطبّق بيرت في تلخيص النصوص باستخدام BERTSUM، وفي النماذج متعددة اللغات ونماذج الجمل، وكذلك في التطبيقات المتقدمة مثل VideoBERT وBART، مع استخدام مكتبات مثل Hugging Face Transformers لبناء حلول عملية في مجال معالجة اللغة الطبيعية.
المهارات المطلوبة مسبقاً
المهارات التي يُفضّل امتلاكها قبل الالتحاق بهذه الدورة
بايثون
تعلم الآلة
التعلم العميق
الشبكات العصبية
المهارات المكتسبة
المهارات التي ستكتسبها عند إتمام هذه الدورة
معالجة اللغة الطبيعية (NLP)
بنية المحوّل (Transformer)
جوجل بيرت (Google BERT)
الضبط الدقيق لنموذج بيرت
نسخ بيرت المختلفة (ALBERT وRoBERTa وELECTRA وDistilBERT وTinyBERT)
تلخيص النصوص (BERTSUM وBART)
نماذج بيرت متعددة اللغات والمتخصصة في مجالات معينة
مكتبة Hugging Face Transformers