الماشين ليرنينج · AI216

الـ Feature Scaling: Min-Max Normalization مقابل Standardization

الماشين ليرنينج شروحات ومراجعات

الـ feature scaling بيحط الـ attributes الرقمية على مدى متقارب. الـ min-max بيضغط القيم بين 0 و1، والـ standardization بيطلّع متوسط صفر وتباين 1.

في الغالب خوارزميات الـ ML مبتشتغلش كويس لما الـ attributes الرقمية scales بتاعتها مختلفة أوي (مثلًا total rooms من 6 لـ 39,320 والـ median income من 0 لـ 15). مش محتاجين نعمل scale للـ target values عادةً.

الـ Min-max scaling (normalization): اطرح الـ minimum واقسم على (max - min) فالقيم تطلع بين 0 و1. Scikit-Learn فيه MinMaxScaler وفيه hyperparameter اسمه feature_range لو عايز مدى غير 0 لـ 1. الـ Standardization: اطرح الـ mean (فالقيم يبقى متوسطها صفر) واقسم على الـ standard deviation (فالتوزيع يبقى تباينه 1). مبيحصرش القيم في مدى معين وده ممكن يبقى مشكلة لبعض الخوارزميات زي الـ neural networks اللي بتتوقع inputs من 0 لـ 1، بس بيتأثر بالـ outliers أقل بكتير. فيه StandardScaler.

اعمل fit للـ scalers على بيانات التدريب بس، وبعدين transform للتدريب والـ test بالأرقام اللي اتعلمها، عشان معلومات الـ test متتسربش. والـ Pipelines بتسلسل الـ transformers دي بالترتيب.

أهم النقاط

  • Min-max: (x - min) / (max - min) والمدى 0 لـ 1 وMinMaxScaler.
  • Standardization: (x - mean) / std وStandardScaler.
  • الـ standardization مبيحصرش القيم بس أقل تأثرًا بالـ outliers بكتير.
  • اعمل fit للـ scalers على الـ training set بس.
  • معظم الخوارزميات بتفضل أرقام على scales متقاربة.

مثال محلول

القيم 10 و20 و40 والـ min = 10 والـ max = 40: الـ min-max بيدي 0 و0.33 و1. الـ standardization المتوسط 23.3 والـ std حوالي 12.5 فالقيم بتبقى -1.07 و-0.27 و1.33.

أسئلة شائعة

أنهي أقل تأثرًا بالـ outliers؟

الـ standardization. قيمة متطرفة واحدة ممكن تضغط باقي القيم في الـ min-max في مدى صغير جدًا.

هل الـ standardization بيحصر القيم بين 0 و1؟

لأ، مبيحصرش القيم في مدى معين.

أسئلة تدريب على الموضوع ده

جرّبها بنفسك، وبعدين افتح التطبيق وشوف الإجابة والشرح.

  1. If your training data is full of errors, outliers, and noise is.......
    • A. Poor Quality Data
    • B. Irrelevant Features
    • C. Nonrepresentative Training Data
    • D. All of them are true
  2. In Min-max Scaling, by default, values are shifted and rescaled so that they end up ranging from -1 to 1
    • A. true
    • B. false
  3. Standardization bound values to a specific range
    • A. true
    • B. false
  4. Scikit-Learn provides a transformer called StandardScaler for standardization.
    • A. true
    • B. false
  5. Scikit-Learn provides a transformer called MinMaxScaler for normalization
    • A. true
    • B. false
  6. Standardization is much less affected by outliers
    • A. true
    • B. false