الـ RMSE مقابل الـ MAE: مقاييس الخطأ في الـ Regression والـ Norms
الـ RMSE والـ MAE بيقيسوا المسافة بين vector التوقعات وvector الـ targets. الـ RMSE هو الـ l2 norm (Euclidean) والـ MAE هو الـ l1 norm (Manhattan).
المقياس المعتاد للـ regression هو الـ root mean squared error (RMSE). بيدّي فكرة عن حجم الخطأ اللي النظام بيعمله عادةً في التوقعات، بوزن أعلى للأخطاء الكبيرة. الـ RMSE(X, h) هو الـ cost function على مجموعة الأمثلة باستخدام الـ hypothesis h، حيث X هي الـ dataset وh دالة التوقع وm عدد الـ instances.
الـ mean absolute error (MAE) بنفضله لما يبقى فيه outliers كتير. حساب الـ RMSE بيقابل الـ Euclidean norm (الـ l2 norm) ورمزه ||.||2 وهو مفهوم المسافة المعتاد. حساب الـ MAE بيقابل الـ l1 norm ورمزه ||.||1 واسمه Manhattan norm لأنه بيقيس المسافة بين نقطتين في مدينة لو مقدرتش تمشي غير في الشوارع المتعامدة.
بشكل عام الـ l_k norm لـ vector فيه n عنصر هو الجذر رقم k لمجموع |v_i| أُس k. كل ما الـ norm index يعلى بيركز على القيم الكبيرة ويهمل الصغيرة. عشان كده الـ RMSE أكتر حساسية للـ outliers من الـ MAE، بس لو الـ outliers نادرة جدًا الـ RMSE بيشتغل كويس وبيتفضل عادةً.
أهم النقاط
- RMSE = l2 norm (Euclidean) والـ MAE = l1 norm (Manhattan).
- الـ RMSE بيعاقب الأخطاء الكبيرة أكتر.
- الـ norm index الأعلى بيركز على القيم الكبيرة.
- لو فيه outliers كتير فكر في الـ MAE.
- m هو عدد الـ instances في الـ dataset.
مثال محلول
أخطاء 1 و1 و10. الـ MAE = 4. الـ RMSE = sqrt((1 + 1 + 100) / 3) = sqrt(34) = 5.83، أكبر لأن الـ 10 وزنها عالي.
أسئلة شائعة
أنهي مقياس أكتر حساسية للـ outliers؟
الـ RMSE لأنه بيربّع الأخطاء.
أنهي norm هو الـ Manhattan norm؟
الـ l1 norm اللي بيستخدمه الـ MAE.
أسئلة تدريب على الموضوع ده
جرّبها بنفسك، وبعدين افتح التطبيق وشوف الإجابة والشرح.
- Computing the RMSE corresponds to the Manhattan norm. It is also called the l2 norm, noted ||.||2 (or just ||.||).
- A. true
- B. false
- Both the RMSE and the MAE are ways to measure the distance between the vector of predictions and the vector of target values.
- A. true
- B. false
- The higher the norm index, the more it focuses on large values and neglects small ones.
- A. true
- B. false
- RMSE(X, h), X is the number of instances in the dataset.
- A. true
- B. false
- Scikit-Learn provides a transformer called MinMaxScaler for normalization
- A. true
- B. false
- RMSE(X, h) is the cost function measured on the set of examples using your hypothesis h.
- A. true
- B. false
مواضيع مرتبطة
- الـ Feature Scaling: Min-Max Normalization مقابل Standardization
- يعني إيه Machine Learning؟
- الفرق بين Supervised و Unsupervised و Semi-supervised و Reinforcement Learning
- الـ Overfitting والـ Underfitting في الماشين ليرنينج
- الفرق بين Batch Learning و Online Learning
- الـ Confusion Matrix والـ Precision والـ Recall والـ F1 Score
- كل المواضيع: الماشين ليرنينج
بصمجلي مشروع طلابي مستقل، مش موقع رسمي لجامعة الدلتا. ارجع لمحاضراتك ودكتورك دايمًا.