داتا ماينينج · CSC213

مقاييس الـ Similarity والـ Dissimilarity والـ k-Nearest Neighbours

داتا ماينينج شروحات ومراجعات

الـ similarity مقياس رقمي لمدى تشابه object مع التاني، والـ dissimilarity مقياس لمدى اختلافهم. والـ k-nearest neighbours بيصنف record جديد حسب أقرب records للتدريب.

الـ Similarity بتعلى لما الـ objects يبقوا أشبه وغالبًا بين 0 و1. الـ Dissimilarity بتقل لما يبقوا أشبه، وأقل قيمة غالبًا 0 والحد الأعلى بيختلف. والـ proximity اسم عام للاتنين. أشهر dissimilarity للبيانات الرقمية هي الـ Euclidean distance: d(x, y) = جذر مجموع (xi - yi) تربيع. والـ Manhattan distance مجموع الفروق المطلقة، والـ Minkowski بيعمّم الاتنين بـ parameter اسمه r. والـ cosine similarity بتقارن متجهات المستندات بالزاوية بينهم.

الـ k-nearest neighbours (k-NN) classifier بسيط: عشان تصنف record جديد دوّر على أقرب k record تدريب بمقياس مسافة وادّيله الـ class الأغلبية بين الجيران دول. الـ k هو عدد الجيران القريبين المستخدمين. k صغير أوي حساس للـ noise وk كبير أوي بيدخل نقط من classes تانية. وعشان الطريقة قايمة على المسافات لازم نعمل normalize للـ attributes الأول.

والـ Euclidean distance ممكن تضلل في الأبعاد العالية، وده من أسباب استخدام الـ dimensionality reduction.

أهم النقاط

  • Similarity: أعلى = أشبه وغالبًا 0 لـ 1.
  • Dissimilarity: أقل = أشبه وأقل قيمة غالبًا 0.
  • Euclidean = جذر مجموع المربعات؛ Manhattan = مجموع الفروق المطلقة.
  • الـ k-NN بيعمل تصويت بين أقرب k record تدريب.
  • اعمل normalize للـ attributes قبل استخدام المسافات.

مثال محلول

النقطتين (1, 2) و(4, 6): الـ Euclidean = sqrt(9 + 16) = 5. الـ Manhattan = 3 + 4 = 7.

أسئلة شائعة

يعني إيه k في الـ k-nearest neighbours؟

عدد أقرب records التدريب اللي بنرجعلها عشان نصنف record جديد.

أنهي مقياس dissimilarity؟

مقاييس المسافة زي Euclidean. كل ما المسافة أقل كل ما الـ objects أشبه.

أسئلة تدريب على الموضوع ده

جرّبها بنفسك، وبعدين افتح التطبيق وشوف الإجابة والشرح.

  1. Which is the number of nearby neighbours to be used to classify the new record?
    • A. k (the number of nearest neighbors)
    • B. Validation data
    • C. Euclidean Distance
    • D. All the above
  2. Which of these terms can mean a numerical measure of how alike two data objects are?
    • A. Similarity
    • B. Dissimilarity
    • C. Proximity
    • D. A, and C are true
  3. A numerical measure of how different two data objects are is:
    • A. Similarity measure
    • B. Dissimilarity measure
    • C. Proximity
    • D. B, C are true