پاورپوینت شبکههای عصبی برای طبقهبندی، یک مرور (pptx) 33 اسلاید
دسته بندی : پاورپوینت
نوع فایل : PowerPoint (.pptx) ( قابل ویرایش و آماده پرینت )
تعداد اسلاید: 33 اسلاید
قسمتی از متن PowerPoint (.pptx) :
موضوع : شبکههای عصبی برای طبقهبندی، یک مرور
Neural Networks for Classification : A Survey
اردیبهشت 91
فهرست
مقدمه
1
تئوری طبقه بندی بیزین
2
شبکه های عصبی و طبقه بندی کننده های مرسوم
3
4
5
6
7
کاهش خطای پیش بینی
کلاس بندی تجمیعی
انتخاب متغیرهای ویژگی
جمعبندی
2 / 33
مقدمه
طبقه بندی یکی از پرتکرارترین وظایف ایجاد تصمیم در فعالیت های انسان است
بسیاری مسائل می توانند به عنوان مسائل طبقه بندی تلقی شود. مثلا
پیش بینی ورشکستگی
دادن وام
تشخیص پزشکی
تشخیص کاراکتر دست خط
تشخیص گفتار
طبقه بندی کننده های آماری مبتنی بر تئوری تصمیم بیزین هستند
3 / 33
مقدمه (ادامه)
شبکه های عصبی یک ابزار مهم برای طبقه بندی محسوب می شود
مزیت های شبکه های عصبی
روش های خود تطبیقی برای مبنای داده هستند
می تواند هر تابعی را با دقت دلخواه تخمین بزند
مدل های غیر خطی هستند
در تخمین احتمالات عقبی (posterior probability) توانا هستند
تعدادی از مسائل با توجه به شبکه های عصبی هنوز به طور موفقیت آمیزی حل نشده اند
4 / 33
تئوری طبقه بندی بیزین
تئوری تصمیم بیزین پایه روش های آماری است
مسئله طبقه بندی به M-گروه را در نظر بگیرید:
x : بردار صفت با d بعد
w : متغییر عضویت
𝑝( 𝑤 𝑗 ) : احتمال عقبی گروه j
𝑓( 𝑥|𝑤 𝑗 ) : تابع چگالی احتمال
5 / 33
تئوری طبقه بندی بیزین(ادامه)
فرض کنید داده x مشاهده شده است. احتمال خطای طبقه بندی به صورت زیر است :
اگر هدف به حداقل رساندن نرخ طبقه بندی اشتباه باشد , پس از قانون طبقه بندی بیزین به طور گسترده به صورت زیر استفاده می کنیم :
توابع جدا کننده خطی و درجه دوم میتوانند با اتخاذ توزیع نرمال چند متغیره برای چگالی شرطی 𝑓 𝑥 𝑤 𝑗 ) از بردار صفت x نتیجه شوند
6 / 33
تئوری طبقه بندی بیزین(ادامه)
دو مشکل در پذیرفتن قانون تصمیم بیز ساده :
در اکثر مواقع تابع چگالی معلوم نیست
به اثر خطای طبقه بندی اشتباه بی تفاوت هستیم
راهکار : نسبت دادن هزینه به خطای طبقه بندی اشتباه
c ij X : هزینه طبقه بندی اشتباه x به گروه i, در صورتی که در اصل متعلق به گروه j باشد
هزینه مورد انتظار به صورت زیر است :
قانون طبقه بندی بیزین به طوری کلی به صورت زیر است :
7 / 33
تخمین احتمال عقبی از طریق شبکه های عصبی
در مسائل طبقه بندی می توان با استفاده از شبکه های عصبی,تخمینی از احتمالات عقبی بدست آورد
یک شبکه عصبی برای مسئله طبقه بندی می تواند به صورت یک تابع نگاشت دیده شود :
𝑭 : 𝑹 𝒅 → 𝑹 𝑴
از تئوری تخمین کمترین مربعات در آمار, تابع نگاشت 𝐹:𝑥→𝑦, به صورت زیر است :
𝑭 𝒙 =𝑬[𝒚|𝒙]
j-امین عنصر F(x) به صورت زیر تعین می شود :
𝑭 𝒋 𝒙 =𝑬 𝒚 𝒋 𝒙 =𝟏.𝒑 𝒚 𝒋 =𝟏 𝒙)+𝟎 . 𝑷 𝒚 𝒋 =𝟎 𝒙)=𝒑 𝒚 𝒋 =𝟏 𝒙)=𝒑( 𝒘 𝒋 |𝒙)
می توان انواع دیگر تابع خطا را بکار برد.مثل: تابع آنتروپی تقابلی
8 / 33
شبکه های عصبی و طبقه بندی کننده های مرسوم
طبقه کننده های آماری مبتنی بر تئوری تصمیم بیزین هستند, که احتمالات عقبی نقش اصلی را بازی میکند
کد کردن مختلف اعضای خروجی :
مسئله طبقه بندی دو-گروه
اگر شی متعلق به کلاس 1 باشد, خروجی به صورت 1
اگر شی متعلق به کلاس 2 باشد, خروجی به صورت 1-
تابع جدا کننده زیر را داریم :
9 / 33