پاورپوینت طبقه‌بندهای خطی (pptx) 49 اسلاید
دسته بندی : پاورپوینت
نوع فایل : PowerPoint (.pptx) ( قابل ویرایش و آماده پرینت )
تعداد اسلاید: 49 اسلاید
قسمتی از متن PowerPoint (.pptx) :
بنام خدا
طبقه‌بندهای خطی
Linear Classifiers
رئوس مطالب
1- توابع تمایز خطی و ابرصفحه‌های تصمیم
2- الگوریتم پرسپترون
3- روشهای حداقل مربعات
4- تخمین میانگین مربع
5- تمایز لجستیک
6- ماشین‌های بردار پشتیبان
3-1- مقدمه
مزیت اصلی طبقه‌بندهای خطی در سادگی و جذابیت محاسباتی
فرضیه طبقه‌بندی تمام بردارهای ویژگی از کلاس‌های موجود با طبقه‌بند خطی
3-2- توابع تمایز خطی و ابرصفحه‌های تصمیم
برای مسئله دو کلاسه و تابع تمایز خطی، ابرصفحه تصمیم در فضای ویژگی l بعدی
در رابطه بالا، بردار وزن و نیز مقدار آستانه می‌باشد
اگر x1 و x2 دو نقطه روی ابرصفحه تصمیم باشند، آنگاه داریم
باتوجه به برقراری رابطه بالا بازای هر دو نقطه از صفحه تصمیم، لذا بردار وزن بر ابرصفحه عمود می‌باشد
برای و شکل زیر داریم
3-3- الگوریتم پرسپترون
هدف محاسبه پارامترهای نامعین جهت تعریف ابرصفحه تصمیم می‌باشد
جهت سادگی، مسئله دو کلاسه با جدایی‌پذیری خطی را درنظر بگیرید. یک ابرصفحه با معادله وجود دارد بطوریکه
معادله بالا حالت کلی‌تری از رابطه قبلی است، اگر در فضای l+1 بعدی بنویسیم
جهت حل معادله با یک مسئله بهینه‌سازی مواجه هستیم. بنابراین، یک تابع هزینه، تابع هزینه پرسپترون، بصورت زیر انتخاب می‌کنیم
در رابطه‌بالا، Y زیرمجموعه‌ای از بردارهای آموزش است که بطور اشتباه طبقه‌بندی شده و
تابع هزینه تعریفی همواره بزرگتر یا مساوی صفر خواهدبود. این تابع زمانی کمینه می‌شود که تمام نمونه‌ها بدرستی تفکیک‌شده و لذا، تابع هزینه صفر شود.
با استفاده از روش گرادیان نزولی (Gradient descent) برای بردار وزن داریم
در رابطه بالا، ρt رشته‌ای از اعداد حقیقی مثبت بوده و t نیز اندیس مراحل تکرار می‌باشد.
در نقاط پیوسته تابع هزینه، مشتق نسبت به بردار وزن موجود بوده و داریم
با جایگزینی در رابطه گرادیان نزولی، رابطه بازگشتی زیر حاصل می‌شود
معادله بالا در تمام نقاط تعریف شده است و به الگوریتم پرسپترون معروف می‌باشد.
با مقداردهی اولیه بردار وزن و تشکیل بردار تصحیح از روی ویژگی‌های اشتباه طبقه‌بندی شده، الگوریتم تا طبقه‌بندی صحیح تمام ویژگی‌ها ادامه می‌یابد.
یک شبه کد برای اینکار بصورت زیر می‌باشد
نقش ρt در همگرایی الگوریتم با تعداد محدودی از گام تکرار می‌باشد.
عدم یکتایی راه‌حل بدلیل وجود بیش‌از یک ابرصفحه خطی برای دو کلاس جدایی‌پذیر خطی
مثال: شکل زیر خط‌چین را با بردار وزن نشان می‌دهد. این خط در آخرین گام از الگوریتم با ρt= ρ= 0.7 محاسبه شده‌است و تمام نقاط باستثنای دو نقطه را بدرستی طبقه‌بندی می‌کند.