۱ _ آموزش ساختار :که هدف از یادگیری ساختار پارتیشنبندی است که تعداد قواعد فازی را تحت تاثیر قرار میدهد.
۲_ یادگیری: در اینجا ساختار ماشین بردار پشتیبان از طریق خوشهبندی فازی آموزش داده میشود.
ماشینهای بردار پشتیبان دارای خواص زیر هستند[۱۲]:
طراحی دستهبندی کننده با حداکثر تعمیم
رسیدن به بهینه سراسری تابع هزینه
تعیین خودکار ساختار و توپولوژی بهینه برای طبقهبندی کننده
(( اینجا فقط تکه ای از متن درج شده است. برای خرید متن کامل فایل پایان نامه با فرمت ورد می توانید به سایت nefo.ir مراجعه نمایید و کلمه کلیدی مورد نظرتان را جستجو نمایید. ))
مدل کردن توابع تمایز غیرخطی با بهره گرفتن از هستههای غیرخطی و مفهوم حاصلضرب داخلی در فضاهای هیلبرت(یک فضای برداری کامل است که نورم آن معادل قدر مطلق از طریق ضرب نردهای تعریف میشود. در مکانیک کوانتومی فضای هیلبرت مختلط و اصولاً بینهایت بعدی است ولی در شرایط خاصی هم بعدهایش میتوانند متناهی باشند.)
فصل دوم: مروری بر کارهای انجام شده
۲-۱ مقدمه
در این فصل مروری بر راهکارهای پیشین و تحقیقهای اخیر در زمینه خوشهبندی صورت گرفته است که به توضیح مختصری از الگوریتمها و چگونگی و معیار خوشهبندی آنها پرداخته شده است.
۲-۲ کارهای انجام شده
در مرجع [۱۶] ، FS-FCSVM[10] به یک سیستم فازی گفته میشود که با قوانین if_then ساخته میشود و نتیجه این گونه سیستمها تک مقداری میباشد. پارامترها در FS_FCSVM از طریق یک دستگاه بردار پشتیبان SVM ساخته میشودکه تعداد قوانین در این گونه سیستمها به نسبت سیستم های فازی کوچکتر و زمان محاسبات آن کمتر است .
شبکه فازی عصبی و ماشین بردار پشتیبان دو نوع از روش های محاسباتی با بهرهوری و ظرفیت بالا میباشد. در FNN [۱۱] تنها پارامتر آموزش به حداقل رساندن مقدار خطاست بنابراین عملکرد تعمیم ممکن است ضعیف باشد. SVM شبکه جدید و قدرتمندی است که فرمولی که برای یادگیری استفاده میکند بر اساس به حداقل رساندن مقدار خطاست. قوانین فازی در اینجا برابر تعداد بردار پشتیبان (SV) است که معمولا خیلی بزرگ میباشد. نتایج آزمایش با FS_FCSVM خیلی بهتر از FNN میباشد ولی ایراد FS_FCSVM این است که تعداد قوانین آن زیاد است که این مشکل را میتوان با خوشهبندی فازی حل کرد.
Jung & shiu در [۱۶] با عنوان خوشهبندی فازی با ماشین بردار پشتیبان برای تقسیم بندی پوست انسان استفاده شدهاند.
جدول ۲-۱ : مقایسه چند روش مختلف فازی[۱۷]
همچنین نتایج پیاده سازی این مقاله و مقایسه دو روش FNN و SVMدر منحنی زیر نشان داده شده است:
شکل ۲-۱ : مقایسه دو روش FNN و SVM
در [۲] روشی مبتنی به پیشنهاد وزن فازی با بهره گرفتن از استدلال درونیابی میباشد که یک متد درونیابی وزن دار فازی پراکنده ارائه میدهد که به متغیرهای پیشین اجازه میدهد در قوانین فازی با وزن مختلف ظاهر شود. Yu_chung chang shyi_mingchen & به بررسی این روش در [۱۸] پرداختهاند.
شکل ۲-۲ : مقایسه وزنها به روش درونیابی و ژنتیک [۱۸]
نتایج تجربی نشان میدهد که وزن پیشنهادی به روش درونیابی بهتر از روش ژنتیک میباشد.
در [۱۹]روش نقشه فازی FCM که مبتنی بر منطق فازی و جنبههای شبکه عصبی است که به ارث میبرد. مزیت اصلی FCM مدلسازی و تصمیمگیری شبکه فازی است و باعث بهبود عملکرد آنها میشود.
FCM به منظور جمع آوری پیشرفتهای اخیر در یادگیری الگوریتم بکار میرود.FCM روشی برای نمایش داده و استنتاج میباشد که برای اینکار از گراف استفاده میشود که از گرهها به عنوان واحد اساسی برای ذخیره دانش و ساختمان آن نشان دهنده اهمیت یک سیستم است و استنتاج را میتوان بوسیله یک عملیات ماتریس عددی نشان داد. چون FCM مجموعه ای از مفاهیم بهم پیوسته میباشد انتشار پاسخ از گره اولیه بسیار شبیه مجموعه ای از گرههای شبکه عصبی است.
درتحقیقات [۱۷,۱۸,۱۹] روی یکسری از دادهها ، خوشهبندی به روش SVM فازی به وسیله ماشین بردار پشتیبان و شبکه عصبی فازی و FS_FCSVM انجام شده و با همدیگر مقایسه شده وبه این نتیجه رسید که FS_FCSVM از بقیه بهتراست ولی تعداد قوانین آن زیادتر است ، بنابراین اگر بخواهیم روش پیشنهادی خودرا باسایر روش ها مقایسه کنیم ،بهترین محک استفاده از مجموعه دادههای آزمایش شده است.در[۲۰] یک روش کاهش دهنده حجم داده بر اساس انتخاب دادههای مثلثی درون خوشهبندی فازی (FCM) مطرح شده است.
شکل ۲-۳ : خوشهبندی مثلثی دادهها [۲۰]
در ابتدا با بهره گرفتن از روش خوشه بندی فازی به خوشهبندی دادههای آموزش پرداخته میشود. در هر خوشه، سه داده آموزشی که بیشترین فاصله را با مرکز خوشه و یکدیگر دارند انتخاب میشوند. از دادههای مثلثی و مراکز خوشهها بعنوان دادههای آموزش کاهش یافته برای آموزش SVM استفاده میشود. نتایج آزمایشات انجام شده بر روی مجموعه دادههای بزرگ پایگاه داده UCI نشان میدهد که روش پیشنهادی علاوه بر کاهش زمان آموزش با انتخاب مناسب دادهها باعث تقویت ویژگی مقاوم بودن SVM در برابر دادههای نویزی و پرت و همچنین کاهش تعداد بردارهای پشتیبان انتخابی توسط SVM در مجموعه دادههای بزرگ میشود.
فصل سوم: روش پیشنهادی
۳-۱ مقدمه
در فصل گذشته مروری بر کارهای انجام شده در زمینه fs-fcsvmانجام شد . دربیشتر کارهای انجام شده، معیار بهینه سازی بر روی تعداد خوشههای فازی و تعداد SV ها برای ارزیابی کیفیت استفاده شده است. در این فصل یک روش جدید خوشهبندی ترکیبی بر اساس دو الگوریتم خوشهبندی فازی وخوشهبندی تفاضلی و همچنین تعیین پارامترهای SVM به کمک الگوریتم GRID SEARCH ارائه شده است.
۳-۲ چارچوب کلی روش پیشنهادی
محاسبه چگالی برای هر داده هداده
کاهش تعداد بردار پشتیبان و کم شدن تعداد قوانین svm
انتخاب داده با بیشترین چگالی به عنوان مرکز خوشه
محاسبه
مراکز خوشه به دست آمده
آموزش داده ها با svm
انجام خوشه بندی فازی روی داده ها
استفاده از الگوریتم گرید سرچ جهت انتخاب پارامتر پنالتی و پهنای کرنل
تعیین ماتریس تعلق و مقدار تعلق هر داده
مقایسه ماتریس تعلق و مقدار تعلق هر داده جهت انتخاب داده آموزشی
شکل ۳-۱ روال الگوریتم پیشنهادی برای خوشهبندی ترکیبی
شکل ۳-۱ : روش پیشنهادی
هدف این است که با انتخاب مناسب خوشهها تعداد بردار پشتیبان و در نتیجه تعداد قوانین در SVM را کاهش دهیم. مجموعهای از n داده در فضای M بعدی را در نظر بگیرید.
مرحله اول: در روش پیشنهادی مقدار چگالی برای هر داده طبق رابطه ۳-۱حساب می کنیم.
(۳-۱)
مرحله دوم: انتخاب داده با بیشترین چگالی به عنوان مراکز خوشهها است. برای این مرحله از ثابت عددی که یک عدد ثابت مثبت است شعاع همسایگی را مشخص میکند. از این رو یک نقطه از دادهها مقدار چگالی بالا خواهد داشت اگر تعداد نقاط زیادی در همسایگی داشته باشد.
اولین مرکز خوشه به عنوان نقطهای که بیشترین مقدار چگالی انتخاب میشود. سپس، مقدار چگالی هر نقطه به صورت زیر ارزیابی مجدد میشود:
| (۳-۲) |
