کلاس بندی داده ها با استفاده از الگوریتم Logistic Regression

الگوریتم Logistic Regression یک طبقه بند می باشد که میتواند داده هایی را که کلاس 0 یا 1 دارند را از هم تفکیک کند. همچنین با استفاده از این الگورتیم میتوانیم با توجه به داده های موجود پیش بینی نیز انجام دهیم. بعنوان مثال در تشخیص بیمار (اینکه آیا یک شخص بیمار است یا خیر) یا در تشخیص تقلب در تراکنش های بانکی (تقلب صورت گرفته است یا خیر) یا در تشخیص ایمیل ها اسپم از ایمیل های غیر اسپم و غیره از این مدل استفاده کرد.

نکته ای که باید مورد توجه قرار گیرد این است که در این مدل، خروجی یا همان کلاس داده ها باید باینری یا به اصطلاح یک مقدار منطفی (0 یا 1) داشته باشد.

روال الگوریتم به این شکل است که بر اساس یک تابع هزینه یا Cost کار میکند و در حین آموزش مدل سعی میشود مقدار Cost را مینیمم کرد.

تابع هزینه یا Cost بصورت زیر تعریف میشود:

برای دریافت جزئیات بیشتر الگوریتم ، همچنین کد متلب الگوریتم Logistic Regression از بخش زیر اقدام کرده و بصورت آنلاین کد متلب به همراه فایل توضیحات روش و توضیحات کد را دریافت کنید.

تصویری از محیط کد نویسی برنامه :

تصویری از خروجی برنامه طبقه بندی با Logistic Regression:

برای دریافت جزئیات بیشتر الگوریتم ، همچنین کد متلب الگوریتم Logistic Regression از بخش زیر اقدام کرده و بصورت آنلاین کد متلب به همراه فایل توضیحات روش و توضیحات کد را دریافت کنید.

نوشته کد متلب الگوریتم Logistic Regression اولین بار در برنامه نویسی هوشمند پدیدار شد.

ایمیل های اسپم:

• پیغامهایی در Inbox شما هستند که شما آن ها را نخواسته و زمانی را برای بیرون انداختن آنها صرف می کنید.
• در مقابل آن : نامه های الکترونیکی معتبر قرار میگیرند
• 75-80% از حجم نامه های الکترونیکی را اسپم ها (spam) تشکیل می دهند
• باعث ایجاد ترافیک شده و فضای حافظه و قدرت محاسباتی را از بین می برد

برخی از اهداف ایمیل های اسپم:

• بیشتر به منظور اهداف اقتصادی است
• تبلیغ برای یک کالای خاص، سرویس خاص و یا یک ایده خاص
• فریب کاربران برای استفاده از اطلاعات محرمانه آنها ß phishing
• انتقال یک نرم افزار خرابکار به کامیپوتر کاربر (مثلاً ویروس)
• ایجاد یک خرابی به صورت موقتی در Mail-Server
• ایجاد ترافیک
• پخش مطالب غیراخلاقی

اسپم ها دائما در حال تغییر محتوا و شکل هستند، برای اینکه توسط آنتی اسپم ها شناسایی نشوند.

• در یادگیری ماشینی برای عمل دسته بندی (Classification) از نمونه داده هایی (ایمیل هایی) که از قبل فراهم شده است(داده آموزش یا training) و هر یک دسته (کلاس،برچسب) مشخص دارد، استفاده کرده و دسته (کلاس) یک نمونه جدید (نمونه تست) را تعیین می کنیم.

فیلترینگ اسپم بیزی یک روش آماری برای فیلترینگ ایمیل است.این روش از دسته‌بندی کننده نایو بیز (Naive Bayes) برای تشخیص ایمیل‌های اسپم استفاده می‌کند.

در حالت کلی روال کار فیلترینگ اسپم بیزی را میتوان بصورت زیر تعریف کرد:

کلمات مشخص در ایمیل‌های غیر اسپم و اسپم دارای احتمال خاصی هستند. برای مثال اکثر کاربران در ایمیل‌های اسپم با کلمه “Viagra” برخورد می‌کنند اما به ندرت در ایمیل‌های عادی با این کلمه برخورد می‌کنند. فیلتر از قبل این احتمالات را نمی‌داند و باید آن‌ها را یاد بگیرد و برای خود بسازد. برای یادگیری فیلتر، کاربر باید به طور دستی مشخص کند که آیا ایمیل جدید اسپم است یا نه. فیلتر در هنگام یادگیری برای تمام کلمات، احتمال را محاسبه و آن‌ها را در دو دسته مختلف اسپم و غیر اسپم در پایگاه دادهٔ خود قرار می‌دهد. برای مثال فیلترهای اسپم بیزی احتمال بسیار بالایی برای کلمات “Viagra” و “refinance” در نظر می‌گیرند اما احتمال بسیار پایینی برای کلماتی که در ایمیل‌های صحیح دیده می‌شود محاسبه می‌کنند، نظیر نام و نام خانوادگی یا نام دوستانتان.

بعد ازیادگیری، احتمال کلمه‌های ایمیل (به وسیلهٔ توابع احتمال) برای مشخص کردن این که ایمیل در چه دسته‌ای قرار می‌گیرد استفاده می‌شود. هر کلمه در ایمیل به احتمال اسپم بودن ایمیل کمک می‌کند، بنابراین کلمات پر تکرار در ایمیل‌ها نقش مهمی در تشخیص اسپم بودن ایمیل دارند. به این کمک کردن احتمال posterior گویند که براساس قضیه بیز محاسبه می‌گردد. سپس برای تمام کلمات احتمال اسپم بودن ایمیل محاسبه می‌گردد و اگر کل احتمالات از مقدار آستانه (۹۵۵٪) بیشتر شد، فیلتر برچسب اسپم بودن به آن ایمیل می‌زند.

ما در این شبیه سازی از آنجا که تمرکزمان بر روی فهم روال کار بوده است ، فیلترینگ اسپم بیزی را بصورت ساده پیاده سازی کرده ایم و قادر است ایمیل های اسپم و غیر اسپم را شناسایی کند.

روال کار شبیه سازی انجام شده به صورت زیر می باشد:

-ابتدا تعدادی ایمیل اسپم و ایمیل معتبر را در نظر میگیریم  (برای سادگی کار هر ایمیل را بصورت تعدادی حرف در نظر گرفته ایم)

-یک دیکشنری از تعدادی لغت را در نظر میگیریم که مدل با استفاده از این لغات ، ایمیل ها را دسته بندی کند  (برای سادگی لغات را نیز بصورت حرف در نظر گرفته ایم)

-حال به سراغ مرحله آموزش الگوریتم میرویم. در این مرحله ، الگوریتم یاد میگیرد که هر کلمه اگر در یک ایمیل باشد به چه احتمالی ان ایمیل اسپم یا غیر اسپم می باشد.

ابتدا برای کلمات موجود در دیکشنری مشخص میکنیم که آن کلمه در هر کدام از ایمیل ها وجود دارد یا خیر. برای این کار یک ماتریس که به تعداد کلمات سطر و به تعداد ایمیل ها ستون دارد میسازیم. اگر یک کلمه در ایمیل باشد خانه متناظر ان را یک وگرنه صفر قرار میدهیم. که اصطلاحا به این ماتریس، ماتریس بردار ویژگی گفته میشود.

در ادامه احتمال هر یک از کلمات موجود در دیکشنری را محاسبه میکنیم. یعنی احتمال اینکه کلمه i ام در یک ایمیل اسپم باشد را محاسبه میکنیم و همچنین احتمال اینکه کلمه i ام در یک ایمیل غیر اسپم باشد را محاسبه میکنیم.

حال ایمیل جدید را بررسی میکنیم که آیا اسپم است یا خیر. طبق روش بیز باید احتمال زیر را محاسبه کنیم یعنی احتمال اینکه ایمیل جدید اسپم باشد و احتمال اینکه ایمیل جدید غیراسپم باشد. در نهایت هر کدام از این دو احتمال که مقدار بیشتری داشته باشد ایمیل جدید در همان کلاس خواهد بود.

تصویری از کد و خروجی :

نکته: در راستای سادگی کار ما هر ایمیل را بصورت یک بردار در خود کد تعریف کرده ایم. ما میتوانیم به برنامه این قابلیت را اضافه کنیم که ایمیل ها را از فایل بخواند و دسته بندی کند.(در صورت نیاز به توسعه برنامه با ما تماس بگیرید)

در نهایت برنامه میتواند کلاس ایمیل جدید یا همان ایمیل تست را مشخص کند :

جهت دریافت این محصول (کد متلب شناسایی ایمیل های اسپم با تئوری بیز) از لینک زیر اقدام کرده و بصورت آنلاین محصول را خریداری و دانلود نمایید:

به همراه فایل کد ، یک فایل توضیحات کد نیز در اختیار شما قرار میگیرد تا بتوانید روال کد و کار را یاد گرفته و درک کنید.

شماره تماس : 09120563264

ایمیل: matlab24ir@gmail.com

نوشته کد متلب شناسایی ایمیل های اسپم با تئوری بیز اولین بار در برنامه نویسی هوشمند پدیدار شد.

روال کار به این صورت است که ما تعدادی فایل متنی داریم ، بعنوان فایل های پسندیده شده یا Like شده، و تعدادی نیز فایل متنی داریم بعنوان فایل های پسندیده نشده یا فایلهای DisLike ، که هر کدام از این فایلها حاوی یک سری جملات و کلمات می باشند. از این فایلها برای آموزش یک دسته بند بیز استفاده میکنیم . در ادامه میخواهیم که این کلاسیفایر بیزینی که آموزش دادیم را مورد استفاده قرار دهیم و یک فایل متنی جدید که وارد میشود را با استفاده از این کلاسیفایر بیزین دسته بندی کنیم و تشخیص دهیم که آیا این فایل متنی جدید مورد پسند است یا خیر.

کاربرد دسته بندی متن با تئوری بیز در جاهای مختلفی می باشد بعنوان مثال فرض کنیم شما مطالبی را در یک سایت خبری درج میشود را دنبال میکنید و برخی را میپسندید و دوست دارید اخبار مشابه آن  ار نیز دنبال کنید و یا برخی خبرهایی که به شما پیشنهاد می شود را نمی پسندید و دوست ندارید خبرهایی از آن دست به شما پیشنهاد شود.

روال کار دسته بندی متن با تئوری بیز به این صورت است که در مرحله آموزش، فایل های Like و Dislike را پردازش میکنیم و کلمات موجود در این فایل ها را استخراج میکنیم. مطمئنا دلیل like شدن یا dislike شدن این فایل ها محتوی انها بوده است. بنابراین محتوی فایل ها را در برنامه لود میکنیم و سپس احتمالات لازم برای اعمال تئوری بیز را برای تک تک این کلمات استخراج میکنیم. در مرحله کلاسیفای نیز هنگامی که با یک فایل متنی جدید روبرو میشویم، ابتدا کلمات موجود در آن فایل را استخراج میکنیم و سپس تئوری بیز را بر روی این کلمات اعمال میکنیم تا مشخص شود که به چه احتمالی این فایل پسندید خواهد شد و به په احتمالی dislike خواهد شد.

شبه کد مرحله آموزش همانند تصویر زیر می باشد:

و شبه کد مرحله کلاسفای کردن متن های جدید نیز بصورت زیر می باشد:

ما در پروژه دسته بندی متن با تئوری بیز مراحل فوق را در متلب شبیه سازی کرده ایم و با استفاده از کد برنامه، تشخیص میدهیم که متن جدید را در کدام دسته قرار میگیرد.

برای دریافت کد متلب دسته بندی متن با تئوری بیز ، به همراه یک فایل توضیحات کد با فرمت pdf (جهت اموزش و فهم کار)، از بخش زیر اقدام کرده و بصورت آنلاین خریداری و دانلود کنید.

راهنمایی: ابتدا بر روی دکمه خرید کیلک کیند سپس در کادری که باز میشود نام و ایمیل خود را وارد کرده و مجدد بر روی دکمه خرید کلیک کنید تا به درگاه بانک متصل شوید. بعد از واریز وجه، لینک دانلود محصول به شما نمایش داده میشود. رمز بسته دریافتی www.matlab24.ir می باشد.

نوشته دسته بندی متن با تئوری بیز اولین بار در برنامه نویسی هوشمند پدیدار شد.

ما کد متلب الگوریتم knn را برای طبقه بندی دیتاست iris برای شما آماده کرده ایم. الگوریتم k نزدیگ ترین همسایه، یک الگوریتم ساده برای طبقه بندی می باشد که همه نمونه های موجود را در نظر میگیرد و نمونه جدید را با توجه به شباهتش به نمونه های موجود طبقه بندی میکند. این الگوریتم برای طبقه بندی یک نمونه جدید، از معیار فاصله یا شباهت استفاده میکند و و براساس این معیار k نزدیک ترین همسایه به نمونه جدید را شناسایی میکند و سپس از رای گیری بین این k همسایه برای تعیین کلاس نمونه جدید استفاده میکند که رای گیری بر اساس رای اکثریت رایج ترین روش می باشد.

معیارهای متفاوتی برای محاسبه فاصله و یافتن نزدیک ترین همسایه در الگوریتم knn مطرح می باشد که از جمله این معیار ها میتوان به فاصله اقلیدسی، مانهاتان و  Minkowski اشاره کرد

در این الگوریتم مقداری که برای پارامتر k در نظر میگیریم در تعیین کلاس نمونه جدید تاثیر به سزایی دارد . در تصویر زیر نمونه ای را میبینید که اگر مقدار k را مساوی 3 در نظر بگیریم آنگاه کلاس ایتم جدید کلاس B خواهد بود و اگر k را مساوی 6 در نظر بگیریم آنگاه آیتم جدید در کلاس A خواهد بود.

 کد الگوریتم knn در متلب بر اساس مفاهیمی که در بالا گفته شد نوشته شده است و بر روی دیتاست iris شبیه سازی شده است. و در نهایت کلاس اصلی هر داده و همچنین کلاس پیش بینی شده با الگوریتم knn را نمایش میدهد و همچنین میزاد دقت الگوریتم در تشخیص درست کلاس ها را نیز مشخص میکند

برای در یافت کد متلب الگوریتم K Nearest Neighbors به همراه فایل توضیحات گام به گام کد، بر روی دکمه خرید کلیک کنید وبعد از وارد نمودن مشخصات،مجدد بر روی دکمه خرید کلیک کنید.

شماره تماس: 09120563264

ایمیل : matlab24ir@gmail.com و یا info@matlab24.ir

نوشته کد متلب الگوریتم knn اولین بار در برنامه نویسی هوشمند پدیدار شد.

در این کار ما میخواهیم داده های موجود در دیتاست iris را با استفاده از کلاسیفایر Naive Bayes classifier دسته بندی کنیم

همینطور که میدانیم دیتاست iris تعداد 150 نمونه دارد که هر نمونه ان 4 ویژگی دارد و 150 نمونه متعلق به سه دسته می باشند که در هر دسته نیز 50 نمونه قرار گرفته است.

تئوری بیز:

• سنگ بنای یادگیری بیزی را تئوری بیز تشکیل میدهد. این تئوری امکان محاسبه احتمال ثانویه را بر مبنای احتمالات اولیه میدهد:

کد متلب Naive Bayes classifier

• در مسایلی که مجموعه ای از فرضیه های H وجود داشته و بخواهیم محتملترین فرضیه را از میان آنان انتخاب بکنیم، فرضیه با حداکثر احتمال Maximum A Posteriori (MAP) hypothesis نامیده میشود و از رابطه زیر بدست می آید.
• 
• در مورد مسائل طبقه بندی، در واقع ما کلاسی را انتخاب میکنیم که بیشترین احتمال را بین همه کلاسها داشته باشد:
• 

رابطه فوق را میتوان بصورت زیر بازنویسی کرد:

که y^ کلاس پیش بینی شده خواهد بود

بنابراین روال کار به صورت زیر خواهد بود:

الف- داده های دیتاست iris را لود میکنیم

ب- داده های اموزش و تست را مشخص میکنیم . برای این کار ما 80 درصد از داده ها را بصورت تصادف انتخاب کرده و انها را به عنوان داده اموزش در نظر میگیرم و 20 درصد باقیمانده را بعنوان داده های تست در نظر میگیرم

ج- برای اینکه بتوانیم داده های تست را با استفاده از کلاسیفایر naïve Bayes طبقه بندی کنیم مراحل زیر را انجام میدهیم

• احتمال اولیه (Priori) هر یک از کلاس ها را محاسبه میکنیم
• مقدار Likelihood را برای هر یک از کلاس های محاسبه میکنیم
  1. برای محاسبه Likelihood ، ابتدا داده های متعلق به هر کلاس را مشخص میکنم
  2. میانگین و انحراف معیار را برای هر یک از ویژگیها را مشخص میکنیم
  3. به ازای هر ویژگی ، احتمال ویژگی به شرط ان کلاس را محاسبه میکنیم
  4. احتمالات محاسبه شده را در هم ضرب میکنیم:
• به ازای هر داده تست، احتمال پسین (Posterior) هر یک از کلاس ها را محاسبه میکنیم
• به ازای هر داده تست، هر کلاسی که احتمال Posterior بیشتری داشته باشد را بعنوان کلاس آن داده در نظر میگیرم.
• کلاس پیش بینی شده و کلاس واقعی داده تست را مقایسه کرده و دقت کار را محاسبه میکنیم.

برای دریافت کد متلب کلاسیفای دیتای iris با nave bayes  از بخش زیر اقدام کرده و بصورت انلاین کد را خریداری و دانلود نمایید.بهمراه کد یک فایل توضیحات کامل کد نیز موجود می باشد.

ایمیل ما :matlab24ir@gmail.com و یا info@matlab24.ir

نوشته کد متلب Naive Bayes classifier اولین بار در برنامه نویسی هوشمند پدیدار شد.