الگوریتمهای بهینهسازی محدب
Gradient descent method
Unconstrained minimization problems
Inequality constrained minimization problems
مسائل مینیمسازی بدون قید
minimize f(x)
1
روش حل: الگوریتمهای تکراری (iterative)
3
مثال
3
کد:
M-file تابع هدف
حل مسئله بهینهسازی غیر مقید
جواب:
4
نقطه بهینه
مقدار تابع در نقطه بهینه
66 بار ارزیابی و تخمین تابع هدف
بزرگتر از صفر یعنی یافتن یک مینیمم محلی
الگوریتم حل
روش گرادیان نزولی
5
مثال
6
تعریف تابع هدف f و گرادیان آن
ماتریس G (مشتقات جزئی تابع هدف f)
ماتریس مشتقات جزئی قیدها
تعریف قیود و گرادیان آنها
7
حل مساله بهینهسازی با تابع و قیود غیرخطی به روش گرادیان
8
9
روش های کلی بهینه سازی:
1- روش های غیر مبتنی بر محاسبه گرادیان ها:
عدم نیاز به گرادیان های تابع هزینه نسبت به متغیرهای طراحی در خلال فرآیند بهینه سازی
جستجو برای رسیدن به نقطه بهینه با مقایسه مقادیر تابع هزینه در نقاط طراحی مختلف انجام میشود
روش های جستجوی تصادفی مانند الگوریتم ژنتیک
2 – روش هایی که بر مبنای محاسبه گرادیان ها
گرادیان های تابع هزینه نسبت به متغیرهای طراحی نقشی اساسی را در فرآیند بهینه سازی
روش های تفاضل محدود و بسط سری تیلور مختلط
الگوریتم های مرتبه اول: تنها مشتق اول تابع هزینه نسبت به متغیرهای طراحی لازم است. مثال الگوریتم سریع ترین شیب که جستجو در جهت منفی بردار گرادیان انجام می شود.
الگوریتم های مرتبه دوم علاوه بر مشتق اول، مقادیر مشتق دوم تابع هزینه نسبت به متغیرهای طراحی نیز مورد نیاز می باشد. الگوریتم های شبه نیوتنی از این نوع هستند.
روند کلی بهینه سازی گرادیانی
محاسبه گرادیان
جستجوی خطی در راستای تندترین شیب نزولی
روش های جستجوی خطی:
مستلزم انتخاب راستایی توسط الگوریتم انتخاب و جستجو در طول آن
راستای جستجو در جهت منفی گرادیان تابع هدف در هر تکرار می باشد.
یک طول گام در راستای جستجو ضرب شده تا عمل بهینه سازی به تکرار بعدی پیش رود.
جستجوی خطی دقیق: طول گام به گونه ای انتخاب می شود که حداکثر کاهش تابع هدف را باعث شود و تابع هزینه در راستای انتخابی مینیمم شود.
جستجوی خطی غیردقیق: تابع هزینه به صورت تقریبی در راستا مینیمم شود و سعی در دنبال کردن یک مسیر پیوسته در راستای تندترین شیب و در یک سری گام های متوالی خیلی کوچک است.
یک کاربرد کنترلی : طراحی سیستم های فازی با استفاده از روش گرادیان کاهشی