2. الگوریتم بهینه سازی توده ذرات Particle Swarm Optimization

3. درس:
پردازش تکاملی
دانشجویان:
1- مراد درخشان
2- هادی محمدی
استاد راهنما:
دکتر وفا میهمی
نیمسال اول سالتحصیلی 95-94
دوره کارشناسی ارشد

4. فهرست هوش جمعی تاریخچه مقدمه الگوریتم PSO پارامترها مثال منابع
Pseudo code
مثال
منابع
پیاده سازی

5. هوش جمعی Swarm Intelligence
هوش جمعی خاصیتی است سیستماتیک که در این سیستم، عامل ها به طور محلی با هم همکاري می نمایند و رفتار جمعی تمام عامل ها، باعث یک همگرایی در نقطه اي نزدیک به جواب بهینه سراسري می شود. نقطه قوت این الگوریتم عدم نیاز به یک کنترل سراسري می باشد. هر ذره(عامل) خود مختاري نسبی داردکه می تواند در سراسر فضاي جواب ها حرکت کند و می بایست با سایرذرات(عامل ها) همکاري داشته باشد. یکی از الگوریتم های مشهور هوش جمعی، بهینه سازي توده ذرات می باشند

6. هوش جمعی Swarm Intelligence
در كاربردهاي محاسباتي، از موجوداتي مانند مورچه ها، زنبورها، موريانه ها، دسته هاي ماهيان و دسته ي پرندگان، الگو برداري مي شود. در اين نوع اجتماعات، هر يك از موجودات ساختار نستباً ساده اي دارند ولي رفتار جمعي آنها بي نهايت پيچيده است.
براي مثال در كولوني مورچه ها، هر يك از مورچه ها يك كار ساده ي مخصوص را انجام مي دهد ولي به طور جمعي عمل و رفتار مورچه ها، ساختن بهينه ي لايه محافظت از ملكه و نوزادان، تميزكردن لانه، يافتن بهترين منابع غذايي و بهينه سازي استراتژي حمله را تضمين مي كند.

7. هوش جمعی
Swarm Intelligence
مثال همياري:

8. تاریخچه
ابداع‌كنندة 1:
Russell Eberhart

9. تاریخچه
ابداع‌كنندة 2:
James Kennedy 9

10. اولين مقاله در زمينة PSO:
تاریخچه
اولين مقاله در زمينة PSO:
در سال 1995 براي اولين بار ارائه شد.
Kennedy, J. and Eberhart, R., “Particle Swarm Optimization,” Proceedings of the IEEE International Conference on Neural Networks, Perth, Australia 1995, pp

11. تاریخچه
این الگوریتم اولین بار توسط Kennedy و Eberhart مطرح شد. آنها نام این الگوریتم را PSO نهادند.
يك الگوريتم جستجوي اجتماعي است كه از روي رفتار اجتماعي دسته هاي پرندگان مدل شده است. در ابتدا اين الگوريتم به منظور كشف الگوهاي حاكم بر پرواز همزمان پرندگان و تغيير ناگهاني مسيرها در فضاي جستجو بود.

12. مقدمه
در دسته پرندگان همیشه حرکت هر پرنده متمایل به سمت سردسته پرندگان است. اگر سردسته، انحرافی داشته باشد، بقیه هم همان انحراف را دارند. سردسته بهترین موقعیت را دارد.

13. مقدمه هر ذره در حال جستجو براي نقطة بهينه است.
به همین دلیل در حال جابجایی است
به دليل اين جابجايي، داراي سرعت است.
مانند سایر الگوریتم های جمعیتی، الگوریتم PSO از مجموعه ای از پاسخهای ممکن استفاده می کند که این پاسخها تا زمانیکه یک پاسخ بهینه یافت شود و یا شرایط پایان الگوریتم محقق شود به حرکت خود ادامه می دهد.
در این روش هر پاسخ x به صورت یک ذره نمایش داده می شود. (همچنانکه در الگوریتم ژنتیک به هر پاسخ، کروموزم گفته می شود)

14. مقدمه
مانند بقیه الگوریتم ها باید یک جمعیت اولیه تشکیل گردد. در این روش معادله سرعت، ضامن حرکت ذرات به سمت ناحیه بهینه است. این معادله معمولا براساس سه عنصر اصلی ارائه می شود که عبارتند از:
مولفه شناختی pbest: بهترین وضعیت ذره
مولفه جمعی gbest: بهترین ذره ای که تابحال داشتیم
سرعت

15. مقدمه
در شبیه سازی این الگوریتم، رفتار هر ذره می تواند تحت تاثیر بهترین ذره محلی(Peronal Best)(در داخل یک همسایگی مشخص یا همان بهترین وضعیتی که آن ذره تابحال داشته است) و یا بهترین ذره عمومی(Global Best)(بهترین ذره در میان ذرات) باشد.

16. الگوریتم
X𝒕 وضعیت قدیم(فعلی) است
Xt+1 وضعیت جدید(آینده) ذره است
اگر ما به وضعیت فعلی مقدار سرعت آینده را اضافه کنیم به وضعیت جدید(آینده) می رسیم
Vt+1 سرعت آینده از میزان تصادفی سه مولفه (سرعت قدیم(فعلی) و gbest و pbest) بدست می آید.

17. الگوریتم
Pnew = Pold + Vnew
Vnew=Vold+C1*R1*(Plocal best -Pold)+C2*R2*(Pglobal best -Pold)
C1 و C2 مقادیر ثابت و مثبت و R1 و R2 اعداد تصادفی هستند که به صورت نرمال در بازه [0,1] تولید می شوند.
برای قابلیت بهتر جستجو، پارامتری به نام وزن اینرسی به شکل زیر و به صورت ضریبی در پارامتر سرعت الگوریتم اضافه می گردد:
Vnew=W*Vold+C1*R1*(Plocal best-Pold)+C2*R2*(Pglobal best-Pold)

18. الگوریتم
وزن اینرسی تاثیر سرعت ذرات در گام قبل را بر سرعت فعلی تعیین می نماید. به این ترتیب که با مقادیر بزرگی از وزن اینرسی، قابلیت جستجوی عمومی الگوریتم بهبود یافته و فضای بیشتری مورد بررسی قرار می گیرد. حال آنکه با مقادیر کوچک وزن اینرسی فضای مورد بررسی محدود شده و جستجو در این فضای محدود شده صورت می گیرد.

19. الگوریتم
به همین دلیل، معمولا الگوریتم با مقدار بزرگی از وزن اینرسی شروع به حرکت می کند که سبب جستجوی گسترده فضا در ابتدای اجرای الگوریتم شده و این وزن به مرور در طول زمان کاهش می یابد که سبب تمرکز جستجو در فضای کوچک در گام های پایانی می شود.

20. الگوریتم همه الگوریتم ها از دو مکانیسم تنوع و تمرکز استفاده می کنند
تنوع یعنی ما دوست داریم در ابتدای الگوریتم فضای بیشتری از فضای جستجو، موردجستجو قراردهیم و هرچه به پایان الگوریتم نزدیکتر می شویم این تنوع را کم کنیم و به سمت ناحیه بهینه تمرکز پیدا کنیم.
w(وزن اینرسی) همان میزان تنوع است که در ابتدا زیاد و در مراحل پایانی میزان آن کم و کمتر می شود.

21. الگوریتم
در ابتدا ذرات به صورت تصادفی در سرتاسر فضای جستجو مقداردهی می شوند که این موقعیت های اولیه به عنوان بهترین تجربه شخصی ذرات نیز شناخته می شوند (pbest)
در گام بعد بهترین ذره از میان ذرات موجود انتخاب و به عنوان بهترین پاسخ شناخته می شود.(gbest)
سپس گروه ذرات در فضای جستجو حرکت می نمایند، تا زمانیکه شرایط پایان محقق شود. این حرکت شامل اعمال معادله سرعت به گروه ذرات می باشد که موقعیت هر ذره براساس آن تغییر می کند.

22. الگوریتم
مقدار برازش جدید حاصل از ذره، با مقدار pbest ذره مقایسه می گردد. اگر موقعیت جدید ذره دارای برازش بهتری باشد، این موقعیت جدید جایگزین موقعیت pbest می شود.
روالی مشابه نیز برای gbest انجام می گیرد.

23. پارامترها C1 (اهميت مربوط به بهترين هر ذره)
تعداد ذرات (تعداد کل ذراتی که در فضای جستجو )
نشان داده شده است كه كافي مي‌باشد.
C1 (اهميت مربوط به بهترين هر ذره)
C2 (اهميت مربوط به بهترين همسايگي ها)
به دلایل تجربی معمولاً C1+C2 = 4 درنظر گرفته شود. V
معیار خاتمه

24. Pseudo code Algorithm gbest PSO (Initialize) gbest=X0
for i=0 to Nparticles do
pbesti=Xi (initialize randomly)
fitnessi=f(Xi)
if fitnessi < f(gbest) then
gbest=Xi
end if
end for

25. Pseudo code Algorithm gbest PSO (Main loop) repeat
for i=0 to Nparticles do
Vi=W*Vi+c1*r1*(pbesti-Xi)+c2*r2*(gbest-xi)
if Vi ∉ Vacceptable then
correct Vi
end if
Xi=Xi+Vi
fitnessi = f(Xi)
if fitnessi < f(pbesti) then
pbesti=Xi
if fitnessi < f(gbest) then
gbest=Xi
end for
untill terminate criteria

26. مثال

27. منابع 1. فیلم و اسلاید آموزشی
1. فیلم و اسلاید آموزشی 2. 3. 4.
5. Venter, G. and Sobieski, J., “Particle Swarm Optimization,” Structural Dynamics, and Materials Conference, Denver, CO., April 2002.
6. Kennedy, J. and Eberhart, R., Swarm Intelligence, Academic Press, 1st ed., San Diego, CA,