آموزش شبکه عصبی با استفاده از روش بهینه سازی PSO به نام خدا آموزش شبکه عصبی با استفاده از روش بهینه سازی PSO ارائه دهنده: امیر محمدی استاد مربوطه: آقای دکتر پویان

روشهای مختلف برای آموزش شبکه های عصبی پیشخور FNN الگوریتم پس انتشار خطا الگوریتم ژنتیک الگوریتم Stimulated Annealing الگوریتم PSO یا Particle Swarm Optimization و ...

Particle Swarm Optimization یک تکنیک تکاملی (Evolutionary) برای انجام محاسبات است. توسط Kennedy و Eberhart در سال 1995 ایجاد شده است. از رفتار اجتماعی دسته پرندگان الهام گرفته است. همانند الگوریتم ژنتیک ، PSO یک ابزار بهینه سازی است که با مجموعه ای از پاسخهای بالقوه (Population) کارش را آغاز می کند و با بروز کردن نسلها به دنبال پیدا کردن نقطه بهینه می باشد. بر خلاف الگوریتم ژنتیک، الگوریتم PSO هیچگونه عملگر تکاملی پیچیده مثل ترکیب و جهش را ندارد. در الگوریتم PSO ، پاسخهای بالقوه را ذره می نامند و این ذرات با حرکت کردن در فضای مسئله و با تمایل پیدا کردن به سمت بهترین پاسخی که تا کنون بدست آمده، بروز می شوند.

Particle Swarm Optimization – Concept x1 x2 fitness min max search space

Particle Swarm Optimization هر ذره دارای حافظه است و بهترین موقعیت خودش که تا کنون بدست آورده (Pb) و بهترین موقعیت همسایگانش (Pg) را در هر تکرار در حافظه اش نگه می دارد. در هر تکرار، هر ذره بر اساس بهترین موقعیتش (Pb) و بهترین موقعیت همسایگانش (Pg) ، بردار سرعتش را تنظیم می کند.

Particle Swarm Optimization – The Basic Model Rules of movement Vid(t+1)= Vid(t)+c1* rand()*[Pid(t)-xid(t)]+c2*rand()*[Pgd(t)-xid(t)] Xid(t+1)=xid(t)+vid(t+1) 1≤i ≤n 1 ≤d ≤ D که c1 و c2 ثابتهای شتاب دهنده با مقادیر مثبت و rand() عددی تصادفی بین 0 و 1 می باشد.

Particle Swarm Optimization – The Basic Model

Particle Swarm Optimization – The Basic Model

Particle Swarm Optimization – Animation x1 x2 fitness min max search space

Particle Swarm Optimization – Animation x1 x2 fitness min max search space

Particle Swarm Optimization – Animation x1 x2 fitness min max search space

Particle Swarm Optimization – Animation x1 x2 fitness min max search space

Particle Swarm Optimization – Animation x1 x2 fitness min max search space

Particle Swarm Optimization – Animation x1 x2 fitness min max search space

Particle Swarm Optimization – Animation x1 x2 fitness min max search space

Particle Swarm Optimization – Animation x1 x2 fitness min max search space

Particle Swarm Optimization Flow Chart Flow chart depicting the General PSO Algorithm: Start Initialize particles with random position and velocity vectors. For each particle’s position (p) evaluate fitness Loop until all particles exhaust If fitness(p) better than fitness(pbest) then pbest= p Loop until max iter Set best of pBests as gBest Update particles velocity (eq. 1) and position (eq. 3) Stop: giving gBest, optimal solution.

Thank You