SDI_pgorecki

Report
Opiekun: dr inż. Maciej Ławryńczuk
Instytut Automatyki i Inżynierii Oprogramowania

Teoria
◦ sformułowanie zadania optymalizacji
◦ wprowadzenie do sieci neuronowych

Praca inżynierska
◦ kształt pracy
◦ elementy innowacyjności i możliwości rozwoju
◦ dotychczasowe osiągnięcia

Podsumowanie
Piotr Górecki - Sieci neuronowe w problemach optymalizacji
2
minimalizuj:
1
x Qx  c x
T
T
2
przy ograniczeniach:
Ax  b
l  Ex  h
Q – macierz dodatnio półokreślona (warunek wypukłości)
Piotr Górecki - Sieci neuronowe w problemach optymalizacji
3



sieć neuronowa – struktura potrafiącą odbierać
docierające sygnały i przetwarzać je na użyteczną
informację
neuron – element sieci, wykonujący pewne
przekształcenie na swoich sygnałach wejściowych
funkcja energetyczna sieci – malejąca w czasie
funkcja związana ze stanami neuronów (ich
wartościami na wyjściach)
Piotr Górecki - Sieci neuronowe w problemach optymalizacji
4

Zastosowania sieci neuronowych
◦
◦
◦
◦
◦
◦
rozpoznawanie wzorców (znaków, sygnałów mowy...)
klasyfikowanie obiektów
aproksymowanie wartości funkcji
synteza mowy
diagnostyka medyczna
optymalizacja
Sieci neuronowe do optymalizacji NIE są sieciami uczącymi się!
Piotr Górecki - Sieci neuronowe w problemach optymalizacji
5
Opis sieci neuronowej

stan pojedynczego neuronu – rozwiązanie pewnego równania
różniczkowego

opis sieci – wektorowo-macierzowe równanie różniczkowe

możliwość realizacji analogowej (obwód elektryczny)
Piotr Górecki - Sieci neuronowe w problemach optymalizacji
6



Wykorzystanie zadania dualnego
Warunki KKT (zbieżność)
Sformułowanie równania stanu i wyjścia (przykład)
◦ równanie stanu:

du
  EME
T
u  g (( EME
T
 I ) u  Es )  Es
dt
◦ równanie wyjścia:
x  ME u  s
T
gdzie:
min
g(.) – funkcja nasycenia
M Q
sQ
1
1
Q
T
1
T
A ( AQ
( A ( AQ
1
T
1
1
T
A )
A ) ( AQ
1
1
AQ
1
,
c  b)  c)
p. o.
1
x Qx  c x
T
T
2
Ax  b
l  Ex  h
Piotr Górecki - Sieci neuronowe w problemach optymalizacji
7
◦ równanie stanu:

du
  EME
T
u  g (( EME
T
 I ) u  Es )  Es
dt
◦ równanie wyjścia:
x  ME u  s
T
Piotr Górecki - Sieci neuronowe w problemach optymalizacji
8

Omówienie struktury wybranych sieci
◦ analiza zbieżności, wyprowadzenie wzorów
◦ badanie złożoności

Zadanie teoretyczne
◦ symulacja Simulink

Praktyczne zadanie wielowymiarowe (namiot)
◦ symulacja Matlab (solver ode45)

Zadanie sterowania predykcyjnego
◦ sieć jako moduł minimalizujący algorytmu DMC

Idea realizacji analogowej
Piotr Górecki - Sieci neuronowe w problemach optymalizacji
9

Synteza i porównanie wybranych sieci
◦ złożoność
◦ dokładność
◦ szybkość działania

Propozycja realizacji sieci, jako elementów obwodu
elektrycznego
Piotr Górecki - Sieci neuronowe w problemach optymalizacji
10

Porównanie wybranych trzech sieci neuronowych
◦ analiza liczby elementów, w zależności od wyboru sieci

Realizacja wybranych sieci w Simulinku
◦ proste zadanie akademickie

Realizacja wybranych sieci w Matlabie
◦ praktyczne zadanie wielowymiarowe (large-scale)

Zastosowanie SN w algorytmie DMC
Piotr Górecki - Sieci neuronowe w problemach optymalizacji
11

Liczba elementów realizacji analogowej
n
m
p
- liczba zmiennych decyzyjnych
- liczbę ograniczeń równościowych
- liczba ograniczeń nierównościowych
rodzaj sieci
liczba neuronów
liczba sumatorów
liczba wzmacniaczy
SDNN
p
3p + n
p(2n + 1)
RNN
m+p
3 (m + p) + n
(m + p)(m + p + n + 2)
DNN
m+p
4 (m + p) + n
(m + p) (m + p + 2n)
Piotr Górecki - Sieci neuronowe w problemach optymalizacji
12
min
3 x1  3 x 2  4 x 3  5 x 4  3 x1 x 2  5 x1 x 3  x 2 x 4  11 x1  5 x 4
p. o.
3 x1  3 x 2  2 x 3  x 4  0
2
2
2
2
4 x1  x 2  x 3  2 x 4  0
 x1  x 2   1
 2  3 x1  x 3  4
6

3
Q  
5

0
3
A 
4
 1
E  
 3
3
5
6
0
0
8
1
0
  11 


0


c 
 0 


5
9

1

0

10 
3
2
1
1
1
0
0
1
1 

 2
0

0
  
l  

 2
0 
b  
0 
  1
h  

 4
Piotr Górecki - Sieci neuronowe w problemach optymalizacji
13
Piotr Górecki - Sieci neuronowe w problemach optymalizacji
14





Podstawa w kształcie kwadratu (30x30)
5 pali (centralny najwyższy)
Elastyczne płótno
Ograniczenia (wysokość pali)
Funkcja jakości (kształt)
min
1
x Qx  c x
T
T
2
l x
Piotr Górecki - Sieci neuronowe w problemach optymalizacji
15
Sposób rozwiązania
◦ rozwiązanie równania różniczkowego
[email protected](t, u)(-E*MET*u+satur(((E*MET-eye(900))*u+E*s), low)...
- E*s)*10^7;
[t,u] = ode45(du, tspan, u0);
◦ wybór zmiennych stanu, dla końcowego
przedziału czasowego
◦ wyliczenie zmiennych decyzyjnych
x = MET * uk' +s;
Piotr Górecki - Sieci neuronowe w problemach optymalizacji
16

Wybór algorytmu – DMC
◦ algorytm w wersji numerycznej z ograniczeniami
Hp
J (k ) 
 (y
zad
2
( k  p | k )  yˆ ( k  p | k ))  
p 1
H s 1

(  u ( k  p | k ))
2
p0
min
J(k)
ΔU( k)
p. o.
u
min
 u (k  p | k )  u
 u
max
 u (k  p | k )  u
y
min
max
 yˆ ( k  p | k )  y
max
max
Piotr Górecki - Sieci neuronowe w problemach optymalizacji
17

Najważniejsze parametry dobranego
regulatora predykcyjnego
D = 160 – horyzont dynamiki
Np = 20 – horyzont predykcji
Ns = 5 – horyzont sterowania
T = 0.5 – okres próbkowania

Transmitancja modelu
2
( 5 s  1)( 10 s  1)

Optymalizacja przy użyciu SN w każdej iteracji pętli
głównej algorytmu DMC
Piotr Górecki - Sieci neuronowe w problemach optymalizacji
18

Wyniki symulacji
◦ obiekt bez zakłócenia
niemierzalnego
(dla QP oraz SN)
◦ obiekt z mierzalnym
zakłóceniem w chwili
k = 60
(dla QP oraz SN)
Piotr Górecki - Sieci neuronowe w problemach optymalizacji
19

Realizacja sieci neuronowej, jako połączenia
elementów obwodu elektrycznego
◦
◦
◦
◦
wzmacniacze operacyjne
rezystory
kondensatory
diody
Piotr Górecki - Sieci neuronowe w problemach optymalizacji
20

Wprowadzenie teoretyczne
◦ zagadnienie optymalizacji kwadratowej
◦ sieci neuronowe w optymalizacji

Kształt pracy dyplomowej
◦ cele
◦ innowacyjność

Osiągnięcia
◦
◦
◦
◦
synteza i porównanie wybranych sieci
realizacja zadania akademickiego – Simulink
zasymulowanie zadania praktycznego
sprzężenie SN z algorytmem DMC
Piotr Górecki - Sieci neuronowe w problemach optymalizacji
21
Piotr Górecki - Sieci neuronowe w problemach optymalizacji
22
Piotr Górecki - Sieci neuronowe w problemach optymalizacji
23

similar documents