i-1 - دانشگاه یزد

Report
‫زنجیره مارکف‬
‫گشت تصادفی‬
‫استاد ‪ :‬محمد فرشی‬
‫ارائه دهنده‪ :‬میثم رجعتی‬
‫دانشگاه یزد‪ -‬دانشکده ریاضی ‪ -‬گروه علوم کامپیوتر‬
‫پاییز ‪93‬‬
‫فهرست مطالب‬
‫‪ ‬آشنایی با مسئله گشت تصادفی‬
‫‪ ‬صدقپذیری دودویی‬
‫‪ ‬زنجیره مارکف‬
‫‪ ‬گشت تصادفی روی گراف‬
‫‪ ‬مدارهای الکتریکی‬
‫‪ ‬زمان پوشش‬
‫‪ ‬اتصال گراف‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 2‬از ‪95‬‬
‫بخش ‪ :1‬آشنایی با مسئله‬
‫‪ ‬طرح مسئله‬
‫‪ ‬راه حل قطعی‬
‫‪ ‬راه حل تصادفی‬
‫‪ ‬گراف کامل‬
‫‪ ‬جمع آوری کوپنها‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 3‬از ‪95‬‬
‫طرح مسئله‬
‫‪-‬‬
‫‪ .1‬تعداد گام برای رسیدن از یک راس به راس دیگر‪.‬‬
‫)‪G = (V, E‬‬
‫‪ .2‬تعداد گامهایی که باید طی شود تا با شروع از یک گره تمام گرهها را مالقات کنیم‪.‬‬
‫‪v∈V‬‬
‫} ‪Γ(v : { set of neighbors of v in G‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 4‬از ‪95‬‬
‫راه حل های قطعی‬
‫‪ .1‬تشکیل درخت حالت‬
‫‪ DFS .2‬و ‪BFS‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 5‬از ‪95‬‬
‫راه حل تصادفی‬
‫‪-‬‬
‫شانس انتخاب شدن همسایهها با هم برابر است‪.‬‬
‫انتخاب در هر مرحله مستقل از همه انتخابهای قبلی است‪.‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 6‬از ‪95‬‬
‫گراف کامل‬
‫تمرین ‪6.1‬‬
‫‪G  Kn‬‬
‫‪ .1‬تعداد گام برای رسیدن از یک راس به راس دیگر با استفاده از الگوریتم گشت تصادفی‬
‫‪ n  1‬‬
‫برابر است با ‪:‬‬
‫‪ .2‬تعداد مراحل مورد انتظار برای بازدید تمام رئوس برابر است با‬
‫‪ n  1  H n1‬‬
‫‪n 1‬‬
‫‪1‬‬
‫‪j 1 j‬‬
‫‪H n1  ‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 7‬از ‪95‬‬
‫گراف کامل‬
‫یک مرحله‪:‬‬
‫‪1‬‬
‫‪1‬‬
‫‪1‬‬
‫‪p (i  j ) ‬‬
‫‪‬‬
‫‪‬‬
‫‪n  1 12  1 11‬‬
‫در حالت کلی‪:‬‬
‫‪ k-1‬بار به هدف نرسیم و ‪ k‬امین بار به هدف برسم‬
‫توزیع هندسی‪:‬‬
‫‪Pr( X  k )  (1  p)k 1 p‬‬
‫‪1‬‬
‫‪p‬‬
‫‪E( X ) ‬‬
‫‪1‬‬
‫‪1‬‬
‫‪E (i  j )  ‬‬
‫‪ n 1‬‬
‫‪1‬‬
‫‪p‬‬
‫‪n 1‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 8‬از ‪95‬‬
‫گراف کامل‬
‫‪n 1 4‬‬
‫‪‬‬
‫‪n 1 4‬‬
‫‪p(t1 ) ‬‬
‫‪n2 3‬‬
‫‪‬‬
‫‪n 1 4‬‬
‫‪p ( t2 ) ‬‬
‫‪ni‬‬
‫‪p (ti ) ‬‬
‫‪n 1‬‬
‫احتمال اینکه بعد از مالقات ‪ i-1‬تا از گره ها‪i ،‬امین گره را مالقات کنیم‪.‬‬
‫) ‪E(T )  E(t1 )  E(t2 )  ...  E(tn1‬‬
‫‪1‬‬
‫‪1‬‬
‫‪1‬‬
‫‪n 1 n 1‬‬
‫‪n 1‬‬
‫‪‬‬
‫‪ ... ‬‬
‫‪‬‬
‫‪‬‬
‫‪ ... ‬‬
‫)‪ ( n  1) H ( n 1‬‬
‫‪p1 p2‬‬
‫‪pn 1 n  1 n  2‬‬
‫‪1‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 9‬از ‪95‬‬
‫جمع آوری کوپنها‬
‫الگوریتم گشت تصادفی روی گراف کامل ‪ kn‬دقیقا همان پروسه جمع آوری کوپن‬
‫‪−1 3‬‬
‫=‬
‫‬
‫‪4‬‬
‫با ‪ n – 1‬کوپن است‪.‬‬
‫= ‪2‬‬
‫‪ 4‬‬
‫‪= =1‬‬
‫‪ 4‬‬
‫= ‪1‬‬
‫‪−‬‬
‫= ‬
‫‬
‫‬
‫‬
‫=‬
‫‪−‬‬
‫‪1‬‬
‫ ‪= .‬‬
‫‬
‫‪=1‬‬
‫‪M = N-1‬‬
‫‪1‬‬
‫‪1‬‬
‫‪+ ( .‬‬
‫‪2‬‬
‫‬
‫‬
‫‬
‫= (‬
‫‪=1‬‬
‫‪1‬‬
‫‪1‬‬
‫‪+ ( 2 .‬‬
‫ ‪2.‬‬
‫‬
‫= (‬
‫‪=1‬‬
‫‪ = log( +  +‬‬
‫‪( = .  = . log( + .  +‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 10‬از ‪95‬‬
‫بخش ‪ :2‬صدقپذیری دودویی (‪)2-SAT‬‬
‫‪ ‬کنترل ناپذیری و صدق پذیری‬
‫‪ ‬صدق پذیری دودویی‬
‫‪ ‬راه حل تصادفی صدق پذیری دودویی‬
‫‪ ‬گشت تصادفی روی خط‬
‫‪ ‬تحلیل صدق پذیری دودویی‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 11‬از ‪95‬‬
‫کنترل ناپذیری‬
‫‪ .1‬الگوریتم زمان چند جملهای پیدا شده است‪.‬‬
‫‪ .2‬کنترل ناپذیری آنها به اثبات رسیده است‪.‬‬
‫‪(a‬‬
‫خروجی آنها غیر چندجمله ای است‪.‬‬
‫‪ (b‬غیر قطعی (توقف)‪.‬‬
‫‪ .3‬کنترل ناپذیری آنها به اثبات نرسیده اماهرگز الگوریتم‬
‫زمان چند جملهای پیدا نشده است‪.‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 12‬از ‪95‬‬
‫تصمیم گیری‬
‫خروجی بله یا خیر است‬
‫مجموعه ‪:P‬‬
‫تمام مسائل تصمیم گیری که می توان توسط‬
‫الگوریتمهای زمان چندجملهای حل کرد‪.‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 13‬از ‪95‬‬
‫الگوریتم غیرقطعی‬
)‫مرحله اول حدس (غیرقطعی‬
)‫مرحله دوم اثبات (قطعی‬
‫مراحل حل الگوریتم های‬
‫غیر قطعی‬
Bool verify(weighted G, number d, claimed_tour S)
{ if(S is a tour && the total weight of edges in S is <=d)
return “true”
else
return “false”
}
95 ‫ از‬14
‫زنجیره مارکف و گشت تصادفی‬
‫الگوریتم غیرقطعی‬
‫الگوریتم غیرقطعی زمان چندجملهای‬
‫الگوریتمی است که مرحله اثبات آن یک الگوریتم زمان چندجملهای است‪.‬‬
‫مجموعه ‪:NP‬‬
‫تمام مسائل تصمیم گیری که می توان توسط الگوریتمهای غیر قطعی‬
‫زمان چندجمله ای حل کرد‪.‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 15‬از ‪95‬‬
‫‪-NP‬کامل‬
‫اگر یکی از مسائل‪ NP‬در ‪ P‬باشد همه مسائل ‪ NP‬در ‪ P‬قرار دارند‪.‬‬
‫صدقپذیری‪:‬‬
‫الگوریتم شناختهشدهای وجود ندارد که به صورت کارآمد‬
‫همهی موارد مسئلهی صدقپذیری را حل کند‪.‬‬
‫‪ K  3 NP  H‬‬
‫‪K  SAT  ‬‬
‫‪ K  1,2 P‬‬
‫‪( x1  x2 )  ( x1  x2  x3 )  x1‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 16‬از ‪95‬‬
‫صدق پذیری دودویی‬
‫‪ x1  x2    x2  x3   x4  x3    x5  x1 ‬‬
‫راه حل قطعی‬
‫) ‪O( n 2‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 17‬از ‪95‬‬
‫راه حل قطعی‬
‫جستجوی مسیر در گراف ها‬
‫‪x1  x2  x1  x2‬‬
‫) ‪(x  y )  (y  z )  ( x  z )  ( z  y‬‬
‫‪x‬‬
‫‪y‬‬
‫‪x‬‬
‫‪y‬‬
‫‪z‬‬
‫‪z‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 18‬از ‪95‬‬
‫الگوریتم تصادفی‬
1. Start with an arbitrary assignment
2. While terminating with all clauses satisfied or repeat M
1. Choose a clause that is currently not satisfied
2. Choose uniformly at random one of the literals
in the clause and switch its value
EndWhile
3. If valid assignment found, return it
4. Else, conclude that F is not satisfiable
 x1  x2    x2  x3   x4  x3    x5  x1 
1
95 ‫ از‬19
1
0
0 
‫زنجیره مارکف و گشت تصادفی‬
 0
1
0
1
0
1
1
0
1
0
‫گشت تصادفی روی خط‬
‫موقعیت ذره‪ ،‬تعداد متغیرهای دارای ارزش صحیح‪ ،‬در راه حل فعلی را‬
‫نشان می دهد‪.‬‬
‫‪n‬‬
‫‪0.5 0.5‬‬
‫‪i+1‬‬
‫‪i‬‬
‫‪0‬‬
‫‪i-1‬‬
‫در هر مرحله با احتمال ‪ 0.5‬تعداد متغیرهایی که ارزش درست دارند را افزایش می دهیم‪.‬‬
‫‪ Xi‬تعداد مراحل برای رسیدن به حالت ‪ N‬با شروع از حالت ‪ i‬می باشد‪.‬‬
‫½ ‪1  # of steps to reach state n starting from state i  1 with probably‬‬
‫‪Xi  ‬‬
‫½ ‪1  # of steps to reach state n starting from state i  1 with probably‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 20‬از ‪95‬‬
‫تعداد گامهای مورد انتظار‬

E  X i 1   E  X i 1 
1 
1
E  X i   E 1  X i 1   E 1  X i 1   1 
 2 

2 
2
Si  E  X i

Sn  0
S0  S1  1
Si 
1
( Si 1  Si 1 )  1
2
S0  S1  1
‫معکوس روال قبل‬
S1  S2  3
Sn 1  2n  1
S 2  S3  5
Sn 2  (2n  1)  (2n  3)
...
...
Si  Si 1  2i  1
S0  (2n  1)  (2n  3)  ...  3  1  n 2
...
Sn 1  Sn  2 * (n  1)  1  2 * n  1
95 ‫ از‬21

‫زنجیره مارکف و گشت تصادفی‬
‫تحلیل‬
‫الگوریتم مونت کارلو‬
‫خطا یک طرفه‬
‫اگر مسئله ما ارضا پذیر نباشد مطمئن هستیم که جواب الگوریتم درست است‪،‬‬
‫اما اگر ارضا پذیر باشد با احتمال باال جواب درست است‪.‬‬
‫‪M  2cn 2‬‬
‫‪If Unsatisfiable‬‬
‫‪True‬‬
‫‪‬‬
‫‪2  SAT  ‬‬
‫‪1‬‬
‫‪True‬‬
‫‪‬‬
‫‪1‬‬
‫‪‬‬
‫‪If Satisfiable‬‬
‫‪c‬‬
‫‪‬‬
‫‪‬‬
‫‪2‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 22‬از ‪95‬‬
3-SAT ‫ماکزیمم‬
( x2  x3  x4 )  ( x1  x2  x4 )  ( x2  x3  x4 )
0
2/3
i-1
1/3
i
n
i+1
1  # of steps to reach state n starting from state i  1 with probably 1 / 3
Xi  
1  # of steps to reach state n starting from state i  1 with probably 2 / 3
95 ‫ از‬23
‫زنجیره مارکف و گشت تصادفی‬
‫تعداد گامهای مورد انتظار‬

2.E  X i 1   E  X i 1 
1 
2
E  X i   E 1  X i 1   E 1  X i 1   1 
 3 

3 
3
Si  E  X i

Sn  0
1
S0  S1  1
Si  ( Si 1  2.Si 1 )  1
3
1
S1  ( S2  2.S0 )  1 Sn1  2n1  3
2(2(2(2(...)  3) n1 3)  3) 
3
3
n
S  (2  3)  (2  3)
3.S1  ( S2  2.S02) 2(...)
3 ( S2n22*3 2.(
 3S1  1))  3
S0  S1  1
S1  S2  5
S2  S3  13
...
S1  S2  5
Si  Si 1  2i  2  3
Sn1  Sn  2
95 ‫ از‬24
n 1
3 2
n 1
‫معکوس روال قبل‬
...
 23 (...) S20 2 *(23n1 23)*3(2n 3 
3) ...
 ...  1
2
...

n
nn11  2 n  ...  2 2  n(21  2 0  3))

(2
3* n
(1)  3* (2  ...  1)  2  3* (2 n  1)
 2nn2 2 1  3* ( n  1)  O (2 n )
3  4*2  3  2
n
‫زنجیره مارکف و گشت تصادفی‬
3
‫بخش ‪ :3‬زنجیره مارکوف‬
‫‪ ‬مفهوم زنجیره مارکوف‬
‫‪ ‬ماتریس و گراف احتمال گذار‬
‫‪ ‬حالت گذرا و مانا‬
‫‪ ‬کاهش ناپذیری زنجیره مارکوف‬
‫‪ ‬بردار حاالت احتماالتی‬
‫‪ ‬بردار توزیع پایدار‬
‫‪ ‬دوره تناوب‬
‫‪ ‬ارگودیک‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 25‬از ‪95‬‬
‫مفهوم زنجیره مارکوف‬
‫زنجیره مارکف حالت خاصی از مدل های احتماالتی است که بر پایه‬
‫فرایند تصادفی بدون حافظه بنا شده است‪.‬‬
‫فرایندهای مدل مارکوف‪:‬‬
‫‪ .1‬حالت های سیستم‪ :‬متناهی یا نامتناهی شمارش پذیر‬
‫‪ .2‬احتمال گذار‪ :‬احتمال حرکات بین حالت های سیستم‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 26‬از ‪95‬‬
‫ماتریس احتمال گذار‬
‫خواص ماتریس احتمال گذار‪:‬‬
‫‪ .1‬احتمال گذار تنها به حالت فعلی سیستم وابسته است‪.‬‬
‫‪ .2‬احتمال گذار همواره ثابت است‪.‬‬
‫‪ .3‬مجموع احتمال گذار حرکت به حالتهای دیگر برابر ‪ 1‬است‪.‬‬
‫‪Pr  X  n 1  x | X 1  x1 , X 2  x2 ,, X n  xn   Pr  X  n 1  x | X n  xn ‬‬
‫‪‬‬
‫‪P1m   1‬‬
‫‪‬‬
‫‪0  Pij  1‬‬
‫‪1‬‬
‫‪  1  Pij  1‬‬
‫‪j‬‬
‫‪‬‬
‫‪Pmm   1‬‬
‫‪P12 ...‬‬
‫‪...‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ P11‬‬
‫‪P‬‬
‫‪P   21‬‬
‫‪ ...‬‬
‫‪‬‬
‫‪ Pm1‬‬
‫‪ 27‬از ‪95‬‬
‫گراف احتمال گذار‬
‫‪0.7‬‬
‫‪1‬‬
‫‪0.5‬‬
‫‪0‬‬
‫‪0.4‬‬
‫‪0.2‬‬
‫‪Pij  0‬‬
‫‪0.3‬‬
‫‪0.5‬‬
‫‪0.8‬‬
‫‪3‬‬
‫‪0.6‬‬
‫‪3‬‬
‫‪2‬‬
‫‪2‬‬
‫‪1‬‬
‫‪0‬‬
‫‪0  0.7 0 0.3 0 ‬‬
‫‪‬‬
‫‪‬‬
‫‪1  0.5 0 0.5 0 ‬‬
‫‪P‬‬
‫‪2  0 0.4 0 0.6 ‬‬
‫‪‬‬
‫‪‬‬
‫‪3  0 0.2 0 0.8 ‬‬
‫‪0.7‬‬
‫‪0.4‬‬
‫‪0.3‬‬
‫‪0.6‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 28‬از ‪95‬‬
‫گذار چند مرحله ای‬
‫‬
‫ = ‪ = Pr( = |0‬‬
‫‪0.7‬‬
‫‪ .1‬روش درختی‬
‫‪0.3‬‬
‫‪ .2‬روش ماتریسی‪ :‬ماتریسی پیش بینی‬
‫‪Pn‬‬
‫‪ 0.49 0.12 0.21 0.18 ‬‬
‫‪‬‬
‫‪‬‬
‫‪0.35‬‬
‫‪0.2‬‬
‫‪0.15‬‬
‫‪0.3‬‬
‫‪‬‬
‫‪P2  ‬‬
‫‪ 0.2 0.12 0.2 0.48 ‬‬
‫‪‬‬
‫‪‬‬
‫‪0.1‬‬
‫‪0.16‬‬
‫‪0.1‬‬
‫‪0.64‬‬
‫‪‬‬
‫‪‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪0.7‬‬
‫‪0.3‬‬
‫‪0.6‬‬
‫‪ 29‬از ‪95‬‬
‫احتماالت خاص‬
‫احتمال این که با شروع از حالت ‪ i‬در ‪ t‬امین مرحله‪ j ،‬برای اولین بار رخ دهد‬
‫برابر است با‪:‬‬
‫ = ‪  1 ≤  ≤  − 1,  ≠ |0‬‬
‫‬
‫‪ = Pr( = ,‬‬
‫‬
‫‬
‫احتمال اینکه با شروع ‪ X0=i‬در زمان ‪ ،t>0‬حالت ‪ J‬را مالقات کنیم‪:‬‬
‫تعداد مراحل مورد انتظار برای رسیدن به حالت ‪: j‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫= ‬
‫‪>0‬‬
‫‬
‫= ‪ℎ‬‬
‫ ‪.‬‬
‫‪>0‬‬
‫‪ 30‬از ‪95‬‬
…‫احتماالت خاص‬
r001  0.7
r002  0.7 * 0.7  0.3* 0  0.49
0.7
r 0
r  0.3* 0.4  0.12
0
r021  0.3
r022  0.7 * 0.3  0.21
r 0
r  0.3* 0.6  0.18
2
01
1
01
1
0.4
0.2
0.3
2
03
1
03
0.5
0.5
0.8
0
1
0
-
0
2
1
0
2
3
1
0
2
3
3
1
0
0
0
2
1
95 ‫ از‬31
2
3
2
4
0.6
3
f 01  1 0  2 0.21  3 0.036
 4 0.0288  4 0.0588  ...
h01  1 0*1  2 0.21* 2  3 0.036*3
‫زنجیره مارکف و گشت تصادفی‬
 ( 4 0.0288  4 0.0588) * 4  ...
‫حالت گذرا‬
‫وضعیت ‪ A‬گذراست اگر امکان عبور از ‪ A‬باشد‬
‫به گونه ای که هرگز دوباره به ‪ A‬باز نگردیم‪.‬‬
‫‪ < 1‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 32‬از ‪95‬‬
‫حالت مانا‬
‫حالت مانا‪ :‬حالتی که خارج شدن از آن غیر ممکن باشد‪.‬‬
‫‪ = 1‬‬
‫‪ = 1,‬‬
‫‪null persistent‬‬
‫‪hii  ,‬‬
‫‪persistent ‬‬
‫‪ hii  , non null persistent‬‬
‫نظر به اینکه زنجیره مارکوف متناهی است‪،‬‬
‫هر حالت در این نوع زنجیره مارکوف یا گذراست یا مانای غیر تهی است‪.‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 33‬از ‪95‬‬
‫الگوریتم تشخیص اجزای قویا همبند گراف‬
‫ماکزیمال‪ :‬زیر گرافی که مسیری در هر دو جهت بین تمام اعضای آن وجود‬
‫داشته باشد‪.‬‬
‫مولفههای قویا همبند یک گراف جهتدار با مولفههای قویا همبند معکوس آن‬
‫گراف جهتدار یکی است‪.‬‬
‫‪b‬‬
‫‪c‬‬
‫‪a‬‬
‫‪d‬‬
‫‪4‬‬
‫‪c‬‬
‫‪b‬‬
‫‪a‬‬
‫‪d‬‬
‫‪5‬‬
‫‪3‬‬
‫‪2‬‬
‫‪1‬‬
‫‪c‬‬
‫‪d‬‬
‫‪d‬‬
‫‪d‬‬
‫‪b‬‬
‫‪b‬‬
‫‪b‬‬
‫‪a‬‬
‫‪a‬‬
‫‪a‬‬
‫‪a‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪b‬‬
‫‪a‬‬
‫‪d‬‬
‫‪c‬‬
‫‪ 34‬از ‪95‬‬
‫اجزای قویا همبند نهایی‬
‫هرگاه هیچ یالی از اعضای مجموعه ‪ C‬به گرههایی که در ‪ C‬نیستند وجود نداشته باشد‪.‬‬
‫احتمال رسیدن به سایر راسهای در مولفه قویا همبند‬
‫در یک تعداد متناهی از مراحل غیر صفر می باشد‪.‬‬
‫احتمال رسیدن به سایر راسهای در مولفه قویا همبند‬
‫نهایی در یک تعداد متناهی از مراحل برابر ‪ 1‬است‪.‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫حالت مانا است اگر و تنها اگر‬
‫آن حالت در یک مولفه قویا‬
‫همبند نهایی نهفته باشد‪.‬‬
‫‪ 35‬از ‪95‬‬
‫زنجیره مارکوف کاهش ناپذیر‬
‫همبند ضعیف است اگر با حذف جهت یالها گراف همبند باشد‪.‬‬
‫زنجیره مارکوف را کاهش ناپذیر گویند هرگاه گراف زمینه آن تنها یک‬
‫مولفه قویا همبند داشته باشد‪.‬‬
‫اگر بخواهیم همه حالتها مانا باشند باید مولفه قوی منحصر به فرد در یک‬
‫زنجیره مارکوف کاهش ناپذیر‪ ،‬نهایی باشد‪.‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 36‬از ‪95‬‬
‫بردار حالت احتماالتی‬
‫هر مولفه احتمال حضور زنجیره مارکوف را در زمان ‪ t‬و در حالت ‪ i‬نشان‬
‫‪qt   q1t ,q2t ,..., qnt ‬‬
‫می دهد ‪:‬‬
‫رفتار یک زنجیره مارکف در هر زمانی وابسته به حالت اولیه و ماتریس‬
‫انتقال آن می باشد‪:‬‬
‫‪qt 1  qt P‬‬
‫‪qt  qt 1 P  qt 2 PP  ...  q0 Pn‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 37‬از ‪95‬‬
‫بردار توزیع پایدار‬
‫زنجیره مارکوف در بسیاری از موارد به حالت تعادل گرایش پیدا می کند‪:‬‬
‫‪   .P‬‬
‫وضعیتی است که اگر بردار حالت در احتمال گذر ضرب شود بردار حالت‬
‫حاصل تغییری نکند‪.‬‬
‫در صورتی که زنجیره مارکوف در گام ‪ t‬در توزیع پایدار قرار داشته باشد‪،‬‬
‫و در گام ‪ t+1‬در توزیع پایدار باقی بماند‪.‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 38‬از ‪95‬‬
‫بردار توزیع پایدار‬
‫زنجیره مارکوف صرف نظر از نقطه شروع به توزیع پایدار میل می کند‪:‬‬
‫‪1‬‬
‫‪   1, 2 ,...n ‬‬
‫‪‬‬
‫‪i‬‬
‫‪P12 ... P1n ‬‬
‫‪‬‬
‫‪...‬‬
‫‪‬‬
‫‪‬‬
‫‪‬‬
‫‪Pnn ‬‬
‫‪ P11‬‬
‫‪P‬‬
‫‪ 1 ,  2 ,... n    1,  2 ,... n   21‬‬
‫‪ ...‬‬
‫‪‬‬
‫‪ Pn1‬‬
‫‪ j   i Pij‬‬
‫‪is‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 39‬از ‪95‬‬
‫دوره تناوب‬
‫حالت ‪ i‬دارای دوره تناوب ‪ k‬است‪.‬‬
‫اگر هر مسیر بازگشت به حالت ‪ i‬به طول مضارب ‪ k‬باشد‪.‬‬
‫‪k  gcd n | Pr( X n  i | X 0  i )  0‬‬
‫اگر یک حالت دوره تناوب ‪ k‬داشته باشد ممکن است نتوان به این حالت با‬
‫‪k‬حرکت رسید‪.‬‬
‫‪k  gcd6,8,10,12,...  2‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 40‬از ‪95‬‬
‫دوره تناوب‬
‫‬
‫‬
‫متناوب‬
‫‪ > 1,‬‬
‫‪ :‬‬
‫‪ = 1,‬‬
‫‪Periodicity is 3‬‬
‫نامتناوب‪ :‬بازگشت به حالت ‪ i‬در حرکت های غیر‬
‫منظم انجام خواهد گرفت‪.‬‬
‫‪Aperiodic‬‬
‫∞‬
‫متوسط زمان بازگشت‬
‫‬
‫= (‬
‫ ‪.‬‬
‫‪=1‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 41‬از ‪95‬‬
‫ارگودیک‬
‫حالتی از زنجیره است که هم نامتناوب است و هم یک مولفه قویا همبند‬
‫نهایی می باشد‪.‬‬
‫زنجیره مارکوف ارگودیک است‬
‫اگر تمام حاالت زنجیره مارکوف‬
‫ارگودیک باشد‪.‬‬
‫ماتریس تصادفی ‪ P‬در صورتی ارگودیک است که‬
‫‪pn‬‬
‫‪lim‬‬
‫‪n‬‬
‫موجود‬
‫باشد‪.‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 42‬از ‪95‬‬
‫قضیه اساسی زنجیره مارکوف‬
‫هر زنجیره مارکوف کاهش ناپذیر‪ ،‬متناهی و ارگودیک دارای‬
‫خواص زیر است‪:‬‬
‫‪ .1‬تمامی حالتها ارگودیک است‬
‫‪ .2‬یک توزیع پایدار منحصر به فرد ‪ π‬موجود است به طوری برای ‪،1≤i ≤n‬‬
‫‪1‬‬
‫‪ .3‬برای ‪ 1≤i ≤n‬داریم‪:‬‬
‫‪i‬‬
‫‪i  0‬‬
‫‪f ii  1, hii ‬‬
‫‪ .4‬فرض کنید )‪ N(I,t‬تعداد دفعاتی باشد که زنجیره مارکوف تا مرحله ‪ ،t‬حالت ‪ i‬را‬
‫‪N  i, t ‬‬
‫‪ i‬‬
‫بازدید می کند‪:‬‬
‫‪lim‬‬
‫‪t‬‬
‫‪t ‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 43‬از ‪95‬‬
‫مسئله قمارباز‬
p
0
1
1-p
100
1-p
1-p
1-p
p
99
2
0
0
0
 1
1  p
0
p
0

1 p
0
p
 0

0
1 p 0
 0
 0
0
0
...

0
0
0
 0
95 ‫ از‬44
p
p
Start
(10$)
0
0 0

0 0

... 0 
... p 

0 1
0
1

   1 p

  (1  p ) 2

p 
...

  (1  p ) n 1

0

‫زنجیره مارکف و گشت تصادفی‬
0 0 0 0
0 0 0 0
0 0 0 0
0 0 0 0
0 0 0 0
0 0 0 0

 p n 1 

... 

 p2 
p 

1 
0
‫مسئله قمارباز‬
0
0
0
 1
1  p
0
p
0

1 p
0
p
 0
 1 ,  2 ,... n    1,  2 ,... n  
0
1 p 0
 0
 0
0
0
...

0
0
0
1  1  (1  p ) 2   2  0  0
 2  (1  p ). 3   3  0
 3  p. 2  (1  p ). 4   4  0
...
 n   n  p. n 1
1 ,  n  0,
95 ‫ از‬45
0
0 0

0 0

... 0 
... p 

0 1
0
  (1,0,...,0, n )
 2,...,n 1  0
‫زنجیره مارکف و گشت تصادفی‬
‫مسئله نوشابه‬
coke
coke
pepsi
0.9 0.1
P

pepsi 0.2 0.8
0.1
0.9
coke
0.8
pepsi
0.2
Pr[ PepsiCokeCoke ] + Pr[ Pepsi Pepsi Coke ] =.2*.9 + .8*.2=.34
Pr[Xi = Coke]
2/3
95 ‫ از‬46
‫زنجیره مارکف و گشت تصادفی‬
‫مسئله نوشابه‬
‫‪ ‬کاهش ناپذیر‬
‫‪ ‬متناهی‬
‫‪ ‬ارگودیک‬
‫‪0.1‬‬
‫‪0.8‬‬
‫‪0.9‬‬
‫‪coke‬‬
‫‪pepsi‬‬
‫‪0.2‬‬
‫‪ .1‬تمامی حالتها ارگودیک است‬
‫‪2.  i  0‬‬
‫‪1‬‬
‫‪3‬‬
‫‪1‬‬
‫‪ , h22 ‬‬
‫‪3‬‬
‫‪1 2‬‬
‫‪2‬‬
‫‪N  2, t  1‬‬
‫‪‬‬
‫‪t‬‬
‫‪3‬‬
‫‪lim‬‬
‫‪t ‬‬
‫‪N 1, t  2‬‬
‫‪ ,‬‬
‫‪t‬‬
‫‪3‬‬
‫‪h11 ‬‬
‫‪lim‬‬
‫‪t ‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪1‬‬
‫‪i‬‬
‫‪3. f ii  1, hii ‬‬
‫‪N  i, t ‬‬
‫‪ i‬‬
‫‪t‬‬
‫‪lim‬‬
‫‪4.‬‬
‫‪t ‬‬
‫‪ 47‬از ‪95‬‬
‫بخش ‪ :4‬گشت تصادفی‬
‫‪ ‬دوره تناوب‬
‫‪ ‬توزیع پایدار‬
‫‪ ‬زمان‬
‫‪ ‬مرتبه زمان پوشش‬
‫‪ ‬گراف آبنبات‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 48‬از ‪95‬‬
‫گراف گشت تصادفی‬
‫‪ G‬یک گراف متصل‪ ،‬غیر دو بخشی و بدون جهت است‪.‬‬
‫‪G  (V , E ), | V | n, | E | m‬‬
‫‪V  State of the M G‬‬
‫‪if (u, v )  E‬‬
‫‪otherwise‬‬
‫‪ 1‬‬
‫‪‬‬
‫) ‪( Pu ,v )   d (u‬‬
‫‪ 0‬‬
‫‪‬‬
‫‪u ,v  V‬‬
‫چون ‪ G‬متصل است زنجیره مارکوف کاهش ناپذیر است‪.‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 49‬از ‪95‬‬
‫دوره تناوب‬
‫تناوب حالتها در‪ M‬برابر بزرگترین مقسوم علیه مشترک طول تمام گشتهای‬
‫بسته در ‪ G‬است‪.‬‬
‫‪k  gcd n | Pr( X n  i | X 0  i )  0‬‬
‫‪ .1‬متصل و بدون جهت است بنابراین دور به طول ‪ 2‬دارد‪.‬‬
‫‪ .2‬دو بخشی نیست بنابراین دور به طول فرد دارد‪.‬‬
‫‪k  1  M g is aperiodic‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 50‬از ‪95‬‬
‫توزیع پایدار‬
.‫ متناهی است بنابراین نشان می دهیم توزیع پایدار منحصر به فرد دارد‬G
vV  v 
d (v )
2m
n
 v  [ P]v   u Puv
v
P1v
π:
π1
π2
…
.
.
.
πn
u 1
Pnv
 x   P   x     y . P  y , x 
yV
d  y 1
1 d  x
 
.
 

d  y  yN ( x ) 2m 2m
yN ( x ) 2m
95 ‫ از‬51
‫زنجیره مارکف و گشت تصادفی‬
 hii 
2m
d (v )
‫زمان برخورد‬
‫تعداد گامهای مورد انتظار برای اینکه اولین بار به حالت ‪ v‬برسیم در‬
‫صورتی که از حالت ‪ u‬شروع کنیم‪.‬‬
‫)‪huv  E(# of step to reach v from u‬‬
‫‪u‬‬
‫‪v‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 52‬از ‪95‬‬
‫زمان سفر بین ‪ u‬و ‪v‬‬
‫زمان مورد انتظار برای گشت تصادفی با شروع از ‪ u‬و برگشت به‬
‫‪ u‬با حداقل یکبار بازدید ‪v‬‬
‫‪Cuv  huv  hvu  Cvu‬‬
‫‪u‬‬
‫‪v‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 53‬از ‪95‬‬
‫زمان پوشش‬
‫زمان انتظار یک گشت تصادفی در ‪ G‬بطوریکه از ‪ U‬شروع شود و به آن‬
‫بازگردد در حالیکه تمام راسها را حداقل یک بار مالقات کند‪.‬‬
‫)‪(G‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪u‬‬
‫‪(G)  maxu‬‬
‫‪ 54‬از ‪95‬‬
‫مرتبه زمان پوشش‬
‫حافظه‬
‫زمان اجرا‬
O(|V|)
O(|E|)
(DFS) ‫قطعی‬
O(1)
O(|V||E|)
‫تصادفی‬
(G)  2 E V
S  a lg orithm u sin g space s and time O(
that visits all vertices
95 ‫ از‬55
‫زنجیره مارکف و گشت تصادفی‬
EV
)
s
‫گراف آبنبات چوبی‬
‫‪Ln /2‬‬
‫‪A‬‬
‫‪kn /2‬‬
‫‪B‬‬
‫گراف خطی‪ :‬مسئله گشت تصادفی روی خط ‪n 2‬‬
‫)‪n.log(n‬‬
‫گراف کامل‪ :‬مسئله قمارباز‬
‫گراف آبنبات چوبی‬
‫)‪n2  n.log(n‬‬
‫وابسته است به راسی که از آن شروع می کنیم‪.‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪( n 2  n.log( n )) * n‬‬
‫‪ n3‬‬
‫‪ 56‬از ‪95‬‬
‫گراف آبنبات چوبی‬
‫رفع ابهام تصورات نادرست به وسیله گراف آبنبات چوبی‬
‫زمان پوشش وابسته به نقطه شروع نیست؟ خیر‬
‫‪huv  hvu‬‬
‫اضافه کردن لبه میتواند زمان پوشش را کاهش دهد؟ خیر به صورت یکنواخت رشد نمی کند‬
‫‪n2‬‬
‫)‪n.log(n‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 57‬از ‪95‬‬
‫خاصیت مهم زمان سفر‬
‫‪21‬‬
‫‪1/ 3‬‬
‫‪(u,v )E huv + hvu  2m.‬‬
‫‪12‬‬
‫‪1/ 3‬‬
‫‪41‬‬
‫‪14‬‬
‫‪32‬‬
‫‪23‬‬
‫‪42‬‬
‫‪24‬‬
‫‪43‬‬
‫‪34‬‬
‫‪1/ 3‬‬
‫‪2‬‬
‫‪3‬‬
‫‪n  4, m  10‬‬
‫‪2‬‬
‫‪1‬‬
‫‪4‬‬
‫‪3‬‬
‫‪n  4, m  5‬‬
‫‪1‬‬
‫‪ Pvw ‬‬
‫) ‪d (v‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪1‬‬
‫‪4‬‬
‫) ‪Q( u ,v ),( v ,w‬‬
‫‪ 58‬از ‪95‬‬
‫خاصیت مهم زمان سفر‬
‫‪1‬‬
‫‪1‬‬
‫) ‪d (v‬‬
‫‪Pvw  d (v) ‬‬
‫‪‬‬
‫) ‪uN ( v‬‬
‫‪Q(u, v),(v, w) ‬‬
‫‪‬‬
‫‪Q( x, y ),(v, w) ‬‬
‫) ‪uN ( v‬‬
‫‪‬‬
‫) ‪xV , yN ( x‬‬
‫اگر جمع هر سطر ماتریسی ‪ 1‬شود این ماتریس یک ماتریس تصادفی می باشد‬
‫و اگر جمع ستونها نیز ‪ 1‬شود این ماتریس یک ماتریس تصادفی مضاعف است‬
‫احتمال ثابت روی یالهای این زنجیره مارکوف وجود دارد‬
‫‪1‬‬
‫‪1‬‬
‫‪1‬‬
‫‪,‬‬
‫‪,...,‬‬
‫)‬
‫‪2.m 2.m‬‬
‫‪2.m‬‬
‫بردار توزیع پایدار‬
‫قضیه اساسی زنجیره مارکوف‬
‫( ‪  ( 1 ,  2 ,...,  2m ) ‬‬
‫‪ 2 * m  h uv + h vu  2m‬‬
‫‪1‬‬
‫‪i‬‬
‫‪hii ‬‬
‫این فرمول برای یالهای متصل برقرار است‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 59‬از ‪95‬‬
‫گشت تصادفی دو بعدی‬
Pr[ X t  i ]  Pr[# heads  # tail  i ]
 Pr[# heads  (t  # heads)  i ]
 t 
  t  i  p # heads q # tail


 2 
2
1
‫بازگشت به مبدا‬
 2t  2t
Pr[ X 2t  0]    / 2   1 / t
t

0

1
2
Pr[visit origin at time t ] 

 1/ t



  1 / t   1 / t 
E[# of visits to origin by time n] 
  1/ 1  1/ 2  1/ 3    1 / n
95 ‫ از‬60

   log n 
...  1 0 1 ... i ...
‫زنجیره مارکف و گشت تصادفی‬
‫گشت تصادفی سه بعدی‬
‫‪  1 / t 3/2 ‬‬
‫‪3‬‬
‫‪‬‬
‫‪‬‬
‫‪Pr[visit origin at time t ]   1 / t‬‬
‫‪lim E[# of visits by time n ]  K  constant ‬‬
‫‪n ‬‬
‫‪Pr[never return to origin]  1 / K‬‬
‫یک انسان مست میتواند خانه اش را پیدا کند‬
‫اما یک پرنده مست ممکن خانه اش را پیدا نکند‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 61‬از ‪95‬‬
‫بخش ‪ :5‬مدارهای الکتریکی‬
‫‪ ‬قوانین مدارهای الکتریکی‬
‫‪ ‬گراف مدار الکتریکی‬
‫‪ ‬زمان سفر‬
‫‪ ‬گشت تصادفی روی خط‬
‫‪ ‬صدق پذیری دودویی‬
‫‪ ‬مرتبه زمانی سفر‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 62‬از ‪95‬‬
‫قوانین مدارهای الکتریکی‬
‫‪I2‬‬
‫‪ .1‬قانون جریان کیرشهف ‪KCL‬‬
‫‪I1‬‬
‫‪ 0, I1  I 2  I3‬‬
‫‪i‬‬
‫‪I‬‬
‫‪I3‬‬
‫‪V 0‬‬
‫‪ .2‬قانون ولتاژ کیرشهف ‪KVL‬‬
‫‪circuit‬‬
‫‪V‬‬
‫‪R‬‬
‫‪I‬‬
‫‪ .3‬قانون اهم‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 63‬از ‪95‬‬
‫مثال مدار الکتریکی‬
‫‪V=0.5‬‬
‫‪1‬‬
‫‪V=0.5‬‬
‫‪a‬‬
‫‪1‬‬
‫‪0.5‬‬
‫‪c 1‬‬
‫‪2‬‬
‫‪0.5‬‬
‫‪V=1‬‬
‫مقاومت موثر بین دو گره در یک مدار با مقاومت بین شاخهها متمایز است‬
‫‪c‬‬
‫‪1 1‬‬
‫‪1‬‬
‫‪1‬‬
‫‪1 1 1‬‬
‫‪ ‬‬
‫‪‬‬
‫‪‬‬
‫‪  1‬‬
‫‪R R1 R2 R11  R12 R2 2 2‬‬
‫‪1‬‬
‫‪b‬‬
‫‪b‬‬
‫‪1‬‬
‫‪ R   Ri series‬‬
‫‪‬‬
‫‪1‬‬
‫‪1‬‬
‫‪ R   R parallel‬‬
‫‪‬‬
‫‪i‬‬
‫‪Vbc  Vbc‬‬
‫‪ Vba  Vac  Vba  Vca‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 64‬از ‪95‬‬
‫گراف مدار الکتریکی‬
N (G )
E :1 ohm
u ,vV Ruv : effective resis tan ce
d (v ) | ( v ) |
 d (v)  2. | E |
95 ‫ از‬65
‫زنجیره مارکف و گشت تصادفی‬
‫زمان سفر‬
Cuv  2m.Ruv
v ‫ نسبت به نقطه‬u ‫ولتاژ‬
uv : voltage at u respect to v
 uv  huv
d (u ) 

(current u  x )
((1))

 ux
((3))

( uv   xv )
((2))
( u , x )E

( u , x )E

( u , x )E
 d (u ). uv 
95 ‫ از‬66

( u , x )E
 xv  1   uv 
1
1




1

 xv


xv
uv
d (u ) ( u , x )E
d (u ) ( u , x )E
1
huv  1 
 wv

d (u ) w ( u )
‫زنجیره مارکف و گشت تصادفی‬
 uv  huv
Cuv  2m
‫زمان سفر‬
vu  hvu
uv  vu  hvu
uv  uv  uv  huv  hvu  Cuv  2m.Ruv
.‫این فرمول بین هر دو گره برقرار است‬
95 ‫ از‬67
‫زنجیره مارکف و گشت تصادفی‬
‫گشت تصادفی روی خط‬


P0  0
Pn  1
−

Pi 
1
( Pi 1  Pi 1 )
2
Vi 
1
(Vi 1  Vi 1 )
2
+
I i 1i  I ii 1
Vi 1  Vi Vi  Vi 1

1
1
V0  0
95 ‫ از‬68
Vn  1
‫زنجیره مارکف و گشت تصادفی‬
−

‫صدق پذیری دودویی‬


−

+
−

Cuv  2m.Ruv ,
R  R1  R2  ...  Rm
 1  1  ...  1  m  Cn 0  2m.m  2m 2  O (n 2 )
m  n 1
Cuv  2m.Ruv , Ruv  n  Cuv  2m.n
95 ‫ از‬69
‫زنجیره مارکف و گشت تصادفی‬
‫مرتبه زمانی سفر‬
Cuv  2m.Ruv ,
Ruv  n  Cuv  2.m.n
mmax
95 ‫ از‬70
n
n( n  1)

 Cuv  2.   .n  n 3  Cuv  O (n 3 )
2
2
‫زنجیره مارکف و گشت تصادفی‬
‫بخش ‪ :6‬زمان پوشش‬
‫‪ ‬زمان پوشش‬
‫‪ ‬محدوده زمان پوشش‬
‫‪ ‬حد پایین زمان پوشش‬
‫‪ ‬حد باالی زمان پوشش‬
‫‪ ‬تقریبی برای مقاومت ویژه‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 71‬از ‪95‬‬
‫زمان پوشش‬
‫‪5‬‬
‫‪ T‬یک درخت پوشا از گراف ‪ G‬باشد‪.‬‬
‫‪1‬‬
‫‪2 4 3‬‬
‫)‪(G)  2m(n  1‬‬
‫یک پیمایش از ‪ T‬وجود دارد که از هر لبه در هر جهت فقط یک بار عبور‬
‫کند‪( .‬پیمایش اویلری)‬
‫‪C‬‬
‫‪uv‬‬
‫‪u ,vT‬‬
‫‪ hvu ‬‬
‫‪E21 , E14 , E41, E13 , E35 , E53 , E31, E12‬‬
‫‪h‬‬
‫‪uv‬‬
‫‪u ,vT‬‬
‫‪V0 ,V1 ,...,V2 n 2  V0‬‬
‫‪(G )  hV0V1  hV1V2  ...  hV2 n 3V0 ‬‬
‫)‪ 2m( n  1‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 72‬از ‪95‬‬
‫محدوده زمان پوشش‬
‫‪ ‬بدترین حالت‬
‫گراف آبنبات‬
‫گراف خطی‬
‫‪3‬‬
‫) ‪O( n‬‬
‫) ‪O( n 2‬‬
‫‪ ‬بهترین حالت‬
‫گراف ستاره‬
‫گراف کامل‬
‫))‪O(n.log(n‬‬
‫‪R (G )  max Ruv‬‬
‫‪u ,vV‬‬
‫‪mR(G)  (G)  2e3mR(G)ln(n)  n‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 73‬از ‪95‬‬
‫حد پایین زمان پوشش‬
mR(G)  (G)  2e mR(G)ln(n)  n
3
(G )  max u
u
(G )
Cuv
u (G )  Cuv (G )  huv  hvu  max( huv , hvu ) 
2
and u,vV R(G)  Ruv
mR(G)  (G)
95 ‫ از‬74
‫زنجیره مارکف و گشت تصادفی‬
‫حد باالی زمان پوشش‬
‫‪3‬‬
‫برای حد باال می خواهیم نشان دهیم احتمال اینکه تمام راسها در )‪ 2e mR(G)ln(n‬مرحله‬
‫‪1‬‬
‫مشاهده نشوند‪ ،‬حداکثر برابر‬
‫‪2‬‬
‫‪n‬‬
‫است‪.‬‬
‫گشت تصادفی به طول )‪ 2e3mR(G)ln(n‬را به ) ‪ ln( n‬تا دوره به طول )‪2e3mR(G‬‬
‫تقسیم می کنیم‪.‬‬
‫‪3‬‬
‫)‪vhuv  2mR(G‬‬
‫| )‪1:| 2e mR(G‬‬
‫| )‪2 :| 2e3mR(G‬‬
‫| )‪ln(n) :| 2e3mR(G‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 75‬از ‪95‬‬
‫حد باالی زمان پوشش‬
‫‪1‬‬
‫با توجه به نامساوی مارکف احتمال اینکه ‪ v‬در یک دوره مشاهده نشود حداکثر برابر‬
‫‪3‬‬
‫‪e‬‬
‫‪1/ e3‬‬
‫‪1/ e3‬‬
‫‪V is not visited‬‬
‫‪V is not visited‬‬
‫‪1/ e3‬‬
‫‪V is not visited‬‬
‫‪1‬‬
‫‪n3‬‬
‫احتمال اینکه ‪ v‬در هیچکدام از ) ‪ln( n‬‬
‫است‬
‫‪V is not visited‬‬
‫‪1‬‬
‫دوره مشاهده نشود حداکثر برابر ‪ 3‬است‬
‫‪n‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 76‬از ‪95‬‬
‫حد باالی زمان پوشش‬
‫با جمع احتمالهای باال روی ‪ n‬تا راس‪ ،‬احتمال اینکه تمام راسها در )‪2e3mR(G)ln(n‬‬
‫‪1‬‬
‫مرحله مشاهده نشوند‪ ،‬حداکثر برابر‬
‫‪2‬‬
‫‪n‬‬
‫است‬
‫‪Cuv  n3‬‬
‫‪1‬‬
‫‪2e mR(G ) ln(n )  2  n 3  2e3mR(G ) ln(n )  n‬‬
‫‪n‬‬
‫‪3‬‬
‫‪(G)  2e mR(G)ln(n)  n‬‬
‫‪3‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 77‬از ‪95‬‬
‫تقریبی برای مقاومت ویژه‬
‫برای گراف با مینیمم درجه ‪ d‬داریم‬
‫‪1‬‬
‫‪d‬‬
‫‪R‬‬
‫اگر گراف‪ P ،‬تا مسیر متشکل از یالهای مجزا به طول حداکثر ‪ l‬از ‪ s‬به ‪t‬‬
‫داشته باشد‪ .‬داریم‪:‬‬
‫‪p‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪Rst ‬‬
‫‪ 78‬از ‪95‬‬
‫بخش ‪ :7‬گراف‬
‫‪‬‬
‫‪‬‬
‫‪‬‬
‫‪‬‬
‫‪‬‬
‫‪‬‬
‫‪‬‬
‫‪‬‬
‫کالس الگوریتمهای تصادفی‬
‫کالس ‪RLP‬‬
‫مسئله ‪USTCON‬‬
‫الگوریتم تصادفی برای مسئله ‪USTCON‬‬
‫گراف برچسب دار‬
‫توالی پیمایش‬
‫توالی پیمایش جهانی‬
‫مسئله ‪STCON‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 79‬از ‪95‬‬
‫کالس الگوریتمهای تصادفی‬
x  L
Class RP : 
xL
Pr[ A( x) Accept ]  0.5
x  L
Class PP : 
x  L
Pr[ A( x) Accept ]  0.5
x  L
Class BPP : 
x  L
Pr[ A( x) Accept ]  0
Pr[ A( x) Accept ]  0.5
Pr[ A( x ) Accept ]  0.75
Pr[ A( x) Accept ]  0.25
Class ZPP : E (TIME )  Polynomial
95 ‫ از‬80
‫زنجیره مارکف و گشت تصادفی‬
‫کالس ‪RLP‬‬
‫ماشین تورینگ احتماالتی با فضای ‪:log‬‬
‫نوار فقط خواندنی‪ :‬یک نوار برای دریافت ورودی دارد‪.‬‬
‫نوار ذخیره سازی‪ :‬نوار قابل نوشتن با فضای ‪log‬‬
‫زمان اجرا چند جمله ای است‬
‫زبان ‪ A‬متعلق به کالس ‪ RLP‬است‬
‫اگر ماشین تورینگ احتماالتی با فضای ‪ log‬موجود باشد به طوری که‬
‫‪Pr[ M ( x) Accept ]  0.5‬‬
‫‪Pr[ M ( x) Accept ]  0‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪x  L‬‬
‫‪Class RLP : ‬‬
‫‪xL‬‬
‫‪ 81‬از ‪95‬‬
‫مسئله‬
‫‪Undirected S-T Connectivity‬‬
‫گراف بدون جهت ‪ G‬و دو راس ‪ s‬و ‪ t‬را در ‪ G‬در نظر بگیرید‪ ،‬می خواهیم‬
‫بدانیم آیا ‪ s‬و ‪ t‬در یک مولفه متصل یکسان قرار دارند‬
‫‪t‬‬
‫‪s‬‬
‫‪USTCON  RLP‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 82‬از ‪95‬‬
‫الگوریتم تصادفی‬
‫یک گشت تصادفی به طول ‪ 23‬و نقطه شروع ‪ S‬را به وسیله ماشین تورینگ احتماالتی با‬
‫فضای ‪ log‬شبیه سازی میکنیم‬
‫‪encounters t‬‬
‫‪otherwise‬‬
‫‪1‬‬
‫‪‬‬
‫‪0‬‬
‫با در نظر گرفتن ‪ ℎ < 3‬احتمال اینکه ‪ t‬در گشت تصادفی دیده نشود حداکثر برابر ‪0.5‬‬
‫است‪.‬‬
‫‪Pr[ A( x) Accept ]  0.5‬‬
‫‪x  L‬‬
‫‪‬‬
‫‪Pr[ A( x) Accept ]  0‬‬
‫‪xL‬‬
‫در نتیجه ما الگوریتم تصادفی برای مسئله تصمیم گیری ‪ USTCON‬در‬
‫فضای ‪ log‬و زمان چند جمله ای پیدا کردیم‪.‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 83‬از ‪95‬‬
‫گراف برچسب دار‬
‫یک گراف ‪ d‬منتظم است که به یال های متصل به هر راس برچسب های‬
‫}‪ {1, 2, … , d‬زده شده است و لزومی ندارد که برچسبهای یک یال در‬
‫دو سر آن مشابه باشد‪.‬‬
‫‪2‬‬
‫‪a‬‬
‫‪1‬‬
‫‪2‬‬
‫‪2‬‬
‫‪c‬‬
‫‪1‬‬
‫‪1‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪b‬‬
‫‪ 84‬از ‪95‬‬
‫توالی پیمایش‬
‫پیمایشی برای یک گراف برچسب دار ‪ G‬است‬
‫اگر بدون اینکه در نظر بگیرد از چه گره ای شروع کرده است‬
‫یک گشت روی گراف ایجاد کند که تمام گره ها را بازدید کرده باشد‬
‫‪2‬‬
‫‪a‬‬
‫)‪  (1, 2 ,...‬‬
‫‪1‬‬
‫‪2‬‬
‫‪2‬‬
‫‪c‬‬
‫‪1‬‬
‫‪1‬‬
‫)‪  (1,2,1,1,2‬‬
‫‪b‬‬
‫‪a : b, a, b, c, a. b : c, a, b, c, a. c : b, a, b, c, a‬‬
‫)‪ (1,2,2‬کوتاهترین توالی که پیمایشی برای یک گراف برچسب دار ‪ G‬باشد‪.‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 85‬از ‪95‬‬
‫توالی پیمایش جهانی‬
‫اگر هر گراف لیبل داری در یک کالس از گراف را پیمایش کند‪.‬‬
‫از توالی پیمایش جهانی به طول چند جمله ای میتوان با استفاده از ماشین تورینگ فضای‬
‫لگاریتمی برای مسئله تصمیم گیری ‪ USTCON‬استفاده نمود‪.‬‬
‫طول کوتاه ترین توالی پیمایش جهانی برای تمام گرافهای برچسبدار در‪ G‬باشد‬
‫)‪U ( g )  U (d , n‬‬
‫حداکثر مقاومت ویژه بین هر جفت از رئوس در هر گراف در ‪ G‬است‬
‫) ‪R( g‬‬
‫)| ‪U ( g )  5mR( g )log2 (n | g‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 86‬از ‪95‬‬
‫طول کوتاه ترین توالی پیمایش جهانی‬
‫‪2/5‬‬
‫‪2/5‬‬
‫‪V is not visited‬‬
‫‪V is not visited‬‬
‫‪2/5‬‬
‫‪V is not visited‬‬
‫)| ‪U ( g )  5mR( g ) log 2 (n | g‬‬
‫)| ‪log 2 (n | g‬‬
‫‪(n g )c‬‬
‫) ‪5mR( g‬‬
‫‪V is not visited‬‬
‫با جمع احتمالهای باال روی ‪ n‬تا راس و تمام|‪|g‬تا انتخاب گراف برچسبدار ‪ ،g‬احتمال اینکه‬
‫پیمایش انجام شده پیمایش جهانی نباشد کمتر از یک است‬
‫برای این کالس پیمایش جهانی به طول بیان شده وجود دارد‪.‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 87‬از ‪95‬‬
‫طول کوتاه ترین توالی پیمایش جهانی‬
‫تعداد گرافهای لیبل دار ‪ n‬راسی ‪ d‬منتظم برابر است با‬
‫‪O  nd ‬‬
‫‪  nd ‬بنابراین داریم ‪:‬‬
‫) ) ‪U (d , n)  5mR( g ) log 2 (n | g |)  5mR( g ) log 2 (n.(nd )O ( nd‬‬
‫‪O ( nd ) 1‬‬
‫(‬
‫‪nd‬‬
‫)‬
‫( ‪ 5mR( g ) log2 ((n)O ( nd )1 (d )O ( nd ) )  5mR( g ) log 2‬‬
‫)‬
‫‪d‬‬
‫‪mnd /2‬‬
‫) ‪ 5mR( g )(O(nd )  1) log 2 (nd )  5n 2 R( g )(O(nd )  1)log 2 (nd‬‬
‫)‪U (d , n)  O(n3d log n‬‬
‫ما فقط به صورت احتماالتی اثبات کردیم که چنین دنباله پیمایش جهانی وجود دارد‪ ،‬و در‬
‫نتیجه ماشین غیر یکنواخت قطعی فضای لگاریتمی وجود دارد‪.‬‬
‫ما نمی دانیم که چگونه می توان چنین توالی برای دستگاه فضای لگاریتمی قطعی ساخت‪.‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 88‬از ‪95‬‬
‫مسئله ‪STCON‬‬
‫‪t‬‬
‫‪s‬‬
‫‪t‬‬
‫با استفاده از تکنیک پرش به عقب‪ ،‬الگوریتم مونت کارلویی ارائه میدهیم که از فضای))‪O(log(n‬‬
‫استفاده میکند و زمان اجرای آن ) ‪ O(nn‬می باشد‪.‬‬
‫گراف برچسب دار‪:‬‬
‫گرافی که به یالهای خروجی هر راس آن برچسب های })‪ {1, 2,…, d(v‬زده شده است‬
‫مسیر‪ :‬رشته ای به صورت }‪{1, 2, … , n-1‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 89‬از ‪95‬‬
‫الگوریتم قطعی‬
‫‪node=s‬‬
‫)‪While( step or output=No‬‬
‫تمام رشتهها به طول ‪ n-1‬را طی می کنیم‬
‫)‪Walk(strings of length n - 1‬‬
‫تعداد این رشته ها حداکثر برابر  است‬
‫)‪If (t existed in string‬‬
‫اگر یک مسیر از ‪ s‬به ‪ t‬وجود داشته باشد‬
‫‪output=YES‬‬
‫به ما این اطمینان را میدهد که آنرا کشف کنیم‪.‬‬
‫‪EndWhile‬‬
‫)‪If ( don’t discover a pass from s to t‬‬
‫‪output=NO‬‬
‫‪EndIf‬‬
‫شاخصی که این رشتهها را می شمارد به فضا )‪ O(nlog n‬برای نگهداشتن آن نیاز دارد‪.‬‬
‫از آنجا که ما میخواهیم از فضایی با )‪ O(logn‬استفاده کنیم از روش تصادفی استفاده میکنیم‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 90‬از ‪95‬‬
‫الگوریتم تصادفی‬
node=s
1.While(n-1 step or output=No)
Walk(choosing an edge leaving the current vertex)
If (t is reached)
output=YES
log(
If (reaches a vertex with no outgoing edge)
return to s
Endwhile
2. Flip log( unbiased coins
If ( all coins come up HEADSh)
halt and output=NO
95 ‫ از‬91
‫زنجیره مارکف و گشت تصادفی‬
O(log(n))
O(log(log(nn )))  O(log(n))
‫تحلیل الگوریتم‬
‫مونت کارلو با خطای یک طرفه‬
‫اگر جواب درست را بدهد جواب صد در صد درست است‪.‬‬
‫اگر جواب غلط را بدهد جواب با یک احتمالی درست است‪.‬‬
‫‪Pr[ A( x) Accept ]  ‬‬
‫‪Pr[ A( x) Accept ]  0‬‬
‫‪ xL‬‬
‫‪‬‬
‫‪x  L‬‬
‫ما مایل هستیم در صورتی که یک مسیر از ‪ s‬به ‪ t‬وجود داشته باشد‪.‬‬
‫احتمال خطای خروجی ‪ NO‬را کاهش دهیم‪.‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 92‬از ‪95‬‬
‫تحلیل الگوریتم‬
‫در گام اول‪ :‬از آنجا که تعداد گشتهای متمایز از راس ‪ s‬حداکثر  است‬
‫احتمال کشف مسیر ‪ s-t‬برابر ‪ −‬است‬
‫در گام دوم‪ :‬احتمال اینکه تمام سکه ها رو بیاید برابر ‪ −‬است‬
‫در هر مرحله‬
‫احتمال موفقیت حداقل برابر ‪−‬‬
‫احتمال شکست حد اکثر برابر ‪1 − − − ≤ −‬‬
‫احتمال خروجی ‪yes‬‬
‫‪pw  n  n  (1  2n  n ) pw‬‬
‫‪pw  0.5‬‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 93‬از ‪95‬‬
‫مراجع‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 94‬از ‪95‬‬
‫با تشکر از حسن توجه شما‬
‫زنجیره مارکف و گشت تصادفی‬
‫‪ 95‬از ‪95‬‬

similar documents