網誌搬家了 I moved to github!

我的網誌移到 github 上囉! 以後的新文章都會發佈在 https://yenhsunlin.github.io/

留言

張貼留言

這個網誌中的熱門文章

IA8 - 機率方法在圖像去噪之應用Part 1: Binary image

圖片
在IA4的文章裡我們提到了傳輸一張binary image後，有可能會受到干擾導致圖片被污染，裡面討論了復原的方法，像是一次傳輸多張照片，最後用投票的方式來決定該像素的顏色應該取\(+1\)還是\(-1\)，因為如果噪聲是隨機的，那麼不太可能同個位置超過一半的像素都是錯的。但這個方法有個缺點，就是必須一次傳輸多張相同的圖片才能達到良好的修復效果，可是這非常地消耗數據傳輸量以及講究頻寬的大小，這對應到成本的增加，尤其是當我們要傳輸高傳真的訊號時。那麼是不是有什麼方法，可以單從一張收到的影像中去回推原始未受到污染的圖片，我想要用兩篇文章來探討，我採用由簡入繁的方式，第一篇這裡我們先處理binary image的情況，在下篇我們再進一步處理彩色的照片。 一、從圖模型檢視雜訊圖像 在IA7裡我們談到了修復刮花圖像的技術，出於圖像毀損的狀態，所以我們當初設定是刮花處與真實圖像之間並無關聯，但對於雜訊圖像則情況不同，因為這些在圖像上的雜訊，可能是原來的像素加上一個擾動值，假設真實的像素值是\(x\)，那麼加上噪聲後新的像素\(y\)就可以表示成 \[ y = x + n\tag{1} \] 其中\(n\)表示噪聲。這種加上擾動值\(n\)最常假設的生成方式便是均值為0的高斯噪聲。 　從Eq. (1)中我們假設了一個簡單的關係式。由於一整張圖片是由非常多的像素所構成一個W×H的網格，或稱陣列，其中W和H分別表示圖像寬和高所對應的像素數量，我們可以用 圖模型 (graphical model, GM) 來對應真實無雜訊的圖像\(\mathbf{x}\)和觀測到存在噪聲的圖像\(\mathbf{y}\)之間的關係，見圖1，粗體字表示圖像是一個陣列而非純量。 圖1. 利用圖模型來推論真實圖像和雜訊圖像之間的關係 　我們認為真實圖像\(\mathbf{x}\)的每一個像素 (圖1中橘色實心的節點) 和周遭的像素都有關連，所以我們用紅色的實現將之連起，例如一張照片中一張人臉上任一處肉色的圖像一定和周圍皮膚的顏色有關聯，而不會和遙遠處天空的藍色有關聯。但我們觀測到的圖像\(\mathbf{y}\)已經被某些未知雜訊的生成機制所破壞，所以原則上這些像素點之間並不存在關聯，就如同圖1中藍色的空心節點，它們構成我們所見的圖案，彼此間沒有線將它們串連起來。而這個...
閱讀完整內容

PS7 - 小專題: 為何高斯分佈擁有最大熵?

圖片
高爾頓板，或稱做quincunx，是由Galton爵士 (1822-1911) 所發明用來驗證中央極限定理 (CLT) 的裝置。它也是第一位討論均值回歸 (regression to the mean) 現象的科學家，但同時亦是優生學 (eugenics) 這樣錯誤觀念的推廣者 在 上篇雜記 的結尾我們提到了對於一個趨於穩態的系統擁有最大的熵，而這也是統計力學的直接應用，用物理的角度來講便是當系統平衡時 Gibbs 自由能不再變化 (\(\Delta G =0\))，而在此時會對應到系統的熵有全域極大值 (global maximum)。故大自然很多現象都已經處於穩態的狀況下，我們對這個現象的母體做抽樣，所得到的觀測樣本應也有最大熵，則描述這些觀測樣本最好的分佈便是符合該條件下擁有最大熵的機率分佈。而指數族的分佈符合最大熵的特點，我們在這個小專題內便嘗試證明高斯與二項式分佈在連續和離散的隨機變量下的條件擁有最大熵的性質。 一、機率熵 在 上篇雜記 裡裡我們探討了夏儂熵，或者稱作資訊量\(I\)的意含，所以一個系統內 (我們這裡就不再用系綜這種彆扭的歷史名詞了) 每個成員出現的機率是\(p_i\)，則對該系統的熵可以用夏儂熵公式來表示 \[ I(p) = -\sum_i p_i \ln p_i. \tag{7.1} \] 所以對某一組 連續 機率分佈函數\(p(x)\)，其中\(x\)是隨機變量，則將(7.1)的求和符號改成積分後有 \[ I(p) = -\int p(x)\ln p(x) dx, \tag{7.2} \] 稱為機率分佈\(p(x)\)的 機率熵 ，而積分的上下限則看隨機變量的範圍，例如高斯分佈就是\(\pm \infty\)。如果今天我們有兩組機率分佈\(p(x)\)和\(q(x)\)，我們便可以定義它們之間的 相對熵 ，或稱作 KL散度 (Kullback-Leibler divergence)，定義為 \[ D_{KL}(q,p)\equiv\int q(x)\ln \left(\frac{q(x)}{p(x)}\right) dx = I(q,p)-I(q)\geq 0, \tag{7.3} \] 是 正定的 (positively defined)，其中 \[ I(q,p)=-\int q(x)\ln p(x) d...
閱讀完整內容

正義不正義？守法錯了嗎？

圖片
When justice is done, it brings joy to the righteous but terror to evildoers. —Proverbs 21:15 對於活在自由與民主為普世價值的我們而言，新舊政權的更迭通常代表著極權或高壓的舊政權 (惡) 被自由與平等的新政權 (善) 所取代。在這之中衍伸出新政權對於舊政權所犯下壓迫人民的罪刑與錯誤，該如何善盡應有的責任。而這之中法律原則與民眾對整個社會應有的道德正義發生顯著的典範轉移 (paradigm shift)。在這個過渡期 (transitional period) 我們該如何銜接與修補新舊間的裂痕並維持法律的連續與完整性，當年受政府迫害的人民的權益該如何獲得補償？整個課題構成了所謂的 轉型正義 (transitional justice)。 　在清算前朝的罪行時，除了透過在新舊政權的善惡間劃出一條明顯的分界線外，也不能忽略如何維持法律與國家歷史的連續性。在轉型與究責的過程當中，還必須考量五大正義：刑事、歷史、補償、行政與憲法正義。這五大核心正義與法律原則的建構以及與前朝的連續性，我們嘗試建構出在轉型為民主自由國家的這個過渡期的專屬理論。 一、綜論 轉型正義探討關於從專制政權過渡到民主臻於成熟的政權的這段時期，該如何銜接兩代政權的憲政與法律問題，以及新政權該如何對國家過去所犯下的罪行做彌補。如同納粹以亞利安的種族優越迫害猶太人，或東歐共產黨對人民的鎮壓和將異己以煽動叛亂送入集中營勞改，又或如南美洲的的軍權主義使對其政權威脅的人民失蹤或暗殺，種種令人髮指的惡行，是以國家為單位對其國民做有系統的迫害。當人民在迫害環境下逆境求生，思想覺醒，以及透過國際社會的渲染施壓，這些極權國家終將土崩瓦解，取而代之的是自由與民主的新政體。新政權在完備其體制前的過渡期，以及如何面對與彌補前朝所犯下的惡行，正義該如何被伸張？人民的權利該如何透過法律被保障與補償？更重要的是，如何創建嶄新的憲政體制，使得重生的國家與其人民不會重蹈覆轍過去的錯誤？轉型期正意味著國家在顢頇跌撞的摸索中重新尋找它的方向，並且嘗試與過去的受害者和解共生，而這正是轉型正義的核心課題。 　在轉型期中最重要的是對正義的概念發生顯著的典範轉移，而法律的回應代表國家過去統治的不正當性。在切割邪惡的同時，...
閱讀完整內容