概率空間 (Probability Space) 與 概率測度 (Probability Measure)

概率空間 (Probability Space) 與 概率測度 (Probability Measure)

想要了解上述兩個概念，我們需要從更基本的集合論 (Set Theory) 入手

集合 (Set)

集合，簡單地說，就是一堆東西的總體，其中每個東西稱為這個集合的一個元素。

舉例而言, 定義 Ω：

Ω = { 小明, 小美, 小強 }

如此Ω 則是一個包含了三個元素 (element) 的集合。當中小明，小美，小強均為 Ω 的元素。

子集 (Subset)

子集，為大集合中一部分的集合，故亦稱部分集合。

表示子集的符號為⊂

如  F ⊂ Ω 代表 F 是 Ω 的子集。

舉例而言：

Ω = { 小明, 小美, 小強 }

則 ∅ , { 小明 }, { 小美 }, { 小強 }, { 小明, 小美 }, { 小明, 小強 }, { 小美, 小強 }, { 小明,小美,小強 } 均為 Ω 的子集

如 { 小明, 小強 } ⊂ Ω

註：∅ 為 空集 (Null set)

冪集 (Power set)

冪集，就是將集合 Ω 中所有子集組合而成的新的集合。

冪集的寫法為 ℙ(Ω) 

舉例而言：

Ω = { 小明, 小美, 小強 }

ℙ(Ω)  = { ∅ , { 小明 }, { 小美 }, { 小強 }, { 小明, 小美 }, { 小明, 小強 }, { 小美, 小強 }, { 小明,小美,小強 } }

聯集 (Union)

聯集，是將多個集合 Ω , Σ 中分別擁有的所有元素合併，從而構成的新的集合。

聯集的符號為∪

舉例而言：

Ω = { 小明, 小美, 小強 }

Σ = { 一心, 家寶, 小強 }

則 Ω ∪ Σ 為 { 小明, 小美, 小強,  一心, 家寶 }

交集 (Intersection)

交集，是將多個集合 Ω , Σ 中共同擁有的所有元素合併，從而構成的新的集合。

交集的符號為∩

舉例而言：

Ω = { 小明, 小美, 小強 }

Σ = { 一心, 家寶, 小強 }

則 Ω ∩ Σ 為 { 小強 }

差集 (Complement)

差集，是一個集合 Ω 中排除掉令一集合 Σ 中共同擁有的元素後，從而留下的新的集合 (子集) 。

差集的符號為 \

舉例而言：

Ω = { 小明, 小美, 小強 }

Σ = { 一心, 家寶, 小強 }

則 Ω \ Σ 為 { 小明, 小美 }

σ 代數 (Sigma-Algebra)

在數學中，某個集合 Ω 上的σ代數又叫σ域，是 Ω 的冪集的一個子集。

這個子集滿足對於可數個集合的聯集運算和交集運算的封閉性（因此對於交集運算也是封閉的）。

定義：

設 Ω 為一非空集合。若然 F  符合下列條件，則 F 為 Ω 的 σ 代數：

1. Ω ∈ F

2. Σ ∈ F ⇒ Σ' ∈ F
3. ∀( A ∈ F ) ⇒ ∪A = F

( Ω , F )記號稱為一個可測空間。

概率空間 (Probability Space)

概率空間 (Ω, F, P) 是一個總測度為1的測度空間（即 P(Ω) =1）


第一項 Ω 是一個非空集合，有時稱作「樣本空間」(Sample Space)。Ω 的集合元素稱作「樣本輸出」(outcome)，可寫作ω。
第二項 F 是樣本空間 Ω 的冪集的一個非空子集。 F 的集合元素稱為事件 Σ。事件 Σ 是樣本空間 Ω 的集族 (class)。集合 F 必須是一個σ-代數：

( Ω, F ) 合起來稱為可測空間。

第三項 P 稱為概率，或者概率測度 (Probability Measure)。這是一個從集合 F 到實數域 R 的函數，P : F → R。每個事件都被此函數賦予一個機率值。P 必須是一個測度，且 P(Ω) = 1。

舉例而言，擲銀幣一次，定義正面為H 且反面為T，樣本輸出 ω 為：

{H}
{T}

F = { ∅, {H} , {T} , { H , T } }

P( ω = {H} ) = 0.5
P( ω = {T} ) = 0.5

****************************************************************

因此，擲銀幣三次，在概率測度 P 下，樣本輸出 ω 為：

{HHH}
{HHT}
{HTH}
{THH}
{HTT}
{THT}
{TTH}
{TTT}

F = { ∅, {HHH} , {HHT} , ... , {TTT} , { {HHH} , {HHT} } , ... , { {TTH} , {TTT} } , ... , { {HHH} , {HHT} , {HTH} } , ... , { {HHH}, {HHT}, {HTH} , {THH} , {HTT} , {THT} , {TTH} , {TTT} }

P( ω = {HHH} ) = 1/8
P( ω = {HHT} ) = 1/8
P( ω = {HTH} ) = 1/8
P( ω = {THH} ) = 1/8
P( ω = {HTT} ) = 1/8
P( ω = {THT} ) = 1/8
P( ω = {TTH} ) = 1/8
P( ω = {TTT} ) = 1/8

****************************************************************

若果覺得銀幣是有偏差的，如：擲得正面的機率為 2/3
在概率測度 Q 下，樣本輸出 ω 為：

Q( ω = {HHH} ) = 8/27
Q( ω = {HHT} ) = 4/27
Q( ω = {HTH} ) = 4/27
Q( ω = {THH} ) = 4/27
Q( ω = {HTT} ) = 2/27
Q( ω = {THT} ) = 2/27
Q( ω = {TTH} ) = 2/27
Q( ω = {TTT} ) = 1/27

可見 P 與 Q  為描述 可測空間 ( Ω, F ) 的不同概率測度，使用不同的函數去描述同一個可測空間。

References:
http://www.wikipedia.org/
http://www.math.scu.edu.tw/teacher/Chieping/probability.html