r036_logo
數學
2025-03-19

機率論(Probability Theory)

前敘

筆記內容著重於,電腦科學與人工智慧領域所應用的數學,目的為快速導讀重點脈絡及公式,類似於直式的心智圖,有助於構思規劃學習路線,或是直接查找應用。


目錄

筆記目前整理部分

  • 微積分
    (研究連續變化、累積與極限現象的數學,應用於函數分析、優化與動態系統建模)

  • 線性代數
    (研究向量、矩陣與線性變換的結構與操作,為機器學習與深度學習的核心基礎)

  • 離散數學(廣義邏輯學)
    (研究離散結構與邏輯基礎,包含集合論、圖論、布林代數等,支撐演算法設計與計算理論)

  • 統計學
    (研究資料分佈、推論與估計,是資料分析與機器學習模型評估的重要工具)

  • 幾何學
    (研究形狀、空間關係與度量,在電腦視覺、圖形學與機器人定位中應用廣泛)

  • 數學分析
    (研究極限、收斂性與嚴格定義的連續性,是微積分的理論基礎並延伸至泛函分析)

  • 機率論
    (研究隨機事件與不確定性,為貝葉斯推論、馬可夫過程及強化學習等提供理論支撐)


普通機率(Ordinary Probability)

事件 AA 發生的機率是所有可能結果中,屬於 AA 的結果比例 0P(A)10 \le P(A) \le 1

P(A)[0,1]P(A) \in [0,1]

條件機率:在 BB 發生的條件下 AA 發生的機率 P(AB)P(A \mid B)

聯合機率 (Joint Probability)

兩個或多個隨機變數同時發生的機率 p(x,y)p(x,y)

邊緣化 (Marginalization)

從聯合機率分布中「消去」一個或多個變數,得到剩下變數的機率分布 P(X=x)=yP(X=x,Y=y)P(X = x) = \sum_y P(X = x, Y = y)


條件機率(Conditional Probability)

在事件 BB 已經發生的前提下,事件 AA 發生的機率:

P(AB)=P(AB)P(B),P(B)>0P(A \mid B) = \frac{P(A \cap B)}{P(B)}, \quad P(B) > 0
  • P(AB)P(A \cap B)AABB 同時發生的機率(交集機率)
  • P(B)P(B)BB 發生的機率
  • P(AB)P(A \mid B):在 BB 發生的情況下,AA 發生的比例

如果 BB 是必然事件,P(B)=1P(B) = 1

P(AB)=P(AB)1=P(AB)P(A \mid B) = \frac{P(A \cap B)}{1} = P(A \cap B)

獨立事件(Independent Events)

事件 AABB 獨立

P(AB)=P(A)P(B)P(A \cap B) = P(A) \cdot P(B)

AA 發生與否不影響 BB 發生的機率

條件機率形式

P(AB)=P(AB)P(B)=P(A)P(B)P(B)=P(A)P(A \mid B) = \frac{P(A \cap B)}{P(B)} = \frac{P(A)\cdot P(B)}{P(B)} = P(A)

而事件B的發生機率為

P(BA)=P(B)P(B \mid A) = P(B)