[Stochastische Signale] 통계 기초, 기댓값, 분산, 표준편차, 정규분포 등 분포의 종류, erwartungswert, varianz, sigma, standardabweichung
Organization
7.1 was ist Gedächtnislos
7.2 Gleichverteilung
7.3 Bernoulliverteilung
7.4 Binomialverteilung
7.5 Poisson-Verteilung
7.6 Geometrische Verteilung
7.7 Exponentialverteilung
7.8 Normalverteilung
7. Stochastische Standardmodelle
7.1 Begriffe
Gedächtnislos
Eine Zufallsvariable \( X\) ist gedächtnislos, falls:
$$ \mathbf{P}(\{ X > a + b \} | \{ X > a\}) = \mathbf{P}( \{ X > b\} ), \quad a, b > 0 $$
쉽게 말하면 앞의 회차가 다음 회차의 사건에 대해 영향력이 없다는 것이다.
로또 333회의 결과값이 로또 334회의 결과값이나 그 이후의 혹은 그 이전의 결과와는 독립적이다. 이와 같은 확률적 특성을 memoryless random variable 이라고 한다.
이 특성은 geometrische Verteilung 과 exponentialverteilung에서만 적용된다. (7.6~)
7.2. Gelcihverteilung
7.2.1 Diskret
$$ p_X(x) = \cfrac{1}{|\Omega|} , x \in \{1, 2 ,... , |\Omega| \} $$
Beispiele: Wurd einer fairen Münze, Lottozahlen.
7.2.2 Stetig \( (a,b : - \infty < a < b < \infty) \)
$$ f_X(x) = \begin{cases} \cfrac{1}{b-a}, & x \in [a, b] \\ 0, & \mbox{ sonst} \end{cases} $$
$$ F_X(x) = \begin{cases} 0, & x < a \\ \cfrac{x - a}{b - a}, & x \in [a,b] \\ 1, & x >b \end{cases} $$
Erwartungswert, Varianz und Charakteristische Funktion
Erwartungswert | 기댓값 : 확률의 평균, 모든 합의 나누기 갯수
Varianz | 분산 : 확률변수가 기댓값으로부터 얼마나 멀리 떨어진 곳에 분포하는지를 나타냄. 분산이 크면 평균으로 부터 멀리 떨어져있다, 분산이 작으면 평균값에 가깝다.
Charakteristische Funktion | 표준편차 : Varianz(분산)의 제곱근. 편차 의 의미는 관측값에서 평균값을 뺀 것이다.
| Erwartungswert 기댓값 |
Varianz 분산 |
Charakt. Funktion 표준편차 |
| $$ E[X] = \cfrac{a + b}{2} $$ | $$ Var[X] = \cfrac{(b - a)^2}{12} $$ | $$ \varphi_X(s) = \cfrac{e^{j\omega b} - e^{j \omega a}}{j \omega (b - a)} $$ |
Beispiele: Winkel beim Flaschendrehen, Phase einer empf. Sinnnusschwindung
7.3 Bernoulliverteilung \( (p \in [0, 1]) \)
7.3.1 Wahrscheinlichekeitsmasse
2 Eregnisse: Erfolg und Misserfolg
\( p \) : Wahrscheinlichkeit
$$ p_X(x) = \begin{cases} p, & k =1 \\ 1 - p, & k = 0 \\ 0, & \mbox{ sonst} \end{cases} $$
$$ F_X(x) = \begin{cases} 0, & k >0 \\ 1 -p & 0 \leq k < 1\\ 1 & k \geq 1 \end{cases} $$
Beispiel : Einmaliger Wurf einer (unfairen) Münze
| Erwartungswert | Varianz | Wahrscheinlichekeitserz. Funktion |
| $$ E[X] = p $$ | $$ Var[X] = p(1 - p) $$ | $$ G_X(z) = pz + 1 - p $$ |
어떤 실험을 했을때 확률이 2가지로만 나올때 ex) 제품 검사를 했을때 불량 혹은 정상, 시험결과가 pass or fail일때 etc
베르누이 확률의 최댓값은 100%이다. 실패확률+ 성공확률 = 100%가 나온다.
성공확률을 \( p\)라고 했을때, 실패확률 = 100% - 성공확률 = \( 1- p\)가 된다.
7.4 Binomialverteilung \( \mathcal{B}(n, p) \, (p \in [0, 1], n \in \mathbb{N}) \)
베르누이 확률의 업그레이드 버전이라고 생각하면 된다. 결과가 항상 2가지 케이스만 존재하는 베르누이 확률을 n 번 반복한 결과의 확률이다. 보통 통계에서는 Binomial Distribution을 훨씬 자주 사용하는데, 우리는 한 번의 실험결과값보다 여러번 실험한 후 그 평균적인 통계값을 이용하기 때문이다.
\(\mathcal{B}(n, p) \)에서 \(n\) 과 \(p\)의 값은, n번의 실험으로 성공확률 k 를 가질때를 의미한다.
Folge von \( n\) Bernoulli- Experimenten :
\( p\) : Wharscheinlichkeit für Erfolg
\( k\) : Anzahl der Erfolge
7.4.1 Wahrscheilichekeitsmasse
$$ p_X(x) = B_{n, p}(k) = \begin{cases} {n \choose k}p^k (1- p)^{n - k} & k \in \{ 0, ... , n \} \\ 0 & \mbox{ sonst} \end{cases} $$
$$ \mbox{mit} \, {n \choose k} = \cfrac{n!}{k!(n - k)!} $$
Binomialkoeffizient : Auf wie viele verschiedene Arten kann man \( k\) Objekte aus einer Menge von \(n\) verschiedenen Objekten auswählen? (ohne Zurücklegen, ohne Reihenfolge)
| PMF / WMF | CDF / KVF |
 |
 |
| Erwartungswert | Varianz | Wahrscheinlichekeitserz. Funktion |
| $$ E[X] = np $$ | $$ Var[X] = np(1 - p) $$ | $$ G_X(x) = (pz + 1 - p)^n $$ |
Charakteristische Funktion
$$ \varphi_X(s) = (1 - p + pe^s)^n $$
Beispiele: Anzahl der Übertragungsfehler in einem Datenblock endlicher Länge, Wiederholtes Werfen einer Münze
7.5 Poisson-Verteilung \( (\lambda \geq 0) \)
\( \lambda\) ist bekannt aus Daten!
Asymptotische Grenzfall der Binomialverteilung
$$ p_X(k) = \lim_{n \rightarrow \infty} \mathbf{B}_{n, \cfrac{\lambda}{n}}(k) $$
$$ n \rightarrow \infty , \quad p \rightarrow 0 ,\quad np \rightarrow \lambda $$
| PMF / WMF | CDF / KVF |
| $$ p_X(x) = \cfrac{\lambda^k}{k!} e^{- \lambda} $$ | $$ p_X(k) = \lim_{n \rightarrow \infty} \mathbf{B}_{n, \cfrac{\lambda}{n}}(k) $$ |
 |
 |
| Erwartungswert | Varianz | Wahrscheinlichekeitserz. Funktion |
| $$ E[X] = \lambda $$ | $$ Var[X] = \lambda $$ | $$ G_X(z) = e^{\lambda (z - 1)} $$ |
Charakteristische Funktion
$$ \varphi_X(s) = exp ( \lambda (e^s - 1)) $$
Beispiele: Zahl der Phänomene in einem Zeitintervall, Google/Anfragaen in einer Stunde, Schadensmeldungen an Versicherungen in einem Monat
7.6 Geometrische Verteilung \( (p \in [0, 1]) \)
Erster Erfolg eines Bernoulli-Experiments bein \( k\)-ten Versuch.
| PMF / WMF | CDF / KVF |
| $$ p_X[x] = (1 - p)^{k - 1}p, \quad k \in \mathbb{N} $$ | $$ F_X[k] = 1 - (1 - p)^k , \quad k \in \mathbb{N} $$ |
 |
 |
| Erwartungswert | Varianz | Wahrscheinlichekeitserz. Funktion |
| $$ E[X] = \cfrac{1}{p}$$ | $$ Var[X] = \cfrac{1 - p}{p^2} $$ | $$ G_X(z) = \cfrac{pz}{1 - z + pz} $$ |
Charakteristische Funktion
$$ \varphi_X(s) = \cfrac{pe^{is}}{1 - (1 - p)e^{is}} $$
Beispiele: diskrete Dauer bis ein technisches Gerät zum ersten Mal ausfällt, Anzahl der Würfe bis man eine "6" würfelt
7.7 Exponentialverteilung \( (\lambda > 0) \)
Wie geometrische Verteilung für stetige zufallsvariablen ("Lebensdauer")
Wartezeit bis zum ersten Afutreten eines Ereignisses
| PDF / WDF | CDF / KVF |
| $$ f_X(x) = \lambda e^{- \lambda x}, \quad x \geq 0 $$ | $$ F_X(x) = 1 - e^{- \lambda x}, \quad x \geq 0 $$ |
 |
 |
| Erwartungswert | Varianz | Charakt. Funktion |
| $$ E(X) = \cfrac{1}{\lambda} $$ | $$ Var(X) = \cfrac{1}{\lambda^2} $$ | $$ \varphi_X(\omega) = \cfrac{\lambda}{\lambda - j \omega} $$ |
Beispiele: Lebendauer von elektrischen Bauteilen, Zeitdauer zwischen zwei Anrufen in einem Call-Center
7.8 Normalverteilung \( \mu \in \mathbb{R} , \sigma > 0 \) 정규분포
Summe von \( n\) unabhähngigen, identisch verteilten Zufallsvariablen ist im Grenzfall \(n \rightarrow \infty \) normal verteilt.
| PDF / WDF | CDF / KVF |
| $$ f_X(x) = \cfrac{1}{\sqrt{2 \pi \sigma^2}} e^{- \cfrac{(x - \mu)^2}{2 \sigma^2}} \quad x \in \mathbb{R} $$ | \( F_X(x) \) nicht analytisch berechnetbar |
 |
 |
| Erwartungswert | Varianz | Charakt. Funktion |
| $$E(X) = \mu $$ | $$ Var(X) = \sigma^2 $$ | $$ \varphi_X(\omega) = e^{j \omega \mu - \cfrac{\omega^2 \sigma^2}{2}} $$ |
Schreibweise \( \mathbf{X} \sim \mathcal{N}(\mu , \sigma^2) \)
Beispiele : Rauschen, Ort eines Teilchens relative zu seiner Anfangsposition bei brownscher Molekularbewegung, abgefahrene Sachen, die man nicht genauer bestimmten will oder kann
7.8.1. Standartnormalverteilung
\( \rightarrow \mbox{ Wert von } F_{\phi}(x) = \int^x_{-\infty} \phi (x) dx \) sind tabelliert.
Spezialfall \( \mathbf{X} \sim \mathcal{N}(0 ,1) \)
$$ \phi (x) = \cfrac{1}{\sqrt{2 \pi}} e^{- \cfrac{x^2}{2}} $$
Es gilt außerdem:
<<Normalverteilung normieren auf Standardnormalverteilung! >>
- \( \mathbf{Y} \sim \mathcal{N}(\mu, \sigma^2) \Rightarrow \mathbf{X} = \cfrac{1}{\sigma} (\mathbf{Y} - \mu) \sim \mathcal{N}(0, 1) \)
- \( \mathbf{X} \sim \mathcal{N}(0, 1) \Rightarrow \mathbf{Y} = \sigma \mathbf{X} + \mu \sim \mathcal{N}( \mu, \sigma^2) \)
- \( f_Y(y) = \cfrac{1}{\sigma} f_X(\cfrac{y - \mu }{\sigma}) = \cfrac{1}{\sigma} \phi (\cfrac{y - \mu}{\sigma}) \)
- \( F_Y(y) = F_X(\cfrac{y - \mu}{\sigma})\)