%& --translate-file=cp1250pl
\documentclass[10pt,a4paper]{article}

\usepackage[left=.6in,right=.6in,top=.6in,bottom=.6in]{geometry}

\usepackage{polski}
\usepackage[OT4]{fontenc}

\usepackage{amsthm,amsmath,amsfonts,amssymb}
\usepackage{enumerate}
\usepackage{multicol}

\begin{document}

\section{Podstawy teorii miary probabilistycznej}

\subsection{Zbiory mierzalne -- $\sigma$--cia�o zbior�w}
Za��my, �e mamy jaki� zbi�r $\Omega$. Niech $\mathcal{F}$ b�dzie tak�
rodzin� podzbior�w $\Omega$, �e:
\begin{multicols}{3}
\begin{itemize}
\item $\Omega\in\mathcal{F}$
\item $A\in\mathcal{F}\Rightarrow A'\in\mathcal{F}$
\item $\forall_{i\in I} A_i\in \mathcal{F} \Rightarrow \bigcup_{i\in I} A_i \in\mathcal{F}$
\end{itemize}
\end{multicols}
Wtedy rodzin� $\mathcal{F}$ nazywamy {\bf $\sigma$--cia�em zbior�w}.

Gdy dana jest pewna rodzina $\mathcal{A}$ podzbior�w zbioru $\Omega$, $\sigma$--cia�em
generowanym przez t� rodzin�, nazywamy najmniejsze (w sensie zawierania) $\sigma$--cia�o
zawieraj�ce $\mathcal{A}$ i oznaczamy $\sigma(\mathcal{A})$. Mo�na udowodni�,
�e $\sigma(\mathcal{A})$ jest przekrojem wszystkich $\sigma$--cia�
zawieraj�cych $\mathcal{A}$. Gdy $\mathcal{A}$ ma $n$ element�w i s� one
parami roz��czne, oraz spe�niaj� warunek $\bigcup_{i=1}^{n}A_i=\Omega$ to
$\sigma(\mathcal{A})$ ma $2^n$ element�w.

\subsection{Zbiory borelowskie}
Niech $\Omega = \mathbb{R}$. W�wczas $\sigma$--cia�o generowane przez wszystkie
zbiory otwarte zawarte w $\mathbb{R}$ oznaczmy przez $\mathcal{B}(\mathbb{R})$ i
nazywamy {\bf rodzin� zbior�w borelowskich}. Rodzina ta zawiera w szczeg�lno�ci
wszystkie przedzia�y $(a,b)$.

Funkcj� $f\colon \mathbb{R}\to\mathbb{R}$ nazywamy {\bf funkcj� borelowsk�}, gdy
przeciwobrazy zbior�w postaci $(-\infty,a)$ s� borelowskie. W szczeg�lno�ci
wszystkie funkcje ci�g�e, s� borelowskie (ale nie wszystkie funkcje borelowskie s�
ci�g�e).

\subsection{Miara probabilistyczna}
Niech dany b�dzie pewien zbi�r $\Omega$ i $\sigma$--cia�o $\mathcal{F}$.
Funkcj� $P\colon\mathcal{F}\to\overline{\mathbb{R}_{+}}$, spe�niaj�c�:
\begin{multicols}{2}
\begin{itemize}
\item $P(\emptyset)=0$,
\item $P(\bigcup_{i\in I}A_i) = \sum_{i\in I} P(A_i)$ dla parami roz��cznych zbior�w $A_i$.
\end{itemize}
\end{multicols}
nazywamy {\bf miar�}. Je�li dodatkowo spe�niony jest warunek: $P(X) = 1$
to $P$ nazywamy {\bf miar� probabilistyczn�} lub prawdopodobie�stwem.

Tr�jk� $(\Omega,\mathcal{F},P)$ nazywamy przestrzeni� probabilistyczn�.

\section{Rozk�ad prawdopodobie�stwa}

\subsection{Rozk�ad dyskretny}
Niech $(\mathbb{X},\mathcal{F},P)$ b�dzie przestrzeni� probabilistyczn�. M�wimy,
�e rozk�ad prawdopodobie�stwa $P$ jest dyskretny, je�li istnieje co najwy�ej
przeliczalny zbi�r $A\in\mathcal{F}$ taki, �e $P(A)=1$.

\subsection{Dystrybuanta rozk�adu prawdopodobie�stwa}
Rozpatrzmy przestrze� probabilistyczn� $(\mathbb{R},\mathcal{B}(\mathbb{R}),P)$.
Funkcj� $F\colon\overline{\mathbb{R}}\to\mathbb{R}$, dan� wzorem: $F(t) = P( (-\infty,t) )$
nazywamy {\bf dystrybuant�} rozk�adu $P$. Dystrybuanta posiada nast�puj�ce w�asno�ci:
\begin{multicols}{2}
\begin{itemize}
\item $\forall_{t\in\mathbb{R}} 0 \leq F(t) \leq 1$,
\item $F$ jest lewostronnie ci�g�a,
\item $F$ jest niemalej�ca,
\item $F(-\infty) = \lim_{t\to -\infty} F(t) = 0$,
\item $F(+\infty) = \lim_{t\to +\infty} F(t)= 1$.
\end{itemize}
\end{multicols}

Punkty nieci�g�o�ci (punkty skokowe) $F$ s� tzw. {\bf no�nikami prawdopodobie�stwa} -- tzn. prawdopodobie�stwo
ka�dego takiego punktu jest niezerowe. Je�li rozk�ad prawdopodobie�stwa jest dyskretny,
to dystrybuanta jest ponadto sta�a mi�dzy punktami skokowymi.

\subsection{Rozk�ad ci�g�y}
M�wimy, �e miara probabilistyczna $P$ okre�lona na $(\mathbb{R},\mathcal{B}(\mathbb{R}))$
jest typu ci�g�ego, gdy istnieje funkcja $f\colon\mathbb{R}\to\mathbb{R}$, taka,
�e $P(A) = \int_{A}f(x)dx$ dla dowolnego $A\in\mathcal{B}(\mathbb{R})$. Funkcj�
$f$ nazywamy g�sto�ci� miary $P$.

\paragraph{W�asno�ci g�sto�ci miary probabilistycznej}
\begin{multicols}{2}
\begin{itemize}
\item $\int_{\mathbb{R}} f(x)dx = 1$,
\item $f(x)\geq 0$ prawie wsz�dzie (czyli zbi�r punkt�w w kt�rych to nie jest
prawda, ma miar� r�wn� 0).
\end{itemize}
\end{multicols}
Ka�da funkcja $f\colon\mathbb{R}\to\mathbb{R}$ kt�ra spe�nia te w�asno�ci jest
g�sto�ci� pewnego rozk�adu prawdopodobie�stwa.

Niech $f$ b�dzie g�sto�ci�, a $F$ dystrybuant�. Wtedy zachodzi:
\[ F(x) = P((-\infty,x)) = \int_{-\infty}^{x}f(t)dt\]
Dystrybuanta rozk�adu typu ci�g�ego jest funkcj� ci�g��. W
punktach ci�g�o�ci $f$ istnieje pochodna dystrybuanty i zachodzi: $f(x) = F'(x)$.

{\bf Uwaga.} Nie ka�da ci�g�a dystrybuanta jest dystrybuant� rozk�adu typu ci�g�ego.
Istniej� rozk�ady kt�re nie s� ani ci�g�e ani dyskretne.


\section{Zmienna losowa}

\paragraph{Zmienn� losow�} nazywamy dowoln� funkcj� $X:\Omega\to\mathbb{R}$
tak�, �e $\forall_{x\in\mathbb{R}} \{\omega: X(\omega)<x\}\in\mathbb{F}$. W przypadku
gdy $\mathcal{F} = 2^{\Omega}$, dowolna funkcja $X\colon\Omega\to\mathbb{R}$ jest
zmienn� losow�.

\subsection{Definicje podstawowe}
Niech dana b�dzie przestrze� probabilistyczna $(\Omega,\mathcal{F},P)$, oraz
pewna zmienna losowa $X$. W�wczas funkcja $P_X(A) = P(X^{-1}(A))$ jest miar�
probabilistyczn�, oraz $(\mathbb{R},\mathcal{B}(\mathbb{R}),P_X)$ jest
przestrzeni� probabilistyczn�. Miar� $P_X$ nazywamy {\bf prawdopodobie�stwem
generowanym przez zmienn� losow� X}.

Maj�c miar� $P_X$ odpowiadaj�c� pewnej zmiennej losowej $X$ mo�emy wi�c zdefiniowa�
poj�cie {\bf dystrybuanty zmiennej losowej}. Dystrybuant� zmiennej losowej $X$
nazywamy funkcj� $F_X\colon\overline{\mathbb{R}}\to\mathbb{R}$ dan� wzorem\footnote{Wz�r
podany jest na kilka sposob�w -- stosuje si� zamiennie kilka r�wnowa�nych form zapisu.}:
\[F_X(t) = P_X((-\infty,t)) = P(X^{-1}(-\infty,t)) = P(X<t).\]

\subsection{Dyskretna zmienna losowa}
Zmienn� losow� $X$ nazywamy {\bf zmienn� typu dyskretnego}, gdy istnieje co najwy�ej przeliczalny
zbi�r $B\in\mathcal{B}(\mathbb{R})$, taki, �e $P_X(B) = 1$.

\subsection{Ci�g�a zmienna losowa}
Zmienn� losow� $X$ {\bf zmienn� typu ci�g�ego}, gdy istnieje g�sto�� rozk�adu
prawdopodobie�stwa $P_X$.

\subsection{Funkcja zmiennej losowej}
%%
%% to trzeba sprawdzic!
%%
Je�li $X$ jest zmienn� losow�, a $g$ funkcj� borelowsk�, to z�o�enie $Y=g\circ X$ jest
r�wnie� zmienn� losow�. Ponadto zachodzi:
\[ P_Y(B) = P_{g\circ X}(B) = P(\{\omega:g(X(\omega))\in B\}) =
P(\{\omega: X(\omega)\in g^{-1}(B)\}) = P_X(g^{-1}(B)) \]

\noindent Ponadto je�li $X$ jest typu ci�g�ego to mamy:
\[F_Y(y) = \int_{\{x:g(x)<y\}} f_X(x) dx.\]

\noindent Je�li dodatkowo, wiemy �e $g$ jest r�niczkowalna i �ci�le rosn�ca ($g'(x) \neq 0$), to:
\[F_Y(y) = \int_{g^{-1}(-\infty)}^{y}(g^{-1}(t))'f_X(g^{-1}(t))dt\]
oraz
\[f_Y(y) = f_X(g^{-1}(y))(g^{-1}(y))' = f_X(g^{-1}(y)) \frac{1}{g'(g^{-1}(y))}.\]

\subsection{Niezale�ne zmienne losowe}
Zmienne losowe $X_1,X_2,\ldots,X_n$ s� {\bf niezale�ne} je�eli dla
dowolnych zbior�w borelowskich $B_1,B_2,\ldots,B_n$ zachodzi:
\[ P(X_1=B_1\land X_2=B_2\land \ldots \land X_n=B_n) = P(X_1=B_1)P(X_2=B_2)\cdots P(X_n=B_n)\]

\subsection{Charakterystyki zmiennych losowych}

\subsubsection{Warto�� oczekiwana}
{\bf Warto�ci� oczekiwan�} zmiennej losowej $X$ nazywamy liczb� $EX$.

\noindent W przypadku, gdy $X$ jest zmienn� typu ci�g�ego
warto�� oczekiwana ma warto��: \[EX = \sum_{i\in I} x_i p_i.\] o ile
szereg jest bezwzgl�dnie zbie�ny (je�li nie jest to $EX$ nie istnieje).

\noindent W przypadku, gdy $X$ jest zmienn� typu ci�g�ego o g�sto�ci $f$, warto��
oczekiwana wyra�a si� wzorem: \[EX = \int_{\mathbb{R}} xf(x)dx\] i istnieje,
gdy ca�ka jest zbie�na.

\paragraph{W�asno�ci warto�ci oczekiwanej}
\begin{itemize}
\item $X\geq 0 \Rightarrow EX \geq 0$
\item $|EX| \leq E|X|$
\item dla $a,b\in\mathbb{R}$ zachodzi $E(aX+bY) = aEX + bEY$
\item dla $a\in\mathbb{R}$ zachodzi $Ea = a$
\item $E(X-EX) = 0$
\item $E(XY) = EX * EY$, gdy $X$ i $Y$ s� niezale�ne
\end{itemize}

\paragraph{Warto�� oczekiwana z funkcji zmiennej losowej} Je�li $\varphi$ jest
funkcj� borelowsk�, a zmienna losowa $X$ jest typu dyskretnego, to:
\[ E\varphi(X) = \sum_{i\in I}\varphi(x_i)P(X=x_i) \]
a gdy $X$ jest typu ci�g�ego, o g�sto�ci $f$, to:
\[ E\varphi(X) = \int_{\mathbb{R}}\varphi(x)f(x)dx \]

\subsubsection{Wariancja}
{\bf Wariancj� zmiennej losowej $X$} nazywamy liczb� $Var(X)$ dan� wzorem:
$Var(X) = EX^{2} - (EX)^{2}$.

\noindent W przypadku zmiennej losowej $X$ typu {\bf dyskretnego} zachodzi wz�r:
$Var(X) = \sum_{i\in I}(x_i - EX)^{2}p_i$.

\paragraph{W�asno�ci wariancji}

\begin{multicols}{2}
\begin{itemize}
\item $Var(X)\geq 0$
\item $Var(cX) = c^{2}Var(X)$ dla $c\in\mathbb{R}$
\item $Var(X+c) = Var(X)$
\item $Var(X) = 0 \iff \exists_{c} P(X=c) = 1$
\item $Var(X\pm Y)=Var(X)+Var(Y)$ gdy $X$ i $Y$ s� niezale�ne
\end{itemize}
\end{multicols}

Liczb� $\sqrt{VarX}$ nazywa si� czasem {\bf odchyleniem standardowym} i oznacza
przez $\sigma(X)$.

\subsubsection{Kowariancja i wsp�czynnik korelacji}
Niech $X,Y$ b�d� zmiennymi losowymi. Liczb� $cov(X,Y)=E[(X-EX)(Y-EY)]$ nazywamy kowariancj�
zmiennych $X$ i $Y$. Kowariancj� mo�emy wyliczy� r�wnie� ze wzoru: $cov(X,Y) = EXY - EX EY$.
Zauwa�my, �e gdy $X=Y$ to $cov(X,Y) = cov(X,X) = Var(X)$.

\noindent{\bf TW.} $|cov(X,Y)| \leq \sqrt{Var(X)Var(Y)}$

\noindent Ponadto zachodzi: $cov(aX+b,cY+d)=ac\cdot cov(X,Y)$,
$cov (a_1 X_1+a_2 X_2, a_3 X_3+a_4 X_4)=\sum_{i=1}^{2}\sum_{j=3}^{4}a_i a_j cov(X_i,X_j)$.

\noindent Liczb� $\rho(X,Y) = \frac{cov(X,Y)}{\sqrt{Var(X)Var(Y)}}$ nazywamy {\bf wsp�czynnikiem
korelacji} zmiennych $X$ i $Y$.

\noindent Gdy $\rho(X,Y) = 0$, to m�wimy, �e zmienne s� {\bf nieskorelowane}. Gdy $\rho(X,Y)=\pm 1$
to $P(X=aY+b) = 1$ dla pewnych $a,b\in\mathbb{R}$.


\subsubsection{Inne charakterystyki liczbowe}
%%
%% oznaczenia sa inne niz na wykladzie - poprawic!
%%
\paragraph{Zmienna typu dyskretnego}
\begin{description}
\item[Moment zwyk�y rz�du $r$] $\alpha_r=EX^r=\sum_{i\in I}x_i^rp_i$
\item[Moment centralny rz�du $r$] $\mu_r=E(X-\alpha_1)^r=\sum_{i\in I}(x_i-\alpha_1)^rp_i$
\item[Mediana] ka�da liczba $x_{0,5}$ spe�niaj�ca warunki $F(x_{0,5})\leq0,5\leq\lim_{x\to x_{0,5}}F(x)$; $\sum_{x_i<x_{0,5}}p_i\leq0,5\leq\sum_{x_i\leq x_{0,5}}p_i$
\item[Kwantyl rz�du $p$] ka�da liczba $x_p, 0<p<1$ spe�niaj�ca warunki $F(x_p)\leq p\leq\lim_{x\to x_p} F(x)$; $\sum_{x_i<x_p}p_i\leq p\leq\sum_{x_i\leq x_p}p_i$
\item[Dominanta] $m_0$ -- punkt skokowy $x_k$, r�ny od $min(x_i)$ i $max(x_i)$, dla kt�rego $p(x_k)$ osi�ga maksimum absolutne.
\end{description}

\paragraph{Zmienna typu ci�g�ego}
\begin{description}
\item[Moment zwyk�y rz�du $r$] $\alpha_r=EX^r=\int_{\mathbb{R}}x^rf(x)dx$
\item[Moment centralny rz�du $r$] $\mu_r=E(X-\alpha_1)^r=\int_{\mathbb{R}}(x-\alpha_1)^rf(x)dx$
\item[Mediana] $F(x_{0,5})=0,5$
\item[Kwantyl rz�du $p$] $F(x_p)=p$
\item[Dominanta] $m_0$ -- odci�ta maksimum absolutnego g�sto�ci.
\end{description}

\subsection{Funkcja charakterystyczna}
{\bf Funkcj� charakterystyczn� zmiennej losowej $X$} nazywamy funkcj� zespolon�
$\varphi\colon\mathbb{R}\to\mathbb{C}$ dan� wzorem $\varphi(t) = Ee^{itX}$.
W przypadku gdy $X$ jest zmienn� losow� typu dyskretnego, funkcja charakterystyczna
wyra�a si� wzorem:
\[\varphi(t) = \sum_k p_ke^{itx_k}\]
W przypadku ci�g�ej zmiennej losowej $X$ o g�sto�ci $f$ mamy natomiast:
\[\int_{\mathbb{R}}e^{itx}f(x)dx\]

\paragraph{W�asno�ci funkcji charakterystycznej}
\begin{enumerate}
\item $\varphi(0)=1$.
\item $\forall_{t\in\mathbb{R}} \varphi(t)=\overline{\varphi(-t)}$, gdzie $\overline{\varphi(-t)}$ oznacza liczb� zespolon� sprz�on� z $\varphi(-t)$.
\item $\forall_{t\in\mathbb{R}} |\varphi(t)|\leq 1$.
\item $\varphi$ jest funkcj� jednostajnie ci�g�� (co w szczeg�lno�ci oznacza,
�e jest ona ci�g�a).
\item $\varphi$ jest funkcj� rzeczywist� $\Leftrightarrow$ rozk�ad zmiennej losowej
$X$ jest symetryczny wzgl�dem $x=0$.
\item Je�li $\varphi_X(t)$ jest funkcj� charakterystyczn� zmiennej losowej $X$ to,
funkcj� charakterystyczn� zmiennej $Y=aX+b$ jest funkcja $\varphi_Y(t) = e^{itb}\varphi_X(at)$.
\item Je�eli istnieje $k$-ty moment zmiennej losowej $X$ o funkcji charakterystycznej $\varphi$, to $\varphi$ jest $k$-krotnie r�niczkowalna i zachodzi zwi�zek
$\alpha_k=EX^k=\frac{1}{i^k}\varphi^{(k)}(0)$
\item Funkcja charakterystyczna sko�czonej sumy niezale�nych zmiennych losowych
r�wna si� iloczynowi funkcji charakterystycznych tych zmiennych.
\end{enumerate}

\noindent{\bf TW.} Niech $F$ b�dzie dystrybuant�, za� $\varphi$ funkcj� charakterystyczn�
zmiennej losowej X. Wtedy:
\begin{enumerate}
\item Dla $a<b$ takich �e, $F$ jest ci�g�a (w tych punktach) zachodzi
\[ \lim_{R\to\infty}\frac{1}{2\pi}\int_{-R}^{R}\frac{e^{-ita}-e^{-itb}}{it}\varphi(t)dt = F(b) - F(a)\]
\item Je�li ponadto $\int_{\mathbb{R}} |\varphi(t)|dt \leq +\infty$, to $X$ ma
rozk�ad typu ci�g�ego, o g�sto�ci $f(x) = \frac{1}{2\pi}\int_{\mathbb{R}}e^{-itx}\varphi(t)dt$.
\end{enumerate}
{\bf Wniosek.} Funkcja charakterystyczna jednoznacznie wyznacza rozk�ad zmiennej losowej.

\noindent{\bf TW.} Je�li $\varphi$ jest funkcj� charakterystyczn� zmiennej losowej X,
okresow� o okresie $T=2\pi$, to $X$ jest zmienn� typu dyskretnego o warto�ciach
ca�kowitych oraz $P(X=k)=\frac{1}{2\pi}\int_{-\pi}^{\pi}e^{-itk}\varphi(t)dt$, $k\in\mathbb{Z}$.

\newpage
\section{Katalog zmiennych losowych}

\subsection{Dyskretne}

\begin{multicols}{2}
\paragraph{R�wnomierny}
\begin{itemize}
\item $p_i=\frac{1}{n}$
\item $\mathbb{E}X=\frac{x_1+\ldots+x_n}{n}$
\end{itemize}

\paragraph{Jednopunktowy}
\begin{itemize}
\item $P(x_0)=1$
\item $\mathbb{E}X=x_0$
\item $Var(X)=0$
\item $\varphi(t) = e^{ita}$
\end{itemize}

\paragraph{Zero-jedynkowy}
\begin{itemize}
\item $P(1)=p, P(0)=1-p=q$
\item $\mathbb{E}X=p$
\item $Var(X)=pq$
\item $\varphi(t) = pe^{it} + q$
\end{itemize}

\paragraph{Dwumianowy (Bernouliego)}
\begin{itemize}
\item Oznaczenie: $B(n,p)$, $n$-liczba pr�b, $p$-prawdopodobie�stwo sukcesu,
\item $P(k)={n \choose k}p^k q^{n-k}$
\item $\mathbb{E}X=np$
\item $Var(X)=npq$
\item $\varphi(t) = (pe^{it} + q)^{n}$
\end{itemize}

\paragraph{Poissona}
\begin{itemize}
\item Oznaczenie: $\mathcal{P}(\lambda)$
\item Parametr: $\lambda>0$
\item $P(k)=e^{-\lambda}\frac{\lambda^k}{k!}$ dla $k\in\mathbb{N}$
\item $\mathbb{E}X=\lambda$
\item $Var(X)=\lambda$
\item $\varphi(t) = e^{\lambda(e^{it}-1)}$
\end{itemize}

\paragraph{Geometryczny}
\begin{itemize}
\item Oznaczenie: $Geom(p)$.
\item $P(1)=p,\ P(0)=1-p$
\item $\mathbb{E}X=p$
\item $Var(X)=\frac{1-p}{p^2}$
\item $\varphi(t) = \frac{pe^{it}}{1-(1-p)e^{it}}$
\end{itemize}
\end{multicols}

\subsection{Ci�g�e}

\begin{multicols}{2}
\paragraph{Jednostajny(r�wnomierny)}
\begin{itemize}
\item $J((a,b))$, gdzie $(a,b)$ -- przedzia�
\item $F(x)=\begin{cases} \frac{x+a}{b-a} & \textrm{dla $a\leq x\leq b$} \\ 0 & \textrm{dla $x<a$}\\ 1 & \textrm{dla $x>b$} \end{cases}$
\item $f(x)=\begin{cases} \frac{1}{b-a} & \textrm{dla $a\leq x\leq b$} \\ 0 & \textrm{dla pozosta�ych $x$} \end{cases}$
\item $\mathbb{E}X=\frac{b-a}{2}$
\item $Var(X)=\frac{(b-a)^{2}}{12}$
\item Dla $J((0,a))$: $\varphi(t) = \frac{e^{iat}-1}{iat}$
\item Dla $J((-a,a))$: $\varphi(t) = \frac{\sin at}{at}$
\end{itemize}

\paragraph{Wyk�adniczy}
\begin{itemize}
\item Parametr $\lambda>0$
\item $F(x)=\begin{cases} 1-e^{-\lambda x} & \textrm{dla $x\geq 0$} \\ 0 & \textrm{dla $x<0$}\end{cases}$
\item $f(x)=\begin{cases} \lambda e^{-\lambda x} & \textrm{dla $x\geq 0$} \\ 0 & \textrm{dla pozosta�ych $x$} \end{cases} $
\item $\varphi(t) = \frac{\lambda}{1+t^{2}}$
\end{itemize}

\paragraph{Gamma}
\begin{itemize}
\item Oznaczenie: $\Gamma(p,\alpha)$
\item $f(x)=\begin{cases} \frac{\alpha^p}{\Gamma(p)}x^{p-1}e^{-\alpha x} & \textrm{dla $x>0$} \\ 0 & \textrm{dla pozosta�ych $x$} \end{cases}$\\
gdzie $\Gamma(p)=\int_0^\infty x^{p-1}e^{-x}dx$,
$n=1,2,3,\ldots$, $\Gamma(n)=(n-1)!$
\item $\varphi(t) = (1 - \frac{it}{\alpha})^{-p}$
\item Uwaga: $\Gamma(1,\alpha)$ to rozk�ad wyk�adniczy.
\item Uwaga: $\Gamma(\frac{n}{2},\frac{1}{2})$ to tak zwany rozk�ad $\chi^2$ (chi kwadrat) z $n$ stopniami swobody.
\end{itemize}

\paragraph{Beta}
\begin{itemize}
\item Parametry: $p,q>0$
\item $f(x) = \begin{cases}\frac{1}{\beta(p,q)}x^{p-1}(1-x)^{q-1} & x\in(0,1) \\ 0 & w\ p.p. \end{cases}$
$\beta(p,q) := \frac{\Gamma(p)\Gamma(q)}{\Gamma(p+q)}$
\end{itemize}

\paragraph{Laplace'a}
\begin{itemize}
\item Parametr $\lambda>0$
\item $f(x)=\frac{\lambda}{2}e^{-\lambda |x|}\quad\textrm{dla } x\in\mathbb{R}$
\end{itemize}

\newpage

\paragraph{Normalny (Gaussowski)}
\begin{itemize}
\item Oznaczenie $N(p,\sigma^2)$, $N(0,1)$ nazywamy standardowym.
\item $F(x)=\frac{1}{\sqrt{2\pi}}\int_{-\infty}^{t}e^{-\frac{(t)^2}{2}dt}=\Phi(x)$
\item $f(x)=\frac{1}{\sigma\sqrt{2\pi}}e^{-\frac{(x-m)^2}{2\sigma^2}}\quad \textrm{dla $x\in\mathbb{R}$}$
\item $\mathbb{E}X=m$
\item $Var(X)=\sigma^2$
\item Dla standardowego: $\varphi(t) = e^{\frac{-t^{2}}{2}}$
\end{itemize}

\paragraph{Cauchy'ego}
\begin{itemize}
\item Parametry $\theta$, $\lambda$
\item $F(x)=\frac{1}{2}+\frac{1}{\pi}\arctan\left(\frac{x-\theta}{\lambda}\right)$
\item $f(x)=\frac{1}{\pi\lambda\left[ 1+(\frac{x-\theta}{\lambda})^2)\right]}$
\item $\varphi(t) = e^{-|t|}$
\item Warto�� oczekiwana i wariancja s� niezdefiniowane -- nie istniej� gdy� ca�ki rozbiegaj� do niesko�czono�ci.
\item Uwaga. Je�li $X$ i $Y$ maj� standardowy rozk�ad normalny to zmienna $X/Y$ ma rozk�ad Cauchy'ego z parametrami $\theta=0$ i $\lambda=1$
\end{itemize}

\end{multicols}

%% do naprawienia !! !! !!

\section{Zmienne losowe wielowymiarowe}
{\bf Wektorem losowym} lub zmienn� losow� wielowymiarow� nazywamy dowoln� funkcj�
$X\colon\Omega\to\mathbb{R}^{n}$, kt�ra spe�nia warunek: $\forall_{B\in\mathcal{B}(\mathbb{R}^{n})} X^{-1}(B)\in\mathcal{F}$,
czyli przeciwobraz dowolnego zbioru borelowskiego z przestrzeni\footnote{Zbiory borelowskie
w $\mathbb{R}^{n}$, to $\sigma$--cia�o zbior�w zawieraj�ce wszystkie zbiory otwarte
z tej przestrzeni. Generowane jest np. przez wszystkie otwarte kostki (iloczyny
kartezja�skie przedzia��w otwartych).} $\mathbb{R}^{n}$ musi
nale�e� do $\sigma$--cia�a.

Ka�d� funkcj� wielowymiarow� $X\colon\Omega\to\mathbb{R}^{n}$ mo�emy przestawi�
w postaci: $X=(X_1,X_2,\ldots,X_n)$, gdzie dla ka�dego $1\leq i\leq n$ $X_i\colon\Omega\to\mathbb{R}$.
Funkcja $X$ jest zmienn� losow� wielowymiarow� $\iff$ ka�de $X_i$ jest (,,zwyk��'') zmienn�
losow�.

Odwzorowanie $\varphi\colon\mathbb{R}^{n} \to \mathbb{R}^{m}$ nazywamy funkcj�
borelowsk� gdy przeciwobrazy zbior�w borelowskich z $R^{m}$ s� zbiorami
borelowskim w $\mathbb{R}^{n}$.

Z�o�enie $\varphi \circ X$, gdzie $X$ wektor losowy a $\varphi$ funkcja borelowska,
jest te� wektorem losowym.

Wektor losowy jest wektorem {\bf typu dyskretnego}, gdy istnieje taki co najwy�ej
przeliczalny zbi�r $B$ borelowski, �e $P_X(B) = 1$.

Wektor losowy jest wektorem {\bf typu ci�g�ego}, gdy istnieje funkcja $f$ taka, �e
$P_X(B) = \int\!\ldots\!\int_{B}f(x)dx$, dla dowolnego $B$ borelowskiego. Funkcj� t� nazywamy
g�sto�ci� (musi ona spe�nia� dodatkowe warunki, o czym ni�ej).

\subsection{Dystrybuanta}
Gdy $X\colon\Omega\to\mathbb{R}^{n}$ jest wektorem losowym,
dystrybuanta ma posta�: $F\colon\mathbb{R}^{n}\to\mathbb{R}$,
$F(t_1,t_2,\ldots,t_n) = P_X((-\infty,t_1)\times(-\infty,t_2)\times\ldots(-\infty,t_n))$.
W przypadku gdy $n=2$ mamy:
$F(x,y)=P(X<x,Y<y) \quad dla (x,y)\in\mathbb{R}^2$.

\paragraph{W�asno�ci}
\begin{itemize}
\item Jest lewostronnie ci�g�a i niemalej�ca ze wzgl�du na ka�d� zmienn� z osoba.
\item $\forall_{x\in\mathbb{R}}\lim_{y\to -\infty}F(x,y)=0,\quad \forall_{y\in\mathbb{R}}\lim_{x\to -\infty}F(x,y)=0 $
\item $\lim_{x\to\infty,y\to\infty}F(x,y)=1$
\item Dla dowolnych punkt�w $(x_1,y_1), (x_2, y_2)$ takich, �e $x_1\leq x_2$ i $y_1\leq y_2$ zachodzi nier�wno��
$F(x_2,y_2)-F(x_2,y_1)-F(x_1,y_2)+F(x_1,y_1)\geq 0$
\end{itemize}

\subsection{G�sto��}

\paragraph{W�asno�ci}
\begin{itemize}
\item $P_X(B) = \int\!\ldots\!\int_{B}f(x)dx$
\item $F(t_1,t_2,\ldots,t_n)=\int_{-\infty}^{t_1}\!\ldots\!\int_{-\infty}^{t_n}
f(t_1,t_2,\ldots,t_n)dt_1dt_2\ldots dt_n$
\item $\int\!\!\!\int_{\mathbb{R}^2}f(x,y)dxdy=1 $
\item w punktach ci�g�o�ci:
$f(x_1,\ldots,x_n) = \frac{\partial^{n}F_x(x_1,\ldots,x_n)}{\partial x_1\ldots\partial x_n}$.
\end{itemize}

\paragraph{Niezale�no�� zmiennych:} $\forall_{(x,y)\in\mathbb{R}^2}F(x,y)=F_X(x)F_Y(y)$ lub $f(x,y)=f_X(x)f_Y(y)$\\

\subsection{Rozk�ad brzegowy}
Niech $X\colon\Omega\to\mathbb{R}^{2}$ wektor losowy o dystrybuancie $F$. W�wczas
funkcje $F_X(x) = \lim_{y\to\infty} F(x,y)$ oraz $F_Y(y) = \lim_{x\to\infty}F(x,y)$ s�
dystrybuantami rozk�ad�w na $\mathbb{R}$. Rozk�ady te nazywamy brzegowymi.

Je�li dodatkowo wektor losowy posiada g�sto�� $f$, to funkcje $f_X(x) = \int_{\mathbb{R}}f(x,y)dy$
oraz $f_Y(y) = \int_{\mathbb{R}}f(x,y)dx$ s� g�sto�ciami rozk�ad�w brzegowych na $\mathbb{R}$.

\subsection{Parametry liczbowe}
\paragraph{Warto�� oczekiwana}
Je�li $X=(X_1,X_2,\ldots,X_n)$ jest wektorem losowym, to wektor liczb $(EX_1, EX_2, \ldots, EX_n)$
nazywamy warto�ci� �redni� (oczekiwan�) wektora X. Jest ona okre�lona je�li wszystkie
warto�ci oczekiwane $EX_i$ istniej�.

Je�li $\varphi\colon\mathbb{R}^{n}\to\mathbb{R}$ funkcja borelowska, oraz $X$ wektor
losowy typu ci�g�ego, to $E\varphi(X) = \int_{\mathbb{R}^{n}}\varphi(x)f(x)dx$.

\subsection{Przyk�ady}

\paragraph{G�sto�ci sumy, iloczynu, ilorazu zmiennych losowych:}
\begin{enumerate}
\item $U=X+Y$: $k_1(u)=\int_{\mathbb{R}}f(x,u-x)dx$; gdy $X,Y$-niezale�ne: $k_1(u)=\int_{\mathbb{R}}f_1(x)f_2(u-x)dx$ \\
\item $U=XY$: $k_1(u)=\int_{\mathbb{R}}f(x,\frac{u}{x})\frac{1}{|x|}dx$; gdy $X,Y$-niezale�ne: $k_1(u)=\int_{\mathbb{R}}f_1(x)f_2(\frac{u}{x})\frac{1}{|x|}dx$ \\
\item $U=\frac{X}{Y}$: $k_1(u)=\int_{\mathbb{R}}f(uy,y)|y|dy$; gdy $X,Y$-niezale�ne: $k_1(u)=\int_{\mathbb{R}}f_1(uy)f_2(y)|y|dy$ \\
\end{enumerate}


\paragraph{Dwuwymiarowy rozk�ad normalny} ma g�sto�� dan� wzorem:
\[f(x,y)=\frac{1}{2\pi\sigma_1\sigma_2\sqrt{1-\rho^2}}exp\Big\{-\frac{1}{2(1-\rho^2)}\Big[\frac{(x-\mu_1)^2}{\sigma_1^2}-2\rho\frac{(x-\mu_1)(y-\mu_2)}{\sigma_1\sigma_2}+\frac{(y-\mu_2)^2}{\sigma_2^2}  \Big] \Big\} \quad \textrm{dla $(x,y)\in\mathbb{R}^2$}\]
gdzie: $\mu_1=EX$, $\mu_2=EY$, $\sigma_1=\sqrt{D^2X}>0$, $\sigma_2=\sqrt{D^2Y}>0$, $\rho$--wsp�czynnik korelacji zm.los. $X$ i $Y$, przy czym $|\rho|<1$.

%%

\section{Zbie�no�� ci�g�w zmiennych losowych}

\begin{enumerate}

\item Zbie�no�� z prawdopodobie�stwem 1 (prawie na pewno, prawie wsz�dzie):
$P(\{\omega:\lim_{n\to\inf} X_n(\omega) \ X(\omega)\})=1$. Oznaczenie:
$X_n \xrightarrow[(p.n.)]{z\ pr.\ 1} X$.

\item Zbie�no�� wed�ug prawdopodobie�stwa:
$\forall_{\epsilon > 0}\lim_{n\to\infty}P(\{\omega:|X_n(\omega)-X(\omega)|\geq\epsilon\})=0$.
Oznaczenie: $X_n \xrightarrow[(P)]{wg\ pr.} X$.

\item Zbie�no�� wed�ug dystrybuant (zbie�no�� wzgl�dem rozk�adu, s�abo zbie�ny) -- ci�g
dystrybuant $F_n$ jest zbie�ny do dystrybuanty $F$ w ka�dym punkcie ci�g�o�ci
$F$. Oznaczenie: $X_n \xrightarrow[(s�)]{D} X$.

\end{enumerate}

Rodzaje zbie�no�ci wymienione s� od najsilniejszej do najs�abszej.
Ze zbie�no�ci z prawdopodobie�stwem 1 wynika zbie�no�� wed�ug prawdopodobie�stwa,
a z niej wynika zbie�no�� wed�ug dystrybuant.

Nast�puj�ce warunki s� r�wnowa�ne ze zbie�no�ci� z prawdopodobie�stwem 1:
\begin{itemize}
\item$\forall_{\epsilon>0}\lim_{k\to\infty}\bigcap_{n=k}^\infty\{|X_n-X|<\epsilon\}=1$
\item$\forall_{\epsilon>0}\lim_{k\to\infty}\bigcup_{n=k}^\infty\{|X_n-X|\geq\epsilon\}=0 $
\end{itemize}

\subsection{Twierdzenie o ci�g�o�ci}
Ci�g $(X_n)_n$ jest zbie�ny wed�ug rozk�adu do $X$ wtedy i tylko wtedy, gdy
ci�g funkcji charakterystycznych $\varphi_n$ jest zbie�ny w ka�dym punkcie
do funkcji ci�g�ej $\varphi$. Takie $\varphi$ jest funkcj� charakterystyczn� zmiennej
$X$.

\section{Prawa wielkich liczb i twierdzenia graniczne}

\paragraph{S�abe prawo wielkich liczb.} Niech $X_n$ b�dzie ci�giem zmiennych losowych,
$m_k = EX_k$, $S_n = \sum_{k=1}^{n} X_n$. Je�eli ci�g $\frac{\sum_{k=1}^{n}(X_k-m_k)}{n}$
zbiega wed�ug prawdopodobie�stwa do 0 to m�wimy, �e $X_n$ spe�nia s�abe prawo
wielkich liczb (SPWL). Warunek z definicji mo�na r�wnowa�nie zapisa�:
$\forall_{\epsilon>0}\lim_{n\to\infty}P(|\frac{S_n - ES_n}{n}|\geq \epsilon) = 0$.

\begin{description}
\item[Tw. Czebyszewa] Ci�g niezale�nych zmiennych losowych $X_n$ spe�nia
SPWL, gdy istniej� warto�ci oczekiwane $E(X_i)$ i wariancje $\sigma_i^2$ zmiennych
$X_i$ istniej� i s� wsp�lnie ograniczone (tzn. $\exists_{\sigma^{2}} \forall_{n} Var(S_n)\leq \sigma^{2}$).
\item[Tw. Markowa] Ci�g zmiennych losowych $X_n$ spe�nia SPWL,
gdy istniej� warto�ci oczekiwane $E(X_i)$ i wariancje $\sigma_i^2$ zmiennych $X_i$ oraz
$\lim_{n\to\infty}\frac{Var(S_n)}{n^2} = 0$.
\item[Wniosek] Je�li $X_n$ ci�g niezale�nych zmiennych losowych o jednakowym
rozk�adzie, dla kt�rego istnieje wariancja, to ci�g ten spe�nia SPWL.
\item[Tw. Chinczyna] Ci�g niezale�nych zmiennych losowych o jednakowych rozk�adach
i wsp�lnej warto�ci oczekiwanej spe�nia SPWL.
\end{description}

\paragraph{Mocne prawo wielkich liczb.} $X_n$ jest ci�giem zmiennych losowych,
$m_k = EX_k$. Ci�g $X_n$ spe�nia mocne prawo wielkich
liczb (MPWL), gdy ci�g $\frac{\sum_{k=1}^{n}(X_k-m_k)}{n}$ zbiega do 0 z prawdopodobie�stwem
jeden.

\noindent{\bf Uwaga.} Je�li ci�g spe�nia MPWL to spe�nia te� SPWL.
\begin{description}
\item[Tw. Ko�omogorowa] Je�li $X_n$ s� niezale�ne, $Var(X_n)$ istniej�
oraz szereg $\frac{\sum_{n=1}^{\infty}Var(X_n)}{n^{2}}$ jest zbie�ny, to
$(X_n)_n$ spe�nia MPWL.
\item[Wniosek] Je�li $(X_n)_n$ jest ci�giem niezale�nych zmiennych losowych o
jednakowym rozk�adzie i $\forall_{n}Var(X_n) = \sigma^{2} < +\infty$, to $X_n$
spe�nia MPWL.
\item[Wniosek] Je�li $X_n$ spe�nia za�o�enia tw. Czybyszewa to spe�nia MPWL.
\end{description}

\paragraph{Centralne twierdzenie graniczne Lindeberga-Levy'ego.} Je�eli $\{X_n\}$ jest losowym ci�giem niezale�nych zmiennych o jednakowym rozk�adzie,
o warto�ci przeci�tnej $\alpha_1$ i sko�czonej wariancji $\sigma^2>0$, to ci�g $(F_n)$ dystrybuant standaryzowanych �rednich arytmetycznych
$\overline{X_n}$ (standaryzowanych sum $\sum_{i=1}^n X_i$) $Y_n=\frac{\overline{X_n}-\alpha_1}{\frac{\sigma}{\sqrt{n}}}=\frac{\sum_{i=1}^n X_i-n\alpha_1}{\sigma\sqrt{n}}$ jest zbie�ny do dystrybuanty $\Phi$ rozk�adu $N(0,1)$: $\lim_{n\to\infty}F_n(y)=\frac{1}{\sqrt{2\pi}}\int_{-\infty}^y e^{-\frac{1}{2}t^2}dt \equiv \Phi(y)$

\end{document}
