Математическое ожидание

Математи́ческое ожида́ние — понятие в теории вероятностей, означающее среднее (взвешенное по вероятностям возможных значений) значение случайной величины^[1]. В случае непрерывной случайной величины подразумевается взвешивание по плотности распределения (более строгие определения см. ниже). Математическое ожидание случайного вектора равно вектору, компоненты которого равны математическим ожиданиям компонентов случайного вектора.

Обозначается через ${\displaystyle \mathbb {E} [X]}$^[2] (например, от англ. Expected value или нем. Erwartungswert); в русскоязычной литературе также встречается обозначение ${\displaystyle M[X]}$ (возможно, от англ. Mean value или нем. Mittelwert, а возможно от «Математическое ожидание»). В статистике часто используют обозначение ${\displaystyle \mu }$.

Для случайной величины, принимающей значения только 0 или 1, математическое ожидание равно p — вероятности «единицы». Математическое ожидание суммы таких случайных величин равно np, где n — количество таких случайных величин. При этом вероятности появления определённого количества единиц рассчитываются по биномиальному распределению. Поэтому в литературе, скорее всего, легче найти запись, что мат. ожидание биномиального распределения равно np^[3].

Некоторые случайные величины не имеют математического ожидания, например, случайные величины, имеющие распределение Коши.

На практике математическое ожидание обычно оценивается как среднее арифметическое наблюдаемых значений случайной величины (выборочное среднее, среднее по выборке). Доказано, что при соблюдении определённых особых условий (в частности, если выборка является случайной, то есть наблюдения являются независимыми) выборочное среднее стремится к истинному значению математического ожидания случайной величины при стремлении объёма выборки (количества наблюдений, испытаний, измерений) к бесконечности.

В разделе не хватает ссылок на источники (см. рекомендации по поиску). Информация должна быть проверяема, иначе она может быть удалена. Вы можете отредактировать статью, добавив ссылки на авторитетные источники в виде сносок. (13 мая 2016)

Пусть задано вероятностное пространство ${\displaystyle (\Omega ,{\mathfrak {A}},\mathbb {P} )}$ и определённая на нём случайная величина ${\displaystyle X}$. То есть, по определению, ${\displaystyle X\colon \Omega \to \mathbb {R} }$ — измеримая функция. Если существует интеграл Лебега от ${\displaystyle X}$ по пространству ${\displaystyle \Omega }$, то он называется математическим ожиданием, или средним (ожидаемым) значением и обозначается ${\displaystyle M[X]}$ или ${\displaystyle \mathbb {E} [X]}$.

${\displaystyle \mathbb {E} [X]=\int \limits _{\Omega }\!X(\omega )\,\mathbb {P} (d\omega ).}$

Если ${\displaystyle F_{X}(x)}$ — функция распределения случайной величины, то её математическое ожидание задаётся интегралом Лебега — Стилтьеса:

${\displaystyle \mathbb {E} [X]=\int \limits _{-\infty }^{\infty }\!x\,dF_{X}(x)}$, ${\displaystyle x\in \mathbb {R} }$.

Математическое ожидание абсолютно непрерывной случайной величины, распределение которой задаётся плотностью ${\displaystyle f_{X}(x)}$, равно

${\displaystyle \mathbb {E} [X]=\int \limits _{-\infty }^{\infty }\!xf_{X}(x)\,dx}$.

Если ${\displaystyle X}$ — дискретная случайная величина, имеющая распределение

${\displaystyle \mathbb {P} (X=x_{i})=p_{i}}$ , ${\displaystyle \sum \limits _{i=1}^{\infty }p_{i}=1}$,

то прямо из определения интеграла Лебега следует, что

${\displaystyle \mathbb {E} [X]=\sum \limits _{i=1}^{\infty }x_{i}\,p_{i}}$.

• Если ${\displaystyle X}$ — положительная целочисленная случайная величина (частный случай дискретной), имеющая распределение вероятностей

${\displaystyle \mathbb {P} (X=j)=p_{j}}$ , ${\displaystyle j=0,1,\dotsc }$, ${\displaystyle \sum \limits _{j=0}^{\infty }p_{j}=1}$,

то её математическое ожидание может быть выражено через производящую функцию последовательности ${\displaystyle \{p_{i}\}}$

${\displaystyle P(s)=\sum _{k=0}^{\infty }\;p_{k}s^{k}}$

как значение первой производной в единице: ${\displaystyle \mathbb {E} [X]=P'(1)}$. Если математическое ожидание ${\displaystyle X}$ бесконечно, то ${\displaystyle \lim _{s\to 1}P'(s)=\infty }$ и мы будем писать ${\displaystyle P'(1)=\mathbb {E} [X]=\infty }$

Теперь возьмём производящую функцию ${\displaystyle Q(s)}$ последовательности «хвостов» распределения ${\displaystyle \{q_{k}\}}$

${\displaystyle q_{k}=\mathbb {P} (X>k)=\sum _{j=k+1}^{\infty }{p_{j}}}$ , ${\displaystyle Q(s)=\sum _{k=0}^{\infty }q_{k}s^{k}.}$

Эта производящая функция связана с определённой ранее функцией ${\displaystyle P(s)}$ свойством: ${\displaystyle Q(s)={\frac {1-P(s)}{1-s}}}$ при ${\displaystyle |s|<1}$. Из этого по теореме о среднем следует, что математическое ожидание равно просто значению этой функции в единице:

${\displaystyle \mathbb {E} [X]=P'(1)=Q(1)}$

Пусть ${\displaystyle X=(X_{1},\dots ,X_{n})^{\top }\colon \Omega \to \mathbb {R} ^{n}}$ — случайный вектор. Тогда по определению

${\displaystyle \mathbb {E} [X]=(\mathbb {E} [X_{1}],\dots ,\mathbb {E} [X_{n}])^{\top }}$,

то есть математическое ожидание вектора определяется покомпонентно.

Пусть ${\displaystyle g\colon \mathbb {R} \to \mathbb {R} }$ — борелевская функция, такая что случайная величина ${\displaystyle Y=g(X)}$ имеет конечное математическое ожидание. Тогда для него справедлива формула

${\displaystyle \mathbb {E} \left[g(X)\right]=\sum \limits _{i=1}^{\infty }g(x_{i})p_{i},}$

если ${\displaystyle X}$ имеет дискретное распределение;

${\displaystyle \mathbb {E} \left[g(X)\right]=\int \limits _{-\infty }^{\infty }\!g(x)f_{X}(x)\,dx,}$

если ${\displaystyle X}$ имеет абсолютно непрерывное распределение.

Если распределение ${\displaystyle \mathbb {P} ^{X}}$ случайной величины ${\displaystyle X}$ общего вида, то

${\displaystyle \mathbb {E} \left[g(X)\right]=\int \limits _{-\infty }^{\infty }\!g(x)\,\mathbb {P} ^{X}(dx).}$

В специальном случае, когда ${\displaystyle g(X)=X^{k}}$, математическое ожидание ${\displaystyle \mathbb {E} [g(X)]=\mathbb {E} [X^{k}]}$ называется ${\displaystyle k}$-м моментом случайной величины.

В разделе не хватает ссылок на источники (см. рекомендации по поиску). Информация должна быть проверяема, иначе она может быть удалена. Вы можете отредактировать статью, добавив ссылки на авторитетные источники в виде сносок. (13 мая 2016)

• Математическое ожидание числа (не случайной, фиксированной величины, константы) есть само число.

${\displaystyle \mathbb {E} [a]=a}$

${\displaystyle a\in \mathbb {R} }$ — константа;

• Математическое ожидание линейно^[4], то есть

${\displaystyle \mathbb {E} [aX+bY]=a\mathbb {E} [X]+b\mathbb {E} [Y]}$,

где ${\displaystyle X,Y}$ — случайные величины с конечным математическим ожиданием, а ${\displaystyle a,b\in \mathbb {R} }$ — произвольные константы;

В частности, математическое ожидание суммы (разности) случайных величин равно сумме (соответственно — разности) их математических ожиданий.

• Математическое ожидание сохраняет неравенства, то есть если ${\displaystyle 0\leqslant X\leqslant Y}$ почти наверняка, и ${\displaystyle Y}$ — случайная величина с конечным математическим ожиданием, то математическое ожидание случайной величины ${\displaystyle X}$ также конечно, и более того

${\displaystyle 0\leqslant \mathbb {E} [X]\leqslant \mathbb {E} [Y]}$.

• Математическое ожидание не зависит от поведения случайной величины на событии вероятности нуль, то есть если ${\displaystyle X=Y}$ почти наверняка, то

${\displaystyle \mathbb {E} [X]=\mathbb {E} [Y]}$.

• Математическое ожидание произведения двух независимых или некоррелированных^[5] случайных величин ${\displaystyle X,Y}$ равно произведению их математических ожиданий

${\displaystyle \mathbb {E} [XY]=\mathbb {E} [X]\cdot \mathbb {E} [Y]}$.

В разделе не хватает ссылок на источники (см. рекомендации по поиску). Информация должна быть проверяема, иначе она может быть удалена. Вы можете отредактировать статью, добавив ссылки на авторитетные источники в виде сносок. (13 мая 2016)

Неравенство Маркова — для неотрицательной случайной величины ${\displaystyle X\colon \Omega \to \mathbb {R} ^{+}}$ определённой на вероятностном пространстве ${\displaystyle (\Omega ,{\mathcal {F}},\mathbb {P} )}$ с конечным математическим ожиданием ${\displaystyle \mathbb {E} (X)}$ выполняется неравенство:

${\displaystyle \mathbb {P} \left(X\geqslant a\right)\leqslant {\frac {\mathbb {E} (X)}{a}}}$, где ${\displaystyle a>0}$.

Неравенство Йенсена для математического ожидания выпуклой функции от случайной величины. Пусть ${\displaystyle (\Omega ,{\mathcal {F}},\mathbb {P} )}$ — вероятностное пространство, ${\displaystyle X\colon \Omega \to \mathbb {R} }$ — определённая на нём случайная величина, ${\displaystyle \varphi \colon \mathbb {R} \to \mathbb {R} }$ — выпуклая борелевская функция, такие, что ${\displaystyle X,\varphi (X)\in L^{1}(\Omega ,{\mathcal {F}},\mathbb {P} )}$, то

${\displaystyle \varphi (\mathbb {E} (X))\leqslant \mathbb {E} (\varphi (X))}$.

• Теорема Леви о монотонной сходимости.
• Теорема Лебега о мажорируемой сходимости: пусть есть сходящаяся почти всюду последовательность случайных величин: ${\displaystyle X_{n}\to X}$. Пусть в дополнение существует интегрируемая случайная величина ${\displaystyle Y}$, такая что ${\displaystyle \forall n\in \mathbb {N} \quad |X_{n}|\leqslant Y}$ почти наверное. Тогда случайные величины ${\displaystyle X_{n},\;X}$ интегрируемы и

${\displaystyle \lim \limits _{n\to \infty }\mathbb {E} (X_{n})=\mathbb {E} (X)}$ .

• Тождество Вальда: для независимых одинаково распределённых случайных величин ${\displaystyle X_{1},...,X_{N}}$, где ${\displaystyle N}$ является положительной целочисленной случайной величиной, независимой от ${\displaystyle X_{i}}$, при условии, что ${\displaystyle X_{i}}$ и ${\displaystyle N}$ имеют конечное математическое ожидание, будет выполняться следующее равенство:

${\displaystyle \mathbb {E} \left(\sum _{i=1}^{N}X_{i}\right)=\mathbb {E} (N)\mathbb {E} (X)}$

• Математическое ожидание случайной величины ${\displaystyle X}$ равно значению первой производной её производящей функции моментов ${\displaystyle G(u)}$ в точке 0:

${\displaystyle \mathbb {E} (X)=G'(0)}$.

В разделе не хватает ссылок на источники (см. рекомендации по поиску). Информация должна быть проверяема, иначе она может быть удалена. Вы можете отредактировать статью, добавив ссылки на авторитетные источники в виде сносок. (13 мая 2016)

• Пусть случайная величина имеет дискретное равномерное распределение, то есть ${\displaystyle \mathbb {P} (X=x_{i})={\frac {1}{n}},\;i=1,\ldots ,n.}$ Тогда её математическое ожидание

${\displaystyle \mathbb {E} [X]={\frac {1}{n}}\sum \limits _{i=1}^{n}x_{i}}$

равно среднему арифметическому всех принимаемых значений.

• Пусть случайная величина имеет непрерывное равномерное распределение на интервале ${\displaystyle [a,b]}$, где ${\displaystyle a<b}$. Тогда её плотность имеет вид ${\displaystyle f_{X}(x)={\frac {1}{b-a}}\mathbf {1} _{[a,b]}(x)}$ и математическое ожидание равно

${\displaystyle \mathbb {E} [X]=\int \limits _{a}^{b}\!{\frac {x}{b-a}}\,dx={\frac {a+b}{2}}}$.

• Пусть случайная величина ${\displaystyle X}$ имеет стандартное распределение Коши. Тогда

${\displaystyle \int \limits _{-\infty }^{\infty }\!xf_{X}(x)\,dx=\infty }$,

то есть математическое ожидание ${\displaystyle X}$ не определено.

• Дисперсия случайной величины
• Моменты случайной величины
• Условное математическое ожидание

• Феллер В. Глава XI. Целочисленные величины. Производящие функции // Введение в теорию вероятностей и её приложения = An introduction to probability theory and its applicatons, Volume I second edition / Перевод с англ. Р. Л. Добрушина, А. А. Юшкевича, С. А. Молчанова Под ред. Е. Б. Дынкина с предисловием А. Н. Колмогорова. — 2-е изд. — М.: Мир, 1964. — С. 270—272.

• Математическое ожидание и его свойства на http://www.toehelp.ru