Случайные величины

Оглавление
  Случайные величины.. 2
Функция распределения вероятностей.. 3
Основные свойства функции распределения вероятностей.. 5
Функция распределения вероятностей дискретной случайной величины   6
Плотность распределения вероятностей.. 7
Плотность распределения вероятностей дискретной случайной величины   9
Примеры плотностей и функций распределения вероятностей.. 10
Сингулярные случайные величины.. 13
Математическое ожидание случайной величины.. 15
Примеры вычисления математического ожидания случайной величины.. 17
Свойства математического ожидания. 19
Дисперсия случайной величины.. 20
Моменты случайной величины.. 22
Неравенство Чебышева. 23
Коэффициент асимметрии.. 25
Коэффициент эксцесса. 26
Среднеквадратическая ошибка. 27
Характеристическая функция. 28
Основные свойства характеристической функции.. 29
Примеры вычисления характеристической функции.. 30
Моменты, кумулянты и характеристическая функция. 31

Случайные величины

Выше рассматривались эксперименты, результаты которых являются случайными событиями. Однако часто возникает необходимость количественного представления результатов эксперимента в виде некоторой величины , которая называется случайной величиной. Случайная величина является вторым (после случайного события) основным объектом изучения теории вероятностей и обеспечивает более общий способ описания опыта со случайным исходом, чем совокупность случайных событий.
Рассматривая эксперименты со случайным исходом, мы уже имели дело со случайными величинами. Так, число успехов  в серии из  испытаний - пример случайной величины. Другими примерами  случайных величин являются: число вызовов на телефонной станции за единицу времени; время ожидания очередного вызова; число частиц с заданной энергией в системах частиц, рассматриваемых в статистической физике; средняя суточная температура в данной местности и т.д.
Случайная величина характерна тем, что невозможно точно предсказать ее значение, которое она примет, но с другой стороны, множество ее возможных значений обычно известно. Так для числа успехов в последовательности из  испытаний это множество конечно, поскольку число успехов может принимать значения . Множество значений случайной величины, может совпадать с вещественной полуосью , как в случае времени ожидания и т.д.
Рассмотрим примеры экспериментов со случайным исходом, для описания которых обычно применяются случайные события и введем эквивалентное описание с помощью задания случайной величины.
1). Пусть результатом опыта может быть событие  или событие . Тогда этому эксперименту можно поставить в соответствие случайную величину , которая принимает два значения, например,  и  с вероятностями  и , причем имеют место равенства:  и . Таким образом, опыт характеризуется двумя исходами  и с вероятностями  и , или этот же опыт характеризуется случайной величиной , принимающей два значения  и  с вероятностями  и .
2). Рассмотрим опыт с бросанием игральной кости. Здесь исходом опыта может быть одно из событий , где  - выпадение грани с номером . Вероятности , . Введем эквивалентное описание этого опыта с помощью случайной величины , которая может принимать значения  с вероятностями , .
3). Последовательность  независимых испытаний характеризуется полной группой несовместных событий , где  - событие, состоящее в появлении  успехов в серии из  опытов; причем вероятность события  определяется формулой Бернули, т.е. . Здесь можно ввести случайную величину  - число успехов, которая принимает значения  с вероятностями . Таким образом, последовательность независимых испытаний характеризуется случайными событиями  с их вероятностями  или случайной величиной  с вероятностями того, что  принимает значения : , .
4). Однако, не для всякого опыта со случайным исходом существует столь простое соответствие между случайной величиной и совокупностью случайных событий. К примеру, рассмотрим эксперимент, в котором точка наугад бросается на отрезок . Здесь естественно ввести случайную величину  - координату на отрезке , в которую попадает точка. Таким образом, можно говорить о случайном событии , где  - число из . Однако вероятность этого события . Можно поступить иначе - отрезок  разбить на конечное число непересекающихся отрезков  и рассматривать случайные события, состоящие в том, что случайная величина  принимает значения из интервала . Тогда вероятности  - конечные величины. Однако и этот способ имеет существенный недостаток, поскольку отрезки  выбираются произвольным образом. Для того, чтобы устранить этот недостаток рассматривают отрезки вида , где переменная . Тогда соответствующая вероятность
                                              (29.1)
является функцией аргумента . Это усложняет математическое описание случайной величины, но при этом описание (29.1) становится единственным, устраняется неоднозначность выбора отрезков .
Для каждого из рассмотренных примеров несложно определить вероятностное пространство , где  - пространство элементарных событий,  - - алгебра событий (подмножеств ),  - вероятность, определенная для любого . Например, в последнем примере , - - алгебра всех отрезков , содержащихся в .
Рассмотренные примеры приводят к следующему определению случайной величины.
Пусть  - вероятностное пространство. Случайной величиной  называется однозначная действительная функция , определенная на , для которой множество элементарных событий вида  является событием (т.е. принадлежат ) для каждого действительного числа .
Таким образом, в определении требуется, чтобы для каждого вещественного  множество , и это условие гарантирует, что для каждого  определена вероятность события . Это событие принято обозначать более краткой записью .

Функция распределения вероятностей

Функция
, ,                                   (30.1)
называется функцией распределения вероятностей случайной величины .
Функция  иногда называется кратко – функция распределения, а также – интегральным законом распределения вероятностей случайной величины . Функция  является полной характеристикой случайной величины, то есть представляет собой математическое описание всех свойств случайной величины  и более детального способа описания этих свойств не существует.
Отметим следующую важную особенность определения (30.1). Часто функцию  определяют иначе:
, .                                   (30.2)
Согласно (30.1) функция  является непрерывной справа. Этот вопрос подробнее будет рассмотрен ниже. Если же использовать определение (30.2), то  - непрерывна слева, что является следствием применения строгого неравенства в соотношении (30.2). Функции (30.1) и (30.2) представляют собой эквивалентные описания случайной величины, поскольку не имеет значения каким определением пользоваться как при изучении теоретических вопросов, так и при решении задач. Для определенности в дальнейшем будем использовать только определение (30.1).
Рассмотрим пример построения графика функции . Пусть случайная величина  принимает значения , ,  с вероятностями , , причем . Таким образом, другие значения кроме указанных данная случайная величина принимает с нулевой вероятностью: , для любого , . Или как говорят, других значений кроме , ,  случайная величина  не может принимать. Пусть для определенности . Найдем значения функции  для  из интервалов: 1) , 2) , 3) , 4) , 5) , 6) , 7) . На первом интервале , поэтому функция распределения . 2). Если , то . Очевидно случайные события  и  несовместны, поэтому по формуле сложения вероятностей . По условию событие  невозможное и , а . Поэтому . 3). Пусть , тогда . Здесь первое слагаемое , а второе , поскольку событие  - невозможное. Таким образом  для любого ,  удовлетворяющего условию . 4). Пусть , тогда   . 5). Если , то . 6) При  имеем . 7) Если , то . Результаты вычислений представлены на рис. 30.1 графиком функции . В точках разрыва , ,  указана непрерывность функции справа.

Рис. 30.1. График функции распределения вероятностей.

Основные свойства функции распределения вероятностей

Рассмотрим основные свойства функции распределения, следующие непосредственно из определения:
         .                                               (31.1)
1. Введем обозначение: . Тогда из определения следует . Здесь выражение  рассматривается как невозможное событие с нулевой вероятностью.
2. Пусть . Тогда из определения функции  следует . Случайное событие  является достоверным и его вероятность равна единице.
3. Вероятность  случайного события , состоящего в том, что случайная величина  принимает значение из интервала  при  определяется через функцию  следующим равенством
         .                       (31.2)
Для доказательства этого равенства рассмотрим соотношение
         .                          (31.3)
События  и  несовместны, поэтому по формуле сложения вероятностей из (31.3) следует
         ,                    (31.4)
что и совпадает с формулой (31.2), поскольку  и .
4. Функция  является неубывающей. Для доказательства рассмотрим . При этом справедливо равенство (31.2). Его левая часть , поскольку вероятность принимает значения из интервала . Поэтому и правая часть равенства (31.2) неотрицательна: , или . Это равенство получено при условии , поэтому  - неубывающая функция.
5. Функция  непрерывна справа в каждой точке , т.е.
         ,                                   (31.5)
где  - любая последовательность, стремящаяся к  справа, т.е.  и .
Для доказательства представим функцию  в виде:        
.  (31.5)
Отсюда
         .  (31.6)
Теперь на основании аксиомы счетной аддитивности вероятности выражение в   фигурных   скобках   равно   ,  таким   образом 
  , что и доказывает непрерывность справа функции .
Таким образом, каждая функция распределения вероятностей обладает свойствами 1-5. Верно и обратное утверждение: если , , удовлетворяет условиям 1-5 ,то она может рассматриваться как функция распределения некоторой случайной величины.

Функция распределения вероятностей дискретной случайной величины

Случайная величина  называется дискретной, если множество ее значений конечно или счетно.
Для полного вероятностного описания дискретной случайной величины , принимающей значения , достаточно задать вероятности
         ,                                 (32.1)
того, что случайная величина  принимает значение . Если заданы  и , , тогда функцию распределения вероятностей  дискретной случайной величины  можно представить в виде:
         .                                        (32.2)
Здесь суммирование ведется по всем индексам , удовлетворяющим условию: .
Функцию распределения вероятностей дискретной случайной величины иногда представляют через так называемую функцию единичного скачка
                                                       (32.3)
При этом  принимает вид
         ,                                      (32.4)
если случайная величина  принимает конечное множество значений , и верхний предел суммирования в (32.4) полагается равным , если случайная величина принимает счетное множество значений.
Пример построения графика функций распределения вероятностей дискретной  случайной величины был рассмотрен в п.30.

Плотность распределения вероятностей

Пусть случайная величина  имеет дифференцируемую функцию  распределению вероятностей , тогда функция
                                                    (33.1)
называется плотностью распределения вероятностей ( или плотностью вероятности) случайной величины , а случайная величина  - непрерывной случайной величиной.
Рассмотрим основные свойства плотности вероятности.
Из определения производной следует равенство:
         .                                   (33.2)
Согласно свойствам функции  имеет место равенство . Поэтому (33.2) принимает вид:
         .                                   (33.3)
Это соотношение объясняет название функции . Действительно, согласно (33.3) функция  - это вероятность , приходящаяся на единицу интервала , в точке , поскольку . Таким образом, плотность вероятности, определяемая соотношением (33.3), аналогична определениям плотностей других величин, известных в физике, таких как плотность тока, плотность вещества, плотность заряда и т.д.
2. Поскольку  - неубывающая функция, то ее производная  - функция неотрицательная:
.             (33.4)
3. Из (33.1) следует
,
поскольку . Таким образом, справедливо равенство
.                           (33.5)        
4. Поскольку , то из соотношения (33.5) следует
                          (33.6)
- равенство, которое называется условием нормировки. Его левая часть  - это вероятность достоверного события.
5. Пусть , тогда из (33.1) следует
.                     (33.7)
Это соотношение имеет важное значение для приложений, поскольку позволяет вычислить вероятность  через плотность вероятности  или через функцию распределения вероятностей . Если положить , то из (33.7) следует соотношение (33.6).
На рис. 33.1 представлены примеры графиков функции распределения и плотности вероятностей.

Рис. 33.1. Примеры функции распределения вероятностей и плотности вероятности.
Отметим, что плотность распределения вероятности может иметь несколько максимумов. Значение  аргумента , при котором плотность  имеет максимум называется модой распределения случайной величины . Если плотность  имеет более одной моды, то  называется многомодальной.

Плотность распределения вероятностей дискретной случайной величины

Пусть случайная величина  принимает значения  с вероятностями , . Тогда ее функция распределения вероятностей
,                                      (34.1)
где  - функция единичного скачка. Определить плотность вероятности  случайной величины  по ее функции распределения  можно с учетом равенства . Однако при этом возникают математические сложности, связанные с тем, что функция единичного скачка , входящая в (34.1), имеет разрыв первого рода при . Поэтому в точке  не существует производная  функции .
Для преодоления этой сложности вводится -функция. Функцию единичного скачка можно представить через -функцию следующим равенством:
.                                 (34.2)
Тогда формально производная
                                       (34.3)
и плотность вероятности дискретной случайной величины определяется из соотношения (34.1) как производная функции :
.                             (34.4)
Функция (34.4) обладает всеми свойствами плотности вероятности. Рассмотрим пример. Пусть дискретная случайная величина  принимает значения  с вероятностями , и пусть , . Тогда вероятность  - того, что случайная величина  примет значение из отрезка  может быть вычислена, исходя из общих свойств плотности по формуле:
  .
Здесь
,
поскольку особая точка - функции, определяемая условием , находится внутри области интегрирования при , а при  особая точка находится вне области интегрирования. Таким образом,
.
Для функции (34.4) также выполняется условие нормировки:
.
Отметим, что в математике запись вида (34.4) считается некорректной (неправильной), а запись (34.2) - корректной. Это обусловлено тем, что -функция при нулевом аргументе , и говорят, что  не существует. С другой стороны, в (34.2) -функция содержится под интегралом. При этом правая часть (34.2) - конечная величина для любого , т.е. интеграл от -функции существует. Несмотря на это в физике, технике и других приложениях теории вероятностей часто используется представление плотности в виде (34.4), которое, во-первых, позволяет получать верные результаты, применяя свойства - функции, и во-вторых, имеет очевидную физическую интерпретацию.  

.                           (40.14)
Теперь
         .        (40.15)

Моменты случайной величины

41.1. Математическое ожидание и дисперсия являются примерами моментов случайной величины, которые определяются следующим образом.
Начальным моментом порядка  непрерывной случайной величины с плотностью распределения вероятности  называется число
         .                                 (41.1)
Порядок момента  - это неотрицательное целое число, т.е. .
Начальным моментом порядка  дискретной случайной величины , принимающей значения  с вероятностями , , называется число
         .                                       (41.2)
Определение (41.1) можно рассматривать как универсальное определение для непрерывных и для дискретных случайных величин. В последнем случае плотность вероятности выражается через  - функцию согласно формуле (34.4). Однако на практике для вычисления момента дискретной величины удобнее использовать соотношение (41.2).
Центральным моментом порядка  случайной величины  называется число
         .                                            (41.3)
Для непрерывной случайной величины  с плотностью вероятности  центральный момент порядка  имеет вид:
         .                           (41.4)
41.2. Из всего множества начальных и центральных моментов обычно используются моменты невысоких порядков, до  включительно, как более простые характеристики случайной величины. Применение моментов высоких порядков, , ограничено. Во-первых, при больших  моменты могут не существовать, поскольку могут расходиться интегралы (41.1), (41.4). И во-вторых, интерпретация моментов высших порядков затруднена.
Рассмотрим начальные моменты, начиная с . При этом из (41.1) следует
         .                               (41.5)
Итак,  начальный момент нулевого порядка  для любой случайной величины, следовательно, этот момент не отражает каких-либо свойств случайной величины, т.е. не является ее характеристикой. При  из (41.1) следует, что момент первого порядка - это математическое ожидание случайной величины. Разные случайные величины могут иметь разные математические ожидания, и поэтому число  является характеристикой случайной величины: число  указывает положение центра ее плотности вероятности.
Момент второго порядка
                                                    (41.6)
- это среднее квадрата  случайной величины, и т.д.
Рассмотрим аналогично центральные моменты (41.4). При  получаем  - одинаковый результат для любой случайной величины. Поэтому данный момент не является характеристикой случайной величины, поскольку не отражает каких-либо ее свойств. При   . Этот результат также одинаков для любой случайной величины, поэтому центральный момент первого порядка не является характеристикой случайной величины. При  из (41.4) получаем дисперсию
                                    (41.7)
- важнейшую числовую характеристику случайной величины и т.д.
Моменты третьего и четвертого порядков будут рассмотрены в дальнейшем.

Неравенство Чебышева

42.1. Пусть случайная величина  имеет конечный момент второго порядка , тогда
         ,                                (42.1)
где  - любое действительное число и . Соотношение (42.1) называют неравенством Чебышева.
Сначала рассмотрим доказательство неравенства, следующего из (42.1) при :
         .                                              (42.2)
Доказательство неравенства Чебышева удобнее рассматривать отдельно для непрерывной и для дискретной случайных величин. При этом доказательства являются относительно простыми, а ход доказательств вполне очевиден. В то время как универсальное доказательство, справедливое и для непрерывной и для дискретной случайных величин оказывается значительно более сложным. Рассмотрим непрерывную случайную величину  с плотностью вероятности . Тогда в соотношении    первое слагаемое можно представить в виде
,
поэтому
.
Здесь использовано неравенство  - справедливое на области интегрирования. Полученное выражение совпадает с неравенством (42.2). Аналогично выполняется доказательство для дискретной случайной величины.
Теперь случайную величину  в (42.2) можно заменить на случайную величину , где  - любое действительное число, тогда из (42.2) следует неравенство Чебышева (42.1). Это неравенство определяет границу сверху для вероятности  или,  как говорят, больших уклонений  случайной величины  от числа . Большие уклонения понимаются в смысле их превышения над заданным числом .
42.2. Пусть , тогда неравенство Чебышева (42.1) имеет вид
         .                               (42.3)
Теперь минимальное уклонение  можно измерять в единицах среднеквадратического уклонения  случайной величины , т.е. положить
         ,                                             (42.4)
где  - коэффициент пропорциональности. Подставим (42.4) в (42.3), тогда
         .                                  (42.5)
Если правая часть , то (42.5) не представляет какого-либо ограничения на случайную величину, поскольку вероятность  не может выходить за пределы интервала . Поэтому коэффициент  в (42.5) имеет смысл рассматривать только большим: . Отсюда очевидна интерпретация неравенства Чебышева как неравенства, определяющего границу сверху вероятности больших уклонений.
Пусть  - непрерывная случайная величина с плотностью вероятности , тогда неравенству Чебышева (42.1) можно дать простую геометрическую интерпретацию, представленную на рис. 42.1.

Рис. 42.1. Иллюстрация к неравенству Чебышева.
Здесь указаны числа ,  и , заштрихованная площадь - это вероятность
.

Коэффициент асимметрии

Среднее и дисперсия случайной величины  - это числа, которые определяют такие свойства ее плотности вероятности  как положение центра и эффективную ширину. Очевидно, эти два числа не отражают всех особенностей плотности, в частности, степень симметрии или асимметрии плотности относительно математического ожидания - это новая характеристика, которую можно определить как некоторое число.
Для любой симметричной плотности  центральные моменты нечетного порядка равны нулю (доказательство приводится ниже). Поэтому простейший среди них - центральный момент третьего порядка может характеризовать асимметрию плотности распределения:
         ,                           (43.1)
где  - математическое ожидание,  - центральный момент - го порядка.
Асимметрию принято характеризовать коэффициентом асимметрии
         ,                                        (43.2)
где  - дисперсия случайной величины .
Рассмотрим доказательство утверждения о том, что для симметричной плотности  центральные моменты нечетных порядков равны нулю.
1). Пусть  - симметричная функция относительно некоторой точки , тогда
         ,                              (43.3)
поскольку  - антисимметричная функция относительно . Отсюда следует:
         .                             (43.4)
Таким образом, если  - симметричная функция относительно точки , то  - точка симметрии плотности вероятности – это математическое ожидание случайной величины. 
2). Пусть  - нечетное целое и  - симметричная функция, тогда ,  поскольку  - симметрична относительно математического ожидания , и  - антисимметрична относительно .
Выражение (43.2) для  можно представить через начальные моменты , . Из определения следует:
.
Аналогично центральный момент третьего порядка

.
Пусть случайная величина  имеет плотность вероятности:
         ,                                 (43.6)
(распределение Рэлея), тогда вычисление  и подстановка в (43.2) приводит к результату .
Плотность вероятности с  имеет более тяжелый «хвост» в области больших положительных аргументов, и наоборот, при  более тяжелым является «хвост» плотности в области отрицательных аргументов.

Коэффициент эксцесса

Характеристикой степени сглаженности вершины плотности вероятности является число
         ,                                               (43.1)
называемое коэффициентом эксцесса.
Определим  для нормального распределения. Поскольку , то осталось вычислить
.
Пусть , тогда
.
Вычислим интеграл способом «по частям»:
.
Таким образом, . Подставим полученные результаты в (43.6), тогда .
Если , то плотность вероятности имеет более высокую и более острую вершину, чем кривая плотности нормального распределения с той же дисперсией. Если , то вершина плотности распределения более плоская, чем у нормального распределения.

Среднеквадратическая ошибка

Пусть  - неизвестный параметр (число), характеризующий состояние системы. Для определения параметра  проводится опыт (измерение). Ситуация осложняется тем, что в процессе измерения на величину  накладывается помеха. Таким образом, измерению подлежит не число , а некоторая случайная величина , значения которой в каждом опыте точно предсказать невозможно.
Случайную величину  будем называть оценкой параметра . Тогда  - ошибка, также случайная величина. Характеристикой качества оценки  является ее среднеквадратическая ошибка
.                                                        (45.1)
Преобразуем это выражение:
                      (45.2)
Величина  - детерминированная, поэтому ее можно вынести за оператор , следовательно, второе слагаемое

Первое слагаемое (45.2) по определению
                                    
- дисперсия случайной величины . Введем обозначение
.                                            (45.3)
Число  называется смещением оценки . Таким образом, из (45.2) следует
                                        (45.4)
- среднеквадратическая ошибка является суммой двух неотрицательных слагаемых. Первое из них – дисперсия, или случайная (стохастическая) компонента ошибки, а второе – квадрат смещения – систематическая ошибка. Если , то оценка  называется несмещенной.
Пусть случайная величина  - имеет плотность вероятности . Тогда процедуре измерения можно дать геометрическую интерпретацию. На рис. 45.1 представлен график плотности вероятности оценки и показана систематическая ошибка , и случайная ошибка .

Рис. 45.1. Плотность вероятности оценки,
случайная и систематическая части ошибки.
Очевидно, идеальная процедура измерения (с нулевой среднеквадратической ошибкой) – это процедура, для которой плотность  близка к функции . Тогда , точка , а эффективная ширина .

Характеристическая функция

Характеристической функцией случайной величины  называется функция
         , .                              (46.1)
Пусть  - непрерывная случайная величина с плотностью вероятности , тогда ее характеристическая функция
                                          (46.2)
- является интегральным преобразованием, которое называется преобразованием Фурье от плотности вероятности . Известно, что преобразование Фурье является взаимно однозначным. Поэтому существует обратное преобразование, которое определяет плотность вероятности  через характеристическую функцию . Это преобразование имеет вид
         .                                 (46.3)
Соотношения (46.2) и (46.3) образуют пару преобразований Фурье.
Для дискретной случайной величины , принимающей значения  с вероятностями  характеристическая функция, как следует из (46.1), имеет вид
         .                                              (46.4)
Характеристическая функция является полной вероятностной характеристикой случайной величины, также как и функция распределения  или плотность вероятности . Смысл введения характеристической функции в теории вероятности состоит в том, что имеется класс задач, которые относительно просто решаются с применением преобразования Фурье от плотности вероятности. Роль этого преобразования оказалась столь велика, что в теории появился специальный термин «характеристическая функция» для обозначения этого преобразования.

Основные свойства характеристической функции

Рассмотрим свойства функции  для непрерывной случайной величины. Для дискретной величины эти свойства доказываются аналогично.
1). В общем случае характеристическая функция (46.2) является комплексной. Ее вещественная часть
                                          (47.1)
- является - преобразованием от плотности вероятности, и мнимая часть
                                           (47.2)
- является - преобразованием от . Если  - четная функция, то , тогда характеристическая функция  и является вещественной и четной функцией.
2). . Это свойство следует из (46.2) и условия нормировки для плотности:
         .                                 (47.3)
3).  - функция  имеет глобальный максимум в точке . Доказательство следует из (46.2):
.
4).
5). Характеристическая функция непрерывна. Для доказательства рассмотрим приращение  аргумента функции , такое, что , где  - положительное число. Тогда имеет место следующая цепочка преобразований:
        
         .                             (47.4)
Пусть  и число
,           (47.5)
тогда из (47.4) следует
.                       (47.6)
Таким образом, выполняется определение непрерывности функции : для любого  можно выбрать положительное , что из условия  следует .

Примеры вычисления характеристической функции

48.1. Пусть  - случайная величина с характеристической функцией . Найти характеристическую функцию  случайной величины
         ,                                               (48.1)
где - числа. По определению
         .                 (48.2)
48.2. Найти характеристическую функцию  гауссовой случайной величины . По формуле (46.2)
         .            (48.3)
Выполним замену переменной интегрирования  на переменную , тогда   и
         .                 (48.4)
Показатель в подынтегральном выражении преобразуем следующим образом:
.
Подстановка этого результата в (48.4) приводит к выражению
         .                                       (48.5)
Отсюда следует, что характеристическая функция гауссовой случайной величины  при  является вещественной и четной функцией.

Моменты, кумулянты и характеристическая функция

49.1. Вычислим производную порядка  характеристической функции (46.1) при :
         ,                   (49.1)
где  - начальный момент  порядка случайной величины . Пусть существуют все моменты , , тогда существуют производные (49.1) характеристической функции при . Поэтому функцию  можно разложить в ряд Тейлора около точки :
         .                            (49.2)
Отметим, что здесь первое слагаемое . Выражение (49.2) называют иногда разложением характеристической функции по моментам, имея ввиду тот факт, что коэффициенты при  определяются начальными моментами .
Для непрерывной случайной величины с плотностью вероятности  соотношение (49.1) можно представить в виде:
         .           (49.3)
Таким образом, существование производной порядка  характеристической функции при  (или начального момента ) определяется поведением плотности вероятности  при , от которого зависит существование интеграла (49.3).
49.2. Функция
                                                   (49.4)
называется кумулянтной функцией случайной величины . Кумулянтная функция является полной вероятностной характеристикой случайной величины, также, как и . Смысл введения кумулянтной фукнции заключается в том, что эта функция зачастую оказывается наиболее простой среди полных вероятностных характеристик, т.е. среди . Например, для гауссовой случайной величины из (48.5) следует
         .                                           (49.5)
Кумулянтную функцию можно представить рядом, аналогично соотношению (49.2) для характеристической функции:
         ,                (49.6)
где число
                                      (49.7)
называется кумулянтом  порядка случайной величины . Из (49.7) следует , поэтому суммирование в (49.6) можно начинать с , а поскольку  для любой случайной величины, то  не является характеристикой случайной величины.
Вычислим кумулянты для гауссовой случайной величины. Из (49.7), (49.5)
         ,                        (49.8)
         .                       (49.9)
Для  производная , следовательно, гауссова случайная величина имеет только два кумулянта  и  отличных от нуля, остальные кумулянты - нулевые. Поэтому ряд (49.6) для гауссовой величины состоит из двух слагаемых.