Реферат Центральная предельная проблема теории вероятности
Работа добавлена на сайт bukvasha.net: 2015-10-28Поможем написать учебную работу
Если у вас возникли сложности с курсовой, контрольной, дипломной, рефератом, отчетом по практике, научно-исследовательской и любой другой работой - мы готовы помочь.
от 25%
договор
Федеральное агентство по образованию Российский государственный университет нефти и газа им. И. М. Губкина Кафедра «Высшей математики» |
РЕФЕРАТ |
ЦЕНТРАЛЬНАЯ ПРЕДЕЛЬНАЯ ПРОБЛЕМА ТЕОРИИ ВЕРОЯТНОСТЕЙ |
|
Выполнил:
Студент группы РФ-07-7
Коняшкин Н. С.
Преподаватель:
Юницкий С. А.
Москва, 2009
|
Введение.
Центральная предельная проблема теории вероятностей представляет собой проблему сходимости законов последовательности сумм независимых случайных величин.
В течение более двух столетий в теории вероятностей рассматривался частный случай предельной проблемы — классическая предельная проблема. Точная формулировка этого частного случая и его решение были получены во второй четверти текущего столетия. В то самое время, когда эта частная проблема получала свое решение, возникла гораздо более общая центральная предельная проблема. Эта проблема очень быстро была решена мощными методами характеристических функций, методами усечения и симметризации.
Развитие проблемы.
В классической предельной проблеме рассматриваются независимые слагаемые Хп с конечными первыми, а в случае нормальной сходимости — и вторыми моментами. Эти моменты используются для изменения начала отсчета и масштаба величин последовательных сумм
это делается для того, чтобы вероятность «не уходила в бесконечность». Такой выбор «нормирующих» констант объясняется исключительно историческими причинами; эти константы появились в результате прямого обобщения нормирующих констант в схеме Бернулли на более общий случай. Априори нет оснований надеяться, что эти константы сохранят свое значение и в общем случае. Другой выбор констант (независимо от существования и конечности первых двух моментов) может дать тот же самый результат. Таким образом, возникает проблема нахождения условий, при которых для нормированных сумм имеют место закон больших чисел и нормальная сходимость. Методы решения остаются те же, что и в классическом случае, однако выкладки усложняются. В этой постановке проблемы все еще сохраняется влияние первых двух предельных теорем в схеме Бернулли. В самом деле, только этим влиянием можно объяснить то, что мы ожидаем получить, и разыскиваем лишь те предельные законы, которые совпадают либо с вырожденными, либо с нормальными.
Новый подход П. Леви, свободный от этого влияния, привел к созданию центральной предельной проблемы. Он поставил и решил следующую проблему: найти семейство всех возможных предельных законов нормированных сумм независимых и одинаково распределенных случайных величин. Мы уже видели, что в тех случаях, когда случайных величины имеют конечный второй момент, предельный закон (с классическими нормирующими константами) нормален. Таким образом, П. Леви имел дело в первую очередь с новым случаем бесконечных вторых моментов и конечных или бесконечных первых моментов.
Естественно сразу возник вопрос о всех возможных предельных законах нормированных сумм независимых, но не обязательно одинаково распределенных случайных величин. Однако предельная теорема Пуассона пока еще остается в стороне, так как она связана с последовательностями сумм, а не с последовательностями нормированных частных сумм. Более того, ни при каких «естественных» ограничениях закон Пуассона не может быть предельным законом последовательности нормированных сумм. Этим и объясняется его изолированное положение. Но последовательности
являются частным случаем последовательностей (если
положить ) ; это приводит нас к окончательной формулировке проблемы.
Теперь вырисовывается общее содержание центральной предельной проблемы: найти предельные законы последовательностей сумм независимых слагаемых и найти условия сходимости к заданным законам. Однако в такой общей постановке проблема бессодержательна. В самом деле, пусть Yn
— произвольные случайные величины; положим Xn
1
= Yn
и Хпк = 0п. н. при k
> 1 и каждом n. В этом случае рассматриваемая последовательность законов превратится в последовательность поэтому семейство предельных законов содержит любой закон ; для этого надо взять
Таким образом, необходимо наложить некоторые ограничения.
Рассмотрим те задачи, которые приводят к этим «естественным» ограничениям. Общим свойством этих задач является то, что число слагаемых безгранично растет, причем предельный закон не изменяется, если опустить произвольное конечное число слагаемых. Это свойство приводит к следующему «естественному» ограничению: слагаемые Хпк должны быть равномерно бесконечно малыми, т. е. равномерно по k
, или, что равносильно, при каждом ε > 0.
Мы пришли, наконец, к следующей точной формулировке проблемы. Центральная предельная проблема:
Пусть является суммой равномерно бесконечно малых незави-
самых слагаемых Хпк и
kn
→∞.
1)
Найти семейство всевозможных предельных законов таких сумм.
2)
Найти условия сходимости к любому заданному закону этого семейства.
Для упрощения записи будем придерживаться следующих обозначений:
(I) суммирование произведение
и максимум берутся по всем этим значениям k
, переход к пределу обычно производится при n→∞, если не оговорено что-либо другое.
(II) Функцию распределения и характеристическую функцию случайной величины Xnk
обозначим Fnk
и fnk
; функцию распределения и характеристическую функцию обозначим Fn
и f
n. Условие равномерной бесконечной малости запишется так: при любом ε > 0,
а условие независимости приводит к равенству Сама проблема может быть сформулирована так:
Пусть даны последовательности произведений характеристических
функций равномерно бесконечно малых случайных величин.
1) Найти все такие характеристических функции f, для которых fn→
f
.
2) Найти условия, при которы x
fп → к данной
f.
Если рассматриваемые характеристические функции имеют логарифмы на то мы всегда будем выбирать их главные ветви (непрерывные и обращающиеся в нуль при u = 0);
тогда на
(равномерно) (равномерно).
Проблема была решена после того, как Финетти ввел семейство «безгранично делимых» законов, а Колмогоров и П. Леви нашли явное представление этих законов, первый — в случае конечных вторых моментов, а второй — в общем случае. Проблема была решена с использованием этого семейства законов усилиями Колмогорова, П. Леви, Феллера, Бавли, Хинчина, Марцинкевича, Гнеденко и Деблина (1931—1938 гг.). Окончательные результаты получены в основном Гнеденко.
Случай ограниченных дисперсий.
В качестве введения в исследование общей проблемы изучим независимо от нее частный «случай ограниченных дисперсий», который представляет собой «естественное» обобщение классической проблемы нормальной сходимости. При этом вычисления будут намного легче, чем в общем случае, хотя метод решения по существу одинаков.
Рассмотрим суммы независимых случайных величин, центрированных математическими ожиданиями, с функциями распределения Fnk
и xap. функциями fnk
и с такими конечными дисперсиями что где постоянная с не зависит от п.
Эта модель является частным случаем центральной предельной проблемы, поскольку при каждом ε > 0
т. е. выполнены условия равномерной бесконечной малости. Из ограниченности последовательности дисперсий сумм вытекает конечность дисперсии предельного закона.
а) Лемма сравнения.
При выполнении условия (С) log fnk
(и) существует и конечен для п ≥ пи , где пи достаточно велико; для каждого фиксированного и
Доказательство. Так как то из условия (С) следует
Таким образом, для п > пи , где пи достаточно велико, поэтому log fnk
(и) существует и конечен, а из разложения
вытекает
Лемма сравнения доказана. Положим
Так как
то мы имеем
или
В последней формуле Кп есть неубывающая непрерывная слева на R
функция с определенная формулой
а подынтегральная функция определяется в точке х = 0 по непрерывности и равна там — и2/2. Лемму сравнения можно сформулировать в следующем виде.
а'. При условии (С)
Введенные выше функции всегда будут обозначаться ψ
и К с индексами или без индексов. Таким образом, если не оговорено противное, функция ψ определяется на R
равенством
где К с точностью до постоянного множителя является функцией распределения с ψ и К могут иметь (один и тот же) индекс.
б) Каждая функция е ψ
является хар. функцией с нулевым первым моментом и конечной дисперсией σ2 = Var К и представляет собой предельный закон при условии (С).
Доказательство. Подынтегральная функция ограничена по х и непрерывна по и (или х) при каждом фиксированном х (или и). Отсюда следует, что ψ является непрерывной на R
функцией и равна пределу сумм Римана — Стильтьеса вида где
при этом мы будем выбирать точки деления хпk
≠ 0. Каждое слагаемое является логарифмом некоторой характеристической функции (пуассоновского типа),поэтому ихсуммы и предел ψ (по теореме непрерывности) также представляют собой логарифмы характеристических функций. Из элементарных вычислений
вытекает второе утверждение. Далее, пусть Хпk
,
k
=
1,…,n —
независимые случайные величины с одним и тем же логарифмом характеристической функции, равным ψ
/
n. Так как ψ
/
n соответствует функция К/п, то , причем Так как имеет при любом п характеристическую функцию е ψ
и условия (С) выполнены, то тем самым доказано и последнее утверждение.
в) Лемма единственности.
ψ
однозначно определяет (С), и наоборот.
Доказательство. Поскольку
то применима формула обращения, и К однозначно определяется по ψ через ψ
". Обратное утверждение очевидно.
г) Лемма сходимости.
Пусть условие (С) выполнено.
Если Кп →сл К, то
ψ n → ψ. Наоборот, если ψ n → log f
, то Кп → К и log
f = ψ
определяется с помощью К.
Доказательство. Первое утверждение сразу следует из обобщенной леммы Хелли — Брея. Докажем обратное утверждение. Поскольку дисперсии равномерно ограничены, то применима теорема слабой компактности, согласно которой существует такая функция К (с Var K ≤ c), что Кп’ →сл К, когда n’→ ∞ по некоторой подпоследовательности целых чисел. Следовательно, по прямому утверждению настоящей леммы
так как ψ n → log f
. В силу леммы единственности
ψ n = log f
однозначно определяет (С) , откуда следует Кп →сл К, что и требовалось доказать.
Предыдущие леммы дают следующее решение нашей проблемы.
А. Предельная теорема для ограниченных дисперсий.
Если независимые слагаемые
Xnk
центрированы математическими ожиданиями и
при всех п, то
1° Семейство предельных законов для последовательностей
совпадает с семейством законов центрированных математическими ожиданиями случайных величин с конечными дисперсиями и характеристическими функциями вида
f
=
e
ψ
, где
а К—непрерывная слева не убывающая на
R
функция с ψ
и К определяют друг друга однозначно.
2° характеристическая функция которого обязательно имеет вид e
ψ, тогда и только тогда, когда Кп →сл К, где Кп определяется формулой
Если условие заменить условием
то Кп →сл К заменяется Кп →вп К.
Доказательство.
1° вытекает из б), леммы сравнения и леммы сходимости.
2° вытекает из 1° и леммы сходимости; указанный в конце частный случай вытекает из следующего соотношения:
Обобщение. До сих пор мы рассматривали центрированные математическими ожиданиями случайные величины. Если мы откажемся от этого условия и положим
то предыдущие результаты сохраняются, если Fnk
и fnk
заменить
везде на мы будем также писать вместо ψ. Возвращаясь обратно к нецентрированным случайным величинам, мы должны ввести предельные законы с конечными дисперсиями и необязательно нулевыми математическими ожиданиями логарифмы характеристических функций которых имеют вид откуда
Лемма единственности формулируется следующим образом: ψ однозначно определяет а и К, и наоборот.
В лемме сходимости Кп →сл К заменяется на Кп →сл К и ап → а.
Те же самые изменения должны быть произведены и в предельной теореме; при этом надо положить и заменить Fnk
на .
Таким образом, критерий сходимости 2° превращается в обобщенный критерий сходимости.:
Если независимые слагаемые Xnk
таковы, что и mo
(характеристическая функция предельного закона обязательно имеет вид e
ψ) тогда и только тогда, когда Кп →сл К и где
Если заменить на то Кп →сл К заменяется Кп →вп К
Частные случаи:
1° Нормальная сходимость.
Нормальному закону соответствует функция и, следовательно, функция К, равная К(х) = 0 при х < 0 и К(х) = 1 при х > 0 (в силу леммы единственности достаточно проверить, что эта функция К дает заданную ψ).
Критерий нормальной сходимости.
Пусть независимые слагаемые Хп
k
центрированы математическими ожиданиями, и пусть при всех п. При этих условиях
и тогда и только тогда, когда
при каждом ε > 0
Доказательство.
Из неравенства
и из того, что gn(ε) → 0 при каждом ε > 0, следует (для этого надо в неравенстве положить сначала n → ∞, а затем ε → ∞). Простые вычисления показывают, что критерий сходимости А 2° эквивалентен тому, что gn(ε) → 0 при каждом ε > 0.
Полагая
мы получаем критерий классической нормальной сходимости. Теорема Ляпунова вытекает из неравенства
2°. Пуассоновская сходимость. Закону Пуассонна соответствует функция
а этой функции ψ соответствует функция К, равная К(х) = 0 при х < 1 и K(x) = 1 при х > 1. Из обобщенного критерия сходимости легко получить
критерий пуассоновской сходимости:
Если независимые слагаемые Xnk
таковы, и только тогда, когда и при каждом ε > 0
РЕШЕНИЕ ЦЕНТРАЛЬНОЙ ПРЕДЕЛЬНОЙ ПРОБЛЕМЫ
Рассмотрим теперь общую проблему. Как уже было указано выше, метод решения по существу остается тем же, что и в случае ограниченных дисперсий. Возникающие при этом вычислительные трудности обусловливаются двумя фактами.
(1) Поскольку не предполагается существование даже первых моментов, то центрирование приходится проводить не математическими ожиданиями, а усеченными математическими ожиданиями.
(2) Определенные выше функции К не обязаны теперь иметь ограниченную вариацию; если же их вариации ограничены, то они уже не предполагаются равномерно ограниченными. Поэтому мы вынуждены заменить их
функциями вида где - функции
распределения, центрированные усеченными математическими ожиданиями. Это приводит к предельным законам, логарифм характеристических функций которых имеет более сложный вид. Сначала мы исследуем эти законы.
Семейство предельных законов; безгранично делимые законы.
Закон и его характеристическая функция f
называются безгранично делимыми, если при каждом п существуют (на некотором вероятном пространстве) n независимых и одинаково распределенных случайных
величин Хпк, для которых другими словами, при
каждом п существует такая характеристическая функция fn, что f
= fnn. Если f
= 0, то log f
существует и конечен, и если не оговаривается что-либо другое, мы всегда будем выбирать за log характеристической функции главную ветвь, обращающуюся в нуль при n = 0, а корень n-й степени из f
будем определять написанным выше равенством.
Очевидно, что безгранично делимый закон определяет безгранично делимый тип. Вырожденный, нормальный и пуассоновский типы безгранично делимы, так как для или
, или выражение при любом п имеет тот же самый вид. Вообще все предельные законы e
ψ, полученные в случае ограниченных дисперсий, безгранично делимы, так как соответствующие ψ таковы, что ψ
/
n
является логарифмом характеристической функции того же самого вида (с и с функцией K
/
n
, являющейся с точностью до постоянного множителя функцией распределения). В действительности имеет место следующее.
а) Безгранично делимое семейство входит в семейство предельных законов центральной предельной проблемы.
В самом деле, условия равномерной бесконечной малости независимых и одинаково распределенных ел. величин Xnk
, которые фигурируют в определении безгранично делимых законов, сводится к сходимости общего закона этих величин к вырожденному в 0 закону, т. е. сводится к fn → 1.
В то же время мы имеем
б) Если f
= fnn
при каждом п, где
fn
есть характеристическая функция, то
fn
→1; кроме того, fn
≠ 0
.
Доказательство.
Так как | f
|< 1, то | fn
|2 = | f
|2/n →g, причем g
(
u
) = 0 или 1 в зависимости от f
(
u
) = 0 или f
(
u
) ≠ 0 . Так как f непрерывна и f (0) = 1, то существует такая окрестность нуля, где | f
(
u
) | > 0 и, следовательно, g
(и) = 1; поэтому g
непрерывна в этой окрестности. Таким образом, последовательность | f n|2 характеристических функций сходится к непрерывной в нуле функции g
; применяя теорему непрерывности, мы получаем, что g
является характеристической функцией. Следовательно, g
непрерывна на R
и g(0) = l; так как эта функция может принимать не больше двух значений: 0 и 1, то она тождественно равна 1. Итак, f
≠ 0, log f существует и конечен,
Предложение доказано.
Позднее мы увидим, что семейство предельных законов в этой проблеме совпадает с безгранично делимым семейством. Этим обстоятельством объясняется нижеследующее свойство.
А. Теорема замкнутости.
Безгранично делимое семейство замкнуто относительно композиций и перехода к пределу.
Доказательство. Если f и f ' —безгранично делимые характеристические функции, то при каждом п существуют такие характеристические функции fn и f n' что f = fn и f ' = f n' . Отсюда получаем f f ' = (f n
f n' )n, где f n
f n' являются характеристическими функциями. Итак, первое утверждение доказано.
Пусть последовательность f n безгранично делимых характеристических функций сходится к характеристической функции f. Тогда для каждого целого m | f n|2/m → | f |2/m , следовательно, по теореме непрерывности | f |2 является характеристической функцией. Таким образом, | f |2 есть безгранично делимая характеристическая функция, поэтому в силу б f
≠ 0 . Так как log f существует и конечен и
то f 1/m есть характеристическая функция, следовательно, f безгранично делима. Доказательство закончено.
Основным свойством безгранично делимых законов (а, следовательно, как мы увидим, всех предельных законов в центральной предельной теореме) является то, что они строятся с помощью законов пуассоновского типа. Точный смысл это свойство получает в нижеследующей теореме; это же свойство приводит к явному выражению в теореме о представлении, доказанной немного дальше.
Б. Структурная теорема.
Характеристическая функция безгранично делима тогда и только тогда, когда она является пределом последовательности произведений характеристических функций пуассоновского типа.
Другими словами, класс безгранично делимых законов совпадает с предельными законами последовательностей сумм независимых случайных величин пуассоновского типа.
Доказательство.
Произведения f n характеристических функций пуассоновского типа определяются с помощью сумм вида
поэтому при любом фиксированном целом числе т функции — log fn
являются логарифмами характеристических функций (того же самого вида). Таким образом, если f → fn
, где f
— характеристическая функция, то по теореме замкнутости f безгранично делима. Достаточность доказана.
Наоборот, пусть f
безгранично делима; тогда log
f существует и конечен и
где Fn
(х) являются функциями распределения. Беря суммы Рима-
на — Стильтьеса, которые приближают f 1/n (и) — 1 с точностью порядка не меньше 1/n2, мы получаем доказательство необходимости. Доказательство закончено.
Для того чтобы найти явное представление безгранично делимых законов, введем следующие обозначения. Если не оговаривается что-либо другое, то мы всегда будем обозначать ψ с индексом или без индекса функцию, заданную на R
с помощью формулы