МИНИСТЕРСТВО ОБРАЗОВАНИЯ И НАУКИ УКРАИНЫ

ТАВРИЧЕСКИЙ НАЦИОНАЛЬНЫЙ УНИВЕРСИТЕТ

ИМ. В.И. ВЕРНАДСКОГО
КУРСОВАЯ РАБОТА
на тему:

«Анализ регрессии в изучении экономических проблем»
Студентка 2 курса, группа 202-К, специальность «экономическая киберенетика»

Зворская А.В.

Научный руководитель

                                                                      ф-м.к.н.,доц., Попов В.Б.
Симферополь 2010

СОДЕРЖАНИЕ

ВВЕДЕНИЕ………………………………………………………………………….3

РАЗДЕЛ 1. РЕГРЕССИОННЫЙ АНАЛИЗ………………………………………..4
РАЗДЕЛ 2 МНОЖЕСТВЕННАЯ ЛИНЕЙНАЯ РЕГРЕССИЯ……………………5
2.1     Определение параметров уравнения регрессии………………………………5

2.2     Расчет коэффициентов множественной линейной регресcии……………….9

2.3     Дисперсии и стандартные ошибки коэффициентов…………………………13

2.4     Интервальные оценки коэффициентов теоретического

       уравнения регресcии…………………………………………………………..15

2.5     Анализ качества эмпирического уравнения  множественной линейной регрессии………………………………………………………………………16

2.6     Проверка статистической значимости коэффициентов

        уравнения регрессии………………………………………………………….16

2.7     Проверка общего качества уравнения регрессии……………………………17

2.8     Анализ статистической значимости коэффициента детерминации………..19

2.9     Проверка равенства двух коэффициентов детерминации…………………..21

2.10  Проверка гипотезы о совпадении уравнений регрессии

        для двух выборок……………………………………………………………..23

РАЗДЕЛ 3  ЛИНЕЙНАЯ РЕГРЕССИЯ…………………………………………..25

ВЫВОДЫ…………………………………………………………………………..30

СПИСОК ИСПОЛЬЗОВАННОЙ ЛИТЕРАТУРЫ…………………………….....31

Введение

     

Постоянно усложняющиеся экономические процессы потребовали создания и совершенствования особых методов изучения и анализа. Широкое  распространение  получило  использование  моделирования и количественного анализа. На этом этапе выделилось и сформировалось одно из направлений экономических исследований – эконометрика.  

Эконометрика  как  научная  дисциплина  зародилась  и  получила развитие на  основе  слияния  экономической  теории, математической экономики, экономической статистики и математической статистики. Действительно, предметом ее исследования являются экономические явления. Но в отличие от экономической теории эконометрика делает упор на количественные,  а не на качественные аспекты  этих явлений. Например, экономическая теория утверждает, что спрос на товар с ростом его цены убывает. Но при этом практически неисследованным остается вопрос, как быстро и по какому закону происходит это  убывание. 

Эконометрика  отвечает  на  этот  вопрос  для  каждого конкретного случая. Изучение  экономических  процессов (взаимосвязей)  в  эконометрике осуществляется через математические (эконометрические) модели. В этом видится ее родство с математической экономикой. Но если математическая экономика строит и анализирует эти модели без использования реальных числовых  значений, то эконометрика концентрируется на изучении моделей на базе эмпирических данных.

Одной  из  основных  задач  экономической  статистики  является сбор, обработка и представление экономических данных в наглядной форме  в  виде  таблиц,  графиков, диаграмм. Эконометрика  также  активно пользуется этим инструментарием, но идет дальше, используя его для анализа экономических взаимосвязей и прогнозирования. Мощным инструментом эконометрических исследований является аппарат математической статистики.

Цель работы: анализ экономических методов и моделей.

Задачи:

1 Обзор литературы;

2 Построение эконометрических моделей;

3 Оценка параметров построенной модели;

4 Проверка качества найденных параметров модели.

РАЗДЕЛ 1.

Регрессионный анализ

       Регрессионный анализ — метод моделирования измеряемых данных и исследования их свойств. Данные состоят из пар значений зависимой переменной (переменной отклика) и независимой переменной (объясняющей переменной). Регрессионная модель есть функция независимой переменной и параметров с добавленной случайной переменной. Параметры модели настраиваются таким образом, что модель наилучшим образом приближает данные. Критерием качества приближения(целевой функцией) обычно является среднеквадратичная ошибка: сумма квадратов разности значений модели и зависимой переменной для всех значений независимой переменной в качестве аргумента. Регрессионный анализ — раздел математической статистики и машинного обучения. Предполагается, что зависимая переменная есть сумма значений некоторой модели и случайной величины. Относительно характера распределения этой величины делаются предположения, называемые гипотезой порождения данных. Для подтверждения или опровержения этой гипотезы выполняются статистические тесты, называемые анализом остатков. При этом предполагается, что независимая переменная не содержит ошибок. Регрессионный анализ используется для прогноза, анализа временных рядов, тестирования гипотез и выявления скрытых взаимосвязей в данных.
Цели регрессионного анализа:

1 Определение степени детерминированности вариации критериальной (зависимой) переменной предикторами (независимыми переменными)

2 Предсказание значения зависимой переменной с помощью независимой.

3 Определение вклада отдельных независимых переменных в вариацию зависимой.

Регрессионный анализ нельзя использовать для определения наличия связи между переменными, поскольку наличие такой связи и есть предпосылка для применения анализа.
РАЗДЕЛ 2.
Множественная линейная регрессия

2.1  Определение параметров уравнения регрессии
На любой экономический показатель практически всегда оказывает влияние не один, а несколько факторов. Например, спрос на некоторое благо определяется не только ценой данного блага, но и ценами на замещающие и дополняющие блага, доходом потребителей и многими другими факторами.  В этом случае вместо парной регрессии
M(Y|x) = f(x)  рассматривается множественная регрессия 
М(Y|x1, x2, …, xm) = f(x1, x2, …, xm).                (2.1)
Задача оценки статистической взаимосвязи переменных Y и X1, X2, ..., Xm формулируется аналогично случаю парной регрессии. Уравнение множественной регрессии может быть представлено в виде 

 

Y = f(β, X) + ε,      (2.2)
где X = (X1, X2, ..., Xm) − вектор независимых (объясняющих) переменных; β − вектор параметров (подлежащих определению); ε − случайная ошибка (отклонение); Y – зависимая (объясняемая) переменная. Предполагается,  что  для  данной  генеральной  совокупности  именно функция f связывает исследуемую переменную Y с вектором независимых переменных X.  Рассмотрим самую употребляемую и наиболее простую  из моделей множественной регрессии – модель множественной линейной регрессии.  Теоретическое линейное уравнение регрессии имеет вид:
Y = β0 + β1X1 + β2X2 + ... + βmXm + ε      (2.3)
или для индивидуальных наблюдений i, i = 1, 2, …, n:
yi = β0 + β1xi1 + β2xi2 + ... + βmxim + εi.         (2.4)
Здесь β = (β0, β1, ..., βm) – вектор размерности (m + 1) неизвестных параметров. βj, j = 1, 2, …, m, называется j-м теоретическим коэффициентом  регрессии (частичным  коэффициентом  регрессии). Он  характеризует чувствительность величины Y к изменению Xj. Другими словами, он отражает влияние на условное математическое ожидание
М(Y|x1, x2, …, xm) зависимой переменной Y объясняющей переменной Хj при условии, что все другие объясняющие переменные модели остаются постоянными. β0 –  свободный член, определяющий значение Y, в случае, когда все объясняющие переменные Xj равны нулю. После выбора линейной функции в качестве модели зависимости необходимо оценить параметры регрессии.  Пусть имеется n наблюдений вектора объясняющих переменных 

X = (X1, X2, …, Xm) и зависимой переменной Y: 

(xi1, xi2, …, xim, yi), i = 1, 2, …, n. Для того чтобы однозначно можно было бы решить задачу отыскания параметров β0, β1, ..., βm (т. е. найти некоторый наилучший вектор β), должно выполняться неравенство n ≥  m + 1. Если это неравенство не будет выполняться, то существует бесконечно много различных векторов параметров, при которых линейная формула связи между Х и Y будет абсолютно точно соответствовать имеющимся наблюдениям. При этом, если n = m + 1, то оценки коэффициентов вектора β рассчитываются единственным образом – путем решения системы  m + 1 линейного  уравнения:

yi = β0 + β1x i1 + β2x i2 + ... + βmx im    ,    i = 1, 2, ..., m + 1.     (2.5)
Например,  для  однозначного  определения  оценок  параметров уравнения регрессии Y = β0 + β1X1 + β2X2  достаточно иметь выборку из трех наблюдений (x i1,x i2, xi3, yi), i = 1, 2, 3. Но в этом случае найденные  значения параметров β0, β1, β2 определяют  такую плоскость  

Y = β0 + β1X1 + β2X  в  трехмерном  пространстве,  которая  пройдет именно через имеющиеся три точки. С другой стороны, добавление в выборку к имеющимся трем наблюдениям еще одного приведет к тому, что четвертая точка (x 41,x 42, x 43, y4) практически наверняка будет лежать вне построенной плоскости (и, возможно, достаточно далеко). Это потребует определенной переоценки параметров. Таким образом, вполне логичен следующий вывод: если число наблюдений больше минимально необходимого, т. е.  n > m+1, то уже нельзя подобрать линейную форму, в точности удовлетворяющую  всем наблюдениям, и  возникает необходимость оптимизации, т. е. оценивания параметров α0, α1, ..., αm, при которых формула дает наилучшее приближение для имеющихся наблюдений. 
В данном случае число ν =  n – m – 1 называется числом степеней  свободы. Нетрудно  заметить,  что  если  число  степеней  свободы невелико, то статистическая надежность оцениваемой формулы невы-сока. Например,  вероятность  верного  вывода (получения более  точных оценок) по трем наблюдениям существенно ниже, чем по тридцати. Считается, что при оценивании множественной линейной регрессии  для  обеспечения  статистической  надежности  требуется,  чтобы число  наблюдений,  по  крайней  мере,  в 3 раза  превосходило  число оцениваемых параметров.
Самым  распространенным  методом  оценки  параметров  уравнения множественной линейной регрессии является метод наименьших квадратов (МНК). Напомним,  что  его  суть  состоит  в минимизации суммы квадратов отклонений наблюдаемых  значений  зависимой переменной Y от ее значений YПрежде чем перейти к описанию алгоритма нахождения оценок коэффициентов регрессии, напомним о желательности выполнимости ряда предпосылок МНК, которые позволят проводить анализ в рамках классической  линейной  регрессионной  модели.

 

Предпосылки МНК:
1 Математическое ожидание случайного отклонения εi равно нулю:

M(εi) = 0 для всех наблюдений. Данное условие означает, что случайное отклонение в среднем не оказывает влияния на зависимую переменную. В каждом конкретном наблюдении случайный член может быть либо положительным, либо отрицательным, но он не должен иметь систематического смещения. Отметим, что выполнимость M(εi) = 0 влечет выполнимость: 

M(Y|X = = xi) = β0 + β1xi.
2 Дисперсия случайных отклонений εi постоянна:  

D(εi) =  D(εj) = σ2 для любых наблюдений i и j. Данное условие подразумевает, что  несмотря на то, что при каждом конкретном наблюдении случайное отклонение может быть либо большим, либо меньшим, не должно быть некой априорной причины, вызывающей большую ошибку (отклонение).Выполнимость данной предпосылки называется гомоскедастичностью  (постоянством  дисперсии  отклонений). 

Невыполнимость данной  предпосылки  называется  гетероскедастичностью (непосто-янством дисперсий отклонений). Поскольку D(εi) = M(εi − M(εi))2 = M(еi2) , то данную предпосылку можно переписать в форме:  M(еi2)= σ2. Причины невыполнимости данной предпосылки и проблемы, свяанные с этим, подробно рассматриваются в главе 8.
3 Случайные отклонения εi и  εj являются независимыми  друг от друга для i ≠ j.  Выполнимость  данной  предпосылки  предполагает,  что  отсутствует систематическая связь между любыми случайными отклонениями. Другими словами, величина и определенный знак любого случайного отклонения не должны быть причинами величины и знака любого другого отклонения. Поэтому, если данное условие выполняется, то говорят об отсутствии автокорреляции. С учетом выполнимости предпосылки 10 соотношение (5.6) может быть переписано в виде: M(εi εj) = 0 (i ≠ j). Причины невыполнимости данной предпосылки и проблемы, свя-занные с этим, подробно рассматриваются в главе 9.
4 Случайное  отклонение  должно  быть  независимо  от  объясняющих переменных. Обычно  это  условие  выполняется  автоматически  при  условии,что объясняющие переменные не являются случайными в данной модели. Данное  условие  предполагает  выполнимость  следующего  соотношения:

у  = cov(εi, xi) = M((εi − M(εi))(xi − M(xi))) = M(εi(xi − M(xi))) =

еixi = M(εi xi) − M(εi) M(xi) = M(εi xi) = 0.

Следует  отметить,  что  выполнимость  данной  предпосылки  не столь критична для эконометрических моделей.
5   Модель является линейной относительно параметров

6 Отсутствие мультиколлинеарности. Между объясняющими переменными отсутствует строгая (сильная) линейная зависимость.  

7 Ошибки εi имеют нормальное распределение /Выполнимость данной предпосылки важна для проверки статистических гипотез и построения интервальных оценок. 

Как и в случае парной регрессии, истинные значения параметров βj по выборке получить невозможно. В этом случае вместо теоретического уравнения регрессии (6.3) оценивается так называемое эмпирическое уравнение регрессии. Эмпирическое уравнение регрессии представим в виде:

Y = b0 + b1X1 + b2X2 + ... + bmXm+ е.                    (2.6)                        

Здесь b0, b1, ..., bm − оценки теоретических значений  β1, β2, ..., βm коэффициентов  регрессии (эмпирические  коэффициенты  регрессии); е − оценка отклонения ε. Для индивидуальных наблюдений имеем:

 yi =  b0 + b1xi1 +  … + bmxim + ei.                         (2.7)
Оцененное  уравнение  в  первую  очередь  должно  описывать  общий  тренд (направление)  изменения  зависимой  переменной Y. При этом необходимо иметь возможность рассчитать отклонения от этого тренда. По данным выборки объема n: (xi1, xi2,… , xim, yi), i = 1, 2, … , n  требуется  оценить  значения параметров βj  вектора β,  т.  е. провести параметризацию выбранной модели (здесь xij, j = 1, 2, … , m − значение переменной Xj в i-м наблюдении). При  выполнении  предпосылок МНК  относительно  ошибок  εi оценки b0, b1, ..., bm параметров β1, β2, ..., βm множественной линейной регрессии  по МНК  являются  несмещенными,  эффективными  и  состоятельными (т. е. BLUE-оценками).  На  основании (6.7) отклонение  еi  значения yi  зависимой  переменной Y от модельного значения  y)i , соответствующего уравнению регрессии в i-м наблюдении (i = 1, 2, …, n), рассчитывается по формуле:

 ei = yi – b0 – b1xi1 − … − bmxim.                         (2.8)

Тогда по МНК для нахождения оценок b0, b1, ..., bm минимизируется следующая функция:
Q= ∑ei2 = ∑(yi −(b0 +∑bjxij))2 .                       (2.9)

i=1 i=1 j=1

Данная функция  является квадратичной относительно неизвестных величин bj, j = 0, 1, ..., m. Она ограничена снизу, следовательно, имеет минимум. Необходимым условием минимума функции Q является  равенство  нулю  всех  ее  частных  производных  по bj.  Частные производные квадратичной функции (6.9) являются линейными функциями.

Приравнивая их  к нулю, мы получаем систему (m + 1) линейного уравнения с (m + 1) неизвестным:

∂Q/  ∂b0  =  −2∑n (yi −(b0 +∑m bjxij)),                          

∂Q/ ∂bj  =  −2∑(yi −(b0 +∑bjxij))xij,   j=1, 2, ... , m.      (2.10)

Такая система имеет обычно единственное решение. В исключительных случаях, когда столбцы системы линейных уравнений линейно зависимы, она имеет бесконечно много решений или не имеет решения вовсе. Однако данные реальных статистических наблюдений к таким  исключительным  случаям  практически  никогда  не  приводят. Система (6.11) называется системой нормальных уравнений. Ее решение  в  явном  виде  наиболее  наглядно  представимо  в  векторноматричной форме.

2.9  Проверка равенства двух коэффициентов детерминации
Другим важным направлением использования статистики Фишера является проверка гипотезы о равенстве нулю не всех коэффициентов регрессии одновременно, а только некоторой части этих коэффициентов. Данное использование статистики F позволяет оценить обоснованность исключения или добавления в уравнение регрессии некоторых  наборов  объясняющих  переменных,  что  особенно  важно  при совершенствовании линейной регрессионной модели. Пусть первоначально построенное по n наблюдениям уравнение регрессии имеет вид  

Y = b0 + b1X1 + b2X2 +  ...  + bm-kXm-k +  ...  + bmXm ,    (6.39) 

и коэффициент детерминации для этой модели равен  R12. Исключим из рассмотрения k объясняющих переменных (не нарушая общности, положим, что это будут k последних переменных). По первоначальным n наблюдениям для оставшихся факторов построим другое уравнение регрессии:  

 Y = с0 + с1X1 + с2X2 +  ...  + сm-kXm-k,            (6.40) 

для которого коэффициент детерминации равен R22. Очевидно,    R2 ≤R2, так как каждая дополнительная переменная объясняет часть  (пусть  незначительную)  рассеивания  зависимой  переменной. Возникает вопрос: существенно ли ухудшилось качество описания поведения зависимой переменной Y. На него можно ответить, проверяя гипотезу H0: R12 − R22 = 0  и используя статистику

F=R2/1-R2*n-m-1/k    (2.41)   

В случае справедливости H0 приведенная статистика F имеет распределение Фишера с числами степеней свободы  ν1 = k , ν2 = n − m − 1.

Здесь  (R12 −R22)  − потеря качества уравнения в результате отбрасывания k объясняющих переменных; k − число дополнительно появившихся  степеней  свободы;  (1−R12)/(n−m−1)  −  необъясненная  дисперсия  первоначального  уравнения.  Следовательно,  мы  попадаем  в ситуацию аналогичную (6.37).  По таблицам критических точек распределения  Фишера находят Fкр. = Fα;m;n−m−1 (α − требуемый уровень значимости).

Если рассчитанное значение Fнабл. статистики (6.41) превосходит Fкр., то нулевая гипотеза о равенстве коэффициентов детерминации (фактически об одновременном равенстве нулю отброшенных k коэффициентов регрессии) должна быть отклонена. В этом случае одновременное исключение  из  рассмотрения k объясняющих  переменных  некорректно,  так как R12существенно превышаетR22. Это означает, что общее качество первоначального  уравнения  регрессии  существенно  лучше  качества уравнения регрессии с отброшенными переменными, так как оно объясняет гораздо большую долю разброса зависимой переменной. Если же, наоборот, наблюдаемая F-статистика невелика (т. е. меньше, чем Fкр.), то это означает, что разность  R12−  R22 незначительна. Следовательно, можно сделать вывод, что в этом случае одновременное отбрасывание k объясняющих переменных не привело к существенному ухудшению общего качества уравнения регрессии, и оно вполне допустимо. Аналогичные рассуждения могут быть использованы и по поводу обоснованности  включения  новых k объясняющих  переменных.  В этом случае рассчитывается F-статистика. Если она превышает критическое значение Fкр., то включение новых переменных объясняет существенную часть необъясненной ранее дисперсии зависимой переменной.

Поэтому такое добавление оправдано. Однако отметим, что добавлять переменные целесообразно, как правило, по одной. Кроме того, при добавлении объясняющих переменных  в  уравнение  регрессии  логично  использовать  скорректированный  коэффициент детерминации (6.35), т. к. обычный R2 всегда растет при добавлении новой переменной; а в скорректированном R2одновременно растет величина m, уменьшающая его. Если  увеличение  доли  объясненной  дисперсии  при  добавлении новой переменной незначительно, то R2 может уменьшиться. В этом случае добавление указанной переменной нецелесообразно. Заметим, что для сравнения качества двух уравнений регрессии по  коэффициенту  детерминации R2  обязательным  является  требование, чтобы зависимая переменная была представлена в одной и той же форме, и число наблюдений n для обеих моделей было одинаковым.  Например, пусть один и тот же показатель Y моделируется двумя уравнениями:

линейным               Y = β0 + β1X1 + β2X2 + ε               и

лог-линейным         lnY = β0 + β1X1 + β2X2 + ε.

Тогда их коэффициенты детерминации R12 и R22 рассчитываются по формулам:


Так как знаменатели дробей в приведенных соотношениях различны, то прямое сравнение коэффициентов детерминации в этом случае будет некорректным.
2.10  Проверка гипотезы о совпадении уравнений регрессии для двух выборок.
Еще  одним направлением использования F-статистики  является проверка гипотезы о совпадении уравнений регрессии для отдельных групп наблюдений. Одним из распространенных тестов проверки данной гипотезы является тест Чоу, суть которого состоит в следующем. Пусть имеются две выборки объемами n1 и n2 соответственно.

Для каждой из этих выборок оценено уравнение регрессии вида: 

       

Y = b0k + b1kX1 + b2kX2 +  ...  + bmkXm  + ek,  k = 1, 2.   (6.44) 

Проверяется нулевая гипотеза о равенстве друг другу соответствующих коэффициентов регрессии  
H0: bj1 = bj2, j = 0, 1, ..., m.

Другими словами, будет ли уравнение регрессии одним и тем же для обеих выборок? 

 Пусть суммы ∑ei2k (k = 1, 2)  квадратов отклонений  значений yi от линий регрессии равны S1 и S2 соответственно для первого и второго уравнений регрессии.  Пусть по объединенной выборке объема (n1 + n2) оценено еще одно уравнение регрессии, для которого сумма квадратов отклонений yi от уравнения регрессии равна S0.  Для проверки Н0 в этом случае строится следующая F-статистика:
В случае справедливости H0 построенная F-статистика имеет распределение Фишера с числами степеней свободы  ν1 = m + 1;  ν2 = n1 +  + n2 − 2m − 2 . Очевидно, F-статистика близка к нулю, если S0 ≈ S1 + S2 , и это фактически  означает,  что  уравнения  регрессии  для  обеих  выборок практически одинаковы. В этом случае F < Fкрит.=Fб;н1;н2. Если же F >   Fкрит., то нулевая гипотеза отклоняется. Приведенные выше рассуждения особенно важны для ответа на вопрос, можно ли за весь рассматриваемый период времени построить единое уравнение регрессии (рис. 6.1, а), или же нужно разбить временной интервал на части и на каждой из них строить свое уравнение регрессии (рис. 6.1).



Некоторые  причины  необходимости  использования  различных уравнений регрессии для описания изменения одной и той же зависимой переменной на различных временных интервалах будут анализироваться ниже при рассмотрении фиктивных переменных и временных рядов.
РАЗДЕЛ 3.
Линейная регрессия
    В тех случаях, когда из природы процессов  в  модели  или   из   данных наблюдений над ней следует вывод о нормальном законе распределения  двух  СВ- Y и X, из которых одна является независимой, т. е. Y   является   функцией X,  то  возникает  соблазн  определить   такую   зависимость аналитически. В  случае  успеха  нам  будет  намного   проще   вести   моделирование. Конечно, наиболее  заманчивой  является  перспектива  линейной   зависимости типа Y = a + b(X .Подобная  задача  носит   название   задачи  регрессионного  анализа  и предполагает следующий способ решения. Выдвигается следующая гипотеза:H0:  случайная величина  Y  при   фиксированном  значении   величины  распределена нормально  с математическим ожиданием.

My = a + b(X   и дисперсией Dy, не зависящей от X. При наличии результатов наблюдений над парами Xi  и  Yi  предварительно вычисляются  средние  значения  My  и  Mx,  а  затем   производится   оценка коэффициента b в вид

b =[pic][pic]   = Rxy [pic][pic]

что следует из определения коэффициента корреляции.  После этого вычисляется оценка для  a  в виде {2 - 16}и производится проверка значимости полученных  результатов. Таким образом,  регрессионный анализ является мощным, хотя  и   далеко  не  всегда допустимым расширением корреляционного анализа, решая   всё   ту  же  задачу оценки связей в сложной системе. Теперь  более  подробно  рассмотрим  множественную  или  многофакторную регрессию.  Нас    интересует     только     линейная     модель     вида Y=A0+A1X1+A2X2+…..AkXk.
Изучение связи между тремя и более связанными  между  собой  признаками носит название множественной (многофакторной)  регрессии.  При  исследовании зависимостей методами множественной регрессии задача формулируется  так  же,как и  при  использовании  парной  регрессии,  т.  е.  требуется  определить аналитическое  выражение  связи  между  результативным   признаком   (У)   и факторными признаками (х1 х2, х3 ..., хn) найти функцию: Y=f(х1. Х2..., хn
Построение моделей множественной регрессии включает несколько этапов:

    • выбор формы связи (уравнения регрессии):

    • отбор факторных признаков:

    •  обеспечение   достаточного   объема   совокупности   для   получения

    несмещенных оценок.

Рассмотрим подробнее каждый из них. Выбор формы  связи  затрудняется  тем,  что,  используя  математический аппарат, теоретически  зависимость  между  признаками  может  быть  выражена большим числом различных функций. Выбор типа уравнения осложнен тем,  что  для  любой  формы  зависимости  выбирается  целый  ряд  уравнений,  которые  в  определенной  степени  будут описывать  эти  связи.  Некоторые  предпосылки  для   выбора   определенного уравнения регрессии получают на основе  анализа  предшествующих  аналогичных исследований или на базе анализа подобных работ в смежных  отраслях  знаний. Поскольку уравнение регрессии строится  главным  образом  для  объяснения  и количественного  выражения  взаимосвязей,   оно   должно   хорошо   отражать сложившиеся между исследуемыми факторами фактические связи более  приемлемым  способом  определения  вида  исходного  уравнения регрессии является метод перебора различных уравнений. Сущность данного метода заключается в том, что большое число  уравнений (моделей) регрессии, отобранных для описания связей  какого-либо  социально- экономического  явления  или  процесса,  реализуется  на   ЭВМ   с   помощью специально разработанного алгоритма перебора  с  последующей  статистической проверкой, главным образом  на  основе  t-критерия  Стьюдeнта  и  F-критерия Фишера. Способ перебора является достаточно трудоемким и  связан  с  большим объемом вычислительных работ.  Практика  построения  многофакторных  моделей взаимосвязи показывает,  что  все  реально  существующие  зависимости  между социально-экономическими  явлениями  можно  описать,  используя  пять  типов моделей:

1. линейная: Y=A0+A1X1+….AkXk

2. степенная

3. показательная

4. параболическая

5. гиперболическая

Основное значение имеют линейные модели в силу простоты и логичности их экономической  интерпретации.  Нелинейные  формы  зависимости  приводятся  к линейным путем линеаризации

Важным  этапом  построения  уже  выбранного   уравнения   множественной регрессии  являются  отбор  и  последующее  включение  факторных  признаков. Сложность формирования уравнения множественной регрессии заключается в  том, что почти все факторные признаки находятся в зависимости  один  от  другого. Проблема размерности модели связи,  т.  е.  определение  оптимального  числа факторных  признаков,  является  одной  из   основных   проблем   построения множественного уравнения регрессии. С одной стороны,  чем  больше  факторных признаков включено в уравнение, тем  оно  лучше  описывает  явление.  Однако модель размерностью 100 и более  факторных  признаков  сложно  реализуема  и требует больших затрат машинного времени. Сокращение размерности  модели  за счет исключения второстепенных, экономически и статистически  несущественных факторов способствует простоте и качеству  ее  реализации.  В  то  же  время построение модели регрессии малой размерности может  привести  к  тому,  что такая модель будет недостаточно адекватна исследуемым явлениям и  процессам. Проблема отбора  факторных  признаков  для  построения  моделей  взаимосвязи может быть решена на основе  эвристических  или  многомерных  статистических методов анализа.
Метод  экспертных  оценок  как  эвристический  метод  анализа  основных макроэкономических  показателей,  формирующих  единую ,родную систему   расчетов,   основан   на    интуитивно-логических    предпосылках, содержательно-качественном анализе. Анализ экспертной информации  проводится на базе расчета и  анализа  непараметрических  показателей  связи:  ранговых коэффициентов корреляции Спирмена, Кендалла и конкордации. Наиболее  приемлемым  способом  отбора  факторных  признаков   является шаговая регрессия (шаговый регрессионный анализ). 
Сущность  метода  шаговой регрессии заключается в  последовательном  включении  факторов  в  уравнение регрессии и последующей проверке их значимости. Факторы поочередно  вводятся в  уравнение  так  называемым  "прямым  методом".  При  проверке  значимости введенного  фактора  определяется,  насколько  уменьшается  сумма  квадратов остатков и увеличивается величина множественного коэффициента  корреляции  . одновременно используется и обратный метод,  т.е.    исключение  факторов, ставших  незначимыми  на  основе  t-критерия  Стьюдента.   Фактор   является незначимым,  если  его  включение  в  уравнение  регрессии  только  изменяет значение коэффициентов регрессии, не уменьшая суммы квадратов остатков и  не увеличивая  их  значения. 
Если  при  включении  в  модель  соответствующего факторного  признака   величина   множественного   коэффициента   корреляции увеличивается,  а  коэффициент  регрессии  не   изменяется   (или   меняется несущественно), то данный признак существен  и  его  включение  в  уравнение регрессии необходимо. Если  же  при  включении  в  модель  факторного  признака  коэффициенты регрессии меняют не только величину, но и знаки, а множественный коэффициент корреляции  не  возрастает,  то  данный  факторный  признак признается нецелесообразным для включения в модель связи.
Сложность и взаимное переплетение отдельных  факторов,  обусловливающих исследуемое  экономическое  явление  (процесс),  могут  проявляться  в   так называемой мультиколлинеарности. Под мультиколлинеарностью понимается тесная  зависимость  между  факторными признаками, включенными в модель. Наличие мультиколлинеарности между признаками приводит к:

1        искажению величины  параметров  модели,  которые  имеют  тенденцию  к

     завышению;

2        изменению смысла экономической интерпретации коэффициентов регрессии;

3                   слабой обусловленности системы нормальных уравнений;

4                   осложнению  процесса  определения  наиболее  существенных  факторных

     признаков.

  Одним из индикаторов  определения  наличия  мультиколлинеарности  между признаками является превышение парным коэффициентом корреляции величины  0,8.Устранение мультиколлинеарности может реализовываться через  исключение из корреляционной модели одного или нескольких  линейно-связанных  факторных признаков  или  преобразование  исходных  факторных   признаков   в   новые, укрупненные факторы. Вопрос  о  том,  какой  из  факторов  следует  отбросить,  решается  на основании качественного и логического анализов изучаемого явления. Качество  уравнения  регрессии  зависит  от  степени  достоверности   и надежности исходных  данных  и  объема  совокупности.  Исследователь  должен стремиться к увеличению числа наблюдений, так как большой  объем  наблюдений является одной из предпосылок построения адекватных статистических моделей. Аналитическая форма выражения связи  результативного  признака  и  ряда факторных называется многофакторным  (множественным)  уравнением  регрессии, или моделью связи.

Уравнение линейной множественной регрессии имеет вид:

   Y=A0+A1X1+….AkXk

Коэффициенты  Аn вычисляются при помощи  систем  нормальных  уравнений.

Проверка адекватности моделей, построенных на основе уравнений регрессии, начинается с проверки значимости каждого коэффициента регрессии. Значимость коэффициентов регрессии осуществляется с помощью t-критерия Стьюдента:
- дисперсия коэффициента регрессии. Параметр модели признается статистически значимым, если tp>tкр Наиболее сложным в этом выражении является определение дисперсии, которая может быть рассчитана двояким способом. Наиболее простой способ, выработанный методикой экспериментирования, заключается в том, что величина дисперсии коэффициента регрессии может быть приближенно определена по выражению:

- дисперсия результативного признака: k - число факторных признаков в уравнении.

 Наиболее  сложным  этапом,  завершающим  регрессионный  анализ,  является интерпретация уравнения, т. е. перевод его с языка статистики  и  математики на язык экономиста. Интерпретация  моделей  регрессии  осуществляется  методами  той  отрасли знаний, к которой относятся исследуемые  явления.  Но  всякая  интерпретация начинается со статистической оценки уравнения регрессии  в  целом  и  оценки значимости входящих в модель факторных признаков, т.  е.  с  выяснения,  как они  влияют  на  величину  результативного  признака.  Чем  больше  величина коэффициента  регрессии,  тем  значительнее  влияние  данного  признака   на моделируемый. Особое  значение  при  этом  имеет  знак  перед  коэффициентом регрессии. Знаки коэффициентов регрессии  говорят  о  характере  влияния  на результативный признак.  Если  факторный  признак  имеет  знак  плюс,  то  с увеличением  данного  фактора  результативный   признак   возрастает;   если факторный признак со знаком  минус,  то  с  его  увеличением  результативный признак  уменьшается.  Интерпретация  этих  знаков  полностью   определяется социально-экономическим    содержанием    моделируемого    (результативного) признака. Если его величина изменяется в  сторону  увеличения,  то  плюсовые знаки  факторных  признаков  имеют  положительное  влияние. 
При   изменении результативного призна-л-1 в сторону снижения положительное  значение  имеют минусовые   знаки   факторных   признаков.   Если    экономическая    теория подсказывает, что факторный признак должен иметь положительное  значение,  а он со знаком минус, то необходимо  проверить  расчеты  параметров  уравнения регрессии. Такое явление чаще всего бывает  в  силу  допущенных  ошибок  при решении. Однако следует иметь в виду, что при  анализе  совокупного  влияния факторов, при наличии взаимосвязей между  ними  характер  их  влияния  может меняться. Для того чтобы быть уверенным, что факторный признак изменил  знак влияния, необходима тщательная  проверка  решения  данной  модели,  так  как часто знаки могут меняться в силу допустимых ошибок при сборе или  обработке информации.
При  адекватности  уравнения  регрессии  исследуемому  процессу  возможны следующие варианты.

  1. Построенная модель на основе ее проверки по F-критерию Фишера в  целом адекватна, и все коэффициенты регрессии значимы.  Такая  модель  может  быть использована для принятия решений к осуществлению прогнозов.

  2.  Модель  по  F-критерию  Фишера  адекватна,  но  часть   коэффициентов регрессии незначима. В этом случае модель пригодна  для  принятия  некоторых решений, но не для производства прогнозов.

  3. Модель по F-критерию Фишера адекватна, но все  коэффициенты  регрессии незначимы. Поэтому модель полностью считается неадекватной. на ее основе  не принимаются решения и не осуществляются прогнозы.
ВЫВОДЫ
     Регрессионный анализ — метод моделирования измеряемых данных и исследования их свойств .Он используется для прогноза, анализа временных рядов, тестирования гипотез и выявления скрытых взаимосвязей в данных. На любой экономический показатель практически всегда оказывает влияние не один, а несколько факторов. Например, спрос на некоторое благо определяется не только ценой данного блага, но и ценами на замещающие и дополняющие блага, доходом потребителей и многими другими факторами. 

Изучение связи между тремя и более связанными  между  собой  признаками носит название множественной (многофакторной)  регрессии. Построение моделей множественной регрессии включает несколько этапов:

    • выбор формы связи (уравнения регрессии):

    • отбор факторных признаков:

    •  обеспечение   достаточного   объема   совокупности   для   получения

    несмещенных оценок.

Выбор типа уравнения осложнен тем,  что  для  любой  формы  зависимости  выбирается  целый  ряд  уравнений,  которые  в  определенной  степени  будут описывать  эти  связи.

Основное значение имеют линейные модели в силу простоты и логичности их экономической  интерпретации. Наиболее  сложным  этапом,  завершающим  регрессионный  анализ,  является интерпретация уравнения, т. е. перевод его с языка статистики  и  математики на язык экономиста. Интерпретация  моделей  регрессии  осуществляется  методами  той  отрасли знаний, к которой относятся исследуемые  явления.

При  адекватности  уравнения  регрессии  исследуемому  процессу  возможны следующие варианты:

  1. Построенная модель на основе ее проверки по F-критерию Фишера;

  2.  Модель  по  F-критерию  Фишера ;

  3. Модель по F-критерию Фишера адекватна, но все  коэффициенты  регрессии незначимы. Поэтому модель полностью считается неадекватной. на ее основе  не принимаются решения и не осуществляются прогнозы.
СПИСОК ИСПОЛЬЗОВАННОЙ ЛИТЕРАТУРЫ
1 Вводный курс эконометрики: Бородич С. А. ,Учебное пособие − Мн.: БГУ,              

2000. − 354 с.
2  Анализ данных с помощью Microsoft Excel. : Берк, Кеннет, Кэйри, Патрик. Пер. с англ. — М. :  Издательский дом "Вильяме", 2005. — 560 с. : ил. — Парал. тит. англ.
3 Норман Дрейпер, Гарри Смит Прикладной регрессионный анализ. Множественная регрессия = Applied Regression Analysis. — 3-е изд. — М.: «Диалектика», 2007. — С. 912.
4 Радченко Станислав Григорьевич, Устойчивые методы оценивания статистических моделей: Монография. — К.: ПП «Санспарель», 2005. — С. 504.
5 Дрейпер Н., Смит Г. Прикладной регрессионный анализ. Издательский дом «Вильямс». 2007. 912 с.
6 Стрижов В. В. Методы индуктивного порождения регрессионных моделей. М.: ВЦ РАН. 2008. 55 с.
7 Лукашин Ю.П. Адаптивные методы краткосрочного прогнозирования временных рядов; Учеб. пособие. — М.: Финансы и статистика, 2003. -416 с:
8 http://www.basegroup.ru/glossary/definitions/linear_regression/
ПРИЛОЖЕНИЕ А

ПРИЛОЖЕНИЕ Б