Вероятность и статистика – основные факты. Точечная оценка и ее свойства

Выборочные характеристики. Состоятельные,

В начале курса были рассмотрены такие понятия как классическая и статистическая вероятности.

Если классическая вероятность - это теоретическая характеристика, которую можно определить, не прибегая к опыту, то статистическая вероятность может быть определена только по результатам эксперимента. При большем числе опытов величина W(A) может служить оценкой для вероятности P(A). Достаточно вспомнить классические опыты Бюффона и Пирсона. Подобные аналогии можно продолжить и далее. Например, для теоретической характеристики М(x) таковой аналогией будет - среднее арифметическое:

= i f i / n ,

для дисперсии D(x) эмпирическим аналогом будет статистическая дисперсия:

S 2 (x) = (x i - ) 2 f i / n .

Эмпирические характеристики , S 2 (x) , W(A) являются оценками параметров М(x) , D(x) , P(A) . В тех случаях, когда эмпирические характеристики определяются на основе большого числа опытов, использование их в качестве теоретических параметров не приведет к существенным ошибкам в исследовании, однако в тех случаях, когда число опытов ограничено, ошибка при замене будет существенна. Поэтому к эмпирическим характеристикам, являющимися оценками теоретических параметров предъявляются 3 требования:

оценки должны быть состоятельными, несмещенными и эффективными.

Оценка называется состоятельной, если вероятность отклонения ее от оцениваемого параметра на величину меньшую как угодно малого положительного числа стремится к единице при неограниченном увеличении числа наблюдений n , т.е.

P(| - | < ) = 1

где - некоторый параметр генеральной совокупности,

/ - оценка этого параметра. Большинство оценок различных чис­ловых параметров отвечают этим требованиям. Однако одного этого требования бывает недостаточно. Необходимо, чтобы они еще были и несмещенными.

Оценка называется несмещенной, если математическое ожидание этой оценки равно оцениваемому параметру:

М ( / ) = .

Примером состоятельной и несмещенной оценки систематического ожидания является средняя арифметическая:

М () = .

Примером состоятельной и смещенной оценки является

дисперсия:

М (S 2 (x) ) = [ (n – 1)/ n] D(x).

Поэтому, чтобы получить несмещенную оценку теоретической дисперсии D(x) надо эмпирическую дисперсию S 2 (x) умножить на n/(n – 1) , т.е.

S 2 (x) = (x i - ) 2 f i / n n /(n – 1) = (x i - ) 2 f i /(n – 1) .

Практически эту поправку вносят при вычислении оценки дисперсии в тех случаях, когда n < 30 .

Состоятельных несмещенных оценок может быть несколько. Например, для оценки центра рассеивания нормального распределения наряду со средней арифметической , может быть взята медиана . Медиана так же, как и является несмещенной состоятельной оценкой центра группирования. Из двух состоятельных несмещенных оценок для одного и того же параметра естественно отдать пред­почтение той, у которой дисперсия меньше.


Такая оценка, у которой дисперсия будет наименьшей относительно оцениваемого параметра, называется эффективной . Например, из двух оценок центра рассеивания нормального распределения М(x) эффективной оценкой является , а не , так как дисперсия меньше дисперсии . Сравнительная эффективность этих оценок при большой выборке приближенно равна: D() / D= 2/ = 0,6366.

Практически это означает, что центр распределения генеральной совокупности (назовем его 0) определяется по с той же точностью при n наблюдениях, как и при 0,6366 n наблюдениях по средней арифметической .

4.4. Свойства выборочных средних и дисперсий.

1. Если объем выборки достаточно велик, то на основе закона больших чисел с вероятностью близкой к единице, можно утверждать, что средняя арифметическая и дисперсия S 2 будут как угодно мало отличаться от М(x) и D(x ), т.е.

М(x) , S 2 (x) D(x ),

Распределение случайной величины (распределение генеральной совокупности) характеризуется обычно рядом числовых характеристик:

  • для нормального распределения N(a, σ) - это математическое ожидание a и среднее квадратическое отклонение σ ;
  • для равномерного распределения R(a,b) - это границы интервала , в котором наблюдаются значения этой случайной величины.
Такие числовые характеристики, как правило, неизвестные, называются параметрами генеральной совокупности . Оценка параметра - соответствующая числовая характеристика, рассчитанная по выборке. Оценки параметров генеральной совокупности делятся на два класса: точечные и интервальные .

Когда оценка определяется одним числом, она называется точечной оценкой . Точечная оценка, как функция от выборки, является случайной величиной и меняется от выборки к выборке при повторном эксперименте.
К точечным оценкам предъявляют требования, которым они должны удовлетворять, чтобы хоть в каком-то смысле быть «доброкачественными». Это несмещённость , эффективность и состоятельность .

Интервальные оценки определяются двумя числами – концами интервала, который накрывает оцениваемый параметр. В отличие от точечных оценок, которые не дают представления о том, как далеко от них может находиться оцениваемый параметр, интервальные оценки позволяют установить точность и надёжность оценок.

В качестве точечных оценок математического ожидания, дисперсии и среднего квадратического отклонения используют выборочные характеристики соответственно выборочное среднее, выборочная дисперсия и выборочное среднее квадратическое отклонение.

Свойство несмещенности оценки .
Желательным требованием к оценке является отсутствие систематической ошибки, т.е. при многократном использовании вместо параметра θ его оценки среднее значение ошибки приближения равно нулю - это свойство несмещенности оценки .

Определение . Оценка называется несмещенной , если ее математическое ожидание равно истинному значению оцениваемого параметра:

Выборочное среднее арифметическое является несмещенной оценкой математического ожидания, а выборочная дисперсия - смещенная оценка генеральной дисперсии D . Несмещенной оценкой генеральной дисперсии является оценка

Свойство состоятельности оценки .
Второе требование к оценке - ее состоятельность - означает улучшение оценки с увеличением объема выборки.

Определение . Оценка называется состоятельной , если она сходится по вероятности к оцениваемому параметру θ при n→∞.


Сходимость по вероятности означает, что при большом объеме выборки вероятность больших отклонений оценки от истинного значения мала.

Свойство эффективной оценки .
Третье требование позволяет выбрать лучшую оценку из нескольких оценок одного и того же параметра.

Определение . Несмещенная оценка является эффективной , если она имеет наименьшую среди всех несмещенных оценок дисперсию.

Это означает, что эффективная оценка обладает минимальным рассеиванием относительно истинного значения параметра. Заметим, что эффективная оценка существует не всегда, но из двух оценок обычно можно выбрать более эффективную, т.е. с меньшей дисперсией. Например, для неизвестного параметра a нормальной генеральной совокупности N(a,σ) в качестве несмещенной оценки можно взять и выборочное среднее арифметическое, и выборочную медиану. Но дисперсия выборочной медианы примерно в 1.6 раза больше, чем дисперсия среднего арифметического. Поэтому более эффективной оценкой является выборочное среднее арифметическое.

Пример №1 . Найдите несмещенную оценку дисперсии измерений некоторой случайной величины одним прибором (без систематических ошибок), результаты измерения которой (в мм): 13,15,17.
Решение. Таблица для расчета показателей.

x |x - x ср | (x - x ср) 2
13 2 4
15 0 0
17 2 4
45 4 8

Простая средняя арифметическая (несмещенная оценка математического ожидания)


Дисперсия - характеризует меру разброса около ее среднего значения (мера рассеивания, т.е. отклонения от среднего - смещенная оценка).


Несмещенная оценка дисперсии - состоятельная оценка дисперсии (исправленная дисперсия).

Пример №2 . Найдите несмещенную оценку математического ожидания измерений некоторой случайной величины одним прибором (без систематических ошибок), результаты измерения которой (в мм): 4,5,8,9,11.
Решение. m = (4+5+8+9+11)/5 = 7.4

Пример №3 . Найдите исправленную дисперсию S 2 для выборки объема n=10, если выборочная диспресия равна D = 180.
Решение. S 2 = n*D/(n-1) = 10*180/(10-1) = 200

которые называются...

1. стандартизированными

2. рекурсивными

3. частными

4. нелинейными

Вопрос № 4.5. Оригинальный порядковый номер: 51

В линейной модели множественной регрессии рассматриваются только ____ функции регрессии

Варианты ответов. Кол-во правильных ответов - 1

1. линейные

2. степенные

3. квадратичные

4. показательные

Тема № 5. Оценка параметров линейных уравнений регрессии

Оригинальное кол-во заданий: 59, в базе представлено: 5

Вопрос № 5.1. Оригинальный порядковый номер: 24

При применении метода наименьших квадратов для оценки параметров уравнений регрессии минимизируют _____________ между наблюдаемым и моделируемым значениями зависимой переменной.

Варианты ответов. Кол-во правильных ответов - 1

1. сумму разностей

2. квадрат суммы

3. сумму квадратов разности

4. квадрат разности (только для одного наблюдения)

Вопрос № 5.2. Оригинальный порядковый номер: 26

В линейном уравнении множественной регрессии метод наименьших квадратов позволяет оценить значение параметра …

Варианты ответов. Кол-во правильных ответов - 1

1. x 1

2. x 2

Вопрос № 5.3. Оригинальный порядковый номер: 48

Коэффициенты "чистой" регрессии уравнения множественной регрессии вида …

Варианты ответов. Кол-во правильных ответов - 1

1. не могут быть отрицательными

2. всегда меньше 1

3. некорректно сравнивать по величине

4. имеют одинаковый знак

Вопрос № 5.4. Оригинальный порядковый номер: 55

В рамках метода наименьших квадратов (МНК) система нормальных уравнений – это система, решением которой являются оценки ____ модели.

Варианты ответов. Кол-во правильных ответов - 1

1. независимых переменных

2. отклонений параметров теоретической модели от параметров эмпирической

3. параметров теоретической

4. переменных теоретической

Вопрос № 5.5. Оригинальный порядковый номер: 58

Название метода «метод наименьших квадратов» подразумевает, что сумма квадратов отклонений значений результирующего признака от теоретических должна быть …

Варианты ответов. Кол-во правильных ответов - 1

1. меньше средней ошибки аппроксимации

2. меньше уровня значимости, принятого при проверке статистических гипотез

3. минимальной

4. равной нулю

Вопрос № 5.1. Оригинальный порядковый номер: 3

Систему МНК, построенную для оценки параметров линейного уравнения множественной регрессии можно решить методом…

Варианты ответов. Кол-во правильных ответов - 1

1. скользящего среднего

2. максимального правдоподобия

3. определителей

4. первых разностей

Вопрос № 5.2. Оригинальный порядковый номер: 4

В исходном соотношении МНК сумма квадратов отклонений фактических значений результативного признака от его теоретических значений …

Варианты ответов. Кол-во правильных ответов - 1

1. центрируется

2. приравнивается к системе нормальных уравнений

3. минимизируется

4. максимизируется

Вопрос № 5.3. Оригинальный порядковый номер: 8

Метод наименьших квадратов применяется для оценки …

Варианты ответов. Кол-во правильных ответов - 1

1. параметров уравнений регрессии, внутренне нелинейных

2. существенности параметров уравнений регрессии

3. параметров линейных уравнений регрессии

4. качества линейных уравнений регрессии

Вопрос № 5.4. Оригинальный порядковый номер: 12

Самым распространенным методом оценки параметров регрессии является метод наименьших …

Варианты ответов. Кол-во правильных ответов - 1

1. моментов

2. разностей

3. квадратов

4. модулей

Вопрос № 5.5. Оригинальный порядковый номер: 23

При оценке параметров линейных уравнений регрессии с помощью метода наименьших квадратов минимизируют сумму квадратов разности между …

Варианты ответов. Кол-во правильных ответов - 1

1. наблюдаемым и моделируемым значениями случайной величины

2. наблюдаемым и моделируемым значениями параметров

3. наблюдаемым и моделируемым значениями зависимой переменной

4. наблюдаемым и моделируемым значениями независимой переменной

Вопрос № 5.1. Оригинальный порядковый номер: 15

В модели парной линейной регрессии Y=b 0 +b 1 X +e коэффициент b 1 показывает…

Варианты ответов. Кол-во правильных ответов - 1

1. на какую величину в среднем изменится Y , если X изменится на один процент

2. на сколько процентов в среднем изменится Y , если X изменится на одну единицу

3. на какую величину в среднем изменится Y , если X изменится на одну единицу

4. на сколько процентов в среднем изменится Y , если X изменится на один процент

Вопрос № 5.2. Оригинальный порядковый номер: 21

Метод наименьших квадратов используется для оценки параметров ______ уравнений регрессии.

Варианты ответов. Кол-во правильных ответов - 1

1. только нелинейных

2. нелинеаризуемых

3. только линейных

4. линейных и приводимых к линейным

Вопрос № 5.3. Оригинальный порядковый номер: 27

Приведенное выражение представляет собой _________ для линейной двухфакторной модели регрессии.

Варианты ответов. Кол-во правильных ответов - 1

1. систему нормальных уравнений

2. теорему Гаусса-Маркова

3. исходное положение метода наименьших квадратов

4. условие отсутствия автокорреляции остатков

Вопрос № 5.4. Оригинальный порядковый номер: 35

Метод наименьших квадратов может применяться для оценки параметров регрессионных моделей, если эти модели...

Варианты ответов. Кол-во правильных ответов - 1

1. характеризуются гетероскедастичностью случайных отклонений

2. имеют автокорреляцию в остатках

3. линейны по параметрам и факторным переменным

4. включают лаговую переменную

Вопрос № 5.5. Оригинальный порядковый номер: 46

Метод наименьших квадратов позволяет оценить _____________ уравнений регрессии.

Варианты ответов. Кол-во правильных ответов - 1

1. параметры и переменные

2. параметры

3. переменные

4. переменные и случайные величины

Тема № 6. Предпосылки МНК, методы их проверки

(Задание с выбором одного правильного ответа из предложенных)

Оригинальное кол-во заданий: 53, в базе представлено: 5

Вопрос № 6.1. Оригинальный порядковый номер: 28

В линейной регрессионной модели для каждого значения фактора фактические значения случайных отклонений имеют одинаковую дисперсию. Выполнение этого условия называют ____ остатков.

Варианты ответов. Кол-во правильных ответов - 1

1. автокорреляцией

2. мультиколлинеарностью

3. гомоскедастичностью

4. гетероскедастичностью

Вопрос № 6.2. Оригинальный порядковый номер: 29

гетероскедастичностью называют свойство дисперсии случайного отклонения при переходе от наблюдения к наблюдению проявлять...

Варианты ответов. Кол-во правильных ответов - 1

1. стремление к нулю

2. стремление к единице

3. изменчивость

4. постоянство

Вопрос № 6.3. Оригинальный порядковый номер: 30

Для линейной регрессионной модели гомоскедастичностью называют свойство дисперсии случайного отклонения при любом наблюдении проявлять...

Варианты ответов. Кол-во правильных ответов - 1

1. стремление к нулю

2. тенденцию к уменьшению

3. постоянство

4. изменчивость

Вопрос № 6.4. Оригинальный порядковый номер: 31

Дисперсия значения случайной компоненты в линейной регрессионной модели зависит от номера наблюдения. Это свидетельствует о(об) ______ остатков.

Варианты ответов. Кол-во правильных ответов - 1

1. автокорреляции

2. равномерном распределении

3. гетероскедастичности

4. гомоскедастичности

Вопрос № 6.5. Оригинальный порядковый номер: 41

Возможность перехода от точечного оценивания параметра классической линейной регрессии к интервальному обеспечивается таким статистическим свойством оценок как...

Варианты ответов. Кол-во правильных ответов - 1

1. достоверность

2. смещенность

3. эффективность

4. состоятельность

Вопрос № 6.1. Оригинальный порядковый номер: 24

Оценки, являющиеся линейными функциями от выборочных наблюдений, называются...

Варианты ответов. Кол-во правильных ответов - 1

1. несмещенными

2. эффективными

3. линейными

4. состоятельными

Вопрос № 6.3. Оригинальный порядковый номер: 34

Для линейной регрессионной модели величина и определенный знак фактического значения случайной составляющей не должны обуславливать величину и знак фактического значения другой случайной составляющей . Выполнение этого условия свидетельствует о(об) ______ остатков.

Варианты ответов. Кол-во правильных ответов - 1

1. отсутствии гетероскедастичности

2. нормальном распределении

3. отсутствии автокорреляции

4. наличии гомоскедастичности

Вопрос № 6.4. Оригинальный порядковый номер: 35

Истинная форма взаимосвязи между результирующей и объясняющими переменными в регрессионной модели линейна относительно параметров. Это утверждение является...

Варианты ответов. Кол-во правильных ответов - 1

1. условием линеаризации

2. критерием Фишера

3. одной из основных предпосылок метода наименьших квадратов для оценки параметров регрессии

4. нарушением предпосылок метода наименьших квадратов

Вопрос № 6.5. Оригинальный порядковый номер: 45

При наличии гетероскедастичности или автокорреляции в остатках для оценки параметров регрессии применяется ______ метод наименьших квадратов.

Варианты ответов. Кол-во правильных ответов - 1

1. двухшаговый

2. косвенный

3. обобщенный

4. традиционный

Вопрос № 6.1. Оригинальный порядковый номер: 50

Нарушение условия независимости случайных составляющих в разных наблюдениях называют ______ случайной составляющей.

Варианты ответов. Кол-во правильных ответов - 1

1. детерминированностью

2. гомоскедастичностью

3. автокорреляцией

4. гетероскедастичностью

Вопрос № 6.2. Оригинальный порядковый номер: 56

Одной из предпосылок метода наименьших квадратов является утверждение...

Варианты ответов. Кол-во правильных ответов - 1

1. случайное отклонение должно иметь постоянное математическое ожидание, отличное от нуля

2. регрессионная модель является нелинейной относительно параметров

3. дисперсия случайного возмущения постоянна для всех наблюдений

4. случайное отклонение представляет собой линейную функцию от факторных переменных

Вопрос № 6.3. Оригинальный порядковый номер: 85

График зависимости остатков e t от времени t свидетельствует о наличии…

Варианты ответов. Кол-во правильных ответов - 1

1. мультиколлинеарности данных

2. автокорреляции остатков

3. нелинейной связи между объясняющими переменными

4. отсутствии корреляции в остатках

Вопрос № 6.4. Оригинальный порядковый номер: 99

Автокорреляцию в остатках модели линейной регрессии можно обнаружить с помощью критерия …

Варианты ответов. Кол-во правильных ответов - 1

1. Гольдфельда–Квандта

2. Дарбина-Уотсона

3. Спирмена

Вопрос № 6.5. Оригинальный порядковый номер: 119

В случае нормального распределения остатков линейной регрессионной модели проверка статистической значимости каждого параметра возможна с помощью …

Варианты ответов. Кол-во правильных ответов - 1

1. Энгеля–Грангера

2. Дарбина–Уотсона

3. критерия Стьюдента

4. критерия Фишера

Тема № 7. Свойства оценок параметров эконометрической модели, получаемых при помощи МНК

(Задание с выбором одного правильного ответа из предложенных)

Оригинальное кол-во заданий: 57, в базе представлено: 5

Вопрос № 7.1. Оригинальный порядковый номер: 7

Математическое ожидание остатков равно нулю, если оценки параметров обладают свойством …

Варианты ответов. Кол-во правильных ответов - 1

1. эффективности

2. состоятельности

3. несмещенности

4. смещенности

Вопрос № 7.2. Оригинальный порядковый номер: 11

Варианты ответов. Кол-во правильных ответов - 1

Вопрос № 7.3. Оригинальный порядковый номер: 18

При применении метода наименьших квадратов свойствами эффективности, состоятельности и несмещенности обладают оценки …

Варианты ответов. Кол-во правильных ответов - 1

1. независимой переменной

2. случайной величины

3. параметров

4. зависимой переменной

Вопрос № 7.4. Оригинальный порядковый номер: 32

Несмещенная оценка параметра имеет наименьшую дисперсию среди всех возможных несмещенных оценок параметра , вычисленных по выборкам одного и того же объема . Такая оценка называется...

Варианты ответов. Кол-во правильных ответов - 1

1. несмещенной

2. асимптотически эффективной

3. эффективной

4. состоятельной

Вопрос № 7.5. Оригинальный порядковый номер: 44

Статистическая оценка параметра называется эффективной, если при заданном объеме выборки она имеет...

Варианты ответов. Кол-во правильных ответов - 1

1. математическое ожидание равное 1

2. максимальную дисперсию

3. наименьшую возможную дисперсию

4. максимальное математическое ожидание

Вопрос № 7.1. Оригинальный порядковый номер: 1

Если оценка параметра эффективна, то это означает …

Варианты ответов. Кол-во правильных ответов - 1

1. максимальную дисперсию остатков

2. уменьшение точности с увеличением объема выборки

3. наименьшую дисперсию остатков

4. равенство нулю математического ожидания остатков

Вопрос № 7.3. Оригинальный порядковый номер: 11

Оценка является несмещенной оценкой параметра если…

Варианты ответов. Кол-во правильных ответов - 1

1. она стремится к истинному значению параметра с увеличением объема выборки

2. ее дисперсия с увеличением выборки не изменяется

3. ее математическое ожидание равно оцениваемому параметру

4. ее дисперсия меньше дисперсии других оценок

Вопрос № 7.4. Оригинальный порядковый номер: 48

Эффективной оценкой называется та, у которой …

Варианты ответов. Кол-во правильных ответов - 1

1. дисперсия максимальна

2. смещенность выше

3. дисперсия минимальна

4. отсутствует смещенность

Вопрос № 7.5. Оригинальный порядковый номер: 52

Состоятельность оценки характеризуется увеличением ее точности при...

Варианты ответов. Кол-во правильных ответов - 1

1. добавлении в уравнение дополнительной независимой переменной

2. переходе к обратной форме зависимости

3. увеличении объема выборки

4. уменьшении объема выборки

Вопрос № 7.1. Оригинальный порядковый номер: 26

Если оценки параметров линейного уравнения регрессии обладают свойством состоятельности, то с увеличением выборки точность оценки параметра…

Варианты ответов. Кол-во правильных ответов - 1

1. увеличивается

2. стремится к нулю

3. не изменяется

4. уменьшается

Вопрос № 7.2. Оригинальный порядковый номер: 28

Точечная оценка параметра регрессии зависит от …

Варианты ответов. Кол-во правильных ответов - 1

1. дополнительной выборки

2. критического значения t–критерия Стьюдента

3. фактического значения t–критерия Стьюдента

4. данной выборки

Вопрос № 7.3. Оригинальный порядковый номер: 36

Эмпирический коэффициент регрессии является состоятельной оценкой теоретического коэффициента регрессии

при условии, что...

Варианты ответов. Кол-во правильных ответов - 1

1. дисперсия оценки равна 1

2. сходится по вероятности к при числе наблюдений, стремящемся к бесконечности

3. сходится по вероятности к при числе наблюдений, стремящемся к 0

4. математическое ожидание оценки равно нулю

Вопрос № 7.4. Оригинальный порядковый номер: 40

Состоятельной называется такая оценка параметра, которая дает _______ значение параметра для большой выборки независимо от входящих в нее конкретных наблюдений.

Варианты ответов. Кол-во правильных ответов - 1

1. минимальное

2. нулевое

4. максимальное

Тема № 8. Обобщенный метод наименьших квадратов (ОМНК)

(Задание с выбором одного правильного ответа из предложенных)

Оригинальное кол-во заданий: 38, в базе представлено: 5

Вопрос № 8.1. Оригинальный порядковый номер: 3

Варианты ответов. Кол-во правильных ответов - 1

1. гомоскедастичных

2. отсутствия автокорреляции

3. наличия автокорреляции

4. нормально распределенных

Вопрос № 8.2. Оригинальный порядковый номер: 10

Метод оценки параметров моделей с гетероскедастичными остатками называется …методом наименьших квадратов.

Варианты ответов. Кол-во правильных ответов - 1

1. минимальным

2. косвенным

3. обобщенным

4. обычным

Вопрос № 8.3. Оригинальный порядковый номер: 21

Для регрессионной модели с гетероскедастичностью остатков при отсутствии автокорреляции остатков ковариационная матрица возмущений является...

Варианты ответов. Кол-во правильных ответов - 1

1. треугольной

2. вырожденной

3. диагональной

4. единичной

Вопрос № 8.4. Оригинальный порядковый номер: 25

Множественная линейная регрессионная модель, в которой не выполняются условия гомоскедастичности и (или) имеет место автокорреляция остатков, называется ______ регрессионной моделью.

Варианты ответов. Кол-во правильных ответов - 1

2. множественной линейной

3. обобщенной линейной

4. нелинейной

Вопрос № 8.5. Оригинальный порядковый номер: 31

Обобщенный метод наименьших квадратов может использоваться для корректировки _______ остатков.

Варианты ответов. Кол-во правильных ответов - 1

1. доверительного интервала

2. стандартной ошибки

3. гетероскедастичности и автокорреляции

4. минимальной суммы квадратов

Вопрос № 8.1. Оригинальный порядковый номер: 7

Что преобразуется при применении обобщенного метода наименьших квадратов?

Варианты ответов. Кол-во правильных ответов - 1

1. дисперсия факторного признака

2. коэффициент корреляции

3. исходные уровни переменных

4. дисперсия результативного признака

Вопрос № 8.3. Оригинальный порядковый номер: 12

Для преодоления проблемы автокорреляции служит …

Варианты ответов. Кол-во правильных ответов - 1

1. двухшаговый метод наименьших квадратов

2. косвенный метод наименьших квадратов

3. обобщенный метод наименьших квадратов

4. метод наименьших квадратов

Вопрос № 8.4. Оригинальный порядковый номер: 16

Пусть случайные остатки e T в модели парной линейной регрессии подвержены воздействию авторегрессии первого порядка: e T =r· e T-1 +u T . Тогда для получения наилучших линейных несмещенных оценок используют следующее преобразование переменных:

Варианты ответов. Кол-во правильных ответов - 1

1. y T * = y T + r·y T-1 ; x T * = x T + r· x T-1

2. y T * =r· y T - y T-1 ; x T * = r·x T - x T-1

3. y T * = y T - r·y T-1 ; x T * = x T - r· x T-1

4. y T * = ry T ; x T * = rx T

Вопрос № 8.5. Оригинальный порядковый номер: 33

Проявление гетероскедастичности в остатках удается устранить при помощи метода обобщенного метода наименьших квадратов путем …

Варианты ответов. Кол-во правильных ответов - 1

1. расчета критерия Дарбина–Уотсона гомоскедастичных остатков

2. введения в модель фиктивных переменных

3. преобразования переменных на основе коэффициента пропорциональности

4. расчета скорректированного коэффициента детерминации

Вопрос № 8.1. Оригинальный порядковый номер: 0

Обобщенный метод наименьших квадратов применяется в случае…

Варианты ответов. Кол-во правильных ответов - 1

1. автокорреляции переменных

2. мультиколлинеарности факторов

3. фиктивных переменных

4. автокорреляции остатков

Вопрос № 8.2. Оригинальный порядковый номер: 5

На основании преобразования переменных при помощи обобщенного метода наименьших квадратов получаем новое уравнение регрессии, которое представляет собой …

Варианты ответов. Кол-во правильных ответов - 1

1. нелинейную регрессию, в которой переменные взяты с весами

2. нелинейную регрессию, в которой переменные взяты с весами

3. взвешенную регрессию, в которой переменные взяты с весами

4. взвешенную регрессию, в которой переменные взяты с весами

) задач математической статистики .

Предположим, что имеется параметрическое семейство распределений вероятностей (для простоты будем рассматривать распределение случайных величин и случай одного параметра). Здесь - числовой параметр, значение которого неизвестно. Требуется оценить его по имеющейся выборке значений, порожденной данным распределением.

Различают два основных типа оценок: точечные оценки и доверительные интервалы .

Точечное оценивание

Точечное оценивание - это вид статистического оценивания, при котором значение неизвестного параметра приближается отдельным числом. То есть необходимо указать функцию от выборки (статистику)

,

значение которой будет рассматриваться в качестве приближения к неизвестному истинному значению .

К общим методам построения точечных оценок параметров относятся: метод максимального правдоподобия , метод моментов , метод квантилей .

Ниже приводятся некоторые свойства, которыми могут обладать или не обладать точечные оценки.

Состоятельность

Одно из самых очевидных требований к точечной оценке заключается в том, чтобы можно было ожидать достаточно хорошего приближения к истинному значению параметра при достаточно больших значениях объема выборки . Это означает, что оценка должна сходиться к истинному значению при . Это свойство оценки и называется состоятельностью . Поскольку речь идет о случайных величинах, для которых имеются разные виды сходимости, то и данное свойство может быть точно сформулировано по-разному:

Когда употребляют просто термин состоятельность , то обычно имеется в виду слабая состоятельность, т.е. сходимость по вероятности.

Условие состоятельности является практически обязательным для всех используемых на практике оценок. Несостоятельные оценки используются крайне редко.

Несмещенность и асимптотическая несмещенность

Оценка параметра называется несмещенной , если ее математическое ожидание равно истинному значению оцениваемого параметра:

.

Более слабым условием является асимптотическая несмещенность , которая означает, что математическое ожидание оценки сходится к истинному значению параметра с ростом объема выборки:

.

Несмещенность является рекомендуемым свойством оценок. Однако не следует слишком переоценивать его значимость. Чаще всего несмещенные оценки параметров существуют и тогда стараются рассматривать только их. Однако могут быть такие статистические задачи, в которых несмещенных оценок не существует. Наиболее известным примером является следующий: рассмотрим распределение Пуассона с параметром и поставим задачу оценки параметра . Можно доказать, что для этой задачи не существует несмещенной оценки.

Сравнение оценок и эффективность

Для сравнения между собой различных оценок одного и того же параметра применяют следующий метод: выбирают некоторую функцию риска , которая измеряет отклонение оценки от истинного значения параметра, и лучшей считают ту, для которой эта функция принимает меньшее значение.

Чаще всего в качестве функции риска рассматривают математическое ожидание квадрата отклонения оценки от истинного значения

Для несмещенных оценок это есть просто дисперсия .

Существует нижняя граница на данную функцию риска, называемая неравенство Крамера-Рао .

(Несмещенные) оценки, для которых достигается эта нижняя граница (т.е. имеющие минимально возможную дисперсию), называются эффективными . Однако существование эффективной оценки есть довольно сильное требование на задачу, которое имеет место далеко не всегда.

Более слабым является условие асимптотической эффективности , которое означает, что отношение дисперсии несмещенной оценки к нижней границе Крамера-Рао стремится к единице при .

Заметим, что при достаточно широких предположениях относительно исследуемого распределения, метод максимального правдоподобия дает асимптотически эффективную оценку параметра, а если существует эффективная оценка - тогда он дает эффективную оценку.

Достаточные статистики

Статистика назвается достаточной для параметра , если условное распределение выборки при условии того, что , не зависит от параметра для всех .

Важность понятия достаточной статистики обуславливается следующим утверждением . Если - достаточная статистика, а - несмещенная оценка параметра , тогда условное математическое ожидание является также несмещенной оценкой параметра , причем ее дисперсия меньше или равна дисперсии исходной оценки .

Напомним, что условное математическое ожидание есть случайная величина, являющаяся функцией от . Таким образом, в классе несмещенных оценок достаточно рассматривать только такие, которые являются функциями от достаточной статистики (при условии, что такая существует для данной задачи).

(Несмещенная) эффективная оценка параметра всегда является достаточной статистикой.

Можно сказать, что достаточная статистика содержит в себе всю информацию об оцениваемом параметре, которая содержится в выборке .

Для того, чтобы статистические оценки давали хорошее приближение оцениваемых параметров, они должны быть несмещенные, эффективные и состоятельные.

Несмещенной называется статистическая оценка параметра, математическое ожидание которой равно оцениваемому параметру при любом объеме выборки.

Смещенной называется статистическая оценка
параметра, математическое ожидание которой не равно оцениваемому параметру.

Эффективной называется статистическая оценка
параметра, которая при заданном объеме выборкиимеет наименьшую дисперсию.

Состоятельной называется статистическая оценка
параметра, которая при
стремится по вероятности к оцениваемому параметру.

т.е.для любого

.

Для выборок различного объема получаются различные значения среднего арифметического и статистической дисперсии. Поэтому среднее арифметическое и статистическая дисперсия являются случайными величинами, для которых существуют математическое ожидание и дисперсия.

Вычислим математическое ожидание среднего арифметического и дисперсии. Обозначим через математическое ожидание случайной величины

Здесь в качестве случайных величин рассматриваются: – С.В., значения которой равны первым значениям, полученным для различных выборок объемаиз генеральной совокупности,
–С.В., значения которой равны вторым значениям, полученным для различных выборок объемаиз генеральной совокупности, …,
– С.В., значения которой равны-м значениям, полученным для различных выборок объемаиз генеральной совокупности. Все эти случайные величины распределены по одному и тому же закону и имеют одно и то же математическое ожидание.

Из формулы (1) следует, что среднее арифметическое является несмещенной оценкой математического ожидания, так как математическое ожидание среднего арифметического равно математическому ожиданию случайной величины. Эта оценка является также состоятельной. Эффективность данной оценки зависит от вида распределения случайной величины
. Если, например,
распределена нормально, оценка математического ожидания с помощью среднего арифметического будет эффективной.

Найдем теперь статистическую оценку дисперсии.

Выражение для статистической дисперсии можно преобразовать следующим образом

(2)

Найдем теперь математическое ожидание статистической дисперсии

. (3)

Учитывая, что
(4)

получим из (3)-

Из формулы (6) видно, что математическое ожидание статистической дисперсии отличается множителем от дисперсии, т.е. является смещенной оценкой дисперсии генеральной совокупности. Это связано с тем, что вместо истинного значения
, которое неизвестно, в оценке дисперсии используется статистическое среднее.

Поэтому введем исправленную статистическую дисперсию

(7)

Тогда математическое ожидание исправленной статистической дисперсии равно

т.е. исправленная статистическая дисперсия является несмещенной оценкой дисперсии генеральной совокупности. Полученная оценка является также состоятельной.



Поделиться