Тест отношения правдоподобия


Тест отношения правдоподобия (англ. likelihood ratio test, LR) — статистический тест, используемый для проверки ограничений на параметры статистических моделей, оценённых на основе выборочных данных. Является одним из трёх базовых тестов проверки ограничений наряду с тестом множителей Лагранжа и тестом Вальда.

Сущность и процедура теста

Пусть имеется эконометрическая модель с вектором параметров b {displaystyle b} . Необходимо проверить по выборочным данным гипотезу H 0 :   g ( b ) = 0 {displaystyle H_{0}colon ~g(b)=0} , где g {displaystyle g} — совокупность (вектор) некоторых функций параметров. Идея теста основана на сравнении функций правдоподобия для длинной модели (без ограничений) и короткой модели (с ограничениями). Оказывается, что следующая простая статистика отношения правдоподобия

L R = 2 ( l L − l S ) = 2 ln ⁡ L L L S , {displaystyle LR=2(l_{L}-l_{S})=2ln {frac {L_{L}}{L_{S}}},}

где l L ,   l S {displaystyle l_{L},~l_{S}} — значения логарифмической функции правдоподобия длинной и короткой моделей, соответственно, при нулевой гипотезе имеет (возможно асимптотически) распределение χ 2 ( q ) {displaystyle chi ^{2}(q)} — распределение хи-квадрат с q {displaystyle q} степенями свободы, где q {displaystyle q} — это количество ограничений. Поэтому, если значение статистики больше критического значения этого распределения при заданном уровне значимости, то ограничения отвергаются, и предпочтение отдаётся длинной модели. В противном случае предпочтение отдаётся короткой модели.

Частный случай

В случае, если случайные ошибки модели являются i i d N ( 0 , σ 2 ) {displaystyle iid;N(0,sigma ^{2})} , то можно показать, что

L R = n ln ⁡ E S S S E S S L . {displaystyle LR=nln {frac {ESS_{S}}{ESS_{L}}}.}

В частности, при проверке значимости регрессии E S S S = T S S {displaystyle ESS_{S}=TSS} , следовательно

L R = n ln ⁡ T S S E S S = n ln ⁡ 1 1 − R 2 = − n ln ⁡ ( 1 − R 2 ) . {displaystyle LR=nln {frac {TSS}{ESS}}=nln {frac {1}{1-R^{2}}}=-nln(1-R^{2}).}

Взаимосвязь с другими тестами

Доказано, что тест Вальда (W), тест отношения правдоподобия (LR) и тест множителей Лагранжа (LM) — асимптотически эквивалентные тесты (LM = LR = W). Тем не менее, для конечных выборок значения статистик не совпадают. Для линейных ограничений доказано неравенство L M ⩽ L R ⩽ W {displaystyle LMleqslant LRleqslant W} . Тем самым тест отношения правдоподобия занимает некоторое среднее положение по частоте отвержения нулевой гипотезы по сравнению с тестами множителей Лагранжа и тестом Вальда. В случае нелинейных ограничений первая часть неравенства выполняется, а вторая — вообще говоря, нет.

Вместо LR-теста можно проводить асимптотический F-тест, статистика которого выражается через LR-статистику следующим образом F = n − k q ( e L R / n − 1 ) {displaystyle F={frac {n-k}{q}}(e^{LR/n}-1)} .


  • Обратимая функция
  • Критерий согласия Ватсона
  • Квантили распределения Стьюдента
  • Уравнение переноса
  • RESET-тест Рамсея

  •  

    • Яндекс.Метрика
    • Индекс цитирования