Программа учебного курса «Математическая статистика»…

СОДЕРЖАНИЕ
Программа учебного курса «Математическая статистика»…...4

Задачи по курсу «Математическая статистика»……...………...7

Дополнительные задачи по курсу

«Математическая статистика»……………..………...…….......23

Теоретические вопросы…………………………...……………36

Исследовательские задачи…………………………..…….........37

Профессор Андрей Александрович Натан…………...……….41

Принятые обозначения……………………………...…….........43

Литература……………………….……………...……………....44
Программа учебного курса

«Математическая статистика»

Стандартные распределения в статистическом анализе данных. Распределение хи-квадрат (Пирсона). Случайная величина хи-квадрат как сумма квадратов независимых стандартных нормальных случайных величин. Распределения Фишера–Снедекора и Стьюдента. Распределение Дирихле и бета-распределение.

Точечное оценивание параметра закона распределения. Состоятельность, несмещенность (асимптотическая несмещенность) и оптимальность точечной оценки. Неравенство Рао–Крамера (скалярный и векторный случаи). Эффективность (асимптотическая эффективность) точечной оценки.

Достаточность статистики относительно параметра, критерий факторизации. Теорема Блекуэла–Рао о возможности улучшения оценок при наличии достаточных статистик.

Полные достаточные статистики. Теорема об оптимальности полных достаточных статистик.

Метод моментов. Функция правдоподобия. Метод наибольшего правдоподобия и свойства получаемой оценки. Теорема о состоятельности, асимптотической несмещенности, нормальности и эффективности оценки наибольшего правдоподобия.

Интервальное оценивание параметра закона распределения, доверительный интервал. Свойства статистик, используемых для интервального оценивания. Построение доверительных интервалов параметров нормального распределения. Интервальное оценивание при больших выборках. Проверка гипотез о равенстве математических ожиданий и равенстве дисперсий двух нормальных случайных величин с использованием доверительных интервалов.

Метод наименьших квадратов. Точечное оценивание векторного параметра. Система нормальных уравнений. Свойства оценки метода наименьших квадратов, теорема Гаусса–Маркова. Интервальное оценивание по методу наименьших квадратов. Нормальная регрессия. Теорема об оптимальности оценки метода наименьших квадратов в случае нормальной регрессии.

Эмпирическая функция распределения. Статистическая гипотеза, выборка, критическая область гипотезы, уровень значимости. Теоремы о свойствах критериев согласия Колмогорова и Пирсона (хи-квадрат). Теорема Крамера (параметрический хи-квадрат). Применение критериев для проверки согласия результатов опыта с теоретическими гипотезами о виде функции распределения, об однородности выборок, о независимости случайных величин. Использование статистических таблиц.

Порядковые статистики и их законы распределения. Доли и блоки выборки. Статистическая эквивалентность блоков выборки. Распределение Пуассона–Дирихле. Задачи непараметрического оценивания.

Выбор статистических гипотез. Простые и сложные статистические гипотезы. Статистическое решение и решающее правило. Рандомизированные решающие правила. Ошибки первого и второго рода, мощность статистического критерия. Наиболее мощный и равномерно наиболее мощный критерий.

Критерий Неймана–Пирсона для двух простых гипотез. Решающее правило, оптимальное по критерию Неймана–Пирсона. Функция отношения правдоподобия. Лемма Неймана–Пирсона о построении решающего правила.

Критерий максимума апостериорной вероятности.

Критерий минимума среднего риска (Байеса) в случае простых гипотез. Функция штрафа, функция риска, средний риск. Решающее правило в случае двух простых гипотез, в случае произвольного конечного числа простых гипотез.

Критерий Байеса в случае сложных гипотез. Решающее правило при известной функции распределения случайного параметра. Минимаксная процедура для случая неизвестного закона распределения случайного параметра.

Связь критерия Байеса с критерием максимума апостериорной вероятности, минимаксным критерием, критерием Неймана–Пирсона.

Последовательный критерий отношения вероятностей (критерий Вальда) и построение последовательной процедуры выбора при двух простых гипотезах. Теорема об оптимальности критерия отношения правдоподобия. Вид решающего правила на произвольном шаге процедуры и его интерпретация. Теорема о завершении процедуры за конечное число шагов с вероятностью единица. Выбор параметров решающего правила при заданных величинах вероятностей ошибок первого и второго рода.

Задачи

по курсу «Математическая статистика»

Пусть F_n(x) – эмпирическая функция распределения, получаемая по простой выборке случайной величины X, обладающей функцией распределения F(x). Оценить при больших n вероятность события (для заданного t и при 0 < F(x^*) < 1).
Пусть X – случайная величина с заданной функцией распределения F(x). Найти совместную функцию распределения порядковых статистик X₍_r₎ и X₍_s₎ (1 Ј r < s Ј n, n – объем выборки).
Пусть случайная величина X имеет равномерное распределение на отрезке [a, b]. Найти совместное распределение минимального X₍₁₎ и максимального X₍_n₎ элементов ее простой выборки . Вычислить их математические ожидания, дисперсии и коэффициент корреляции.
Предполагается выполнить n + 1 независимых измерений случайной величины X, имеющей непрерывную функцию распределения F(x). Найти: а) априорную вероятность того, что значение X_n₊₁, полученное в (n + 1)-м измерении, окажется больше, чем k-е по величине значение X, полученное в предшествующих n измерениях; б) априорную вероятность того, что значение X_n₊₁ окажется в k-м блоке выборки, т.е. вероятность Зависит ли она от номера блока?
Пусть простая выборка случайной величины, имеющей непрерывную функцию распределения F(x), а ее доли (W_i = F(x₍_i₎) – F(x₍_i_-₁₎)). Найти распределение вероятностей суммы (суммы «четных» долей).
Пусть числа такие, что величина достигает минимума при условии Доказать, что являются корнями уравнения для некоторого
При бросаниях монеты получено выпадений "герба" и выпадений "решетки". Согласуются ли результаты с гипотезой о "симметричности" монеты при уровне значимости = 0,05?
При 72 бросаниях игральной кости грани "1", "2", "3", "4", "5", "6" выпали 9, 20, 14, 8, 11, 10 раз соответственно. Можно ли считать игральную кость "симметричной" при уровне значимости = 0,01?
Цифры 0, 1, 2, ... , 9 среди 800 первых десятичных знаков числа p появляются 74, 92, 83, 79, 80, 73, 77, 75, 76, 91 раз соответственно. Проверить гипотезу о согласии данных с законом равномерного распределения.
При эпидемии гриппа из 200 контролируемых людей однократное заболевание наблюдалось у 181 человека, а дважды болели гриппом 9 человек. Правдоподобна ли гипотеза о том, что в течение эпидемии гриппа число заболеваний отдельного человека представляет собой случайную величину, подчиняющуюся биномиальному распределению с числом испытаний n = 2?
Произведено измерение размеров деталей в двух партиях деталей по 100 деталей в каждой партии. В первой партии оказалось 25 деталей с заниженным размером, 50 деталей с точным размером, 25 деталей с завышенным размером, а во второй партии аналогичные числа оказались равны 52, 41, 7 соответственно. Проверить гипотезу о независимости номера партии деталей и размера детали.
При снятии показаний измерительного прибора десятые доли деления шкалы прибора оцениваются "на глаз" наблюдателем. Количества цифр 0, 1, 2, ..., 9, записанных наблюдателем в качестве десятых долей при 100 независимых измерениях, равны 5, 8, 6, 12, 14, 18, 11, 6, 13, 7 соответственно. Проверить гипотезы о согласии данных с законом равномерного распределения и с законом нормального распределения. Для ответа на вопрос можно сравнить значения для обеих гипотез.

Комментарии:

Пусть критическая область для критерия с уровнем значимости . Используемая статистика критерия . Тогда

Пусть T_n – состоятельная оценка для параметра q, а j(x) – непрерывная функция. Доказать, что j(T_n) – состоятельная оценка для j(q).
Пусть – простая выборка из генеральной совокупности (X, Y). Показать, что величина

является несмещенной и состоятельной оценкой корреляционного момента

Используя таблицу случайных чисел, получить реализацию выборки из равномерно распределенной на отрезке [0,1] генеральной совокупности X (значения взять с двумя десятичными знаками, n = 50). Найти:

а) вариационный ряд

б) эмпирическую функцию распределения (построить ее график и график теоретической функции распределения);

в) (сравнить с MX);

г) (сравнить с DX).

Используя критерий , проверить гипотезу о соответствии полученной реализации выборки равномерному распределению на отрезке [0, 1] при уровне значимости = 0,05.

Используя таблицу случайных чисел, получить реализацию выборки из нормально распределенной, генеральной совокупности (значения взять с двумя десятичными знаками, n = 50). Найти вариационный ряд, эмпирическую функцию распределения, вычислить (см. п п. в, г задачи № 15). Используя критерий , проверить гипотезу о соответствии полученной реализации выборки нормальному распределению (при неизвестных математическом ожидании и дисперсией) при уровне значимости = 0,05.
Пусть где неизвестны. Используя метод моментов, построить оценку параметра m по результатам измерений .
Построить состоятельные оценки параметров m и p по результатам измерения k независимых случайных величин, каждая из которых с вероятностью р подчиняется распределению а с вероятностью 1–р – распределению где (рекомендуется воспользоваться методом моментов).
При измерении длины стержня, истинная длина которого равна (и неизвестна), ошибка измерения имеет распределение где известное число. Найти оценку наибольшего правдоподобия для параметра l, построенную на основании независимых измерений длины стержня.
Найти оценки наибольшего правдоподобия и эффективные оценки (если они существуют):

а) параметра в пуассоновском распределении;

б) параметра в показательном распределении;

в) параметра в биномиальном распределении с n испытаниями.

Являются ли полученные оценки несмещенными, состоятельными?

Для того чтобы узнать, сколько рыб в озере, отлавливают 500 рыб, метят их и выпускают обратно в озеро. Через некоторое время производится повторный отлов рыбы и среди 70 пойманных рыб оказываются 3 меченые рыбы. Оценить число рыб в
озере.
Непрерывная случайная величина X распределена равномерно на отрезке , где число а неизвестно. Для оценивания параметра а по простой выборке генеральной совокупности X предлагаются две статистики:

Являются ли они состоятельными и несмещенными? Какую из двух статистик использовать более целесообразно?

Являются ли достаточными следующие статистики: а) выборочное среднее относительно параметра распределения Пуассона; б) частота "успехов" относительно параметра р биноминального распределения; в) величина, обратная выборочному среднему: относительно параметра показательного распределения; г) выборочное среднее относительно параметра нормального распределения (при известном параметре , при неизвестном параметре ); д) выборочная дисперсия относительно параметра нормального распределения (при известном параметре при неизвестном параметре
Пусть простая выборка случайной величины X c равномерным распределением на отрезке . Доказать, что порядковая статистика X₍_n₎ – полная достаточная статистика для q и – оптимальная несмещенная оценка q.
Пусть – простая выборка случайной величины X c равномерным распределением на отрезке . Найти достаточную статистику:

а) относительно параметра ,

б) относительно параметра ,

в) относительно вектора .

Пусть простая выборка случайной величины X c равномерным распределением на отрезке Доказать достаточность и полноту статистики для векторного параметра Найти оптимальные оценки для q₁ и q₂.
Пусть X₁, …, X_n – простая выборка случайной величины X, имеющей распределение Бернулли с параметром p. Доказать, что статистика полная достаточная статистика относительно p.
Испытывают n приборов. Считается, что время службы одного прибора до отказа – это экспоненциально распределенная случайная величина с параметром q. Найти оценку максимального правдоподобия для параметра q, если а) испытания проводят до отказа всех приборов, б) если испытания проводят до момента k-го отказа (k < n). Проверить достаточность и несмещенность полученных статистик (оценок).
Пусть – простая выборка из равномерного на распределения. Найти достаточную статистику минимальной размерности.
Сталеплавильный завод изготовляет сталь, которая должна содержать 40% ванадия. Контроль содержания ванадия ведется на уровне значимости Методика контроля дает нормальное распределение результатов без систематической ошибки и со среднеквадратическим отклонением 2%. Контрольный анализ конкретной партии стали дал для содержания ванадия 36,4%. Следует ли на основании полученного результата забраковать данную партию стали?
«Симметричная» монета бросается N раз. Найти функцию распределения числа X выпадений «герба» и оценить вероятность принадлежности частоты выпадения «герба» интервалу

(1/2 – D, 1/2 + D).

Измерительный прибор не имеет систематической ошибки, а случайная ошибка z имеет нормальное распределение: где величина неизвестна. Оценить число n измерений случайной величины X, при котором оценка величины

отличается от истинного значения s² не более чем на 20% с вероятностью, не меньшей 0.7.

Известно, что событие А появляется в опыте с вероятностью Найти интервал минимальной длины, в котором лежит число наступлений события в серии из восьми опытов: а) с вероятностью, не меньшей 0,6; б) с вероятностью, не меньшей 0,9.
Построить статистику для доверительного оценивания параметра в показательном распределении по простой выборке объема
Пятикратное измерение некоторой физической величины одним и тем же прибором дало результаты: 1,78; 1,81; 1,94; 1,86; 2,00. Тем же прибором было произведено пятикратное измерение эталона, истинная величина которого равна одной единице измерения прибора. Результаты измерения эталона есть: 0,92; 0,78; 0,89; 0,82; 0,92. Предполагая, что ошибки измерений независимы и имеют одно и то же нормальное распределение, построить доверительный интервал для значений величины W при доверительной вероятности 0,95 (систематическая ошибка в обеих сериях измерений одинакова).
За первый час счетчиком зарегистрировано 150 событий пуассоновского потока, за следующие два часа – 250 событий. Была ли постоянной интенсивность наступления событий в единицу времени в течение всех трех часов наблюдения (уровень значимости принять равным 0,05)?
По трем измерениям нормально распределенной случайной величины находится выборочное среднее . Доверительная вероятность полагается равной 0,95. Найти доверительный интервал для значения математического ожидания при дисперсии, равной 0,25, считая ее: а) генеральной (истинной); б) выборочной (построенной на основании сделанных трех измерений). Сравнить результаты.
Построить оценку максимального правдоподобия параметра по простой выборке , где случайная величина равномерно распределена на .
Пусть о простой выборке случайной величины X c распределением Пуассона (XОP₀(l)) известно, что измерений равны нулю. Найти оценку максимального правдоподобия параметра .
В результате наблюдения точечного случайного процесса (потока событий) получена выборка (X₁, …, X_n) моментов появления в нем событий. Предполагая, что наблюдаемый процесс является пуассоновским, найти МНП-оценки для интервала времени между событиями и для интенсивности потока событий.
По выборке объема n, извлеченной из нормальной двумерной генеральной совокупности где , найден выборочный коэффициент корреляции . Требуется при уровне значимости проверить гипотезу о некоррелированности случайных величин X и Y (т.е. равенстве нулю генерального (истинного) коэффициента корреляции r_XY). Рассмотреть случай

Функция при неизвестном параметре a измерена в каждой из r точек по n_i раз, Пусть E_ij – случайная ошибка измерения, и результат измерений (x_i, y_ij) является реализацией уравнений Полагая, что результаты измерений не коррелированы и найти оценку параметра используя метод наименьших квадратов. Найти математическое ожидание и дисперсию оценки
В задаче № 42 обозначим Подобрать постоянные так, чтобы несмещенная оценка параметра а имела наименьшую дисперсию. Найти дисперсию А** при таком наилучшем выборе постоянных
При изучении некоторого физического явления в термостате получены данные (в градусах Цельсия): 21,2; 21,8; 21,3; 21,0; 21,4; 21,3. Результаты измерений суть значения, принимаемые нормальными случайными величинами. K термостату применено некоторое усовершенствование, после чего на другом режиме получены данные (в градусах Цельсия): 37,7; 37,6; 37,6; 37,4. Можно ли при уровне значимости = 0,05 усовершенствование признать эффективным?
В течение всего апреля месяца сравнивались результаты работы предприятия в дневную и ночную смены. Получено, что в среднем за данный месяц в одну дневную смену производилось продукции на 62,7 тыс. руб., а в одну ночную смену – на 62,4 тыс. руб. Выборочные дисперсии. указанных объемов производства составили 0,66 для дневной смены и 0,80 для ночной смены. Предполагается, что объем производства за одну смену суть нормально распределенная случайная величина. Можно ли при уровне значимости a = 0,05 считать, что объемы производства за одну смену в обеих сменах одинаковы?
Двумя методами проведены измерения одной и той же величины Х и получены следующие результаты:

(первый метод) и (второй метод).

Можно ли считать, что оба метода обеспечивают одинаковую точность измерений (предполагается, что Х суть нормальная случайна величина и полученные результаты суть реализации простых выборок)?

Результаты измерений значений нормально распределенной случайной величины Y при десяти значениях 1, 2, 3, ..., 10 неслучайной величины х есть 2,2; 3,1; 4,1; 5,0; 5,8; 6,9; 7.8; 9,0; 10,2; 11,1 соответственно. Построить уравнение линейной регрессии. Проверить гипотезу о целесообразности уточнения полученного уравнения в случае известной дисперсии случайной величины Уточняет ли член 0,01 полученное уравнение регрессии?
Построить решающее правило, соответствующее критерию максимума апостериорной вероятности, для выбора по двум независимым измерениям одной из двух простых гипотез:

при . Выразить величины вероятностей ошибок первого и второго рода.

Построить решающее правило, соответствующее критерию максимума апостериорной вероятности, для выбора по двум независимым измерениям одной из двух простых гипотез:

при Выразить величины вероятностей ошибок первого и второго рода.

До проведения эксперимента считалось, что случайная величина может иметь одно из двух распределений: с вероятностью 0,2 – биномиальное с параметрами ; с вероятностью 0,8 – пуассоновское с параметром . В результате четырех независимых измерений случайной величины получены следующие результаты:

Какое из распределений более вероятно?

До проведения эксперимента считалось, что случайная величина X может иметь одно из двух распределений: а) с вероятностью 0,4 – нормальное с параметрами , б) с вероятностью 0,6 показательное с математическим ожиданием, равным 3. В результате четырех независимых измерений значений случайной величины X получены следующие результаты: Какое из распределений более вероятно?
Построить байесовское решающее правило для выбора по двум независимым измерениям одной из двух простых гипотез:

при следующих условиях: штраф за любое неправильное решение равен 2, штраф за верное решение равен –1. Найти величины вероятностей ошибок первого и второго рода.

Построить решающее правило, соответствующее критерию Неймана–Пирсона, для выбора по одному измерению при одной из двух гипотез

Определить величину b вероятности ошибки второго рода. Построить зависимость

Построить решающее правило, соответствующее критерию Неймана–Пирсона, для выбора по двум независимым измерениям при одной из двух гипотез:

Найти величину вероятности ошибки второго рода.

Пусть выборка из биномиального распределения Bi(n,p). Построить критерий Неймана-Пирсона для проверки гипотезы против альтернативы и вычислить зависимость мощности критерия  = 1– от допустимого значения вероятности ошибки первого рода  (рассмотреть нерандомизированное и рандомизированное решающие правила).
Для классификации состояния объекта, который может находиться в одном из двух состояний H₁ или H₂, может использоваться один из двух скалярных признаков Y₁ или Y₂, представляющих собой нормально распределенные случайные величины, связанные с состояниями объекта известными распределениями:

Для классификации состояния объекта используется критерий Неймана–Пирсона. Следует установить, какой из этих признаков предпочтительней, если параметры их распределений имеют следующие значения:

Для этого найдите для признаков с этими параметрами зависимости В частности, сравните эффективность признаков при допустимых значениях вероятности ошибки первого рода a₁ = 0,01 и a₂ = 0,15.

Случайные величины независимы и одинаково распределены по показательному закону с неизвестным по величине параметром Построить критерий для проверки гипотезы при альтернативной гипотезе где – известное положительное число.
Построить критерий для проверки гипотезы при альтернативной гипотезе по результатам восьми испытаний, подчиняющихся схеме Бернулли. Вероятность ошибки первого рода a положить равной 0,05.
Пять независимых одинаково нормально распределенных случайных величин приняли значения: 3,02; 2,96; 3,06; 3,07; 2,96 соответственно. Проверить гипотезу при альтернативе при вероятности ошибки первого рода, равной 0,01.
Пять независимых одинаково распределенных случайных величин приняли значения: –0,46; +0,11; –0,32; +0,19; –0,17. Проверить гипотезу H₁:

при альтернативе Величину вероятности ошибки первого рода a положить равной 0,06. Найти вероятность ошибки второго рода .

Найти статистику критерия Неймана–Пирсона для различения по простой выборке гипотез:

и ,

где – заданные числа.

Найти статистику критерия Неймана–Пирсона для различения по простой выборке гипотез:

и

,

где – заданные числа,

Пусть где или . Построить байесовское решающее правило для различения двух возможных значений m при единичном (нулевом) штрафе за ошибочное (правильное) решение.
Значение сигнала Y на входе некоторого устройства может быть либо нулем, либо единицей. Значение Y недоступно для измерения. На выходе устройства наблюдается (и измеряется) величина Х, являющаяся суммой входного сигнала и гауссовского шума с нулевым математическим ожиданием и известной дисперсией . Построить оптимальное байесовское решающее правило для классификации входных сигналов на основании измерения величины X при известных вероятностях

Пусть гипотезы и относительно распределения двухмерного случайного вектора X = (X₁, X₂)ў имеют вид

Найти и изобразить графически: а) разделяющую границу, минимизирующую величину вероятности P_ош ошибочного решения по различению гипотез и ; б) разделяющую границу, минимизирующую средний риск при следующих значениях штрафов: , Оценить зависимость P_ош от ошибочного неучета коррелированности компонент X₁ и X₂ вектора X.

Рассматриваются те же гипотезы что и в задаче № 65, при . Найти минимальные значения среднего риска, если решение принимается на основании измерения

а) только первой компоненты Х₁ вектора X;

б) только второй компоненты Х₂ вектора X;

в) вектора Х.

Пусть гипотезы и относительно распределения двухмерного случайного вектора X = (X₁, X₂)ў имеют вид

Изобразить графически разделяющую границу, минимизирующую средний риск при следующих значениях штрафов: Рассмотреть случаи:

Исследовать зависимость классифицирующей способности вектора X от значения коэффициента корреляции его компонент. Какова индивидуальная классифицирующая способность его компонент?

Необходимо произвести выбор между двумя гипотезами о возможных значениях p₀ и p₁ вероятности события . В этих целях осуществляется последовательность независимых опытов, в каждом из которых определяется, происходит или не происходит событие А. Построить последовательный критерий отношения вероятностей при заданных значениях и вероятностей ошибок первого и второго рода.
Пусть Х – число успехов в независимых испытаниях с вероятностью успеха p (неизвестной) в каждом испытании. Построить критерий, имеющий мощность не менее 0,9, для проверки гипотезы при альтернативе для заданной величины вероятности ошибки первого рода Определить необходимый объем выборки: а) используя таблицы биноминального распределения; б) используя нормальное приближение.
Пусть гипотезы и имеют вид

Построить процедуру различения гипотез с фиксированным объемом выборки при заданных величинах вероятностей ошибок первого и второго рода и процедуру последовательного критерия отношения вероятностей при тех же значениях Сравнить необходимые в обоих случаях объемы выборок.

Используя критерий Неймана–Пирсона для одноэлементной выборки, построить оптимальное решающее правило для проверки гипотезы о наблюдении случайной величины с распределением вероятностей:

при альтернативной гипотезе о наблюдении случайной величины при ограничении на вероятность ошибки первого рода a Ј a* = 0,01. Применить и сравнить нерандомизированное и рандомизированное решающие правила. Рассмотреть зависимость b = b(a) для таких правил при a* = var.

Имеется простая выборка . По гипотезе все элементы выборки равномерно распределены на отрезке [0, 2], а по гипотезе – на отрезке [1, 3]. Построить критерий для различия гипотез с наименьшей величиной где вероятности ошибок первого и второго рода соответственно.
Решить задачу № 72, если по гипотезе все элементы выборки равномерно распределены на отрезке [1, 4].