Математика | ||||
Линейные статистические методы и их применения.-С. Р. Ра о.«Наука», 1968.стр.546 | ||||
Линейные статистические методы и их применения.
С. Р. Ра о. Главная редакция физико-математической литературы изд-ва «Наука», 1968. Книга содержит восемь глав. В главе 1 изложены необходимые сведения из линейной алгебры, в главе 2 — из теории вероятностей. Статистическая часть начинается с главы 3, где описываются некоторые стандартные распределения математической статистики, вводится нормальный закон и изучаются распределения статистик, играющих фундаментальную роль в методе наименьших квадратов. Глава 4 посвящена статистическим выводам, базирующимся на линейных моделях для математических ожиданий. Особое внимание уделяется гычислительной стороне метода наименьших квадратов. Рассматриваются также различные задачи доверительного оценивания линейных параметрических функций. В главе 5 рассматриваются общие (не только линейные) методы оценивания параметров. Здесь доказана теорема Рао — Блекуэла — Колмогорова и рассмотрены связанные с ней вопросы. Подробно излагается теория информационного количества Фишера. Рассмотрены общие методы оценивания при различных предположениях о паре (параметр, наблюдаемая переменная), а также асимптотическая теория оценивания. Подробно изучены оценки максимального правдоподобия. Основная часть главы 4 отведена применению критерия хи-квадрат к различным задачам. В главе 7 излагаются критерий Неймана—Пирсона, построение локально наиболее мощных критериев, конструкция подобных тестов для семейств с нетривиальными достаточными статистиками, различные меры асимптотической эффективности критериев, общий метод построения доверительных множеств, схема последовательного анализа. В главе 8 рассматриваются: распределение Уишарта, критерии различных гипотез о параметрах многомерного нормального закона, дискриминантный анализ. Изложение иллюстрируется примерами преимущественно биометрического характера. В конце каждой главы приведено большое количество задач и упражнений, а также обширная библиография. ОГЛАВЛЕНИЕ Предисловие....................•........ 11 Предисловие к русскому переводу.................. 14 Глава 1. Алгебра векторов и матриц.............. 15 1а. Векторные пространства.................... 16 la.l. Определение векторных пространств и подпространств (16). 1а.2. Базис векторного пространства (18). 1а.З. Линейные уравнения (20). 1а.4. Векторное пространство со скалярным произведением (23). Дополнения и задачи ....................... 26 1Ь. Теория матриц и определителей ................ 28 lb.1. Операции над матрицами (28). 1Ь.2. Элементарные матрицы и приведение матриц к диагональной форме (32). 1Ь.З. Определители (37). 1Ь.4. Преобразования (37). 1Ь.5. Обобщенная обратная матрица (39). 1Ь.6. «Векторные пространства, порожденные матрицами (42). Дополнения и задачи ....................... 43 1с. Квадратичные формы..................... 46 lc.1. Классификация и преобразование квадратичных форм (46). 1с.2. Корни характеристических уравнений (50). 1с.З. Приведение матриц к каноническому виду (51). Id. Выпуклые множества в векторных пространствах ....... 55 ld.1. Определения (55). ld.2. Некоторые основные теоремы (56). 1е. Неравенства . . •...................... 58 le.l. Неравенство Коши — Шварца (К — Ш) (58). 1е.2. Неравенство Гёльдера (59). 1е.З. Неравенство Адамара (60). 1е.4. Неравенства для моментов (61). 1е.5. Выпуклые функции и неравенство Иенсена (61). 1е.б. Неравенства теории информации (62). 1е.7. Формула Стирлинга (63). И. Экстремумы квадратичных форм................ 64 ИЛ. Общие теоремы (64). lf.2. Теоремы о собственных числах и векторах (66). Дополнения и задачи ....................... 69 Литература............................ 76 Глава 2. Теория вероятностей, понятия и методы........ 77 2а. Исчисление вероятностей................... 77 2а.1. Пространство элементарных событий (77). 2а.2. Класс подмножеств (событий) (79). 2а.З. Вероятность как функция множества (79). 2а.4. Борелевская алгебра (а-алгебра) и продолже- ние вероятностной меры (81). 2а.5. Понятие случайной величины и функции распределения (82). 2а.6. Многомерная случайная величина (87). 2а.7 Условная вероятность и статистическая независимость (87). 2а.8. Условное распределение случайной величины (88), 2Ь. Математическое ожидание и моменты случайных величин ... 90 2Ь.1. Свойства математического ожидания (90). 2Ь.2. Моменты (90). 2Ь.З. Условное ожидание (93). 2Ь.4. Характеристическая функция (х. ф.)^(96). 2Ь.5. Теоремы обращения (99). 2Ь.6. Многомерные моменты (101). 2с. Предельные теоремы.....................103 2с.1. Последовательность случайных величин (103). 2с.2. Сходимость последовательности случайных величин (104). 2с.З. Закон больших чисел (106). 2с.4. Сходимость последовательности функций распределения (111). 2с.5. Центральные предельные теоремы (121). 2d. Семейстьо вероятностных мер и статистические задачи.....125 2d.l. Семейство вероятностных мер (125). 2d.2. Понятие достаточной статистики (125). 2d.3. Характеризация достаточности (125). Приложение 2А. Интегралы Стилтьеса и Лебега..........126 Приложение 2В. Некоторые основные теоремы теории меры .... 128 Дополнения и задачи ....................... 130 Литература............................137 Глава 3. Непрерывные вероятностные модели..........139 За. Одномерные модели......................141 За.1. Нормальное распределение (141). За.2. Гамма-распределение (147). За.З. Бета-распределение (150). За.4. Распределение Коши (151). За.5. Распределение Стьюдента (153). За.6. Распределения, описывающие равновесные состояния в статистической механике (154). ЗЬ. Выборочные распределения..................157 ЗЬ.1. Определения и результаты (157). ЗЬ.2. Сумма квадратов нормальных величин (160). ЗЬ.З. Совместное распределение выборочного среднего и дисперсии (161). ЗЬ.4. Распределение квадратичных форм (163). ЗЬ.5. Три основные теоремы теории наименьших квадратов (167). Зс. Симметричное нормальное распределение...........171 Зс.1. Определение (171). Зс.2. Выборочные распределения (172). 3d. Двумерное нормальное распределение ............. 176 3d,l. Общие свойства (176). 3d.2. Выборочные распределения (178). Дополнения и задачи ....................... 183 Литература............................190 Глава 4. Теория наименьших квадратов и дисперсионный анализ 192 4а. Теория наименьших квадратов (линейное оценивание).....193 4а.1. Структура наблюдений (схема Гаусса — Маркова) (193). 4а.2. Нормальные уравнения и оценки наименьших квадратов (о.н.к.) (194). 4а.З. ^-обращение и решение нормальных уравнений (196). 4а.4. Дисперсии и ковариации о.н.к. (198). 4а.5. Оценивание а2 (199). 4а.6. Другие подходы к методу наименьших квадратов (геометрическое решение) (200). 4а.7. Явные выражения в случае коррелированных наблюдений (201). 4а.8. Некоторые вычислительные аспекты метода наименьших квадратов (201). 4а.9. Оценивание г~> методу наименьших квадратов при ограничениях на пара- метры (202). 4а.Ю. Совместное оценивание параметрических функций (204). 4a.ll. Метод наименьших квадратов в ситуации, когда параметры суть случайные величины (205). 4а.12. Выбор матрицы плана (206). 4Ь Проверка гипотез и интервальное оценивание ......... 207 45.1. Единственная параметрическая функция (208). 4Ь.2. Случай нескольких параметрических функций (208). 4Ь.З. Схема с ограничениями на параметры (212). 4с. Задачи одной выборки....................213 4с.1. Статистика критерия (213). 4с.2. Асимметрия правого и левого бедер (попарное сравнение) (213). 4d. Классификация данных по одному признаку..........215 4d.l. Статистика критерия (215). 4d.2. Пример (216). 4е. Классификация данных по двум признакам...........218 4е.1. Случай одного наблюдения в каждой ячейке (218). 4е.2. Случай нескольких — но одинакового числа — наблюдений в каждой ячейке (222). 4е.З. Неодинаковые числа наблюдений в ячейках (224). 4{. Общая модель данных с двумя признаками и компоненты дисперсии ............................228 4f.l. Общая модель (228).4f.2. Модель компонент дисперсии (228). 4f.3. Рассмотрение общей модели (230). 4g. Теория и применение статистической регрессии •.......234 4g.l. Понятие регрессии (основы теории) (234). 4g.2. Измерение добавочной зависимости (238). 4g.3. Прогнозирование размеров черепа (практический пример) (240). 4g.4. Проверка гипотезы о равенстве функций регрессии (251). 4g.5. Проверка совпадения функции регрессии с заданной (254). 4h. Общая проблема наименьших квадратов с двумя группами параметров .............................257 4h.l. Сопутствующие переменные (257). 4h.2. Анализ ковариации (258). 4h.3. Иллюстративный пример (260). Дополнения и задачи ....................... 263 Литература............................267 'лава 5. Критерии и методы оценивания.............269 5а. Несмещенное оценивание с минимальной дисперсией......269 5а.1. Критерий минимума дисперсии (269). 5а.2. Некоторые основные результаты об оценках с минимальной дисперсией (272). 5а.З. Случай нескольких параметров (280). 5а.4. Информационное количество Фишера (283). 5Ь. Общие методы оценивания..................286 5Ь.1. Общая постановка задачи (286). 5Ь.2. Случай полностью известной ф. р. пары (в, X) (287). 5Ь.З. Закон одинаковой неопределенности (288). 5Ь.4. Эмпирический байесовский подход к оцениванию (289). 5Ь.5. Фидуциальная вероятность (291). 5Ь.6. Принцип минимакса (292). 5с. Критерии оценивания в больших выборках...........295 ос.1. Состоятельность (295). 5с.2. Эффективность (297). 5d. Некоторые методы оценивания в больших выборках......302 5d.l. Метод моментов (302). 5d.2. Метод минимума хи-квадрат и родственные с ним (303). 5d.3. Метод максимального правдоподобия (304). 5е. Оценивание для полиномиального распределения........306 Se.l. Непараметрический случай (ЗЭ6). 5е.2. Параметрический случай (310). 5f. Оценивание параметров в общем случае............314 5f.l. Предположения и обозначения (314). 5f.2. Свойства оценок м. п. (315). 5g. Метод накопления для нахождения оценок параметров.....317 Дополнения и задачи ....................... 325 Литература............................329 Глава 6. Теория и методы больших выборок ..........332 6а. Некоторые основные результаты................332 6а.1. Асимптотическое распределение квадратичных функций частот (332). 6а.2. Некоторые теоремы сходимости (335). 6Ь. х2-критерии для многомерного распределения.........341 6Ь.1. Критерий отклонения от простой гипотезы (341). 6Ь.2. %2 как критерий согласия (342). 6Ь.З. Критерий для проверки отклонения в отдельной группе (344). 6Ь.4. Критерий проверки принадлежности параметров заданному подмножеству значений (346). 6Ь.5. Некоторые примеры (346). 6с. Критерии, относящиеся к независимым выборкам из мультиномиальных распределений ..................... 348 6с.1. Общие результаты (348). 6с.2. Критерии однородности параллельных выборок (350). 6с.3. Пример (351). 6d. Таблицы сопряженности признаков . . . ............353 6d.l. Вероятность наблюденных конфигураций и критерии при больших выборках (353). 6d.2. Критерии независимости в таблице сопряженности признаков (355). 6d.3. Критерии независимости при малых выборках (364). бе. Некоторые общие классы критериев для больших выборок . . . 367 6е.1. Обозначения и основные результаты (367). 6е.2. Критерий для проверки простой гипотезы (369). бе.З. Критерии сложной гипотезы (370). 6f. Порядковые статистики....................372 6f.l. Эмпирическая функция распределения (372). 6f.2. Асимптотическое распределение выборочных квантилей (375). 6g. Преобразования статистик...................377 6g.l. Общая формула (377). 6g.2. Извлечение квадратного корня из пуассоновской случайной величины (378). 6g.3. Преобразование квадратного корня из биномиальной частоты с помощью функции arcsin у х (379). 6g.4. Преобразование коэффициента корреляции при помощи функции arcth x (383). 6h. Стандартные ошибки моментов и связанных с ними статистик . . 387 6h.l. Дисперсии и ковариации начальных моментов (387). 6h.2. Асимптотические дисперсии и ковариации выборочных центральных моментов (388). 6h.3. Точные выражения для дисперсий и ковариации центральных выборочных моментов (389). Дополнения и задачи ....................... 390 Литература . . . . •........•..............393 Глава 7. Теория статистического вывода.............395 7а Испытание статистических гипотез...............396 7аЛ. Постановка задачи (396). 7а.2. Фундаментальная лемма Неймана — Пирсона и ее обобщения (397). 7а.З. Простая гипотеза Н0 против простой альтернативы Н (399). 7а.4. Локально наиболее мощные критерии (405). 7а.5. Испытание сложной гипотезы (408). 7а.6. Проблема Беренса — Фишера (413). 7а.7. Асимптотическая эффективность критериев (414). 7Ь. Доверительные интервалы...................420 7Ь.1. Общая постановка задачи (420). 7Ь.2. Общий метод построения доверительного множества (420). 7Ь.З. Доверительные множества для функций от параметра (423). 7с. Последовательный анализ...................423 7с. 1. Последовательный критерий отношения вероятностей Вальда (423). 7с.2. Некоторые свойства п. к. о. в. (424). 7с.З. Эффективность последовательного критерия (428). 7с.4. Пример экономичности последовательной процедуры (430). 7с.5. Основное тождество последовательного анализа (432). 7с.6. Последовательное оценивание (435). 7d. Проблема идентификации...................437 7d.l. Постановка задачи (437). 7d.2. Рандомизированные и нерандомизированные решающие правила (438). 7d.3. Байесовское решение (439). 7d.4. Полные классы решающих правил (442). 7d.5. Минимаксное правило (443). 7е. Непараметрические выводы..................444 7е.1. Понятие устойчивости (444). 7е.2. Непараметрические методы (446). 7е.З. Некоторые непараметрические критерии (447). 7е.4. Принцип рандомизации (448). Дополнения и задачи........................452 Литература.................•..........457 Глава 8. Многомерный анализ..................461 8а. Многомерное нормальное распределение............462 8а.1. Определение (462). 8а.2. Свойства нормального распределения (464). 8а.З. Некоторые характеристические свойства распределения Np (470). 8а.4. Функция плотности многомерного нормального распределения (472). 8а.5. Оценивание параметров (473). 8а.6. Np как распределение с максимальной энтропией (476). 8Ь. Распределение Уишарта....................477 8Ь.1. Определение и обозначение (477). 8Ь.2. Некоторые результаты относительно распределения Уишарта (479). 8с. Дисперсионный анализ.....................487 8~.1. Процедура Гаусса — Маркова для многократных измерений (487). 8с.2. Оценивание параметров (488). 8с.З. Критерии для проверки линейных гипотез. Дисперсионный анализ (491). 8с.4. Критерий для добавочной информации (495). 8с.5. Распределение статистики Л (499). 8с.6. Критерии размерности (структурное отношение) (500). " 8d. Некоторые приложения многомерных критериев........505 8d.l. ^Критерий значимости для средних значений (505). 8d.2. Критерии для данной структуры средних значений (507). 8d.3. Критерии для разности между средними значениями двух генеральных совокупностей (508). 8d.4. Критерий различия в средних значениях между несколькими генеральными совокупностями (512). 8d.5. Проблема Барнарда, касающаяся вековых колебаний в отличительных признаках человеческого черепа (514). 8е. Дискриминантный анализ (идентификация)...........516 8е.1. Дискриминантные информанты (516). 8е.2. Дискриминантный анализ в исследовательской работе (519). 8f. Связь между множествами случайных величин.........522 8f.l. Канонические корреляции (522). 8f.2. Свойства канонических случайных величин (524). 8f.3. Эффективное число общих факторов (525). 8f.4. Факторный анализ (527). 8g. Ортонормальный базис случайной величины..........528;? 8g.l. Базис Грама — Шмидта (528). 8g.2. Анализ главных компонент (530). Дополнения и задачи.......................534 Литература............................540 Предметный указатель.......................544 Список сокращений, наиболее часто встречающихся в книге .... 548 ПРЕДИСЛОВИЕ Цель этой книги — изложить современную теорию и технику статистического вывода в логически полной и практически удобной форме. Главным образом здесь содержатся основные достижения данной области за три последних десятилетия. Книга написана для читателей, имеющих математическую и статистическую подготовку в объеме университетского курса. Теорию количественного вывода, если излагать ее достаточно научно, нельзя лишать логического, математического и вероятностного аспектов. В основе статистического вывода лежит индуктивное рассуждение, приводящее к утверждениям, верным лишь с определенной «степенью достоверности». Строгий смысл «степени достоверности» обеспечивается математическими методами и вероятностным подходом, образующими основы современной статистической теории. Именно мое убеждение в том, что строгие математические методы и теория вероятностей должны быть обязательно включены в полное изложение теории статистического вывода, побудило меня посвятить главу 1 этой книги детальному обсуждению теории векторных пространств и матричных методов, а главу 2—теоретико-метрической трактовке вероятности и развитию вероятностных понятий и методов. Техника статистического вывода, если не применять ее к явлениям реального мира, потеряла бы свое значение, превратившись в набор дедуктивных упражнений. Кроме того, я считаю, что в статистическом курсе следует делать упор как на математическую теорию статистики, так и на приложения теории к практическим задачам. Детальное обсуждение применения статистической техники облегчает лучшее понимание стоящей за нею теории. С этой целью в книге математические теоремы чередуются с живыми примерами. К тому же большое число задач приводится в конце каждой главы. Некоторые из них дополняют главные результаты, содержащиеся в основном тексте главы, в то время как другие служат упражнениями для читателя, позволяющими ему проверить усвоение теории. В главе 2 дается систематическое развитие вероятностных понятий и методов. Глава начинается с аксиом вероятности, далее определятся понятия случайной величины, функции распределения, условного Цена: 300руб. |
||||