что такое выборочное уравнение регрессии

Выборочное уравнение линейной регрессии. Метод наименьших квадратов

При проведении современных клинических исследований обычно нет недостатка в информации: каждому пациенту соответствует целое множество различных клинических показателей и данных.

В них могут быть завуалированы некоторые соотношения, основные черты которых и позволяют выявлять методы регрессионного анализа.

При этом задача регрессионного анализа состоит в подборе упрощенной аппроксимации этой связи с помощью математической модели.

Регрессионный анализ имеет в своем распоряжении специальные процедуры проверки, является ли выбранная математическая модель адекватной для описания имеющихся данных.

Чаще всего регрессионный анализ используется для прогноза, то есть предсказания значений ряда зависимых переменных по известным значениям других переменных.

Выше указывалось, что результаты наблюдений, приведенные в двумерной выборке:

можно представить в виде корреляционного поля точек (рис. 14.3), где каждая точка соответствует отдельным значениям х и у.

Рис. 14.3. Метод наименьших квадратов

В результате получается диаграмма рассеяния, позволяющая судить о форме и тесноте связи между варьирующими признаками. Довольно часто эта связь может быть аппроксимирована прямой линией (рис. 14.3).

В линейной математической модели уравнение линейной регрессии имеет вид:

,

— это предсказанное (должное) значение Y для данного х при определенных значениях регрессионных параметров.

Это эффективный метод, позволяющий уменьшить влияние ошибок измерений.

Теперь определяют должные величины , наносят эти точки и соединяют их прямой линией.

Была исследована зависимость между ростом (X) и массой (Y), у 200 животных и рост, и масса подчиняются нормальному закону распределения. На рис. 3а видно, что эта зависимость линейная: чем больше рост, тем больше масса.

Из этой совокупности выберем выборку объема п = 10 (рис. 13.4б). Сохранилась ли эта зависимость массы от роста? На рис. 13.4б изображены 4 прямые, аппроксимирующие эту зависимость. Какую прямую можно считать наилучшей?

Рис 14.4. Зависимость между ростом (X) и массой (Y) у животных

Лучше прямые IIIи IV, а из них лучше та, которая ближе ко всем точкам выборки, то есть относительно которой разброс точек минимален.

Согласно методу наименьших квадратов лучше представляет зависимость от х прямая IV.

По данным примера № 2:

Рассчитать параметры уравнения регрессии по формулам:

Именно это уравнение задает прямую IV в задаче № 6.

В примере № 2 был рассчитан коэффициент корреляции между ростом (X) и массой (Y) некоторых животных, ав примере № 7 было составлено уравнение линейной регрессии.

Как вы думаете, если поменять х и у, то изменится ли уравнение регрессии и коэффициент корреляции?

Провести корреляционно-регрессионный анализ. Построить корреляционное поле точек, проверить значимость (α ≤ 0,05) коэффициента корреляции между переменными X и Y и построить линию регрессии.

Изучали зависимость между содержанием вещества X в ткани С и приростом концентрации вещества Y в крови у пациентов, получавших препарат А.

Результаты наблюдений приведены в виде двумерной выборки объема 10:

Результаты расчета на компьютере:

r = 0,94; t_набл = 6,17; = 0,579 + 1,1354 ∙ х

Найдем из таблицы t_крит = 2,31; α ≤ 0,05;

Имеется очень сильная линейная корреляционная связь между признаками r = 0,94 (α ≥ 0,05).

Построим корреляционное поле точек (рис. 13.5).

Рис.13.5. График решения задачи 9

Рассчитаем должные величины:

при х = 1, = 0,556.

Нанесем линию регрессии на график.

Нелинейная регрессия

Если график регрессии = f(x) изображается кривой линией (рис. 6), то это нелинейная регрессия.

Выбор вида уравнения регрессии производится на основании опыта предыдущих исследований, литературных источников, профессионального мнения и визуального наблюдения расположения точек корреляционного поля. Этот очень важный этап анализа называется спецификацией.

Наиболее часто встречаются следующие виды уравнений нелинейной регрессии:

— полиномиальное уравнение;

— уравнение параболы второго порядка;

— уравнение параболы третьего порядка;

— гиперболическое уравнение.

Для определения неизвестных параметров регрессии используется метод наименьших квадратов.

По данным таблицы исследовать зависимость урожайности зерновых культур Y (кг/га) от количества осадков X (см), выпавших в вегетационный период.

Построить корреляционное поле точек и предположить наиболее подходящий вид уравнения регрессии.

Увеличение количества выпавших осадков приведет к увеличению урожайности до некоторого предела, после чего урожайность будет снижаться. Учитывая расположение точек корреляционного поля, можно предположить, что наиболее подходящим уравнением регрессии будет уравнение параболы.

Рис. 14.6. Нелинейная регрессия

Варианты заданий

► Провести корреляционно-регрессионный анализ:

построить корреляционное ноле точек;

проверить значимость (α ≤ 0,05) коэффициента корреляции между переменными Х и Y;

построить линию регрессии.

№ 14.1.Изучали зависимость между содержанием коллагена Y и эластина X в магистральных артериях головы (г/100 г сухого вещества, возраст 36-50 лет).

Результаты наблюдений приведены в виде двумерной выборки объема 5:

Результаты расчета на компьютере:

№ 14.2.Изучали зависимость между содержанием коллагена Y и эластина Х в магистральных артериях головы (г/100 г сухого вещества, возраст 51-75 лет).

Результаты наблюдений приведены в виде двумерной выборки объема 5:

Результаты расчета на компьютере:

№ 14.3.Изучали зависимость между систолическим давлением Y (мм рт. ст.) у мужчин в начальной стадии шока и возрастом X (годы). Результаты наблюдений приведены в виде двумерной выборки объема 11:

Результаты расчета на компьютере:

Результаты расчета на компьютере:

r = 0,02; m_r = 0,38; t_набл = 0,05; = 0,43 х + 10,87.

№ 14.5.Изучали зависимость между суточной выработкой продукции на медицинском предприятии Y (т) и величиной основных производственных фондов X (млн руб).

Результаты наблюдений приведены в виде двумерной выборки объема 5:

Результаты расчёта на компьютере:

r = 0,74; t_набл = 7,62; = 0,67 х – 4,79.

№ 14.6.Изучали зависимость между объемом валовой продукции Y (млн руб) и среднесуточной численностью рабочих X. Результаты наблюдений приведены в виде двумерной выборки объема 5:

Результаты расчета на компьютере:

r = 0,8; t_набл = 6,2; = 3,2 х + 22,4.

№ 14.7.Изучали зависимость между минутным объемом сердца Y (л/мин) и средним давлением в левом предсердии X (см рт. ст.). Результаты наблюдений приведены в виде двумерной выборки объема 5:

Результаты расчета на компьютере:

r = 0,989; m_r = 0,084; t_набл = 11,7; = 0,15 х – 0,25.

№ 14.8.Изучали зависимость между объемом Y (мкм 3 ) и диаметром Х (мкм) сухого эритроцита у млекопитающих. Результаты наблюдений приведены в виде двумерной выборки объема 9:

Результаты расчета на компьютере:

r = 0,96; m_r = 0,12; t_набл = 7,99; = 14,28 х – 32,5.

№ 14.9.Изучали зависимость между количеством гемоглобина в крови (%) Y имассой животных X (кг). Результаты наблюдений приведены в виде двумерной выборки объема 9:

Результаты расчета на компьютере:

r = 0,64; m_r = 0,29; t_набл = 2,2; = 1,04 х + 56,95.

№ 14.10.Изучали зависимость между массой тела гамадрилов-матерей X (кг) и их новорожденных детенышей Y (кг). Под наблюдением находилось 20 обезьян.

Результаты расчета на компьютере:

r = 0,564; m_r = 0,2; t_набл = 2,9; = 0,024 х + 0,42.

№ 14.11.Изучали зависимость между содержанием коллагена Y и эластина X в магистральных артериях головы (г/100 г сухого вещества, возраст 21-35 лет).

Результаты наблюдений приведены в виде двумерной выборки объема 5:

Результаты расчета на компьютере:

№ 14.12.Изучали зависимость между площадью поверхности тела Y (м 2 ) и ростом женщин Х (см). Результаты наблюдений приведены в виде двумерной выборки объема 11:

Результаты расчета на компьютере:

r = 0,145; m_r = 0,4; t_набл = 0,44; = 0,001 х + 1,23.

№ 14.13.Изучали зависимость между поверхностью Y (мкм 2 ) и диаметром X (мкм) сухого эритроцита у млекопитающих.

Результаты наблюдений приведены в виде двумерной выборки объема 9:

Результаты расчета на компьютере:

r = 0,95; m_r = 0,11; t_набл = 8,53; = 27,9 х – 60,63.

Приложение

t-распределение (распределение Стьюдента)

P (t > t_a) = a и P (|t| > t_a) = a

Таблица значений функции

Критические значения выборочного коэффициента корреляции r_a

Источник

Что такое выборочное уравнение регрессии

Отсюда выборочное уравнение регрессии будет иметь вид [c.168]

Выборочные уравнения регрессии [c.142]

Уравнение (5.4) определяет выборочное уравнение регрессии у на х. Сама функция J (x) называется выборочной регрессией Y на X, а график J (x) — выборочной регрессией. Аналогично определяется для случайных величин X [c.142]

Затем по формулам (3.7)— (3.15) находим выборочные характеристики и параметры уравнений регрессии [c.55]

Найдем дисперсию групповой средней у, представляющей выборочную оценку M Y). С этой целью уравнение регрессии (3.12) представим в виде [c.64]

Зная вектор Ь, выборочное уравнение множественной регрессии представим в виде [c.87]

Решение. По формуле (4.8) найдем вектор оценок параметров регрессионной модели b =(3,515 —0,006 15,542 60,110 4,475 —2,932), так что в соответствии с (4.9) выборочной уравнение множественной регрессии имеет вид [c.113]

Так что в соответствии с (4.9) выборочное уравнение множественной регрессии примет вид [c.120]

Так как параметры линейной регрессии зависимы между собой (b = Y — a-X ), то уравнение регрессии можно переписать в виде f = ax + b = a-(x — X + Y. Каждая точка на линии регрессии выражается через выборочные значения (а, 7), [c.120]

Регрессионное уравнение не дает точного прогноза зависимой переменной для любого заданного значения независимой переменной, так как коэффициенты регрессии подвержены случайным искажениям. Чтобы учесть погрешности оцененного уравнения регрессии, отражающего действительные закономерности поведения всего населения на основе выборочного наблюдения, уравнение регрессии обычно записывается как [c.5]

Наряду с ошибками спецификации могут иметь место ошибки выборки, поскольку исследователь чаще всего имеет дело с выборочными данными при установлении закономерной связи между признаками. Ошибки выборки имеют место и в силу неоднородности данных в исходной статистической совокупности, что, как правило, бывает при изучении экономических процессов. Если совокупность неоднородна, то уравнение регрессии не имеет практического смысла. Для получения хорошего результата обычно исключают из совокупности единицы с аномальными значениями исследуемых признаков. И в этом случае результаты регрессии представляют собой выборочные характеристики. [c.36]

Следует отметить, что вычисление и использование выборочных характеристик степени тесноты связи типа (1.21) затруднено по меньшей мере тремя обстоятельствами 1) необходимостью предварительного выбора общего вида регрессионной зависимости 2) необходимостью предварительного вычисления оценок для входящих в уравнение регрессии неизвестных параметров 3) отсутствием строгих рекомендаций по их проверке на статистическую значимость и по построению соответствующих интервальных оценок. [c.81]

Пользуясь результатами эксперимента, можно определить выборочные коэффициенты регрессии bo, bt, by, Ь, которые являются лишь оценками (приближенными значениями) для теоретических коэффициентов регрессии. Уравнение регрессии, полученное на основе опыта, запишется так [c.245]

Требуется по полученным данным найти выборочное уравнение прямой линии средней квадратической регрессии [c.143]

Как связаны эмпирические коэффициенты линейной регрессии с выборочным коэффициентом корреляции между переменными уравнения регрессии [c.107]

Проиллюстрируем связь между коэффициентом детерминации R для парного уравнения регрессии и выборочным коэффициентом корреляции гху. [c.134]

Если случайные отклонения уравнения регрессии удовлетворяют предпосылкам МНК, то ошибка предсказания At+p будет иметь нулевое математическое ожидание и минимальную дисперсию. При этом в случае парной регрессии (12.44) выборочная дисперсия определяется по формуле [c.294]

Коэффициенты регрессии, найденные исходя из системы нормальных уравнений, представляют собой выборочные оценки характеристики силы связи. Их несмещенность является желательным свойством, так как только в этом случае они могут иметь практическую значимость. Несмещенность оценки означает, что математическое ожидание остатков равно нулю. Следовательно, при большом числе выборочных оцениваний остатки не будут накапливаться и найденный параметр регрессии bt можно рассматривать как среднее значение из возможного большого количества несмещенных оценок. Если оценки обладают свойством несмещенности, то их можно сравнивать по разным исследованиям. [c.156]

Для простоты рассмотрим случай, когда набор активов У состоит из одного актива (т = 1), и перейдем к выборочному аналогу уравнения (15.23). Тогда, чтобы тестировать гипотезу Но, нам надо оценить коэффициенты регрессии [c.452]

Jf KXY vs x значит, прямая линия регрессии имеет уравнение у= У+(х— X )Kxv s2x Через KXy s2x обозначаем выборочные аналоги корреляционного момента случайной величины X, У и дисперсии соответственно. [c.136]

Несмотря на кажущуюся надежность уравнения регрессии для всей выборочной совокупности НГДУ, использовать его для практических целей нельзя, так как проверка на нормальность распределения у показала, что р=1,043 значительно больше табличного значения, что свидетельствует о ненормальном распределении у. Поэтому необходимо рассмотреть вопрос о правомерности использования данной совокупности НГДУ для корреляционного и регрессионного анализа. Для этого проведено попарное сравнение дисперсий о2 отдельных групп НГДУ. [c.88]

Полученные для выборочной совокупности НГДУ уравнения регрессии (20) — (22) могут точно не совпадать с истинной зависимостью, характерной для генеральной совокупности НГДУ. Поэтому необходимо найти доверительный интервал Д, в котором с определенной вероятностью будет находиться расчетная величина производительности труда. Для среднего значения производительности труда у величину доверительного интервала при заданной доверительной вероятности, являющейся минимальной, рассчитывают по формуле [c.89]

Зная величину Эу для каждого фактора, можно оценить возможный рост (падение) производительности труда за счет изменения отдельных факторов. Так, если нам известно, что изменение дебита скважин на 1 % приводит к изменению производительности труда на k %, то, зная величину изменения указанного фактора в планируемом периоде, можно рассчитать ожидаемый уровень производительности труда. Так как уравнения регрессии (20) — (22) выражают зависимость производительности труда от основных факторов не по каждому НГДУ, а в среднем по выборочной совокупности их, то прогнозируемые значения производительности труда целесообразно рассчитывать по формулам (20) — (22) лишь в отраслевом масштабе для отдельных групп НГДУ с растущей, стабильной или падающей добычей. [c.145]

Для точного описания уравнения регрессии необходимо знать условный закон распределения зависимой переменной Y при условии, что переменная X примет значение дс, т. е. Х=х. В статистической практике такую информацию получить, как правило, не удается, так как обычно исследователь располагает лишь выборкой пар значений (х/, у,) ограниченного объема п. В этом случае речь может идти об оценке (приближенном выражении, аппроксимаций) по выборке функции регрессии. Такой оценкой1 является выборочная линия (кривая) регрессии [c.52]

Проверка уравнения Фишера. Как ранее упоминалось, уравнение Фишера — это тождество, которое не может быть доказано или опровергнуто. Однако наблюдалось множество попыток ввести дополнительные ограничения для модели, чтобы проверить ее полезность для объяснения изменений процентных ставок во времени. Эти исследования восходят к работе самого Фишера, посвященной процентным ставкам и инфляции, где он обнаружил, что корреляция между темпами инфляции и ставкой по коммерческим бумагам оказалась низкой в обоих выборочных периодах (1890-1914 гг. и 1915-1927 гг.). Фама (Fama, 1975) предположил, что с течением времени серьезных изменений реальных ставок не происходит, поэтому данный процесс должен быть вызван исключительно изменениями в инфляции. Он протестировал данное положение, выстроив уравнение регрессии процентных ставок по отношению к ожидаемой инфляции [c.1193]

При практическом применении мнк-оценок исследователь часто сталкивается с явлением мультиколлинеарности, когда объясняющие переменные сильно коррелированы, т. е. существуют выраженные, хотя и неточные, линейные связи между несколькими или всеми объясняющими переменными. В этой ситуации точность обычных мнк-оценок резко падает ошибки некоторых параметров уравнения регрессии становятся очень большими, эти ошибки сильно скоррелированы, выборочные дисперсии резко возрастают. Резко сокращаются возможности интерпретации уравнения регрессии. Степень мультиколлинеарности измеряется либо обратной величиной минимального собственного числа нормированной (корреляционной) матрицы, либо числом обусловленности, равным отношению максимального собственного числа к минимальному. Если минимальное собственное число равно нулю, то степень мультиколлинеарности и число обусловленности являются бесконечно большими, и мы имеем дело с точной мультикол-линеарностью или вырожденной системой линейных уравнений. [c.297]

Источник