При ранжировании эксперт должен расположить оцениваемые элементы в порядке возрастания (убывания) их предпочтительности и приписать каждому из них ранги в виде натуральных чисел. При прямом ранжировании наиболее предпочтительный элемент имеет ранг 1 (иногда 0), а наименее предпочтительный - ранг m.
Если эксперт не может осуществить строгое ранжирование из-за того, что, по его мнению, некоторые элементы одинаковы по предпочтительности, то допускается присваивать таким элементам одинаковые ранги. Чтобы обеспечить равенство суммы рангов сумме мест ранжируемых элементов, применяют так называемые стандартизированные ранги. Стандартизированный ранг есть среднее арифметическое номеров элементов в ранжированном ряду, являющихся одинаковыми по предпочтительности.
Пример 2.6. Эксперт упорядочил шесть элементов по предпочтению следующим образом:
Тогда стандартизированные ранги этих элементов будут
Таким образом, сумма рангов, приписанных элементам, будет равна сумме чисел натурального ряда.
Точность выражения предпочтения путем ранжирования элементов существенно зависит от мощности множества предъявлений. Процедура ранжирования дает наиболее надежные результаты (по степени близости выявленного предпочтения и «истинного»), когда число оцениваемых элементов не более 10. Предельная мощность множества предъявления не должна превосходить 20.
Обработка и анализ ранжировок проводятся с целью построения группового отношения предпочтения на основе индивидуальных предпочтений. При этом могут ставиться следующие задачи: а) определение тесноты связи между ранжировками двух экспертов на элементах множества предъявлений; б) определение взаимосвязи между двумя элементами по индивидуальным мнениям членов группы относительно различных характеристик этих элементов; в) оценка согласованности мнений экспертов в группе, содержащей более двух экспертов.
В первых двух случаях в качестве меры тесноты связи используется коэффициент ранговой корреляции. В зависимости от того, допускается ли только строгое или нестрогое ранжирование, используется коэффициент ранговой корреляции либо Кендалла, либо Спирмена.
Коэффициент ранговой корреляции Кендалла для задачи (a)
где m − число элементов; r 1 i – ранг,приписанный первым экспертом i −му элементу; r 2 i – то же, вторым экспертом.
Для задачи (б) компоненты (2.5) имеют следующий смысл: т - число характеристик двух оцениваемых элементов; r 1 i (r 2 i) - ранг i-й характеристики в ранжировке первого (второго) элемента, выставленный группой экспертов.
При строгом ранжировании используется коэффициент ранговой корреляции р Спирмена:
компоненты которого имеют тот же смысл, что и в (2.5).
Коэффициенты корреляции (2.5), (2.6) изменяются от -1 до +1. Если коэффициент корреляции равен +1, то это означает, что ранжировки одинаковы; если он равен -1, то − противоположны (ранжировки обратны друг другу). Равенство коэффициента корреляции нулю означает, что ранжировки линейно независимы (некоррелированы).
Поскольку при таком подходе (эксперт − «измеритель» со случайной погрешностью) индивидуальные ранжировки рассматриваются как случайные, то возникает задача статистической проверки гипотезы о значимости полученного коэффициента корреляции. В этом случае используют критерий Неймана-Пирсона: задаются уровнем значимости критерия α и, зная законы распределения коэффициента корреляции, определяют пороговое значение c α , с которым сравнивают полученное значение коэффициента корреляции. Критическая область − правосторонняя (в практике обычно сначала расчитывают значение критерия и определяют по нему уровень значимости, который сравнивают с пороговым уровнем α ).
Коэффициент ранговой корреляции τ Кендалла имеет при т > 10 распределение, близкое к нормальному с параметрами:
где M [τ] – математическое ожидание; D [τ] – дисперсия.
В этом случае используются таблицы функции стандартного нормального распределения:
а граница τ α критической области определяется как корень уравнения
Если вычисленное значение коэффициента τ ≥ τ α , то считается, что ранжировки, действительно хорошо согласуются. Обычно значение α выбирают в пределах 0,01-0,05. Для т ≤ 10 распределение т приведено в табл. 2.1.
Проверка значимости согласованности двух ранжировок с использованием коэффициента ρСпирмена осуществляется в том же порядке с использованием таблиц распределения Стьюдента при т > 10.
В этом случае величина
имеет распределение, хорошо аппроксимируемое распределением Стьюдента с m – 2 степенями свободы. При m > 30 распределение величины ρ хорошо согласуется с нормальным, имеющим M [ρ] = 0 и D [ρ] = .
Для т ≤ 10 проверку значимости ρ осуществляют с помощью табл. 2.2.
Если ранжировки нестрогие, то коэффициент Спирмена
где ρ – вычисляют по (2.6);
где k 1 , k 2 − число различных групп нестрогих рангов в первой и второй ранжировках соответственно; l i − число одинаковых рангов в i -й группе. При практическом использовании коэффициентов ранговой корреляции ρ Спирмена и τ Кендалла следует иметь в виду, что коэффициент ρ обеспечивает более точный результат в смысле минимума дисперсии.
Таблица 2.1. Распределение коэффициента ранговой корреляции Кендалла
Ранговый коэффициент корреляции характеризует общий характер нелинейной зависимости: возрастание или убывание результативного признака при возрастании факторного. Это показатель тесноты монотонной нелинейной связи.Назначение сервиса . С помощью данного онлайн-калькулятора производится расчет коэффициента ранговой корреляции Кендэла по всем основным формулам, а также оценка его значимости.
Инструкция . Укажите количество данных (количество строк). Полученное решение сохраняется в файле Word .
Предложенный Кендэлом коэффициент строится на основе отношений типа «больше –меньше», справедливость которых установлена при построении шкал.
Выделим пару объектов и сравним их ранги по одному признаку и по другому. Если по данному признаку ранги образуют прямой порядок (т.е. порядок натурального ряда), то паре приписывается +1, если обратный, то –1. Для выделенной пары соответствующие плюс – минус единицы (по признаку X и по признаку Y) перемножаются. Результат, очевидно, равен +1; если ранги пары обоих признаков расположены в одинаковой последовательности, и –1 , если в обратной.
Если порядки рангов по обоим признакам у всех пар одинаковы, то сумма единиц, приписанных всем парам объектов, максимальна и равна числу пар. Если порядки рангов всех пар обратны, то –C 2 N . В общем случае C 2 N = P + Q, где P – число положительных, а Q – отрицательных единиц, приписанных парам при сопоставлении их рангов по обоим признакам.
Величина называется коэффициентом Кендалла.
Из формулы видно, что коэффициент τ представляет собой разность доли пар объектов, у которых совпадает порядок по обоим признакам (по отношению к числу всех пар) и доли пар объектов, у которых порядок не совпадает .
Например, значение коэффициента 0,60 означает, что у 80% пар порядок объектов совпадает, а у 20% не совпадает (80% + 20% = 100%; 0,80 – 0,20 = 0,60). Т.е. τ можно трактовать как разность вероятностей совпадения и не совпадения порядков по обоим признакам для наугад выбранной пары объектов.
В общем случае расчет τ (точнее Р или Q) даже для N порядка 10 оказывается громоздким.
Покажем, как упростить вычисления.
Пример . Зависимость между объемом промышленной продукции и инвестициями в основной капитал по 10 областям одного из федеральных округов РФ в 2003 году характеризуется следующими данными:
Решение
. Присвоим ранги признаку Y и фактору X.
Упорядочим данные по X.
В ряду Y справа от 3 расположено 7 рангов, превосходящих 3, следовательно, 3 породит в Р слагаемое 7.
Справа от 1 стоят 8 ранга, превосходящих 1 (это 2, 4, 6, 9, 5, 10, 7, 8), т.е. в Р войдет 8 и т.д. В итоге Р = 37 и с использованием формул имеем:
| X | Y | ранг X, d x | ранг Y, d y | P | Q |
| 18.4 | 5.57 | 1 | 3 | 7 | 2 |
| 20.6 | 2.88 | 2 | 1 | 8 | 0 |
| 21.5 | 4.12 | 3 | 2 | 7 | 0 |
| 35.7 | 7.24 | 4 | 4 | 6 | 0 |
| 37.1 | 9.67 | 5 | 6 | 4 | 1 |
| 39.8 | 10.48 | 6 | 9 | 1 | 3 |
| 51.1 | 8.58 | 7 | 5 | 3 | 0 |
| 54.4 | 14.79 | 8 | 10 | 0 | 2 |
| 64.6 | 10.22 | 9 | 7 | 1 | 0 |
| 90.6 | 10.45 | 10 | 8 | 0 | 0 |
| 37 | 8 |
Пример . По данным об объеме строительно-монтажных работ, выполненных собственными силами, и численности работающих в 10 строительных компаниях одного из городов РФ, определить зависимость между этими признаками с помощью коэффициента Кендела.
Решение
находим с помощью калькулятора .
Присвоим ранги признаку Y и фактору X.
Расположим объекты так, чтобы их ранги по X представили натуральный ряд. Так как оценки, приписываемые каждой паре этого ряда, положительные, значения «+1», входящие в Р, будут порождаться только теми парами, ранги которых по Y образуют прямой порядок.
Их легко подсчитать, сопоставляя последовательно ранги каждого объекта в ряду Y с стальными.
Коэффициент Кендэла
.
В общем случае расчет τ (точнее Р или Q) даже для N порядка 10 оказывается громоздким. Покажем, как упростить вычисления.
или
Решение
.
Упорядочим данные по X.
В ряду Y справа от 2 расположено 8 рангов, превосходящих 2, следовательно, 2 породит в Р слагаемое 8.
Справа от 4 стоят 6 ранга, превосходящих 4 (это 7, 5, 6, 8, 9, 10), т.е. в Р войдет 6 и т.д. В итоге Р = 29 и с использованием формул имеем:
| X | Y | ранг X, d x | ранг Y, d y | P | Q |
| 38 | 292 | 1 | 2 | 8 | 1 |
| 50 | 302 | 2 | 4 | 6 | 2 |
| 52 | 366 | 3 | 7 | 3 | 4 |
| 54 | 312 | 4 | 5 | 4 | 2 |
| 59 | 359 | 5 | 6 | 3 | 2 |
| 61 | 398 | 6 | 8 | 2 | 2 |
| 66 | 401 | 7 | 9 | 1 | 2 |
| 70 | 298 | 8 | 3 | 1 | 1 |
| 71 | 283 | 9 | 1 | 1 | 0 |
| 73 | 413 | 10 | 10 | 0 | 0 |
| 29 | 16 |
Представление и предварительная обработка оценок экспертов
В практике используется несколько видов оценок:
- качественные (часто-редко, хуже-лучше, да-нет),
- шкальные оценки (интервалы значений 50-75, 76-90, 91-120 и т.п.),
Балльныеиз заданного интервала (от 2 до 5, 1 -10), взаимно независимые,
Ранговые (объекты располагаются экспертом в определенном порядке, и каждому приписывается порядковый номер – ранг),
Сравнительные, полученные одним из методов сравнения
метод последовательных сравнений
метод попарного сравнения факторов.
На следующем шаге обработки мнений экспертов необходимо оценить степень согласованности этих мнений.
Оценки, полученные от экспертов, могут рассматриваться как случайная переменная, распределение которой отражает мнения экспертов о вероятности того или иного выбора события (фактора). Поэтому для анализа разброса и согласованности оценок экспертов применяются обобщенные статистические характеристики – средние и меры разброса:
Средняя квадратичная ошибка,
Вариационный размах min – maх,
- коэффициент вариации V =ср.квадр.откл./ средняя арифм. (подходит для любого типа оценок)
V i = σ i / x i ср
Для оценки меры сходств а мнений каждой пары экспертов могут быть использованы самые разные методы:
коэффициенты ассоциации , с помощью которых учитывается число совпадающих и несовпадающих ответов,
коэффициенты противоречивости мнений экспертов,
Все эти меры можно использовать либо для сравнения мнений двух экспертов, либо для анализа связи между рядами оценок по двум признакам.
Коэффициент парной ранговой корреляции Спирмена:
где n – число экспертов,
c k – разность оценок i-го и j-го экспертов по всем T факторам
Коэффициент ранговой корреляции Кендалла (коэффициент конкордации) дает общую оценку согласованности мнений всех экспертов по всем факторам, но только для случаев, когда использовались ранговые оценки.
Доказано, что величина S, когда все эксперты дают одинаковые оценки всех факторов, имеет максимальное значение, равное
где n – число факторов,
m – количество экспертов.
Коэффициент конкордации равен отношению
причем если W близок к 1, то все эксперты дали достаточно согласованные оценки, иначе их мнения не согласованы.
Формула для расчета S приведена ниже:
где r ij - ранговые оценки i-го фактора j-ым экспертом,
r ср - средний ранг по всей матрице оценок и равен
И следовательно формула расчета S может принять вид:
В случае, если отдельные оценки у одного эксперта совпадают, и их при обработке сделали стандартизированными, то для вычисления коэффициента конкордации используется другая формула:
где Т j рассчитывается для каждого эксперта (в том случае, если его оценки повторялись для разных объектов) с учетом повторений по следующим правилам:
где t j - число групп равных рангов у j-го эксперта, а
h k - число равных рангов в k-ой группе связанных рангов j-го эксперта.
ПРИМЕР. Пусть 5 экспертов по шести факторам ответили при ранжировании так, как показано в таблице 3:
Таблица 3 – Ответы экспертов
| Эксперты | О1 | О2 | О3 | О4 | О5 | О6 | Сумма рангов по эксперту |
| Э1 | |||||||
| Э2 | |||||||
| Э3 | |||||||
| Э4 | |||||||
| Э5 |
В связи с тем, что получено не строгое ранжирование (оценки у экспертов повторяются, а суммы рангов не равны), произведем преобразование оценок и получим связанные ранги (таблица 4):
Таблица 4 – Связанные ранги оценок экспертов
| Эксперты | О1 | О2 | О3 | О4 | О5 | О6 | Сумма рангов по эксперту |
| Э1 | 2,5 | 2,5 | |||||
| Э2 | |||||||
| Э3 | 1,5 | 1,5 | 4,5 | 4,5 | |||
| Э4 | 2,5 | 2,5 | 4,5 | 4,5 | |||
| Э5 | 5,5 | 5,5 | |||||
| Сумма рангов по объекту | 7,5 | 9,5 | 23,5 | 29,5 |
Теперь определим степень согласованности мнений экспертов с помощью коэффициента конкордации. Так как ранги связанные, будем вычислять W по формуле (**).
Тогда r ср =7*5/2=17,5
S = 10 2 +8 2 +4.5 2 +4.5 2 +6 2 +12 2 = 384.5
Перейдем к расчетам W. Для этого вычислим отдельно значения T j . В примере специально так подобраны оценки, что у каждого эксперта есть повторяющиеся оценки: у 1-го их две, у второго - три, у третьего - две группы по две оценки, так же и у четвертого, у пятого - две одинаковые оценки. Отсюда:
Т 1 = 2 3 – 2 = 6 Т 5 = 6
Т 2 = 3 3 – 3 = 24
Т 3 = 2 3 –2+ 2 3 –2 = 12 Т 4 = 12
Мы видим, что согласованность мнений экспертов достаточно высокая и можно переходить к следующему этапу исследования – обоснованию и принятию рекомендованной экспертами альтернативы решения.
В противном случае необходимо вернуться к этапам 4-8.
Коэффициент корреляции Кендалла используется в случае, когда переменные представлены двумя порядковыми шкалами при условии, что связанные ранги отсутствуют. Вычисление коэффициента Кендалла связано с подсчетом числа совпадений и инверсий. Рассмотрим эту процедуру на примере предыдущей задачи.
Алгоритм решения задачи следующий:
Переоформляем данные табл. 8.5 таким образом, чтобы один из рядов (в данном случае ряд x i) оказался ранжированным. Другими словами, мы переставляем пары x и y в нужном порядке и вносим данные в столбцы 1 и 2 табл. 8.6.
Таблица 8.6
|
x i |
y i | ||
2. Определяем «степень ранжированности» 2-го ряда (y i). Эта процедура проводится в следующей последовательности:
а) берем первое значение неранжированного ряда «3». Подсчитываем количество рангов ниже данного числа, которые больше сравниваемого значения. Таких значений 9 (числа 6, 7, 4, 9, 5, 11, 8, 12 и 10). Заносим число 9 в столбец «совпадения». Затем подсчитываем количество значений, которые меньше трех. Таких значений 2 (ранги 1 и 2); вносим число 2 в графу «инверсии».
б) отбрасываем число 3 (мы с ним уже поработали) и повторяем процедуру для следующего значения «6»: число совпадений равно 6 (ранги 7, 9, 11, 8, 12 и 10), число инверсий – 4 (ранги 1, 2, 4 и 5). Вносим число 6 в графу «совпадения», а число 4 – в графу «инверсии».
в) аналогичным образом процедура повторяется до конца ряда; при этом следует помнить, что каждое «отработанное» значение исключается из дальнейшего рассмотрения (подсчитываются только ранги, которые лежат ниже данного числа).
Примечание
Для того чтобы не совершать ошибок в подсчетах, следует иметь в виду, что с каждым «шагом» сумма совпадений и инверсий уменьшается на единицу; это понятно, если учесть, что каждый раз одно значение исключается из рассмотрения.
3. Подсчитывается сумма совпадений (Р) и сумма инверсий (Q) ; данные вносятся в одну и трех взаимозаменяемых формул коэффициента Кендалла (8.10). Проводятся соответствующие вычисления.
t (8.10)
В нашем случае:
В табл. XIV Приложений находятся критические значения коэффициента для данной выборки: τ кр. = 0,45; 0,59. Эмпирически полученное значение сравнивается с табличным.
Вывод
τ = 0,55 > τ кр. = 0,45. Корреляция статистически значима для 1-го уровня.
Примечание :
При необходимости (например, при отсутствии таблицы критических значений) статистическая значимость t Кендалла может быть определена по формуле следующего вида:
(8.11)
где S* = P – Q + 1, если P < Q , и S* = P – Q – 1, если P > Q.
Значения z для соответствующего уровня значимости соответствуют мере Пирсона и находятся по соответствующим таблицам (в приложение не включены. Для стандартных уровней значимости z кр = 1,96 (для β 1 = 0,95) и 2,58 (для β 2 = 0,99). Коэффициент корреляции Кендалла является статистически значимым, если z > z кр
В нашем случае S* = P – Q – 1 = 35 и z = 2,40, т. е. первоначальный вывод подтверждается: корреляция между признаками статистически достоверна для 1-го уровня значимости.
Для вычисления коэффициента ранговой корреляции Кендалла r k необходимо ранжировать данные по одному из признаков в порядке возрастания и определить соответствующие ранги по второму признаку. Затем для каждого ранга второго признака определяется число последующих рангов, больших по величине, чем взятый ранг, и находится сумма этих чисел.
Коэффициент ранговой корреляции Кендалла определяется формулой
где R i – количество рангов второй переменной, начиная с i +1, величина которых больше чем величина i -ого ранга этой переменной.
Существуют таблицы процентных точек распределения коэффициента r k , позволяющие проверить гипотезу о значимости коэффициента корреляции.
При больших объемах выборки критические значения r k
не табулируются, и их приходится вычислять по приближенным формулам, которые основаны на том, что при нулевой гипотезе H 0: r k
=0 и больших n
случайная величина
распределена приближенно по стандартному нормальному закону.
40. Зависимость между признаками, измеренными в номинальной или порядковой шкалах
Часто возникает задача проверки независимости двух признаков, измеренных в номинальной или порядковой шкалах.
Пусть у каких-то объектов измеряются два признака X и Y с числом уровней r и s соответственно. Результаты таких наблюдений удобно представлять в виде таблицы, называемой таблицей сопряженности признаков.
В таблице u i (i = 1, ..., r ) и v j (j = 1, ..., s ) – значения, принимаемые признаками, величина n ij – число объектов из общего числа объектов, у которых признак X принял значение u i , а признак Y – значение v j
Введем следующие случайные величины:
u i
– количество объектов, у которых встретилось значение v j
Кроме того, имеют место очевидные равенства
Дискретные случайные величины X и Y независимы тогда и только тогда, когда
для всех пар i , j
Поэтому гипотезу о независимости дискретных случайных величин X и Y можно записать так:
В качестве альтернативной, как правило, используют гипотезу
Судить о справедливости гипотезы H 0 следует на основании выборочных частот n ij
таблицы сопряженности. В соответствии с законом больших чисел при n
→∞ относительные частоты близки к соответствующим вероятностям:
Для проверки гипотезы H 0 используется статистика
которая при справедливости гипотезы имеет распределение χ 2 с rs − (r + s − 1) степенями свободы.
Критерий независимости χ 2 отклоняет гипотезу H 0 с уровнем значимости α, если:
41. Регрессионный анализ. Основные понятия регрессионного анализа
Для математического описания статистических связей между изучаемыми переменными величинами следует решить следующие задачи:
ü подобрать класс функций, в котором целесообразно искать наилучшую (в определенном смысле) аппроксимацию интересующей зависимости;
ü найти оценки неизвестных значений параметров, входящих в уравнения искомой зависимости;
ü установить адекватность полученного уравнения искомой зависимости;
ü выявить наиболее информативные входные переменные.
Совокупность перечисленных задач и составляет предмет исследований регрессионного анализа.
Функцией регрессии (или регрессией) называется зависимость математического ожидания одной случайной величины от значения, принимаемого другой случайной величиной, образующей с первой двумерную систему случайных величин.
Пусть имеется система случайных величин (X ,Y ), то функция регрессии Y на X
А функция регрессии X на Y
Функции регрессии f (x ) и φ (y ), не являются взаимно обратимыми, если только зависимость между X и Y не является функциональной.
В случае n -мерного вектора с координатами X 1 , X 2 ,…, X n можно рассматривать условное математическое ожидание для любой компоненты. Например, для X 1
называется регрессией X 1 на X 2 ,…, X n .
Для полного определения функции регрессии необходимо знать условное распределение выходной переменной при фиксированных значениях входной переменной.
Поскольку в реальной ситуации такой информацией не располагают, то обычно ограничиваются поиском подходящей аппроксимирующей функции f a (x ) для f (x ), основываясь на статистических данных вида (x i , y i ), i = 1,…, n . Эти данные являются результатом n независимых наблюдений y 1 ,…, y n случайной величины Y при значениях входной переменной x 1 ,…, x n , при этом в регрессионном анализе предполагается, что значения входной переменной задаются точно.
Проблема выбора наилучшей аппроксимирующей функции f a (x ), являясь основной в регрессионном анализе, и не имеет формализованных процедур для своего решения. Иногда выбор определяется на основе анализа экспериментальных данных, чаще из теоретических соображений.
Если предполагается, что функция регрессии является достаточно гладкой, то аппроксимирующая ее функция f a (x ) может быть представлена в виде линейной комбинации некоторого набора линейно независимых базисных функций ψ k (x ), k = 0, 1,…, m −1, т. е. в виде
где m – число неизвестных параметров θ k (в общем случае величина неизвестная, уточняемая в ходе построения модели).
Такая функция является линейной по параметрам, поэтому в рассматриваемом случае говорят о модели функции регрессии, линейной по параметрам.
Тогда задача отыскания наилучшей аппроксимации для линии регрессии f (x ) сводится к нахождению таких значений параметров, при которых f a (x ;θ) наиболее адекватна имеющимся данным. Одним из методов позволяющем решить эту задачу является метод наименьших квадратов.
42. Метод наименьших квадратов
Пусть множество точек (x i , y i ), i = 1,…, n расположено на плоскости вдоль некоторой прямой
Тогда в качестве функции f a
(x
), аппроксимирующей функцию регрессии f
(x
) = M
[Y
|x
] естественно взять линейную функцию аргумента x
:
Т. е. в качестве базисных функций здесь выбраны ψ 0 (x )≡1 и ψ 1 (x )≡x . Такую регрессию называют простой линейной регрессией.
Если множество точек (x i , y i ), i = 1,…, n расположено вдоль некоторой кривой, то в качестве f a (x ) естественно попробовать выбрать семейство парабол
Эта функция является нелинейной по параметрам θ 0 и θ 1 , однако путем функционального преобразования (в данном случае логарифмирования) ее можно привести к новой функции f’ a (x ) , линейной по параметрам:
43. Простая линейная регрессия
Простейшей моделью регрессии является простая (одномерная, однофакторная, парная) линейная модель, имеющая следующий вид:
где ε i – некоррелированные между собой случайные величины (ошибки), имеющие нулевые математические ожидания и одинаковые дисперсии σ 2 , a и b – постоянные коэффициенты (параметры), которые необходимо оценить по измеренным значениям отклика y i .
Для нахождения оценок параметров a и b линейной регрессии, определяющих наиболее удовлетворяющую экспериментальным данным прямую линию:
применяется метод наименьших квадратов.
Согласно методу наименьших квадратов
оценки параметров a
и b
находят из условия минимизации суммы квадратов отклонений значений y i
по вертикали от “истинной” линии регрессии:
Пусть было произведено десять наблюдений случайной величины Y при фиксированных значениях переменной X
Для минимизации D приравняем к нулю частные производные по a и b :
В результате получим следующую систему уравнений для нахождения оценок a и b :
Решение этих двух уравнений дает:
Выражения для оценок параметров a и b можно представить также в виде:
Тогда эмпирическое уравнение регрессионной прямой Y на X можно записать в виде:
Несмещенная оценка дисперсии σ
2 отклонений значений y i
oт подобранной прямой линии регрессии дается выражением
Рассчитаем параметры уравнения регрессии
Таким образом, прямая регрессии имеет вид:
А оценка дисперсии отклонений значений y i oт подобранной прямой линии регрессии
44. Проверка значимости линии регрессии
Найденная оценка b ≠ 0 может быть реализацией случайной величины, математическое ожидание которой равно нулю, т. е. может оказаться, что никакой регрессионной зависимости на самом деле нет.
Чтобы разобраться с этой ситуацией, следует проверить гипотезу Н 0: b = 0 при конкурирующей гипотезе Н 1: b ≠ 0.
Проверку значимости линии регрессии можно провести с помощью дисперсионного анализа.
Рассмотрим следующее тождество:
Величина y i − ŷ i = ε i называется остатком и представляет собой разность между двумя величинами:
ü отклонением наблюдаемого значения (отклика) от общего среднего откликов;
ü отклонением предсказанного значения отклика ŷ i от того же среднего
Записанное тождество можно записать в виде
Возведя обе его части в квадрат и просуммировав по i , получим:
Где величины получили название:
полной (общей) суммой квадратов СК п, которая равна сумме квадратов отклонений наблюдений относительно среднего значения наблюдений
сумма квадратов, обусловленной регрессией СК р, которая равна сумме квадратов отклонений значений линии регрессии относительно среднего наблюдений.
остаточная сумма квадратов СК 0 . которая равна сумме квадратов отклонений наблюдений относительно значений линии регрессии
Таким образом, разброс Y -ков относительно их среднего значения можно приписать в некоторой степени тому факту, что не все наблюдения лежат на линии регрессии. Если бы это было так, то сумма квадратов относительно регрессии была бы равна нулю. Отсюда следует, что регрессия будет значимой, если сумма квадратов СК р будет больше суммы квадратов СК 0 .
Вычисления по проверки значимости регрессии проводят в следующей таблице дисперсионного анализа
Если ошибки ε i распределены по нормальному закону, то при справедливости гипотезы Н 0: b = 0 статистика:
распределена по закону Фишера с числом степеней свободы 1 и n −2.
Нулевая гипотеза будет отклонена на уровне значимости α, если вычисленное значение статистики F будет больше α-процентной точки f 1;n −2;α распределения Фишера.
45. Проверка адекватности модели регрессии. Метод остатков
Под адекватностью построенной регрессионной модели понимается то, что никакая другая модель не дает значимого улучшения в предсказании отклика.
Если все значения откликов получены при разных значениях x , т. е. нет нескольких значений отклика, полученных при одинаковых x i , то можно провести лишь ограниченную проверку адекватности линейной модели. Основой для такой проверки являются остатки:
Отклонения от установленной закономерности:
Поскольку X – одномерная переменная, точки (x i , d i ) можно изобразить на плоскости в виде так называемого графика остатков. Такое представление позволяет иногда обнаружить в поведении остатков какую-то закономерность. Кроме того, анализ остатков позволяет проанализировать предположение относительно закона распределения ошибок.
В случае когда ошибки распределены по нормальному закону и имеется априорная оценка их дисперсии σ 2 (оценка, полученная на основе ранее выполненных измерений), то возможна более точная оценка адекватности модели.
С помощью F -критерия Фишера можно проверить, значимо ли остаточная дисперсия s 0 2 отличается от априорной оценки. Если она значимо больше, то имеет место неадекватность и следует пересмотреть модель.
Если априорной оценки σ 2 нет, но измерения отклика Y повторялись два или более раз при одинаковых значениях X , то эти повторные наблюдения можно использовать для получения еще одной оценки σ 2 (первой является остаточная дисперсия). Про такую оценку говорят, что она представляет “чистую” ошибку, поскольку, если сделать x одинаковыми для двух и более наблюдений, то только случайные изменения могут повлиять на результаты и создавать разброс между ними.
Получаемая оценка оказывается более надежной оценкой дисперсии, чем оценка, получаемая другими способами. По этой причине при планировании экспериментов имеет смысл ставить опыты с повторениями.
Предположим, что имеется m
различных значений X
: x
1 , x
2 , ..., x m
. Пусть для каждого из этих значений x i
имеется n i
наблюдений отклика Y
. Всего наблюдений получается:
Тогда модель простой линейной регрессии может быть записана в виде:
Найдем дисперсию “чистых” ошибок. Эта дисперсия представляет собой объединенную оценку дисперсии σ
2 , если представить значения откликов y ij
при x
= x i
как выборки объема n i
. В результате дисперсия “чистых” ошибок равна:
Эта дисперсия служит оценкой σ 2 безотносительно к тому, корректна ли подобранная модель.
Покажем, что сумма квадратов “чистых ошибок” является частью остаточной суммы квадратов (суммы квадратов, входящей в выражение для остаточной дисперсии). Остаток для j -ого наблюдения при x i можно записать в виде:
Если возвести обе части этого равенства в квадрат, а затем просуммировать их по j и по i , то получим:
Слева в этом равенстве стоит остаточная сумма квадратов. Первый член в правой части – это сумма квадратов “чистых” ошибок, второй член можно назвать суммой квадратов неадекватности. Последняя сумма имеет m −2 степеней свободы, следовательно, дисперсия неадекватности
Статистикой критерия для проверки гипотезы H 0: простая линейная модель адекватна, против гипотезы H 1: простая линейная модель неадекватна, является случайная величина
При справедливости нулевой гипотезы величина F имеет распределение Фишера со степенями свободы m −2 и n −m . Гипотеза линейности линии регрессии должна быть отвергнута с уровнем значимости α, если полученное значение статистики больше α-процентной точки распределения Фишера с числом степеней свободы m −2 и n −m .
46. Проверка адекватности модели регрессии(см 45). Дисперсионный анализ
47. Проверка адекватности модели регрессии (см 45). Коэффициент детерминации
Иногда для характеристики качества линии регрессии используют выборочный коэффициент детерминации R
2 , показывающий, какую часть (долю) сумма квадратов, обусловленная регрессией, СК р составляет в полной сумме квадратов СК п:
Чем ближе R 2 к единице, тем лучше регрессия аппроксимирует экспериментальные данные, тем теснее наблюдения примыкают к линии регрессии. Если R 2 = 0, то изменения отклика полностью обусловлены воздействием неучтенных факторов, и линия регрессии параллельна оси x -ов. В случае простой линейной регрессии коэффициент детерминации R 2 равен квадрату коэффициента корреляции r 2 .
Максимальное значение R 2 =1 может быть достигнуто только в случае, когда наблюдения проводились при различных значениях x-ов. Если же в данных имеются повторяющиеся опыты, то величина R 2 не может достичь единицы, как бы ни была хороша модель.
48. Доверительные интервалы для параметров простой линейной регрессии
Подобно тому как выборочное среднее - это оценка истинного среднего (среднего по совокупности), так и выборочные параметры уравнения регрессии a и b - не более чем оценки истинных коэффициентов регрессии. Разные выборки дают разные оценки среднего - точно так же разные выборки будут давать разные оценки коэффициентов регрессии.
В предположении, что закон распределения ошибок ε i
описываются нормальным законом, оценка параметра b
будет иметь нормальное распределение с параметрами:
Поскольку оценка параметра a
представляет собой линейную комбинацию независимых нормально распределенных величин, она также будет иметь нормальное распределение с математическим ожиданием и дисперсией:
При этом (1 − α) доверительный интервал для оценки дисперсии σ 2 с учетом того, что отношение (n −2)s 0 2 /σ 2 распределено по закону χ 2 с числом степеней свободы n −2 будет определяться выражением
49. Доверительные интервалы для линии регрессии. Доверительный интервал для значений зависимой переменной
Обычно мы не знаем истинных величин коэффициентов регрессии а и b . Нам известны только их оценки. Иначе говоря, истинная прямая регрессии может пройти выше или ниже, быть более крутой или пологой, чем построенная по выборочным данным. Мы вычислили доверительные интервалы для коэффициентов регрессии. Можно вычислить доверительную область и для самой линии регрессии.
Пусть для простой линейной регрессии нужно построить (1−α
) доверительный интервал для математического ожидания отклика Y
при значении х
= х
0 . Это математическое ожидание равно a
+bх
0 , а его оценка
Поскольку, то.
Полученная оценка математического ожидания представляет собой линейную комбинацию некоррелированных нормально распределенных величин и поэтому тоже имеет нормальное распределение с центром в точке истинного значения условного математического ожидания и дисперсией
Поэтому доверительный интервал для линии регрессии при каждом значении x 0 можно представить в виде
Как видно минимальный доверительный интервал получается при x 0 равному среднему значению и возрастает по мере того, как x 0 “удаляется” от среднего в любом направлении.
Для получения множества совместных доверительных интервалов, пригодных для всей функции регрессии, на всем ее протяжении, в приведенное выше выражении вместо t n
−2,α
/2 необходимо подставить
