Как рассчитать регрессию
Содержание:- Основные принципы регрессионных методов
- Совместная плотность вероятностей и условная плотность вероятностей
- Апостериорное распределение и оптимальная оценка
- Линейная регрессия и метод наименьших квадратов
- Связь коэффициента регрессии и корреляции
Основные принципы регрессионных методов
Регрессионные методы используются для оценивания значений недоступной для наблюдения случайной величины (СВ) Y на основе наблюдаемых значений СВ X. Для этого применяются основные принципы метода наименьших квадратов.
Совместная плотность вероятностей и условная плотность вероятностей
При изучении системы СВ (X,Y), где Y зависит от значений СВ X, используется совместная плотность вероятностей W(x,y). Условные плотности вероятностей W(y|x) позволяют получить информацию о СВ Y при заданных значениях СВ X.
Апостериорное распределение и оптимальная оценка
Апостериорное распределение W(y|x) является результатом наблюдений и содержит всю информацию о СВ Y после получения данных. Оптимальная оценка y* СВ Y находится по критерию минимума апостериорной дисперсии и является регрессией Y на X.
Линейная регрессия и метод наименьших квадратов
Линейная регрессия представляет собой модель y=a+R(y|x)x, где R(y|x) - коэффициент регрессии, определяющий наклон линии регрессии. Параметры линейной регрессии определяются с помощью метода наименьших квадратов, который минимизирует сумму квадратов отклонений исходной функции от аппроксимирующей.
Связь коэффициента регрессии и корреляции
Для линейной регрессии существует связь между коэффициентом регрессии и коэффициентом корреляции. Коэффициент a определяется по формуле a=y*-Rx*, где y* - оптимальная оценка, Rx* - среднее значение переменных. Это позволяет определить параметры линейной регрессии на основе корреляции.